lemonade

Lemonade 是一个本地AI服务器，支持在用户自己的GPU和NPU上运行优化的大型语言模型（LLM）。它为用户提供与云API相同的功能，但完全免费且私密。用户可以使用最新的模型进行聊天、编码、语音和图像生成。Lemonade 提供两种版本：Lemonade Server 和 Embeddable Lemonade。前者安装后可以通过标准的OpenAI、Anthropic和Ollama API连接到数百个应用程序；后者则是一个可嵌入的应用程序二进制文件，可以打包到用户自己的应用中，以提供多模态本地AI。