产品信息
什么是 Serge?
Serge 是一个用 llama.cpp 制作的聊天界面，用于运行 GGUF 模型。没有 API 密钥，完全自托管！
SvelteKit 前端
Redis 用于存储聊天记录和参数
FastAPI + LangChain 用于 API，使用 python 绑定包装对 llama.cpp 的调用
如何使用 Serge?
Serge是一个基于llama.cpp构建的聊天界面，用于运行GGUF模型。它作为一个完全自托管的个人助理，不依赖远程API，不收集数据，也没有广告。
Serge 的核心功能
Nginx
支持 Docker
Serge 的使用场景
- 作为个人自托管助理使用
- 运行GGUF模型进行本地聊天交互
- 存储和管理聊天历史与参数
- 通过Docker部署，在本地环境中与AI对话
Serge 的常见问题
Serge做什么的？
我如何使用Serge？
Serge有哪些核心功能？
Serge有哪些应用场景？
