Floneum

Floneum 允许您构建使用具有简单拖放接口的大语言模型的工作流程。Floneum 使用WebAssembly在沙盒环境中加载插件，并为他们提供仅访问所需的资源，而不是使它们完全访问系统。 您可以用任何可以编译到WebAssembly的语言编写插件。Floneum 提供生锈的人体工程学包装器，但您也可以使用C，Java或Go。 特征： 视觉接口：您可以使用Floneum，而无需任何编程。视觉图编辑器使将社区制造的插件与本地AI型号结合起来很容易 立即运行本地大语言模型：Floneum 不需要任何外部依赖关系，甚至不需要GPU运行。它使用LLM在本地运行大型语言模型。因此，您可以使用数据运行__​​brand_placeholder_p，而不必担心隐私 插件：通过将大型语言模型与插件相结合，您可以提高其性能，并使模型在特定的用例中更好地工作。所有插件都在孤立的环境中运行，因此您不需要信任您加载的任何插件。插件只能以安全的方式与环境互动 多语言插件：插件可用于任何支持Web组件的语言。除了可以使用任何语言访问的API之外 受控文本生成：插件可以通过类似于JSONFORMER或指导的过程来控制大语言模型的输出。这允许插件强制模型输出有效的JSON或它们定义的任何其他结构。在语言模型和键入API之间进行通信时，这可能很有用

Floneum是一个工具包，允许用户通过简单的拖放界面构建使用大型语言模型的工作流，旨在提供在消费级硬件上可控、注重隐私的AI应用。