NobodyWho

NobodyWho 是一个用于在本地完全运行大型语言模型（LLMs）的推理引擎，基于 llama.cpp 开发。它是开源的，免费使用，无需API密钥，也不需要云端调用。我们支持多种编程语言和框架，包括 Swift、Kotlin、Flutter、React Native、Python 和 Godot。该工具提供类型安全的工具调用，自动生成语法，支持多模态输入、文本转语音和语音转文本，并通过 Vulkan 和 Metal 实现 GPU 加速，同时还可以下载 Hugging Face 的模型。