Twigg

Twigg是一个有状态的API，用于调用大型语言模型（LLM）。与其每次请求都重新构建并发送整个对话，不如先创建一次聊天，然后只发送下一个事件。Twigg会保存会话状态：它会将上下文调整为目标模型的格式，必要时进行压缩或者截断，并处理调用请求。你可以通过仪表板控制工具的架构、系统提示和上下文窗口，同时跟踪使用情况和账单。无论是个人助手还是企业应用，你都可以轻松构建。再也不用担心上下文管理了。