LLMTrace

每个大型语言模型（LLM）可观测性工具都能告诉你费用飙升了，但没有一个能告诉你是哪次部署导致的。LLMTrace 是一个自托管的 Go 代理，它位于你与 Anthropic/OpenAI 调用之间，能够将每个请求的费用、用户和部署 SHA 记录到你的 Postgres 数据库中。当你的账单骤增时，你可以准确找到导致问题的提交记录。没有 SaaS，无需数据离开你的基础设施。只需放入 docker-compose，五分钟内即可开始记录。