ngrok AI Gateway

ngrok AI Gateway 为每个模型提供一个托管网关，包括公共服务提供商、自定义端点和您自己运行的模型。您只需使用一个密钥和一个 URL，就可以轻松地在 OpenAI、Anthropic 以及自托管模型之间进行路由，并且内置了可观察性、访问控制和备份功能。您的私有模型通过 ngrok 的网络连接，这样它们就可以与托管服务提供商并排运行，而不会暴露在公共互联网中。