General Compute

GPU（图形处理单元）主要是为了训练而设计的，不太适合推理（即执行已经训练好的模型）。而我们提供的通用计算平台是一个专门用于推理的云服务，基于ASIC（专用集成电路）构建，这些ASIC是专门为推理任务而设计的，能够替代Nvidia的硬件。我们能够提供比传统方案快5倍的响应速度，并且在对延迟敏感的工作负载（例如编程和语音助手）中实现更高的每用户处理能力。我们的API与OpenAI兼容，这意味着你只需更换基础URL，就可以保持现有的工作流程，并在专为此类任务构建的基础设施上实时运行AI应用。