AI Gateway
监控、控制和优化您的 AI 应用
Cloudflare AI Gateway 为你的 AI 应用提供集中管理和控制。只需一行代码即可连接您的应用，监控使用情况、成本和错误。通过缓存、速率限制、请求重试和模型回退来降低风险和成本。轻松确保可靠性、可扩展性和生产力。
AI Gateway 的优势
控制您所有 AI 应用的成本
将您的 AI 应用连接到 AI Gateway，实现统一的仪表板，并通过使用统计、速率限制和缓存来控制成本。
轻松分析与排除故障
获得对提示词、AI API 请求、错误、token 使用、费用等的可见性。提供日志记录用于审计和排错。
支持最热门的 AI 服务提供商
整合顶级 AI 服务提供商，包括 Hugging Face、OpenAI、Anthropic 和 Workers AI，让您全面掌控自己的 AI 应用。
AI Gateway 如何工作
让 AI 应用可观察、可靠、可扩展
通过将速率限制、缓存和错误处理等功能转移到代理层，组织可对 AI 应用和推理服务提供商应用统一的配置。AI Gateway 位于您的应用和 AI 服务提供商之间，为您提供多供应商的 AI 可观察性和控制。
客户感言
如果没 有 AI Gateway，就难以确定哪些应用在使用 OpenAI API 时产生了大部分费用……我们可以选择限制某些工具的请求数量，以控制成本。”
RightBlogger
API Gateway 主要用例
Cloudflare AI Gateway 帮助您监控、控制和优化您的 AI 应用
监控
通过日志、指标、速率限制、缓存和监控实现实时洞察和可靠性。
控制
只需一行代码，即可轻松连接最受欢迎的服务提供商——Workers AI、Hugging Face、OpenAI、Anthropic 等。
优化
通过自定义缓存优化成本并减少延迟。通过速率限制控制扩展并防止过度活动。
