424 字
2 分钟
用 Cloudflare AI Gateway 解决 AI 的 API 接口调用缓慢、超时、被封禁问题
用cloudflare AI Gateway解决AI的API接口调用缓慢、超时、被封禁问题
1.适用情况
- API 接口调用缓慢
- API 接口调用超时
- API 接口调用被封禁或显示不受支持的地区
2.操作方法
打开cloudflare账户主页
点击AI→AI Gateway

点击创建网关

填写网关信息

配置网关

配置请求API格式
这里我先用astrbot作为演示,其他后端API接口或自己写的也可以用这个方法解决
astrbot添加API提供商

- 格式解析:
- 如果获取的格式是’https://gateway.ai.cloudflare.com/v1/<你的cloudflareID>/<你的网关名>/compat/chat/completions’且例如你调用的OpenAI API
- 那改成:https://gateway.ai.cloudflare.com/v1/<你的cloudflareID>/<你的网关名>/openai
- 然后保存获取模型实测一下,返回是否200(获得到模型列表)
建议在添加模型测试一下,确认是否正常
但目前尝试调用gemini模型会出现”Error: 403, ‘message’: ‘Your project has been denied access. Please contact support.”,可能是google cloud或者Google账号被封禁了,也可能是检测Google账号的地区是属于不支持的了,建议使用其他模型测试一下是否正常
API接口的便携打包(OpenAI兼容)
# Please install OpenAI SDK first: `pip3 install openai`import osfrom openai import OpenAI
client = OpenAI( api_key=os.environ.get('AI-API_KEY'), base_url="https://gateway.ai.cloudflare.com/v1/<你的cloudflareID>/<你的网关名>/<你要调用的API请求尾>")
response = client.chat.completions.create( model="<你调用的模型名>", messages=[ {"role": "system", "content": "You are a helpful assistant"}, {"role": "user", "content": "Hello"}, ])
print(response.choices[0].message.content)这里<你调用的模型名>是你要调用的模型名,例如deepseek-v4-pro或gpt-3.5-turbo等
API调用补全等请求头参考你要调用的API文档