424 字
2 分钟
用 Cloudflare AI Gateway 解决 AI 的 API 接口调用缓慢、超时、被封禁问题

用cloudflare AI Gateway解决AI的API接口调用缓慢、超时、被封禁问题#

1.适用情况#

  • API 接口调用缓慢
  • API 接口调用超时
  • API 接口调用被封禁或显示不受支持的地区

2.操作方法#

打开cloudflare账户主页#

点击AI→AI Gateway 图1-1

点击创建网关 图1-2

填写网关信息 图1-3

配置网关 图1-4

配置请求API格式#

这里我先用astrbot作为演示,其他后端API接口或自己写的也可以用这个方法解决

astrbot添加API提供商 图1-5

建议在添加模型测试一下,确认是否正常

但目前尝试调用gemini模型会出现”Error: 403, ‘message’: ‘Your project has been denied access. Please contact support.”,可能是google cloud或者Google账号被封禁了,也可能是检测Google账号的地区是属于不支持的了,建议使用其他模型测试一下是否正常

API接口的便携打包(OpenAI兼容)#

Terminal window
# Please install OpenAI SDK first: `pip3 install openai`
import os
from openai import OpenAI
client = OpenAI(
api_key=os.environ.get('AI-API_KEY'),
base_url="https://gateway.ai.cloudflare.com/v1/<你的cloudflareID>/<你的网关名>/<你要调用的API请求尾>")
response = client.chat.completions.create(
model="<你调用的模型名>",
messages=[
{"role": "system", "content": "You are a helpful assistant"},
{"role": "user", "content": "Hello"},
]
)
print(response.choices[0].message.content)

这里<你调用的模型名>是你要调用的模型名,例如deepseek-v4-pro或gpt-3.5-turbo等

API调用补全等请求头参考你要调用的API文档