API 基础
智能路由与令牌分组
创建 API 令牌时可选择智能路由模式。路由会在令牌可访问的渠道中选择合适的渠道;实际可用渠道、模型和响应表现以控制台与请求结果为准。
1
章节 1
选择令牌的路由模式
进入控制台的“API 令牌”页面,点击“添加令牌”,在“智能路由”区域选择模式。创建后可在令牌列表查看当前模式。
- 智能自动:综合价格、速度和成功率自动选择
- 价格优先:优先选择成本更低的渠道
- 速度优先:优先选择响应更快的渠道
- 成功率优先:优先选择近期更稳定的渠道
选择“智能自动”时,系统会在所有可访问分组中选择最优渠道,手动分组设置会被忽略。
2
章节 2
了解覆盖顺序
请求中的模型后缀或 provider.sort 会覆盖令牌级智能路由。优先级依次为:模型名后缀、请求体中的 provider.sort、令牌的智能路由模式。未指定请求级路由时,按令牌设置处理。
覆盖规则影响渠道选择,不会扩大令牌权限;请求的模型仍须是令牌可访问的模型。
3
章节 3
用一次请求验证
先在令牌页面选好模式,再使用模型广场当前可用的模型标识发送普通对话请求。以下示例不设置请求级路由,因此使用令牌级模式。完成后在使用日志核对调用结果。
cURL
curl https://api.ainn.cc/v1/chat/completions \
-H "Authorization: Bearer $AINN_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"your-model","messages":[{"role":"user","content":"你好"}]}'
将 your-model 替换为模型广场展示的准确模型标识。路由模式不能保证每次请求都由同一渠道处理。