API 基础

智能路由与令牌分组

创建 API 令牌时可选择智能路由模式。路由会在令牌可访问的渠道中选择合适的渠道;实际可用渠道、模型和响应表现以控制台与请求结果为准。

1

章节 1

选择令牌的路由模式

进入控制台的“API 令牌”页面,点击“添加令牌”,在“智能路由”区域选择模式。创建后可在令牌列表查看当前模式。

  • 智能自动:综合价格、速度和成功率自动选择
  • 价格优先:优先选择成本更低的渠道
  • 速度优先:优先选择响应更快的渠道
  • 成功率优先:优先选择近期更稳定的渠道
选择“智能自动”时,系统会在所有可访问分组中选择最优渠道,手动分组设置会被忽略。
2

章节 2

了解覆盖顺序

请求中的模型后缀或 provider.sort 会覆盖令牌级智能路由。优先级依次为:模型名后缀、请求体中的 provider.sort、令牌的智能路由模式。未指定请求级路由时,按令牌设置处理。

覆盖规则影响渠道选择,不会扩大令牌权限;请求的模型仍须是令牌可访问的模型。
3

章节 3

用一次请求验证

先在令牌页面选好模式,再使用模型广场当前可用的模型标识发送普通对话请求。以下示例不设置请求级路由,因此使用令牌级模式。完成后在使用日志核对调用结果。

cURL
curl https://api.ainn.cc/v1/chat/completions \
  -H "Authorization: Bearer $AINN_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"your-model","messages":[{"role":"user","content":"你好"}]}'
将 your-model 替换为模型广场展示的准确模型标识。路由模式不能保证每次请求都由同一渠道处理。