AIAPIZZ 登录 免费注册

限流、超时与并发

共 14 篇

请求频率限制

限流默认关闭。站点开启后按「每个密钥最近 60 秒的请求数」统计:超过阈值返回 429,并带 Retry-After: 10 响应头:

{
  "error": {
    "message": "请求过于频繁,已触发限流(每分钟 120 次)",
    "type": "rate_limit_exceeded",
    "code": null
  }
}

建议客户端在收到 429 后退避重试(例如 1s、2s、4s 递增),不要立刻重发。

超时

环节默认说明
非流式请求300 秒网关等待上游返回的时长
流式请求600 秒长回答(写长文、深度思考)需要更久
反向代理由服务器决定Nginx 的 fastcgi_read_timeout 必须 ≥ 上面的值
PHP由 php.ini 决定流式开始时网关会尝试 set_time_limit(0)

超时表现为 502 或连接中断,日志里会留下上游的错误信息。要跑长任务(比如生成一万字),请用流式,并把 Nginx 与 PHP 的超时一起放宽。

并发

网关本身没有并发数限制(受服务器与上游配额限制),但要注意:

  • 每次请求都会占用一个 PHP-FPM 进程,长连接期间进程一直被占;流式请求多的时候要把 PHP-FPM 的 pm.max_children 调大,否则表现为「偶发 502 / 排队」;
  • 余额扣费是加锁串行的,高并发下同账号的请求会在扣费那一步排队,但等待时间通常在毫秒级;
  • 上游有自己的 RPM/TPM 配额,撞上了会返回上游的错误信息(网关会原样带回来并写入日志)。

重试与回退链

一次请求最多经历两层重试:

  1. 渠道层:同一个模型可能挂在多个渠道上,网关按优先级加权随机选一个,失败自动换下一个渠道;
  2. 模型层:渠道全失败时,按密钥里配置的「备用模型」顺序换模型再试。

注意:非幂等的副作用(比如上游按次计费已经扣了钱)不会因为重试而回滚,网关只保证最终返回一个结果或错误。

你的接口地址是 https://aiapizz.com/v1。 注册后即可在控制台创建密钥。
AIAPIZZ  · 模型广场  · 接口文档  · 服务条款  · 隐私政策
This website is independently developed and operated by the AIAPIZZ team. It is not affiliated with, authorized by, endorsed by, or otherwise associated with any other AI website, platform, brand, or service provider.
© 2026 AIAPIZZ