速率限制
BufferAPI 对 API 请求实施速率限制，以保障服务稳定性。
限制指标
| 指标 | 说明 |
|---|
| RPM | 每分钟请求数 (Requests Per Minute) |
| TPM | 每分钟 Token 数 (Tokens Per Minute) |
| RPD | 每天请求数 (Requests Per Day) |
各套餐限制
| 套餐 | RPM | TPM | RPD |
|---|
| 体验版 | 10 | 40,000 | 200 |
| 开发者版 | 500 | 400,000 | 无限 |
| 企业版 | 定制 | 定制 | 无限 |
响应头信息
X-RateLimit-Limit-Requests: 500
X-RateLimit-Remaining-Requests: 499
X-RateLimit-Reset-Requests: 2024-06-08T12:00:00Z
X-RateLimit-Limit-Tokens: 400000
X-RateLimit-Remaining-Tokens: 399000
处理 429 错误
try:
response = client.chat.completions.create(...)
except openai.RateLimitError as e:
# 等待后重试
time.sleep(60)
response = client.chat.completions.create(...)