OpenAI API 的使用是否有任何速率限制?

114次阅读
没有评论

请在此处查看我们更新的指南。

是的。免费试用的用户将组织级别的速率限制设置为 20 个请求/分钟和 150,000 个令牌/分钟。

下表显示了现收现付计划的默认速率限制(在此处升级):

文本完成和嵌入端点

食品法典终点

编辑端点

图像端点

(来自 E API)

免费试用用户

  • 20 个请求/分钟

  • 150,000 代币/分钟

  • 20 个请求/分钟

  • 40,000 个代币/分钟

  • 20 个请求/分钟

  • 150,000 代币/分钟

  • 50 张图像/分钟

现收现付用户(前 48 小时内)

  • 60 个请求/分钟

  • 250,000 达芬奇代币/分钟(对于较小的模型,比例更高)

  • 20 个请求/分钟

  • 40,000 个代币/分钟

  • 20 个请求/分钟

  • 150,000 代币/分钟

  • 50 张图像/分钟

现收现付用户(前 48 小时后)

  • 3,000 个请求/分钟

  • 250,000 达芬奇代币/分钟(对于较小的模型,比例更高)

  • 20 个请求/分钟

  • 40,000 个代币/分钟

  • 20 个请求/分钟

  • 150,000 代币/分钟

  • 50 张图像/分钟

API请求发送过快会出现限速错误。如果使用 OpenAI Python 库,它们将类似于:

RateLimitError: Rate limit reached for default-codex in organization org-{id} on requests per min. Limit: 20.000000 / min. Current: 24.000000 / min.

为了帮助您了解这些限制并充分利用我们的服务,我们的团队创建了一个有用的如何处理速率限制笔记本,其中概述了我们的速率限制并提供了一些最佳实践。

如果您有任何疑问,请访问我们的社区论坛或登录您的帐户并使用现场聊天工具开始新的对话。

ChatGPT中国体验版点击进入https://yundongfang.com/chatgpt.php

正文完
 
Windows12系统管理员
版权声明:本站原创文章,由 Windows12系统管理员 2023-02-09发表,共计726字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
评论(没有评论)