OpenAI 什么是“模型仍在加载”错误?

123次阅读
没有评论

当您在一段时间内第一次使用经过微调的模型时,加载它可能需要一些时间。这有时会导致前几个请求失败并显示 429 代码和一条错误消息“模型仍在加载”。

加载模型所需的时间取决于共享流量和模型的大小。例如,像 davinci 这样的较大模型可能需要几分钟才能加载,而较小的模型加载速度可能会快得多。

加载模型后,完成请求应该更快,并且您不太可能遇到超时。

我们强烈建议在您的请求代码中实施具有指数退避的重试逻辑,以解决您在加载模型时可能遇到的任何问题(有关示例,请参阅本笔记本的“使用指数退避重试”部分)

ChatGPT中国体验版点击进入https://yundongfang.com/chatgpt.php

正文完
 
Windows12系统管理员
版权声明:本站原创文章,由 Windows12系统管理员 2023-02-09发表,共计294字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。
评论(没有评论)