您的位置 首页 你问我答

大佬们好,我是上一位chatgpt的题主,我先说明一下我的使用场景:搭建在windows serve

问题:

大佬们好,我是上一位chatgpt的题主,我先说明一下我的使用场景:搭建在windows server平台上的一个微信机器人,因为是要一直接收微信的消息的,所以如果挂全局代理的话会浪费特别多流量在微信上。然后我个人现在走的一个方法是挂一个云函数在腾讯云上,我在代码里设置
`openai.api_base=os.environ.get(“OPENAI_API_BASE”, “https://”)`,
但是这样设置之后,假如prompt较短无大碍,当prompt变长或是所需要的回答变长后,便会收到openai.error.APIError: HTTP code 504,我感觉是因为等回答的时间太久了导致超时,请问各位大佬们有什么思路吗?小弟感激不尽


网友解答:

blakrpander: 呃等这条发出来自己已经改完了,但我还是把原因以及解决方法贴出来吧:
解决思路:在一直try和except的时候报出了RareLimit的错误,所以我个人猜想是有生成但因为太长了,导致api错认为是超时,因此查找思路为修改openai内部的timeout
解决方法:在寻找了半天之后,发现直接在`openai.ChatCompletion.create`()里加一个timeout的参数就好了…。还是我个人代码底力不足,也供各位可能遇到同样问题的朋友们参考。

PS:
测试用Prompts:”请你用`python`写一段素数筛的程序”
修改后代码:
p`rompt = “`请你用`python`写一段素数筛的程序`”
response=openai.ChatCompletion.create(
model=”gpt-3.5-turbo”,
messages=[
{“role”:”user”,”content”:prompt},
],
timeout=10000,
)
answer=response.choices[0].message.content
print(answer)`

更新—————————
同样的bug在我调整了timeout之后又出现了…反正应该是因为回答太长而504了,实在不会改了,歇会再说

发表回复

返回顶部