回复
美国VPS综合讨论
询问一下gpt接口请求一次的时间大概要多久
只看楼主
1
#
Qys
收藏
2024-4-22 02:08:24
最近想试手自己做个对话类的项目,先用了论坛里白**的api,请求一次大概都要十几秒,不管是从国内还是国外都需要这么久,这是普遍现象吗?
2
#
陈桂林
2024-4-22 02:43:10
网速快就快把
3
#
squalll
2024-4-22 03:41:03
是普遍,内容生成越多越慢,问1加1秒回的
4
#
5000000
2024-4-22 04:32:00
你要用流式请求,不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度
5
#
韭菜炒基蛋
2024-4-22 08:25:57
他处理的就慢跟网有什么关系。你不会用流式输出吗
6
#
Qys
2024-4-22 12:51:53
本帖最后由 Qys 于 2024-4-22 12:58 编辑
引用:
5000000 发表于 2024-4-22 04:32
你要用流式请求,不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度 ...
感谢mjj的解答,不过目前回答字数基本都是50字以内,都是短对话。同时,因为需要将回答内容再次转回语音,所以想的是拿到全部回答再tts输出。想了想确实应该用流式请求,然后根据逗号转语音一段一段输出。
回复