询问一下gpt接口请求一次的时间大概要多久 只看楼主

最近想试手自己做个对话类的项目,先用了论坛里白**的api,请求一次大概都要十几秒,不管是从国内还是国外都需要这么久,这是普遍现象吗?
网速快就快把   


是普遍,内容生成越多越慢,问1加1秒回的
你要用流式请求,不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度
他处理的就慢跟网有什么关系。你不会用流式输出吗
  • 6# Qys
  • 2024-4-22 12:51:53
本帖最后由 Qys 于 2024-4-22 12:58 编辑
引用: 5000000 发表于 2024-4-22 04:32
你要用流式请求,不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度 ...


感谢mjj的解答,不过目前回答字数基本都是50字以内,都是短对话。同时,因为需要将回答内容再次转回语音,所以想的是拿到全部回答再tts输出。想了想确实应该用流式请求,然后根据逗号转语音一段一段输出。