询问一下gpt接口请求一次的时间大概要多久

Qys · 发表于 2024-4-22 02:08:24

最近想试手自己做个对话类的项目，先用了论坛里白**的api，请求一次大概都要十几秒，不管是从国内还是国外都需要这么久，这是普遍现象吗？

陈桂林 · 发表于 2024-4-22 02:43:10

网速快就快把

squalll · 发表于 2024-4-22 03:41:03

是普遍，内容生成越多越慢，问1加1秒回的

5000000 · 发表于 2024-4-22 04:32:00

你要用流式请求，不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度

韭菜炒基蛋 · 发表于 2024-4-22 08:25:57

他处理的就慢跟网有什么关系。你不会用流式输出吗

Qys · 发表于 2024-4-22 12:51:53

本帖最后由 Qys 于 2024-4-22 12:58 编辑

5000000 发表于 2024-4-22 04:32
你要用流式请求，不然普通的post只能等全部回答才接收。还可以限制回答的字数以加快速度 ...

感谢mjj的解答，不过目前回答字数基本都是50字以内，都是短对话。同时，因为需要将回答内容再次转回语音，所以想的是拿到全部回答再tts输出。想了想确实应该用流式请求，然后根据逗号转语音一段一段输出。

		自动登录	找回密码
密码			注册