V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
thMaster
V2EX  ›  OpenAI

尝试了 OpenAI 的的 API,但是每次回复都要等上很久,有什么办法优化吗

  •  
  •   thMaster · 2023-03-08 13:06:18 +08:00 · 2590 次点击
    这是一个创建于 610 天前的主题,其中的信息可能已经有所发展或是发生改变。

    完全按照教程写的,但是每次都要等上二三十秒才会回复,有时还会报错,是我漏掉了什么吗,还是说这是正常现象

    第 1 条附言  ·  2023-03-10 11:17:13 +08:00
    10 条回复    2023-03-17 15:41:00 +08:00
    xiaoqi6pi112
        1
    xiaoqi6pi112  
       2023-03-08 13:12:06 +08:00
    我最近也发现这个问题了,不知道怎么解决,用套壳的感觉也慢
    xiaoz
        2
    xiaoz  
       2023-03-08 13:25:39 +08:00 via Android
    刚出来两天挺快的,最近明显感觉到变慢了,还偶尔报错。
    Lentin
        3
    Lentin  
       2023-03-08 13:26:37 +08:00
    充钱
    rossroma
        4
    rossroma  
       2023-03-08 14:13:01 +08:00
    从前两天开始明显变慢了,前几天都是秒回的
    NiceFSH
        5
    NiceFSH  
       2023-03-09 14:54:18 +08:00
    NiceFSH
        6
    NiceFSH  
       2023-03-09 14:54:54 +08:00
    thMaster
        7
    thMaster  
    OP
       2023-03-10 11:15:34 +08:00
    解决了,使用流式传输就可以了,跟官方的 ChatGPT 一样,一个 token 一个 token 地显示

    ```Python
    resp = ai.ChatCompletion.create(
    model="gpt-3.5-turbo",
    stream=True,
    messages=messages
    )
    ```
    zhanlang
        8
    zhanlang  
       2023-03-10 14:42:52 +08:00
    vx 搜索 "一起玩 ai", 直接体验 chatgpt plus
    fengliu222
        9
    fengliu222  
       2023-03-16 11:46:14 +08:00
    @thMaster 好像这几天流式传输也慢了很多。
    Marko
        10
    Marko  
       2023-03-17 15:41:00 +08:00
    有,用我们的小程序就不卡了:革新者
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1308 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 24ms · UTC 17:44 · PVG 01:44 · LAX 09:44 · JFK 12:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.