V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
go522000
V2EX  ›  问与答

请问一下,国内服务器,如何加速 OpenAI 的接口的速度呢?

  •  
  •   go522000 · 2023-04-17 15:02:32 +08:00 · 970 次点击
    这是一个创建于 611 天前的主题,其中的信息可能已经有所发展或是发生改变。

    我这边现在的流程是使用 cloudflare 的 workers 进行中转。

    国内服务器是腾讯云的,然后 cloudflare 中转,再接入到 openai 的 api (付费的接口)。

    但现在的速度感觉还是很慢,写一篇朋友圈的广告大约 100 字,需要 20 秒左右。

    请问一下,还有什么办法加速吗?比如 cloudflare 的 workers 改为收费的?

    希望有懂的朋友帮忙建议一下。

    谢谢了。

    2 条回复    2023-04-17 22:12:44 +08:00
    siknet
        1
    siknet  
       2023-04-17 19:22:07 +08:00 via Android   ❤️ 1
    为啥不直接部署到 vercel ,免梯子还快
    mmdsun
        2
    mmdsun  
       2023-04-17 22:12:44 +08:00   ❤️ 1
    确实是访问 works 那边慢吗?有没有可能是其他地方慢。

    我是 Cloudflare 域名 , Vultr 纽约服务器直接请求 OpenAi 接口
    然后在后台接口返回浏览器的时候套的 workers ,感觉速度很挺快的。

    ——有那种 Cloudflare 优选 ip 的脚本,跑跑看看。然后 works 默认的域名 workers.dev 可以换成自己的,这个域名被污染挺严重的。
    参考: https://www.hicairo.com/post/28.html
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3195 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 12:48 · PVG 20:48 · LAX 04:48 · JFK 07:48
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.