V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
ttgo
V2EX  ›  问与答

主流的能用的大语言模型中,速度最快的是哪个?

  •  
  •   ttgo · 31 天前 · 893 次点击
    4 条回复    2024-03-27 16:33:28 +08:00
    PbCopy111
        1
    PbCopy111  
       31 天前
    我在用智谱 AI 的
    TimePPT
        2
    TimePPT  
       31 天前
    如果没有国内合规要求,看看 Groq ?
    ohazyi
        3
    ohazyi  
       31 天前
    开源的,mistral 8x7b 这种基于 moe 的,推理速度快多了
    mumu
        4
    mumu  
       30 天前
    Groq 确实快,但是想让他回复中文,提示词改得有点蛋疼。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   我们的愿景   ·   实用小工具   ·   2959 人在线   最高记录 6543   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 08:05 · PVG 16:05 · LAX 01:05 · JFK 04:05
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.