大模型本地部署，选哪个框架好？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

您的好友邀请您体验AI多模型共享资源

海量资源池 · 异常自动切换 · 分布式架构 · 故障自动转移共享方案：仅 $55/月 opus 每天5小时官方限制 Claude sonnet 4无限量 Codex公测中。免费体验

Promoted by 0x3751

这是一个创建于 398 天前的主题，其中的信息可能已经有所发展或是发生改变。

目前看的话有 Dify, FastGPT, AnythingLLM, OpenWeb UI 。我对 RAG 有比较强的需求。想麻烦请问各位，哪个比较好呢？或者有么有比这几个更好的？感谢

1 条回复 • 2024-08-16 11:04:57 +08:00

izq

2024-08-16 11:04:57 +08:00

首推 dify