想本地部署 AI 大模型,主要用于 AI 问答聊天,电脑配置需要什么样的,总预算 1w5 以内
dary141229 · 2024-04-07 14:57:43 +08:00 · 1169 次点击这是一个创建于 572 天前的主题，其中的信息可能已经有所发展或是发生改变。
包含显卡,cpu,主板,内存条,散热,电源,固态等
 |
1
gneko 2024-04-08 00:50:00 +08:00 via iPhone
内存显存越大越好，这两项是决定你能不能跑起来的东西，其次才是 CPU 和 GPU 的计算频率。
借楼问一下，本地大模型有什么推荐吗？我用 ollama 跑几个官网上的模型，效果实在有点惨不忍睹😂 |
 |
2
ZnductR0MjHvjRQ3 2024-04-08 10:22:10 +08:00
1.5 就算了吧 7b 和弱智一样 最低预算 3w
|
Select Language