zhyim 最近的时间轴更新 zhyim 最近的时间轴更新 |
zhyimV2EX 第 658919 号会员，加入于 2023-11-02 14:27:15 +08:00今日活跃度排名 13476 |
| 8 卡 H100 部署 DeepSeekR1 求助 Local LLM • zhyim • 13 小时 9 分钟前 • 最后回复来自 JackyTsang | 5 |
| 出个 ipadpro2020 国行 BS 资源机 二手交易 • zhyim • 100 天前 • 最后回复来自 zhyim | 3 |
| 收个可巨魔的 13PM 二手交易 • zhyim • 105 天前 • 最后回复来自 Dashit | 10 |
| 这次 Macmini m4 的升级也太大了 Apple • zhyim • 109 天前 • 最后回复来自 zhyim | 91 |
| mini6 会降价吗 Apple • zhyim • 121 天前 • 最后回复来自 zhyim | 43 |
| Public Beta2 iOS • zhyim • 205 天前 • 最后回复来自 Silently | 16 |
zhyim 最近回复了
1 天前 回复了 zhyim 创建的主题 › Local LLM › 8 卡 H100 部署 DeepSeekR1 求助 |
@dayeye2006199 也是不支持 deepseek2 ，我下载的别人的量化模型，单 gguf
1 天前 回复了 zhyim 创建的主题 › Local LLM › 8 卡 H100 部署 DeepSeekR1 求助 |
@raycool 是的，用 llamacpp 和 ollama 都能成功，就是并发不行
7 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
@snowkylin 是 80G 版本的，Q8 的不一定能跑起来，刚把模型下载完。。。
10 天前 回复了 snowkylin 创建的主题 › 分享发现 › 本地部署 DeepSeek-R1 671B 千亿大模型流程 |
8 张 H100 和 2T 内存能跑完整版的 R1 吗？ CPU 好像是 192 核的不知道啥型号
10 天前 回复了 HOU 创建的主题 › Apple › M1 Pro Sequoia 蓝牙连接 Keychron K3 Max 断联严重 |
@KentY 非常有用
Select Language