EvaElfie
V2EX  ›  Local LLM

现在本地部署 LLM 的话是不是性价比最高的是多卡 5060Ti 16GB?

  •  
  •   EvaElfie · Nov 14, 2025 · 2189 views
    This topic created in 203 days ago, the information mentioned may be changed or developed.
    考虑到 5090D 的极高售价,Dv2 版显存还缩水了
    除了 AutoDL 这种网站租卡之外,
    16GB 的 5060Ti 大概 3000 一块,是不是叠加 2 块或者 4 块,只要机箱和 PCIE 通道支持,就算是最性价比的玩法了?
    有没有大佬给些建议?
    6 replies    2025-11-14 23:12:23 +08:00
    tool2dx
        1
    tool2dx  
       Nov 14, 2025 via Android
    5060ti 算力不够的,光要显存大你不如买 amd ai pc ,有 96g 显存给你玩。
    你买显卡之前,最好按照自己的具体需求,去查一下每个显卡跑分,再决定比较合适。
    yh7gdiaYW
        2
    yh7gdiaYW  
       Nov 14, 2025
    50 系现在不知道怎么样了,几个月前跑大模型一堆兼容性问题
    sunny352787
        4
    sunny352787  
       Nov 14, 2025
    考虑下二手 mac studio ? m2u 64G 的一万七八,四块 5060Ti 就一万二了,再加 CPU 内存,能插四块显卡的板子也不怕便宜
    TabGre
        5
    TabGre  
       Nov 14, 2025 via iPhone
    mac studio 确实不错
    Q980q48Jgj6pRXoO
        6
    Q980q48Jgj6pRXoO  
    PRO
       Nov 14, 2025
    要买 AI 显卡
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2720 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 39ms · UTC 15:13 · PVG 23:13 · LAX 08:13 · JFK 11:13
    ♥ Do have faith in what you're doing.