turing518
1.29D
V2EX  ›  Local LLM

老哥们,预算 3w 左右想弄一套小型化本地大模型硬件,求推荐

  •  
  •   turing518 · 13h 47m ago · 516 views

    如题,预算 3w 左右,想弄一套小型化本地大模型硬件来跑本地大模型,处理一些不能传到外网的文档的 RAG ,保证 tps 的情况下,能省电更好,目前看了华硕的 GX10 ,求问是否还有其他的推荐?

    1 replies    2026-08-18 20:13:39 +08:00
    niubee1
        1
    niubee1  
       8h 1m ago
    微星的一样的配置更便宜一点。或者你可以 AMD 7900XTX 组台机器,能耗高点,但是整体硬件更便宜
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   934 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 20:15 · PVG 04:15 · LAX 13:15 · JFK 16:15
    ♥ Do have faith in what you're doing.