V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
suqiuluck
V2EX  ›  Windows

AI 需求,主机配置推荐, 2024 年准备 all in AI

  •  3
     
  •   suqiuluck · 128 天前 · 14961 次点击
    这是一个创建于 128 天前的主题,其中的信息可能已经有所发展或是发生改变。

    网上看到这套配置,值得入吗大佬们,你们都是啥配置的,显卡值得上 4090 吗? CPU:Intel 13400F 主板:华硕 B660M 重炮手 显卡:七彩虹战斧 RTX4060Ti 16GB 内存:光威 3200Hz 16G×2 固态:三星 990PRO 1TB 电源:酷冷 GX650 散热器:利民 PA120 SE 机箱:先马鲁班 1

    130 条回复    2024-03-11 10:19:22 +08:00
    1  2  
    showchys
        1
    showchys  
       128 天前
    4060ti 就够了 想啥呢 你当服务器啊
    paopjian
        2
    paopjian  
       128 天前
    看着没问题,就是七彩虹没必要,还能再丐点,反正性能都差不多
    hi2hi
        3
    hi2hi  
       128 天前   ❤️ 5
    你这配置,玩有 AI 的游戏可以,玩 AI 算了;全都不够
    logic159
        4
    logic159  
       128 天前
    就一点,机箱别买玻璃侧板的,会炸!
    8eacekeep
        5
    8eacekeep  
       128 天前   ❤️ 1
    机箱不够 AI
    juzisang
        6
    juzisang  
       128 天前
    怎么玩 ai ?你是要自己训练模型?本地跑跑模型?还是只是调调 openai 的接口...
    biglion666
        7
    biglion666  
       128 天前
    想搞 AI 这个怕是不够。
    显卡上 4090 ,内存上 64 ,cpu 可以考虑不动,电源 650w 也不够
    doublebu
        8
    doublebu  
       128 天前
    配置缩水,省下的钱用来租云 GPU 或者用来充值 OpenAI 、SD 的网站
    xylitolLin
        9
    xylitolLin  
       128 天前
    想玩游戏就玩游戏嘛,4060Ti 谈不上 All in AI
    lovelyxiaod
        10
    lovelyxiaod  
       128 天前
    借楼问一下,
    1. 4070ti super 画图应该够用了吧?
    2. 画图吃 CPU 和内存吗?12 代 i3 32G 内存够用吗?
    lkwfive
        11
    lkwfive  
       128 天前
    你 all in 的话,一定要上 4090 ,很多大模型需要大显存的。不然没法玩
    WDFWL
        12
    WDFWL  
       128 天前
    先弄个虚拟机玩几天再说吧
    even77
        13
    even77  
       128 天前 via Android
    什么 all in ,这算 ai 入门配置吧。小白入门可以用,真要玩可能所有配件都要升级。不过入个门,后面用云 GPU 也应该可以的。
    princelai
        14
    princelai  
       128 天前
    去年 618 配得 4080,感觉不太够用,也就玩玩 comfyui,自己训练 yolo v8 模型和 paddle 模型,和 pytorch 写 transformer 模型,后三者 16G 能满足,comfyui 不太够,还微调过大模型,只能玩 6B 和 7B 的,想玩 AI 有条件还是 4090 吧,或者咸鱼有 2080Ti 22G 版本
    suqiuluck
        15
    suqiuluck  
    OP
       128 天前
    @hi2hi #3 打算玩下 AI 绘画,SD web UI 或者 ComfyUI
    suqiuluck
        16
    suqiuluck  
    OP
       128 天前
    @logic159 #4 我去这么危险,你是不是炸过?😅
    suqiuluck
        17
    suqiuluck  
    OP
       128 天前
    @8eacekeep #5 求推荐,打算玩下 AI 绘画,SD web UI 或者 ComfyUI
    formant
        18
    formant  
       128 天前
    显存大就完事了,2080Ti 魔改 22G 便宜好用可以考虑
    0x663
        19
    0x663  
       128 天前   ❤️ 5
    打游戏不丢人,丢人的是以学习的名义去购买打游戏的机器。
    suqiuluck
        20
    suqiuluck  
    OP
       128 天前
    @juzisang #6 就 AI 绘画,SD web UI 或者 ComfyUI ,跑大模型还是差点
    suqiuluck
        21
    suqiuluck  
    OP
       128 天前
    @doublebu #8 有道理
    suqiuluck
        22
    suqiuluck  
    OP
       128 天前
    @biglion666 #7 预算不够......
    suqiuluck
        23
    suqiuluck  
    OP
       128 天前
    @xylitolLin #9 打算玩下 AI 绘画
    suqiuluck
        24
    suqiuluck  
    OP
       128 天前
    @lkwfive #11 懂了
    suqiuluck
        25
    suqiuluck  
    OP
       128 天前
    @even77 #13 感谢指导
    suqiuluck
        26
    suqiuluck  
    OP
       128 天前
    @princelai #14 大概了解了,你说的这些,预算不得 2W 左右了
    suqiuluck
        27
    suqiuluck  
    OP
       128 天前
    @0x663 #19 老哥会讲话
    suqiuluck
        28
    suqiuluck  
    OP
       128 天前
    @formant #18 这个不错
    logic159
        29
    logic159  
       128 天前
    @suqiuluck #16
    是啊,去年刚被炸了,害我菜了不少血,你搜网上很多炸了的,不一定很快炸,总免不了被炸😂
    dif
        30
    dif  
       128 天前   ❤️ 2
    这配置可以 all in steam 了。 哈哈,不过学习也够了,跑慢点也没事,毕竟也没啥数据量。
    jurassic2long
        31
    jurassic2long  
       128 天前
    @suqiuluck 这个需求的话配置要求不高,只绘图显存 6G 以上就行,要训练就 12G 以上,30 系都可以,没必要 40 系。不过预算充足就直接 4090 拉满
    SeaRecluse
        32
    SeaRecluse  
       128 天前
    显卡换 4070 ti super ,勉强够入门了。
    Real00
        33
    Real00  
       128 天前
    all in ai 直接上云服务器,玩游戏倒可以配置拉满
    formant
        34
    formant  
       128 天前
    😉stable diffusion 色图队伍肉眼可见的壮大了。。。
    rainbowtrash2333
        35
    rainbowtrash2333  
       128 天前
    搞 AI 只要看显存,算力不够时间来凑,显存不够模型都跑不了。有钱建议一部到位,直接 4090 ,没钱考虑魔改 22g 的 2080ti ,要是不放心魔改卡,可以考虑买两个 3060 12G 版本交火,现在的 deeplearn 框架都支持多显卡的。
    Hengtang
        36
    Hengtang  
       128 天前
    不在意速度的话,tesla p40 基本啥都能玩,顶多慢点儿
    tangtang369
        37
    tangtang369  
       128 天前
    看到买带 f 的 cpu 我都要说一句,请买带核显的 u ,intel 现在的核显 ai 性能、解码也很强啊
    triangle111
        38
    triangle111  
       128 天前   ❤️ 1
    年前组了一套也是 4060ti ,能画图,无论是 sdweb 还是 comfyui 都可以,只是平均出图有点慢而已,大约 13s 一张。,记得 cuda 别装太高,118 版本就行。但是你要是自己训练模型估计这个配置有点够呛,lora 训练应该可以,全参数训练估计要买两张大显存的卡了
    yangxin0
        39
    yangxin0  
       128 天前
    all in AI 至少 4090 起步吧,你这个配置最多 all in AI 学习。
    linch97
        40
    linch97  
       128 天前   ❤️ 1
    玩玩 AI 绘图足够了,想自己训练 lora ,finetune 模型之类的还差点意思。不过后者一般租服务器更划算,我一直在考虑上 4090 ,但是算了算帐,还是租更划算,毕竟本地只推理不考虑训练的话 12G 差不多就够了
    reeco
        41
    reeco  
       128 天前
    不如你用这预算租 GPU 用用
    cbythe434
        42
    cbythe434  
       128 天前
    4090+才能在门口蹭蹭
    luoway
        43
    luoway  
       128 天前
    既然有人说这是小白入门配置,那直接换苹果本怎么样,是不是更适合小白入门?
    flyi
        44
    flyi  
       128 天前   ❤️ 1
    买带核显的 CPU ,否则图形界面也会占用 GPU 显存
    niubee1
        45
    niubee1  
       128 天前   ❤️ 1
    mega 的羊驼,出了个小羊驼,说是“小”大模型,只需要很少的资源就能跑。然后一看推荐配置,需要 8 块 A100 的 GPU 卡......
    lyxxxh2
        46
    lyxxxh2  
       128 天前
    搞 ai,买专业的呗,teslap40 之类的。
    或者租也行,0.78 元/小时。
    bawanag
        47
    bawanag  
       128 天前
    先租把
    觉得自己动力够了再买设备,要不然天天闲置在那浪费
    还是 op 只是想买台主机打游戏找个由头?(手动狗头)
    leehomyhh
        48
    leehomyhh  
       128 天前
    都 all in 了你还在乎预算吗???
    SomeBodsy
        49
    SomeBodsy  
       128 天前
    这配置就是主流的游戏主机( bushi )
    shiyuu
        50
    shiyuu  
       128 天前
    还是白嫖公司的服务器香
    ShadowPower
        51
    ShadowPower  
       128 天前
    内存小了点,建议 32Gx2
    N9f8Pmek6m8iRWYe
        52
    N9f8Pmek6m8iRWYe  
       128 天前
    租 GPU 服务器
    suqiuluck
        53
    suqiuluck  
    OP
       128 天前
    @shiyuu #50 我去,这可太香啦🤩
    suqiuluck
        54
    suqiuluck  
    OP
       128 天前
    @ShadowPower #51 可以的,内存必须满上
    suqiuluck
        55
    suqiuluck  
    OP
       128 天前
    @leehomyhh #48 预算还是在乎的 ,还没挣到 AI 的第一桶金
    suqiuluck
        56
    suqiuluck  
    OP
       128 天前
    @bawanag #47 我全都要
    suqiuluck
        57
    suqiuluck  
    OP
       128 天前
    @lyxxxh2 #46 前期可以租着玩玩
    suqiuluck
        58
    suqiuluck  
    OP
       128 天前
    @flyi #44 get 了
    suqiuluck
        59
    suqiuluck  
    OP
       128 天前
    @linch97 #40 还是上 4090 吧,一劳永逸
    suqiuluck
        60
    suqiuluck  
    OP
       128 天前
    fru1t
        61
    fru1t  
       128 天前   ❤️ 2
    这套配置用于 AI 开发和训练是可以的,不过根据具体的 AI 模型复杂程度以及训练数据规模,可能需要进一步优化和加强。我给出以下一些建议:

    CPU:13400F 的 6 核 12 线程性能还算不错,但对于一些大型语言模型或视觉模型的训练可能会感到有些力不从心。如果预算允许,可以考虑升级到更高端的 CPU,比如酷睿 i7 或 AMD 5800X3D 等。

    显卡:RTX 4060Ti 的 16GB 显存对中小型模型来说足够,但训练大型视觉模型时可能会显存不足。AI 加速需要大显存,建议至少 3090 24GB 以上。当然也要看您的具体使用场景。

    内存:32GB 一般足够了,但如果要同时开很多程序或加载大量数据,64GB 会更佳。

    存储:990 PRO 是不错的高速固态,对于存放大量数据和模型权重文件也还可以,但 AI 训练时产生的临时数据量很大,最好再加装一个大容量的机械硬盘。

    电源:650W 对单显卡足够,但如果将来要升级到双显卡或高端独立显卡,可以考虑 800W 以上的电源。

    散热:利民的风冷散热器对这配置来说应该够用。

    其他:建议采用 Linux 系统如 Ubuntu,深度学习框架在 Linux 下表现更优秀。

    总的来说,这个配置中端水准,够用于初级 AI 开发,但要训练复杂大型模型时还需要进一步加强,特别是显卡和 CPU 的算力。可以先从这个配置入手,将来可根据需求逐步升级。
    dobelee
        62
    dobelee  
       128 天前   ❤️ 1
    这配置不是很“all in”啊。😅
    yangzzz
        63
    yangzzz  
       128 天前   ❤️ 1
    这点内存 和显卡看不出你要 all in ai 啊。。。真要往 ai 发展好好配一台 AI 的主机,实在不行先租一台服务器玩着也行啊
    wzbrbj
        64
    wzbrbj  
       128 天前
    都说 all in ,方方面面都要考虑,显卡不够,CPU 不够
    jiangliuli
        65
    jiangliuli  
       128 天前
    作为一个人类,all in ai 具体是指什么?求指导
    nyfwan123
        66
    nyfwan123  
       128 天前
    有这个钱 不如租
    icyalala
        67
    icyalala  
       128 天前
    all in ai 是指什么。。。就算 4090 也只是消费级显卡,最终到手也就跑个画图或者弄个开源小模型。
    KKKg
        68
    KKKg  
       128 天前
    个人 all in ai ,手里几个千万啊 😂
    iorilu
        69
    iorilu  
       128 天前   ❤️ 1
    我觉得没问题, 先玩起来

    至于显卡, 反正一般人目标是跑起来, 谈不上什么训练, 微调 16g 显存也是能跑的

    至于后面, 真需要, 可以换显卡
    dayeye2006199
        70
    dayeye2006199  
       128 天前 via Android
    不如去买 colab pro 的 v100
    osilinka
        71
    osilinka  
       128 天前   ❤️ 2
    如果硬件很熟练

    可以多买几个 tesla p40 , 成本很低

    咸鱼上 800 一个,内存也是 24gb
    nutting
        72
    nutting  
       128 天前   ❤️ 1
    p40+e5 洋垃圾也行
    m1nm13
        73
    m1nm13  
       128 天前   ❤️ 1
    显存比较关键啊。。。。不上 4090 好歹 3090 ,最差也得是个 2080TI 魔改 22G 吧
    suqiuluck
        74
    suqiuluck  
    OP
       128 天前
    @fru1t #61 感谢老哥,学习到了!!!
    suqiuluck
        75
    suqiuluck  
    OP
       128 天前
    @iorilu #69 是的,先玩玩
    suqiuluck
        76
    suqiuluck  
    OP
       128 天前
    @KKKg #68 哈哈副业搞搞 AI ,挣点外快😂
    suqiuluck
        77
    suqiuluck  
    OP
       128 天前
    @icyalala #67 搞搞 AI 副业而已啦🤣
    suqiuluck
        78
    suqiuluck  
    OP
       128 天前
    @jiangliuli #65 个人玩家,搞搞 AI 副业😁
    suqiuluck
        79
    suqiuluck  
    OP
       128 天前
    @yangzzz #63 老哥说的是,再看配置了,到 618 了配置直接拉满
    suqiuluck
        80
    suqiuluck  
    OP
       128 天前
    @wzbrbj #64 个人玩家,配置拉满,是不是有点浪费🤣
    444571840
        81
    444571840  
       128 天前
    等年底,AMD 9950x + 64G 内存 + nv 5090
    yplam
        82
    yplam  
       128 天前 via Android
    建议先关注一下 stable diffusion 3 再决定,16g 显存大模型肯定是效果不好,comfyui sdxl 现在问题不大,就是慢一点,不过你的内存,磁盘大小也是有点尴尬
    0x1111
        83
    0x1111  
       128 天前
    同样七彩虹的 4060Ti ,先玩出图,日常的都没问题,不要想着搞 4k 5k 的图,再玩 LLM ,基础的几 B 的模型跑起来没问题,模型训练也可以跑起来只是时间比较长,但是这些只适合学习,不适合生产。
    如果只是玩玩我觉得没问题,如果想当做 all in 的生产工具,的确有点欠缺。

    另外,存储 1T 真不充裕,各种模型文件都是几十 G 的,一会就满了。
    内存至少 32G ,如果能上 32*2 更好,有些场景显存不够内存来凑。
    zeroDev
        84
    zeroDev  
       128 天前 via Android
    CPU 上 AMD 的 3D 版本是不是好些
    llllIIIIllll
        85
    llllIIIIllll  
       128 天前
    出 4070ti , 送个破的先马机箱带风扇
    fredweili
        86
    fredweili  
       128 天前
    是想玩游戏吧
    chesha1
        87
    chesha1  
       128 天前
    我当年也玩了一段时间 sd ,真心劝你租 GPU 合算

    当时 A100 一小时只要 1 美元,80G 大显存嗯造,速度还很快,真的很爽,而且爽了没多久自己也玩够了,支出很小,你买了这个显卡,如果自己没有别的需求,只为了 AI ,很亏的

    如果你有相关的 cs 技能(既然你来 v2 ,我默认有),还是租远程的 GPU 性价比高
    zlo309618100
        88
    zlo309618100  
       128 天前
    @chesha1 1 刀/h ,是哪家的服务器?
    chesha1
        89
    chesha1  
       128 天前
    @zlo309618100 我当时用的是 vast.ai

    其实小的 GPU 云价格都很不错,国内比如 autodl ,只要不用大的公有云的 GPU ,几百块人民币都一个普通人从入门玩到厌烦了
    gh110827
        90
    gh110827  
       128 天前
    4060ti 能跑但是特别慢。试试 autodl 吧,租个 4090 机器比你这个划算。还有个端脑云 4090 一个月才 900
    ynxh
        91
    ynxh  
       128 天前
    性价比最高的是 3060Ti 的 16G 版本
    wyx119911
        92
    wyx119911  
       128 天前
    别人的 all in AI:满仓英伟达股票
    op 的 all in AI:买张英伟达 4060Ti 显卡
    JensenQian
        93
    JensenQian  
       128 天前
    @suqiuluck #16 怕炸就淘宝定做个亚克力板就好了
    或者和我一样,不盖上去,还有利于散热,就是灰有点大
    wzbrbj
        94
    wzbrbj  
       128 天前
    @suqiuluck 显卡提一提,4070 起步吧
    remarrexxar
        95
    remarrexxar  
       128 天前   ❤️ 1
    很多年前我跟我爸说我想 All in 学习,最好给我买一台小霸王学习机
    esile
        96
    esile  
       128 天前 via Android
    @logic159 装满风扇 毫无压力
    acctv2
        97
    acctv2  
       128 天前
    想玩游戏就直说,你买 NV 股票都比这 All in
    xjhou00007
        98
    xjhou00007  
       128 天前
    存储不太够阿,建议换大容量固态,再加机械硬盘做冷数据存储
    miaotaizi
        99
    miaotaizi  
       128 天前   ❤️ 1
    楼主是不是被那些整天吹 AI 的短视频吹的 失心疯了?
    cshever999
        100
    cshever999  
       128 天前
    @suqiuluck #16 我买的玻璃侧板,第一天就炸了,目前用的防尘网做侧板
    1  2  
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1317 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 23:55 · PVG 07:55 · LAX 16:55 · JFK 19:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.