V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
herozzm

普通的 Linux 服务器怎么跑 tensorflow?

  •  
  •   herozzm · Apr 9, 2020 · 6230 views
    This topic created in 2212 days ago, the information mentioned may be changed or developed.

    已经是训练好的模型了,投入生产环境也很吃算力,一般的服务器没有独立显卡啊,难道只能跑 cpu 版本,cpu 速度很慢,没法用啊,或者给服务器搞一块强劲显卡?

    9 replies    2020-04-15 11:37:29 +08:00
    ZRS
        1
    ZRS  
       Apr 9, 2020   ❤️ 1
    配显卡或者专门做 Inference 的硬件,有不少做解决方案的公司
    herozzm
        2
    herozzm  
    OP
       Apr 9, 2020
    @ZRS 有专门的 gpu 服务器吗?二手的是否可用?
    ZRS
        3
    ZRS  
       Apr 9, 2020   ❤️ 1
    @herozzm 有啊,不过生产环境捡二手不合适吧...有生产环境有需求不如考虑租云服务商的服务,比自己配硬件弹性好也更可靠
    tomczhen
        4
    tomczhen  
       Apr 9, 2020 via Android   ❤️ 1
    老黄不让数据中心用游戏卡,捡二手专业卡真的性价比有点低,虚拟化也是一堆坑等着。
    herozzm
        5
    herozzm  
    OP
       Apr 9, 2020
    @tomczhen
    @ZRS
    准备上一个 Quadro K620 二手显卡试试
    formaxin
        6
    formaxin  
       Apr 9, 2020 via Android
    cpu 慢那就只能上 gpu 了,nvidia-docker 蛮香的
    formaxin
        7
    formaxin  
       Apr 9, 2020 via Android   ❤️ 1
    再就是优化下模型,减枝蒸馏之类的
    herozzm
        8
    herozzm  
    OP
       Apr 9, 2020
    @formaxin docker 19.3 以后都集成了,不用单独 nvidia-docker
    q428202849
        9
    q428202849  
       Apr 15, 2020
    独立显卡服务器了解一下
    1 、I3-2100 8G 500G 5M 2IP GTX730 2G 显卡
    2 、I5-3470 8G 1T 10M 2IP GTX730 2G 显卡
    3 、I7-3770 8G 1T 10M 2IP GTX730 2G 显卡
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   2697 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 34ms · UTC 14:49 · PVG 22:49 · LAX 07:49 · JFK 10:49
    ♥ Do have faith in what you're doing.