V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
after1990s
V2EX  ›  Local LLM

intel b60 48G 可以买吗

  •  
  •   after1990s · 1 月 15 日 via Android · 960 次点击

    目前售价 12000

    8 条回复    2026-01-30 08:42:04 +08:00
    vvhhaaattt
        1
    vvhhaaattt  
       1 月 15 日 via Android
    现在用的 a770 ,如果是个人用户为了 ai 推理,不建议买 intel 。
    其他情况不予评论。
    after1990s
        2
    after1990s  
    OP
       1 月 15 日 via Android
    @vvhhaaattt llama 能在 a770 上跑吗
    vvhhaaattt
        3
    vvhhaaattt  
       1 月 15 日 via Android
    llama.cpp 看你的模型要求了,如果经常试新模型,新模型又用了新的算子……
    gpt-oss 为例
    sycl 版本 12 月中旬的时候我记得是不能跑还是很慢,因为有算子不支持,会把相关操作退化为 cpu 操作,最近看有 issue 处理,不清楚现状。
    valkan 版本能跑,推理速度能用的程度,算子支持速度还行,不过相对 sycl 有折扣。

    @after1990s
    defaw
        4
    defaw  
       1 月 15 日
    曾经废了九牛二虎之力在 arc a750 上跑起来了 ipex-llm ,inter 跑 ai 还是不如 cuda 方便
    vvhhaaattt
        5
    vvhhaaattt  
       1 月 15 日 via Android
    ipex-llm 停止更新了~
    slowgen
        6
    slowgen  
       1 月 15 日
    这个售价飘了,不如 2 张 AMD 的 7900XTX
    coefu
        7
    coefu  
       1 月 16 日
    都能整 6 张 v100 32G 了。加一点可以 A100 40G 了。这波 H200 一旦进来,之前的 A 系列很大一部分都会被替换出来。
    kpprotector
        8
    kpprotector  
       1 月 30 日
    如果你只买一张的话没有必要……
    这种就是极限堆显存用的。普通的家用 CPU PCI E 总线也就只有 20~28 条通道。只够插一张这样的卡。
    不如买两张 3090 24G ,虽然价格差不多,但是 CUDA 生态给你后续避免很多麻烦,intel 的生态真的一言难尽……
    关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   4359 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 01:59 · PVG 09:59 · LAX 17:59 · JFK 20:59
    ♥ Do have faith in what you're doing.