 |
clemente🏢 leftrightmovehands V2EX member #455659, joined on 2019-11-26 18:13:05 +08:00Today's activity rank 14155 |
givemefive
cachemineshot
 |
Per clemente's settings, the topics list is hidden |
Deals info, including closed deals, is not hidden
clemente's recent replies
2h 8m ago Replied to a topic by nomisk › 程序员 › 大家的 giffgaff 还能用吗 |
@webfamer 还能退款？
2 days ago Replied to a topic by xssbus › 生活 › 国庆回去被说肥头大耳，下定决心减肥了 |
真实潜意识：被他人评价外貌后产生容貌焦虑，想用极端节食快速减重获得外形改变。
这句话 简言之：被人说胖，搞了个狠饿自己的减肥方案发帖晒减重数据。
这句话 简言之：被人说胖，搞了个狠饿自己的减肥方案发帖晒减重数据。
3 days ago Replied to a topic by achira › 生活 › 谈了三个月的女朋友才发现她和前任有较大经济纠纷 |
真实潜意识：明知这段关系风险很高，只是舍不得女友的条件和已付出的沉没成本，不愿委屈自己扛下麻烦
简言之：女友瞒着我借出去几十万，不少还是贷款，遇事还不遵守约定，她母亲也很难相处，女友条件不错但相处隐患大，我纠结要不要分手
简言之：女友瞒着我借出去几十万，不少还是贷款，遇事还不遵守约定，她母亲也很难相处，女友条件不错但相处隐患大，我纠结要不要分手
6 days ago Replied to a topic by sunxfancy › 程序员 › 现在 AI 是不是逐渐能取代很多高水平程序员了 |
10 days ago Replied to a topic by qwzhang01 › 程序员 › 做模型训练、蒸馏门槛高吗 |
1. 模型训练包含前向算子、反向算子以及分布式通信开销，算子数量是推理的 3 倍以上，对应的技术栈与资源需求也高于推理部署。
2. 工程落地里很多蒸馏方案，本质就是遍历 高质量的领先模型的问题回答数据，对基模做后训练。
3. 同规模模型训练所需 GPU 资源远超推理。通常要 8 卡 x16 集群来训练
4. 修正：实际差距可达十几倍。因为线上推理普遍使用量化模型，而训练需要维持 BF16 精度。
2. 工程落地里很多蒸馏方案，本质就是遍历 高质量的领先模型的问题回答数据，对基模做后训练。
3. 同规模模型训练所需 GPU 资源远超推理。通常要 8 卡 x16 集群来训练
4. 修正：实际差距可达十几倍。因为线上推理普遍使用量化模型，而训练需要维持 BF16 精度。
10 days ago Replied to a topic by qwzhang01 › 程序员 › 做模型训练、蒸馏门槛高吗 |
10 days ago Replied to a topic by qwzhang01 › 程序员 › 做模型训练、蒸馏门槛高吗 |
gpu 也是推理一个同规模模型需求的三倍以上
10 days ago Replied to a topic by qwzhang01 › 程序员 › 做模型训练、蒸馏门槛高吗 |
蒸馏其实就是扫 qa 数据然后做后训练
Select Language