Tesla V100-DGXS-32GB 这张卡能用来跑 ollama 或者 vllm 不？
idblife · 2024-07-11 16:57:37 +08:00 · 1749 次点击这是一个创建于 477 天前的主题，其中的信息可能已经有所发展或是发生改变。
朋友有 4 张退下来的
 |
1
Kite6 2024-07-11 22:40:08 +08:00 via Android
大模型很多加速框架其实都不支持 v100 了，比如 flash attention
|
 |
2
woscaizi 2024-09-25 16:26:03 +08:00
算力值是 7 ， 不支持 bfloat16
|
Select Language