1
tool2d 2023-03-12 18:16:30 +08:00 via Android
我也试了一下 4bit 量化模型,效果很差。
|
2
ltkun 2023-03-12 20:33:37 +08:00 via Android
24g 的是什么卡
|
4
kernelpanic 2023-03-12 23:05:43 +08:00
咋跑起来的,我用的 llama.cpp 好像不支持中文。。。
|
5
OLDPAN 2023-03-13 18:39:53 +08:00
测试了下 llama 能不能写代码: https://mp.weixin.qq.com/s/HGxEhDMQoVa1pkz76Qp6Yw
|