 |
sm1314V2EX 第 27030 号会员，加入于 2012-09-21 18:06:18 +08:00今日活跃度排名 19170 |
sm1314 最近回复了
12 天前 回复了 qxdo1234 创建的主题 › 问与答 › 有没有一个还不错的训练自己的大语言模型的方式？ |
先看看开源的 chat 模型能不能解决你的问题。不能的话再考虑自己训练，可以使用类似 QLora 量化加速技术，入门就搞搞 SFT ，更进一步就 SFT+PPO/DPO; 由于 scaling law 的存在，7b 及以下模型在量化后性能都比较傻。具体选哪个可以 Huggingface 看榜单，选个排名高的 base 模型作为基座
41 天前 回复了 lurui45 创建的主题 › 问与答 › 如何在睡觉的时候不胡思乱想 |
背加法表。。。
76 天前 回复了 a1b2c3T 创建的主题 › 问与答 › 大佬们，什么工具清理 c 盘好点啊 |
spacesniffer +1
122 天前 回复了 V2er0755 创建的主题 › 问与答 › 大家会去缴个人养老金去抵扣个税吗 |
这才是真智商税
150 天前 回复了 saki22oimo 创建的主题 › 硬件 › G304,GPW,Anywhere 3 鼠标选择 |
vt9pro
172 天前 回复了 pipixiarwksb 创建的主题 › 生活 › 新希望和光明的奶选哪个订好点 |
光明优倍好喝，而且是真巴氏
Select Language