kaichen

你有没有看过各种药物实验都有对照组？即使是安慰剂组也比不用药组要好？人体本身调节和免疫机制也很强大的，所以医生说让病人保持心情愉快不是没有依据的方法。

另外，也可能是你前面吃的药效起作用了，药物本身疗程也需要时间；当然也可能是高反效应慢慢被身体处理了。

openrouter & wordware & flowith 这三个东西都不是一个赛道的吧？你们是要做的是把这三个拼到一起？

大模型是个概率模型，你骂他，和他讲反例，只会把概率引导到更加不符合你需求的结果

另外，由于上下文有限，你聊越久前面的内容会遗忘，或者注意力大幅降低

#19 @shuimugan

gpt4 代码写很烂，只有 claude-3.5 才能写出大概正确的代码片段

我的观点是，现在民用本地设备，跑模型写代码这个事情非常不实惠，买个 cursor 20 刀一个月，是本地跑的 100x 效果

可以参考一下这个 aider 的排行榜，基本的算法题，

本地跑 72B 4bit 量化的要 40Gb 显存，也才能做答个 60 分

跑起来很快的 8B 小模型，就 30 多分，你用这个来写代码，就像教小学生写作业，得被气得半死

https://aider.chat/docs/leaderboards/

去买官翻的 mac studio 有性价比

去闲鱼买 mac studio 更有性价比

其实你要的是内存，大部分时候用打不到性能的完全释放，另外 mac studio 的散热是能支持性能持续释放的，比本子和 mini 都好

@HomeZane 去 PDD 买贴纸贴上

大力出奇迹，几本书是不够，要很多很多。

参考，推理能力超过 gpt-3.5 的 Llama3

- https://ai.meta.com/blog/meta-llama-3/
- https://ai.meta.com/blog/meta-llama-3-1/

> Meta reports on Llama 3.1's page on Huggingface, using 39.3 million hours of H100 80GB instances to train all 3.1 models (8, 70, 400 B).

大概是，两万四千张 H100 训练 74 天

> Llama 3 is pretrained on over 15T tokens that were all collected from publicly available sources.

大概等同于 60TB 数据，在它的技术报告里，提到这是更大的数据集上做清洗去重的精华

---

所以先有这么多的资源才能训练得到高质量机器人