falconwang0110 最近的时间轴更新 falconwang0110 最近的时间轴更新 |
falconwang0110V2EX 第 507983 号会员，加入于 2020-09-14 13:46:15 +08:00今日活跃度排名 11830 |
| Windows 11 出现键盘双击问题 问与答 • falconwang0110 • 2025 年 12 月 8 日 • 最后回复来自 veni2023 | 1 |
| Wails2+Vue3 本地的绑定文件和 Vite 上的不一致 Go 编程语言 • falconwang0110 • 2025 年 11 月 21 日 • 最后回复来自 falconwang0110 | 4 |
falconwang0110 最近回复了
14 天前 回复了 uruana 创建的主题 › 程序员 › 注册了一个 aws 账号，用 root 登录，但却无法使用大模型 |
不是提示让你发工单吗
19 天前 回复了 yang0327519 创建的主题 › 教育 › AI 都那么强了，传统的学校教育价值是不是大打折扣？ |
教书不仅仅是教知识，还有思考方法和习惯，放到 AI 的语境下，至少你要有能力去分析 AI 给出的答案，并作出判断。更何况义务教育的意义除了教书，更重要的是育人。
2025 年 12 月 16 日 回复了 usenix 创建的主题 › 软件 › 受不了 Evernote 一直涨价，求替代 |
飞书知识库，主力用了两年多了，笔记多了略微有点儿卡，但是功能完备，好用
2025 年 12 月 2 日 回复了 aptupdate 创建的主题 › 信息安全 › 笑不出来，用了好多年的 Infinity 新标签页 疑似被投毒 |
我说呢，今儿早上 Edge 突然把这个插件给我自动禁用了然后报毒，光速卸载
2025 年 11 月 21 日 回复了 xfn 创建的主题 › 生活 › 大家在成长过程中有过"开窍"的那一刻吗？ |
有的兄弟有的，但是很难 pinpoint 出一个 “顿悟时刻”，对我来说应该是 “顿悟时段”
2024 年 12 月 3 日 回复了 hoodjannn 创建的主题 › 程序员 › ai 小白请教，大模型必须要 gpu 服务器吗，单纯推理是不是 cpu 就可以了。 |
无 GPU 推理有两个方案：
1. 调用 API ，这样你自己的服务端只需要接受用户输入并返回模型输出即可，1c2g 应该问题不大。
2. 线上推理，对于语言模型也可以用 CPU 进行 inference ，但是会很慢，量化为 INT4 后，4 代 Xeon 大概能做到每个 token 20~80ms （ 3B~20B 模型），reference: [Efficient LLM Inference on CPUs]
1. 调用 API ，这样你自己的服务端只需要接受用户输入并返回模型输出即可，1c2g 应该问题不大。
2. 线上推理，对于语言模型也可以用 CPU 进行 inference ，但是会很慢，量化为 INT4 后，4 代 Xeon 大概能做到每个 token 20~80ms （ 3B~20B 模型），reference: [Efficient LLM Inference on CPUs]
2024 年 10 月 17 日 回复了 iqoo 创建的主题 › 分享创造 › 改进了之前「按耳机发摩尔斯码」程序 |
已 star ，有意思，后面有计划开发连续输入词组或句子吗。
Select Language