crackidz 最近的时间轴更新
crackidz

crackidz

V2EX 第 624177 号会员,加入于 2023-04-14 21:14:51 +08:00
今日活跃度排名 10729
crackidz 最近回复了
1 小时 8 分钟前
回复了 cowcomic 创建的主题 程序员 LLama3.1 的申请被拒了
国家写中国...你是不知道美国禁运么...
16 小时 0 分钟前
回复了 CNYoki 创建的主题 程序员 ollama 本地模型 GPU 跑不满
当然是换个后端... vllm 算是比较流行的企业级后端
16 小时 8 分钟前
回复了 gosky 创建的主题 Python Python asyncio 中怎么执行 cpu 密集型任务?
Python 主要冷启动耗时几十 ms 左右,剩下的交到你的代码中了,启动时间主要取决于你的代码吧...

上面说的基本差不多了,但现在不推荐用那个 nogil 版本,要改你的代码支持部分功能,第三方库也未见得支持。另外还有一些隐蔽 bug...
有自动化测试吗?即便 API 兼容,也可能实现不兼容
LLM 不可能完全绝对严格,有几种做法:
1. 换一个更好的模型...
2. 选择验证相对松散的验证,当然也仍旧会有概率有问题,但会比 JSON 低
3. 提升 prompt 尝试保证更强的输出,当然这对底模有要求,底模也要单独优化过
CrowdStrike 的背景这么多背书的怎么可能倒闭,排在前面的波音都还没倒呢
不敢,怕被说仇富
4 天前
回复了 desGalaxy 创建的主题 Windows Crowdstrike crash 是由空指针解引用导致
Rust 党又来了...
几十亿少了吧...如果只算微软的市值蒸发,3.26 trillion*0.0045.....
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4953 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 13ms · UTC 07:06 · PVG 15:06 · LAX 00:06 · JFK 03:06
Developed with CodeLauncher
♥ Do have faith in what you're doing.