longredzzz 最近的时间轴更新 longredzzz 最近的时间轴更新 |
longredzzzV2EX 第 271508 号会员，加入于 2017-12-01 10:46:35 +08:00今日活跃度排名 19671 |
longredzzz 最近回复了
98 天前 回复了 kingdom8 创建的主题 › 程序员 › 求本地大量 PDF 文档管理工具推荐？ |
zotero + webdav
106 天前 回复了 q218946 创建的主题 › 程序员 › 有做过 AI 模型的老哥吗？图片识别模型，无法释放内存，无法做并发 |
内存无法释放可能是 paddle 的问题，可以考虑将 paddle 模型转化为 onnx 模型进行调用。
并发问题可以考虑同一时刻接受到的图片合并成 batch 一个然后推理，可以参考 https://docs.ray.io/en/latest/serve/advanced-guides/dyn-req-batch.html
并发问题可以考虑同一时刻接受到的图片合并成 batch 一个然后推理，可以参考 https://docs.ray.io/en/latest/serve/advanced-guides/dyn-req-batch.html
118 天前 回复了 Haku 创建的主题 › Python › Python 中如何在内存中优雅地提取视频帧？ |
118 天前 回复了 chy5301 创建的主题 › Windows › 求推荐比较好用的 Windows 远程控制方案 |
我目前的方案是：tailscale + 自建 derp + rdp
132 天前 回复了 cinlen 创建的主题 › NVIDIA › NVIDIA 消费级显卡有没有免费靠谱的多个容器共享的方案？ |
https://github.com/Project-HAMi/HAMi
推荐这个项目，支持显存切分，算力切分，虚拟显存。
推荐这个项目，支持显存切分，算力切分，虚拟显存。
Select Language