CoreML 模型 ML Program 格式加载耗时比 Neural Network 格式长很多…

iOS 开发实用技术导航

NSHipster 中文版

› http://nshipster.cn/

cocos2d 开源 2D 游戏引擎

› http://www.cocos2d-iphone.org/

CocoaPods

› http://cocoapods.org/

Google Analytics for Mobile 统计解决方案

› http://code.google.com/mobile/analytics/

WWDC

› https://developer.apple.com/wwdc/

Design Guides and Resources

› https://developer.apple.com/design/

Transcripts of WWDC sessions

› http://asciiwwdc.com

Cocoa with Love

› http://cocoawithlove.com/

Cocoa Dev Central

› http://cocoadevcentral.com/

NSHipster

› http://nshipster.com/

Style Guides

› Google Objective-C Style Guide

› NYTimes Objective-C Style Guide

Useful Tools and Services

› Charles Web Debugging Proxy

› Smore

This topic created in 335 days ago, the information mentioned may be changed or developed.

我不知道是不是转换的问题，转换的脚本除了输出格式外其他完全一样，加载的时间差异在 15 倍以上…就算是初次加载这个时间也有点难以接受了，更何况图中还是中位数…

ML Program 格式性能

Neural Network 格式性能

有大手子指导一下么？非常感谢！

P.S. 已经提了 issue 暂时还没人管…

coreml

ML Program

Neural Network

1 replies • 2025-06-17 10:33:12 +08:00

keakon

Jun 17, 2025

一些观点：
1. NN 图层更静态，加载时的动态处理较少。
2. INT8 等精度需要重新量化。
3. 支持 ANE 时会生成一个高度特化的 Metal-Shading-Language 内核，速度会慢一个数量级。第一次启动时可以使用 cpuAndGPU 的方式启动，后台再编译 cpuAndNeuralEngine 供后续加载加速。
4. ct.SpecializationStrategy.FastPrediction 可以减少设备特化时间。