苹果在 WWDC 发布了 CoreAI,一个给自家芯片用的端侧推理引擎,用来替代 CoreML
Apple announced new on device inference engine for Apple Silicon
苹果在 WWDC 上公布了 CoreAI,定位是 CoreML 的继任者,专门在苹果芯片上跑模型推理。模型得先用 Python 脚本转一道才能用,目前支持的模型列表主要是 2025 年年中左右的版本。帖子正文没给出任何性能数据,速度、内存占用、功耗这些关键指标一概没提,所以实际跑起来快不快、省不省资源还不好说。
推荐理由:苹果在 WWDC 公布 CoreAI 作为 CoreML 继任者,用于在苹果芯片上跑模型推理,模型需先用 Python 脚本转换,目前支持列表以 2025 年年中版本为主。