淘宝 MNN 团队开源 0.3B 手机模型，苹果 iPhone 18 Pro 离线跑出 350 token/s

内容摘要

淘宝旗下MNN团队发布MNN-Pocket-0.3B模型，面向手机应用的任务需求与资源预算设计。该模型在指定设备上解码吞吐超过200 token/s，峰值内存低于300MB，旨在在有限算力、内存和能耗下兼顾任务能力与响应速度。