One MacBook Pro Beat Apple's Four Mac Studios at WWDC26 LoRA Fine-Tuning

AI 摘要

一支小型团队自研张量引擎 NukeTorch，在苹果 WWDC26 展示的 Qwen3.5-9B LoRA 微调任务上，用四台 MacBook Pro M5 Max（各 48GB）通过流水线并行达到 5358.5 tokens/s，约为苹果四台 M3 Ultra Mac Studio 数据并行方案（约 600 tokens/s）的 8.45 倍以上；单台 M5 Max 也以约 180 tokens/s 超过单台 Mac Studio 的 1440.8 tokens/s 之外的对比基线。团队称提速主要来自张量存储重排（Unfolding）与矩阵乘形状切分（Shaping）两项已发表方法，并强调未实际运行苹果的硬件配置。