Embla-1

AI 摘要

Sevren 团队发布 Embla 1，一款专为手机端设计的推理模型，可离线运行、每次请求免费。模型采用 32 层、每 token 激活 8 个路由专家加 1 个共享专家的稀疏架构，经 1.4T token 预训练、123B token 监督微调及多阶段强化学习训练，并在训练末段引入 4 比特量化感知训练。在 iPhone 18 Pro 上以 4 比特运行时，该模型在 BFCL、IFBench、AA-Omniscience、GPQA 和 MATH-500 五项基准上的平均分为 57.4，端到端延迟 1.77 秒；测试中 12 个模型里有 5 个得分更高，但耗时至少为其两倍。其 4 比特权重已在 Hugging Face 公开。