Swiftlet:在 Mac 上运行 80B 版 Qwen(内存 4.3 GB),在 iPhone 上运行 35B 版
Swiftlet 是一个 Swift + Metal 运行时,可在普通 Apple 设备上运行 Qwen3-Next 和 Qwen3.5/3.6 MoE 混合模型,仅将小型稠密核心驻留内存,按需从存储流式加载路由专家权重。 🔗 阅读原文 via AI HOT · https://aihot.virxact.com/items/cmsebb0mc0kn1ro2ejvmi5lg8
来源:AI Hot News · RSS