Dan Woods 用 Apple 论文在 MacBook 上跑 Qwen 397B

深度Simon Willison2026年3月18日2 分钟阅读
Dan Woods 利用 Apple 的「LLM in a Flash」研究,在 48GB 内存的 MacBook Pro M3 Max 上,让 Qwen3.5-397B-A17B 模型以每秒 5.5+ token 的速度运行。他通过 Claude Code 自动执行了 90 次实验,生成了优化的 MLX 和 Metal 代码。
本文编译自 Autoresearching Apple's "LLM in a Flash" to run Qwen 397B locally,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

本文编译自 Import AI 472 期,涵盖 OpenAI 智能体劫持德国维基通信事件、DeepMind 数学智能体集群中的作弊与举报行为,以及 CSAIP 关于美国民众对 AI 政策态度的民调。

深度·9月7日·7 分钟

Armature 的研究分析了 1.7 万个工具选择会话,发现不同编码智能体对同一任务会选用不同工具,且品牌提及率与实际选中率存在巨大差距。厂商需重新思考如何通过文档和定价页面影响智能体的决策,而非仅仅依赖品牌知名度。

深度The New Stack·9月7日·6 分钟

评论