S
SkillNav

Dan Woods 用 Apple 论文在 MacBook 上跑 Qwen 397B

深度Simon Willison2026年3月18日2 分钟阅读
Dan Woods 利用 Apple 的「LLM in a Flash」研究，在 48GB 内存的 MacBook Pro M3 Max 上，让 Qwen3.5-397B-A17B 模型以每秒 5.5+ token 的速度运行。他通过 Claude Code 自动执行了 90 次实验，生成了优化的 MLX 和 Metal 代码。
本文编译自 Autoresearching Apple's "LLM in a Flash" to run Qwen 397B locally，版权归原作者所有。

觉得有用？分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察，每周更新。

关注 @skillnav_dev →阅读周刊

相关文章

Anthropic 新手与 OpenAI 老将的对决：新 Playground 完胜

Anthropic 用无状态的 Playground 取代了 Workbench，砍掉了保存提示词和多轮评估等功能。实测中，它一次就能导出可直接运行的代码，而 OpenAI 导出的只是会话记录。作者认为 Anthropic 没有敷衍，留下的部分确实好用。

深度The New Stack·8月24日·6 分钟

General Intuition 60亿美元估值融资，主攻具身智能

总部位于纽约的 General Intuition 正以 60 亿美元投前估值洽谈融资，新投资者包括 Valor Equity Partners、Point72 Ventures 和 Seven Seven Six，老股东 Khosla Ventures 和 General Catalyst 也参与。公司计划将资金用于提升通用模型，重点发展机器人具身智能。

深度·8月24日·3 分钟

评论