用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s

教程2026年5月10日18 分钟阅读
用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s
本文是系列第一篇,作者尝试用纯 Swift(不依赖任何框架或库)编写手写矩阵乘法,并将其优化到可训练 LLM 的速度。从基础 Swift 实现(比 C 慢 15-20 倍)开始,逐步探索使用 MutableSpan 等技巧,最终性能大幅提升。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

Matt Pocock 介绍了他新发布的 /wayfinder Skill,针对项目规划阶段“迷雾重重”的场景,通过地图、门票等概念拆分任务,让 Agent 自主完成规划、原型和研究。他强调术语一致性的重要性,并建议在单体会话能完成的小任务上使用原有的 grill-me Skill。

教程Latent Space·8月20日·6 分钟

文章指出,Token 优化是一个系统性问题,重点在于工作流重构而非单纯压缩提示词。通过引入语义缓存、上下文预算、模型路由等架构组件,可以显著减少重复计算,降低成本与延迟。

教程The New Stack·8月20日·12 分钟

评论