用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s

教程2026年5月10日18 分钟阅读
用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s
本文是系列第一篇,作者尝试用纯 Swift(不依赖任何框架或库)编写手写矩阵乘法,并将其优化到可训练 LLM 的速度。从基础 Swift 实现(比 C 慢 15-20 倍)开始,逐步探索使用 MutableSpan 等技巧,最终性能大幅提升。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

智能体流量与 Web 流量有四个关键差异:对话有状态但请求无状态、工具调用扇出不可预测、重试激进、负载突发。单体 API 在单机下正常,一旦水平扩展就会静默丢失上下文。解法是把计算拆开、把数据收拢:网关、记忆、工具各自独立,但会话状态、工具审计、向量记忆和幂等账本放在同一个数据库事务里提交。

教程The New Stack·10月8日·9 分钟

Canvas(画布扩展)是 GitHub Copilot 应用里的一种可定制界面,由你和 Agent 共享。输入 /create-canvas 并用自然语言描述需求,Agent 就会自动生成界面。它支持双向同步:你点按钮、拖卡片,Agent 立刻看得到;Agent 更新内容,你也马上能看到。

教程GitHub·9月25日·4 分钟

评论