用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s

教程2026年5月10日18 分钟阅读
用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s
本文是系列第一篇,作者尝试用纯 Swift(不依赖任何框架或库)编写手写矩阵乘法,并将其优化到可训练 LLM 的速度。从基础 Swift 实现(比 C 慢 15-20 倍)开始,逐步探索使用 MutableSpan 等技巧,最终性能大幅提升。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

作者基于 LLM 库构建了一个简单的编码 Agent,实现了文件编辑、命令执行、文件搜索等工具,并通过 CLI 和 Python API 提供交互。实验展示了 Agent 自动生成代码的能力。

教程Simon Willison·7月2日·4 分钟

使用 DSPy 框架评估和优化 Datasette Agent 的 SQL 回答系统提示词。方法包括构建测试框架、生成自动评估数据集、运行优化循环,并发现了多个改进方向。

教程Simon Willison·7月2日·3 分钟

评论