用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s

教程2026年5月10日18 分钟阅读
用 Swift 训练 LLM:矩阵乘法从 Gflop/s 到 Tflop/s
本文是系列第一篇,作者尝试用纯 Swift(不依赖任何框架或库)编写手写矩阵乘法,并将其优化到可训练 LLM 的速度。从基础 Swift 实现(比 C 慢 15-20 倍)开始,逐步探索使用 MutableSpan 等技巧,最终性能大幅提升。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

本文介绍了 GitHub Copilot 应用中的并行智能体会话功能,解释了如何通过会话视图和 Git worktree 实现任务并行处理。通过示例仓库 tailspin-toys,展示了如何同时发起多个任务,并强调了独立上下文和任务隔离的优势。

教程GitHub·9月3日·3 分钟

标准 RAG 在处理多跳查询和全局汇总时力不从心,GraphRAG 通过构建知识图谱,结合向量搜索和图遍历,实现了准确的多跳推理。本文提供了从安装依赖到实际编码的完整教程,并讨论了采用 GraphRAG 的权衡。

教程The New Stack·8月27日·8 分钟

评论