法国初创Kog：从常规GPU中榨出更多推理性能
深度2026年8月14日5 分钟阅读
AI推理速度竞赛中，法国初创公司Kog押注能从企业现有的常规GPU中挖掘更多性能，而非依赖专用芯片。其技术预览在Hacker News上引发热议，并积累了200个商业线索，但实现“30倍推理加速”仍需跨越从2B小模型到大模型的鸿沟。
本文编译自 Kog is going deeper to squeeze more inference out of GPUs，版权归原作者所有。
觉得有用？分享给更多人
相关文章
Kubernetes 原本假设软件只做开发者让它做的事，但 AI Agent 会自主推理、调用工具、编写代码，打破了这一前提。文章讨论了 Agent 负载对 Kubernetes 提出的三大挑战：安全沙箱缺失、生命周期极短需要快速启动、以及监控难题，并介绍了社区正在探索的 agent substrate 方案——让 Agent 在热池中保持挂起状态以实现毫秒级恢复。
深度The New Stack·10月25日·5 分钟
AWS 正式发布代码安全智能体 Continuum，在其自研的 CyberGym-E2E 基准测试中取得 89% 的端到端修复成功率，相比之前公开最高分 65.9% 大幅提升。但基准测试仅覆盖 C/C++ 内存安全漏洞，且由 AWS 自行执行；在历史漏洞修复这一项上得分仅 37.8%，说明修复的未必是预设目标漏洞。
深度The New Stack·10月24日·3 分钟