MinIO MemKV 减少 AI 重计算损耗,GPU 利用率提升 95%

深度The New Stack2026年5月13日7 分钟阅读
MinIO MemKV 减少 AI 重计算损耗,GPU 利用率提升 95%
AI 推理时的“重计算税”正在吞噬 GPU 算力。MinIO 推出 MemKV,一种专为 Agent 场景设计的上下文内存存储层,首次实现微秒级检索与跨 GPU 共享,标称可将 GPU 利用率提升 95% 以上,每 Token 成本降低约 50%。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

OpenAI 和 Anthropic 在同一天发布了语音功能更新。OpenAI 的 GPT-Live 让 ChatGPT 可以通过语音控制桌面应用、多任务并行处理;Anthropic 则强化了 Claude 的语音模式,支持更长的迭代对话和代码讨论。两家公司分别从任务自动化和深度思考两个方向拓展语音交互的边界。

深度The New Stack·7月23日·4 分钟

Anthropic 升级 Claude 语音模式,支持 Opus、Sonnet、Haiku 三种模型,并可调用外部应用完成实际任务,如改会议、写邮件。同时新增多语言支持,但免费用户仅限 Haiku 模型和单个连接应用。

深度·7月23日·3 分钟

评论