IBM 等向 CNCF 捐赠 Kubernetes LLM 推理框架

深度The New Stack2026年3月24日4 分钟阅读
IBM 等向 CNCF 捐赠 Kubernetes LLM 推理框架
IBM、红帽和谷歌将开源框架 llm-d 捐赠给 CNCF,这是一个基于 Kubernetes 的分布式推理框架,旨在让大语言模型推理成为云原生的一等公民。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

谷歌发布了 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款新模型,主打更高效率、更低成本和专门化场景(如网络安全)。但旗舰模型 Gemini 3.5 Pro 迟迟未更新,而竞争对手 OpenAI 和 Anthropic 已推出多款新模型,加剧了市场压力。

深度·7月21日·3 分钟

Google 推出 Gemini 3.6 Flash、3.5 Flash-Lite 和 3.5 Flash Cyber 三款模型。3.6 Flash 在多项基准测试中显著优于 3.5 Flash,且成本更低;3.5 Flash-Lite 速度最快、性价比最高;3.5 Flash Cyber 专用于网络安全,仅限有限试点。此外,3.5 Pro 正在测试中,Gemini 4 预训练已启动。

深度·7月21日·5 分钟

评论