英伟达把 74B 智能体模型压进 24GB,塞进笔记本

深度The New Stack2026年10月15日5 分钟阅读
英伟达把 74B 智能体模型压进 24GB,塞进笔记本
英伟达发布 Nemotron 3.5 系列新品,其中 Bolt 74B-A9B 用 2-bit 量化把 74B 混合专家模型的内存占用压到 24GB,官方称其在 Terminal-Bench 2.1 上跑赢同尺寸的 Qwen3.6-35B-A3B 和 Gemma4 26B-A4B。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

AI 智能体不仅访问系统,还会解释目标、选择工具、创建子智能体并继承人类凭证执行动作,静态权限检查无法覆盖。文章主张在动作级别进行授权,结合智能体身份、委托来源、目标资源和策略做出决策,并通过观察、强制、构建、部署四个相互关联的环节,将安全融入智能体的整个生命周期。

深度The New Stack·10月22日·8 分钟

Google 宣布 Agent Compute Engine 将于今年晚些时候在 Google Cloud 上预览,为每个智能体提供硬件隔离的微虚拟机,兼顾容器速度与沙箱安全。同时,开源项目 Agent Substrate 将类似能力带到 GKE,支持高密度智能体部署。

深度The New Stack·10月22日·7 分钟

评论