Anthropic 切断第三方执行框架订阅，开发者担忧工作流碎片化

ZML发布免费推理优化软件ZML/LLMD，支持多种AI芯片，包括NVIDIA、AMD、Google TPU等，打破供应商锁定。该产品短期内免费，旨在积累用户与使用数据，未来再考虑商业化。ZML团队仅20人，已获2000万美元融资。

Vercel 每天路由超万亿 token，Coinbase 通过默认使用开源模型、任务路由和激进缓存将 AI 成本降低近一半。两者均采用模型网关作为控制平面，动态选择模型，并强调持续评估和可观测性的重要性。