Together AI 实现开源模型推理速度翻倍
指南2025年12月1日4 分钟阅读
Together AI 通过 GPU 优化、高级推测解码和 FP4 量化，将 Qwen、DeepSeek、Kimi 等主流开源模型的推理速度提升高达 2 倍，在 NVIDIA Blackwell 架构的速度基准测试中排名第一。
觉得有用？分享给更多人
相关文章
llm 0.33 升级了 OpenAI Python 库并切换 HTTP 客户端，嵌入模型现在支持 --key 参数，llm prompt -t/--template 可重复使用以组合模板，并新增 reasoning_summary 选项用于控制推理摘要的详细程度。
指南Simon Willison·8月22日·3 分钟
Cloudflare 推出 Bot Preference Sync，自动将 AI 机器人偏好（Search、Agent、Training）同步到 robots.txt，减少手动维护。该功能面向所有用户，并默认开启，同时要求混合用途爬虫提供透明度，否则在禁止训练时仍会被阻止。
指南·8月21日·5 分钟