llm-echo 0.5:用假模型测试 token 用量

指南Simon Willison2026年10月18日1 分钟阅读
Simon Willison 为 LLM 工具更新了调试插件 llm-echo,新版本在模拟 token 用量时会把工具调用、系统提示和推理 token 都算进去。这个插件不调用任何大模型,只是把收到的提示原样回显,适合离线测试。
本文编译自 llm-echo 0.5,版权归原作者所有。

觉得有用?分享给更多人

获取每周 AI 工具精选

工具推荐、实战教程和生态洞察,每周更新。

相关文章

三位Java Champion结合各自的生产实践,展示了GitHub Copilot在功能开发、课件迁移和终端UI应用等场景中的用法。他们强调验证结果、保持代码可维护性,并把AI当作协作伙伴而非替代者,核心原则是“委托执行,而非责任”。

指南GitHub·10月20日·8 分钟

Together Post-Training 提供灵活的模型后训练服务,支持 LoRA 和全权重微调,用户可自定义训练循环、损失函数和 rollout 策略。服务强调输出质量与训练效率,并支持训练后多 LoRA 部署和 FP4 推理。早期客户反馈积极,前八周 B200 GPU 每小时 9 美元。

指南·10月19日·6 分钟

评论