llm-echo 0.5:用假模型测试 token 用量
指南Simon Willison2026年10月18日1 分钟阅读
Simon Willison 为 LLM 工具更新了调试插件 llm-echo,新版本在模拟 token 用量时会把工具调用、系统提示和推理 token 都算进去。这个插件不调用任何大模型,只是把收到的提示原样回显,适合离线测试。
本文编译自 llm-echo 0.5,版权归原作者所有。
觉得有用?分享给更多人
觉得有用?分享给更多人
三位Java Champion结合各自的生产实践,展示了GitHub Copilot在功能开发、课件迁移和终端UI应用等场景中的用法。他们强调验证结果、保持代码可维护性,并把AI当作协作伙伴而非替代者,核心原则是“委托执行,而非责任”。
Together Post-Training 提供灵活的模型后训练服务,支持 LoRA 和全权重微调,用户可自定义训练循环、损失函数和 rollout 策略。服务强调输出质量与训练效率,并支持训练后多 LoRA 部署和 FP4 推理。早期客户反馈积极,前八周 B200 GPU 每小时 9 美元。