百度开源 vLLM-Kunlun:让 vLLM 跑在昆仑 XPU 上
指南2026年7月31日8 分钟阅读
百度开源的 vLLM-Kunlun 是一个社区维护的硬件插件,让 vLLM 能无缝运行在昆仑 XPU 上。目前支持 20+ 主流模型,包括 Qwen、Llama、DeepSeek 等,还支持 W8A8、AWQ 等量化方案和 LoRA 微调。
本文编译自 vLLM for Baidu Kunlun,版权归原作者所有。
觉得有用?分享给更多人
觉得有用?分享给更多人
三位Java Champion结合各自的生产实践,展示了GitHub Copilot在功能开发、课件迁移和终端UI应用等场景中的用法。他们强调验证结果、保持代码可维护性,并把AI当作协作伙伴而非替代者,核心原则是“委托执行,而非责任”。
Together Post-Training 提供灵活的模型后训练服务,支持 LoRA 和全权重微调,用户可自定义训练循环、损失函数和 rollout 策略。服务强调输出质量与训练效率,并支持训练后多 LoRA 部署和 FP4 推理。早期客户反馈积极,前八周 B200 GPU 每小时 9 美元。