论文
AI 前沿论文中文翻译与导读,覆盖智能体、多模态、具身智能等方向
AI 前沿论文中文翻译与导读,覆盖智能体、多模态、具身智能等方向
本文指出机器人通用智能的瓶颈不仅在于策略学习,更缺乏将非结构化行为数据转化为机器人可用监督信号的机制。作者识别出四个缺失组件:数据接口、具身接口、世界模型接口和奖励接口,并提出从更广泛的物理世界学习的研发议程。
AnchorWorld提出了一种新的框架,通过引入外源性视角辅助训练,解决了自我中心视角下身体部位遮挡问题,实现了更鲁棒的人-世界交互空间定位。同时,该框架支持通过锚点视角和文本描述定制动态演化的虚拟世界,实验表明其在空间-时间几何一致性上显著优于现有方法。
本文提出OpenSkill框架,使大语言模型智能体在无目标任务监督下,通过从文档、代码库和网络中自主获取知识并构建验证锚点,实现自我进化和技能迁移。实验表明,该框架在多个基准测试中取得最佳自动化通过率,且技能可跨模型迁移,无需模型特定适配。
Domino将因果依赖建模与昂贵的自回归草稿执行解耦,先通过并行草稿骨干生成初步分布,再用轻量级Domino头添加前缀依赖信息。实验表明,在Qwen3模型上取得5.49倍端到端加速,显著提升推理效率。
本文提出OCC-RAG,一个通过大规模合成多上下文、多跳问答数据训练的小语言模型系列。实验表明,该模型在多跳推理、忠实性和拒答基准上可匹敌或超越2-6倍大小的通用模型,证明了任务专用小模型的潜力。
本文提出Humanoid-GPT,一个基于GPT风格的因果注意力Transformer,在20亿帧的运动数据上预训练,实现全身运动控制。通过扩大数据和模型规模,该模型在高度动态行为追踪上达到新性能水平,并展现出对未见运动和任务的零样本泛化能力。
本文提出BrainCause框架,结合生成模型与脑编码模型,通过合成受控刺激进行因果测试,以验证人脑中视觉概念的表征。框架能恢复已知功能定位并发现新候选表征,且证明仅凭激活水平会带来大量误报。
本文提出TASTE方法,通过反向任务构建流程自动生成具有更广工具覆盖和更高难度的智能体基准任务。使用TASTE构建的τ^c-Bench在三个领域扩展了τ^2-Bench,实验表明原本接近饱和的模型性能大幅下降,且工具组合数量翻倍。该方法为未来智能体提供了可扩展的持续评估途径。
本文提出Draft-OPD,通过在线策略蒸馏训练草稿模型,解决传统监督微调中因训练与推理分布不匹配导致的性能瓶颈。实验表明,该方法在多种任务上实现5倍以上无损加速,优于EAGLE-3和DFlash分别23%和13%。
本文提出EarlyTom,一种无需训练的令牌压缩框架,在视觉编码器内部早期阶段进行视觉令牌压缩,显著降低视频大模型的首令牌延迟(TTFT)并提高吞吐量。在LLaVA-OneVision-7B模型上,TTFT降低2.65倍,FLOPs减少61%,且精度与全令牌基线相当。该方法有效解决了视频大模型实际部署中的效率瓶颈。
本研究提出一种表征级分析框架,通过构造最小对比对探测视觉语言模型(VLM)中空间轴的表示。结果发现模型普遍存在垂直-距离纠缠偏差,即混淆图像垂直位置与实际距离,该偏差在数据扩展下加剧,且即使基准准确率提升仍存在。为隔离该偏差,作者构建合成基准SpatialTunnel,证实偏差源于模型本身,而空间轴分离良好的模型具有更强的鲁棒性。
本文首次将多头潜在注意力(MLA)应用于视频扩散模型,提出VideoMLA框架。通过共享低秩内容潜在和分离的3D-RoPE位置键,将每token的KV缓存内存减少92.7%,同时保持生成质量。实验表明,即使视频注意力并非低秩,MLA瓶颈仍能有效压缩,在长视频生成中取得最佳总体分数,吞吐量提升1.23倍。