Game2Player:让游戏环境与玩家共同迭代,采集视觉训练数据
研究通过实际游玩发现环境缺陷,再用代码策略和视觉模型收集轨迹;任务进度与成功条件由游戏内部状态判定。
论文阅读笔记 · arxiv.org · 原文日期 2026-11-18
568款游戏如何划分
Game2Player将现有网页游戏改造成可验证的训练环境。作者报告,筛选单人离线游戏、移除无法实现的任务后,得到568个环境、3436项任务,覆盖超过25种类型和七种主要引擎。其中50款游戏留作PlayerBench测试集,其余518款用于训练。
截图玩家与代码玩家分工
构建代理负责接出游戏内部状态,并据此定义任务进度和成功检查。两类玩家随后尝试每项任务:视觉语言模型看截图,在推理时暂停游戏;代码玩家则编写Python策略,读取玩家可见状态并实时运行,再根据记录的结果修改策略。
故障报告必须经过回放核验
玩家的失败报告不会直接触发修改。构建代理先回放对应片段,对照视频与状态轨迹判断问题是否成立;若证据反驳报告,就记录驳回理由。确认缺陷后,才修改游戏代码、状态探针或控制说明;缺少可读观测字段时,则补充字段并让玩家重试。
用进度信号选择训练重点
两类数据提供不同监督:代码策略可在游玩时不调用模型,重复采集示范;视觉玩家则留下动作解释,即使未完成目标,也能展示尝试过程。作者将两者蒸馏到基于像素输入的智能体,并在监督微调中提高推动任务进度的动作权重。
游戏环境不随研究材料分发
材料开放有明确边界。作者说明,游戏中只有少部分采用开源许可,其余虽可在公共网站免费游玩,却未获再分发授权。因此,发布范围包括框架源码、训练模型和任务规格,不包含游戏、素材及接入状态探针后的环境;其他材料仍待版权审查。
原始标题:Game2Player: Scaling Gameplay Experience for Visual Agents through Environment–Player Co-Development
来源:arxiv.org