Nvidia的GameGAN通过观看视频来生成类似吃豆人的游戏

发布时间：2020-05-25 15:08:57 【来源：】

两年前，Nvidia研究人员详细介绍了可以生成视觉效果并将其与游戏引擎结合在一起的AI，以创建一个交互式，可导航的环境。作为这项工作的后续措施，该公司，矢量研究所，麻省理工学院和多伦多大学的科学家本周发表了一篇论文，描述了GameGAN，该系统可以在没有底层引擎的情况下合成游戏的功能版本。

尽管从表面上看游戏生成似乎不是AI的最实际应用，但GameGAN之类的算法可能有一天被用来生产用于训练机器人系统的模拟器。在将机器人控制的AI部署到现实世界之前，通常会在模拟环境中进行广泛的测试，其中包括程序模型，这些模型综合了场景和行为树，这些树指定了模拟中代理的行为。编写这些模型和树需要时间和熟练的领域专家，这意味着希望将模型转移到现实机器人中的公司的支出会增加。

值得一提的是，GameGAN并不是第一个旨在解决游戏生成问题的系统。一个最近的一篇文章由谷歌大脑研究合着描述了一种算法，使用视频预测技术对列车的雅达利游戏了解到模型中玩游戏的AI。佐治亚理工学院的一项研究提出了一种算法，该算法吸收游戏画面并概率性地绘制游戏中对象之间的关系及其变化方式。Facebook的系统可以从网球运动员，击剑教练等的真实视频中提取可控角色。像加利福尼亚大学，圣塔芭芭拉分校和意大利米兰理工大学的研究人员所提出的那样的系统，则利用现有阶段的知识来创造游戏中的新阶段，例如厄运与超级马里奥兄弟。

但是GameGAN独特地将游戏创建框架视为图像生成问题。给定游戏中的帧序列和游戏中相应的行动者(即玩家)采取的动作，系统使用经过训练的AI模型在视觉上模仿游戏。具体而言，GameGAN在训练过程中会摄取剧本和键盘操作，并旨在通过限制操作(例如，玩家按下的按钮)来预测下一帧。它直接利用图像和动作对学习，而无需访问底层的逻辑或引擎，利用内存模块鼓励系统构建游戏环境的地图。解码器学习如何解开帧中的静态和动态分量，从而使GameGAN的行为更易于解释，并且它可以通过交换各种资产来即时修改现有游戏。

要做到这一点，需要克服研究人员面临的巨大设计挑战，例如模拟物理引擎并保持长期一致性。(玩家通常希望他们返回时离开的场景看起来相同)。他们还必须确保GameGAN可以在尝试重新创建的游戏中模拟确定性(可预测)和随机(随机)行为。

三个部分的模型

团队的解决方案是一个由三部分组成的模型，该模型由动态引擎，上述内存模块和渲染引擎组成。在较高的层次上，GameGAN通过实时生成环境框架，甚至是以前从未见过的布局，来响应AI代理在玩生成的游戏时的行为。

动力学引擎负责了解在游戏环境中(例如穿墙而过)哪些行为是“不允许的”，并负责建模对象作为行为结果的反应方式。内存模块建立了长期的一致性，因此模拟场景(如建筑物和街道)不会随时间变化，这部分是通过“记住”每个生成的场景来实现的。(内存模型还检索所需的静态元素，例如背景。)渲染引擎(管道的最后一步)将在给定对象和属性贴图的情况下渲染模拟图像，并通过遮挡对象自动考虑深度。

GameGAN使用一种所谓的对抗方法进行训练，在该方法中，系统尝试“欺骗”鉴别器(单图像鉴别器，行动条件鉴别器和时间鉴别器)以生成逼真的，连贯的游戏。GameGAN使用分布从随机噪声样本中合成图像，然后将它们与训练数据集中的真实示例一起馈送到鉴别器，以尝试区分两者。GameGAN和鉴别器在各自的能力上都会有所提高，直到鉴别器无法从合成示例中分辨出真实示例时，其准确率要高于预期的50%。

训练以无监督的方式进行，这意味着GameGAN可以在不参考已知，标记或注释结果的情况下推断数据集中的模式。有趣的是，鉴别者的工作会告知GameGAN-鉴别者每次正确识别合成作品时，都会告诉GameGAN如何调整其输出，以便将来可能更加现实。

实验

在实验中，Nvidia团队在四天内为GameGAN提供了50,000集(共几百万帧)的Pac-Man和基于Doom的AI研究平台VizDoom。(Bandai Namco的研究部门提供了Pac-Man的副本以进行培训。)他们使用了Pac-Man的修改版，其环境是正常大小的一半(7 x 7网格而不是14 x 14网格)以及名为Pac-Man-Maze的变体，该变体没有鬼影，并且具有通过算法随机创建的墙。

除了偶尔的失败案例外，GameGAN确实提供了“时间上一致的”“吃豆人”和“毁灭战士”般的体验，其中包括幻影和颗粒(在“吃豆人”的情况下)以及火球和房间(VizDoom)。

也许更令人兴奋的是，由于其解缠步骤，该系统允许模拟游戏中的敌人在地图周围移动，并且背景或前景可以与随机图像交换。

为了更定量地衡量所生成游戏的质量，研究人员在这两个游戏中均部署了强化学习代理，并要求他们取得高分。例如，Pac-Man剂必须“吃掉”颗粒并捕获旗帜，并且每次鬼魂消耗掉它或使用最大步数时都将受到惩罚。在100个测试环境的过程中，这些代理商解决了类似VizDoom的游戏-使他们成为第一个使用GAN框架进行培训的人，并宣称他们达到了“吃豆人”的多个基准。

研究人员认为，GameGAN具有明显的游戏设计适用性，可以与Promethean AI的艺术生成平台等工具一起使用，以快速创建新的关卡和环境。但是他们也预想了未来类似的系统，它们可以通过观看视频和观察代理商采取行动来学习模仿驾驶规则或物理定律。在不久的将来，如之前提到的，GameGAN可以编写模拟器来训练可以抓握并移动物体的仓库机器人，或者必须横穿人行道以运送食物和药品的运送机器人。

Nvidia表示，它将在今年晚些时候在其AI Playground平台上提供其实验产生的游戏。

上一篇：使命召唤:现代战争仍然是2020年最畅销的游戏
下一篇：Nexon首席执行长马奥尼认为网络游戏将带来永久性收益