研究人员提出了对黑匣子应用程序进行反向工程的AI系统

发布时间：2020-06-29 14:28:55 【来源：】

一个预印本论文的研究人员在DeepMind和CISPA亥姆霍兹中心的信息安全发布的叙述能逆向工程的书面教育编程语言卡雷尔程序黑匣子功能的AI系统。他们声称，仅访问应用程序的输入和输出(I / O)，他们称该系统(称为IReEn)可以迭代地改善目标应用程序的副本，直到其功能与原始应用程序等效为止。

逆向工程在某些领域可能带有邪恶的含义，但并非没有合法的应用。例如，如果源代码丢失，它可以帮助恢复软件，或者帮助检测和消除恶意软件。尽管已经提出了几种机器学习驱动的逆向工程技术，但是大多数技术都无法恢复功能性和人类可理解的程序形式。但是IReEn可以。

IReEn通过使用从分布中提取的随机输入来查询目标程序的功能来获取一组I / O。以获得的I / O为条件的称为神经程序合成器的模块输出克隆程序，并使用评分系统对克隆进行评估，使其与原始模型接近。如果最佳候选者无法涵盖所有I / O，则系统会选择最佳候选者所未涵盖的I / O子集，并在程序合成器中对它们进行条件调整以进行下一次迭代。

为了评估他们的方法，合著者考虑了Karel，Karel使用的结构使在其中编程的逆向工程应用成为挑战。他们使用包含超过110万对I / O和程序的开源数据集，对神经合成器进行了训练，保留了一部分数据以进行验证和测试。

该团队报告说，当将IReEn应用于培训数据中未包含的100个I / O时，其生成的功能等效程序的成功率为78%。他们写道：“与先前的工作相比，我们提出了一种迭代神经程序综合方案，该方案是第一个解决在黑匣子环境中进行逆向工程而无需访问特权信息的任务的方案。”“尽管假设较弱，因此有可能在其他领域广泛使用我们的方法，但我们证明，在许多情况下，可以在Karel数据集基准上对功能上等效的程序进行反向工程。”

这项工作部分建立在Nvidia的GameGAN的基础上，后者可以在没有底层引擎的情况下合成游戏的功能版本。给定游戏中的帧序列以及游戏中的代理(即玩家)采取的相应动作，系统会使用经过训练的AI模型在视觉上模仿游戏。

上一篇：Mintegral推出可播放的广告创意平台Playturbo
下一篇：滴滴出行的目标是到2030年拥有100万辆自动驾驶出租车