使用Unity ml-agent进行深度强化学习

本文作者： AI研习社-译站

2019-06-24 16:35

导语：Unity ml-agents是一个“用游戏和模拟环境来训练智能体的开源Unity插件，”。

本文为 AI 研习社编译的技术博客，原标题：
Deep Reinforcement Learning using Unity ml-agents
作者 | João Ramos
翻译 | 通夜编辑 | 王立鱼
原文链接：
https://towardsdatascience.com/deep-reinforcement-learning-using-unity-ml-agents-8af8d407dd5a

大家好！

最近，我和我的两个同事佩德罗·昆塔斯和佩德罗·卡尔代拉做了一些实验，使用的是Unity的ml -agents，我认为这是一个伟大的时刻，我希望与社区分享我们的结果，并向你展示如何扩展你的强化学习知识。

如果你不知道Unity ml-agents是什么，让我给你一个简单的介绍。Unity ml-agents是一个“用游戏和模拟环境来训练智能体的开源Unity插件，”。在我看来，这是一个可以对开始学习深度学习和强化学习来说很好的框架，因为它可以看到正在发生的事情，而不仅仅是在终端上看到数字和字母。

在开始展示我们的小项目之前，让我先展示一下框架已经创建的一些场景。

使用Unity ml-agent进行深度强化学习

好了，现在您已经了解了这个工具的功能和外观，让我们来讨论一下这个项目!

我们使用了Unity ml-agents创建的一个智能体。它基本上是一只蜘蛛，但只有四条腿。然后我们为这只小“蜘蛛”创造了一个移动平台来让它四处移动。

使用Unity ml-agent进行深度强化学习

那只是Unity的搭建，让我们谈谈强化学习吧!一开始，和往常一样，蜘蛛(agent)只知道它在平台上的位置和方向。因为我们的目标是让两只蜘蛛互相争斗(不告诉它们该做什么)，所以他必须设法教它们。这时强化学习就开始起作用了。我假设在读这篇文章的你知道强化学习背后的基本理论。如果你是新手，这里有一个初学者指南：

https://skymind.ai/wiki/deep-reinforcement-learning

所以，就像任何一个普通的“愚蠢的智能体”一样，我们必须“教”它。我们通过当他们有好的行为时给予好的奖励，当他们有坏的行为时给予坏的奖励来教我们的智能体。经过反复试验，智能体们终于学会了如何站立和行走!基本上，每次他们的身体接触到地面，我们都会给他们不好的奖励。因为如果它们的身体在地上，这意味着它们的四条腿不在地上，或者它们的腿没有产生足够的力。(他们应该站起来)。通过给坏的奖励，我们告诉他们这些行为不好，他们应该避免。

让我们概括一下到目前为止我们所做的:

-我们使用ml-agents创建了一个Unity环境。
-我们教我们的蜘蛛站起来，平衡它的脚来走路。

下一步是教他们打架!为了改变蜘蛛的行为使它们能够战斗，我们必须改变它们的奖励。所以，如果其中一只蜘蛛离开了平台，或者被尸体碰在地上，它将会得到一个非常糟糕的奖励。

另外，如果当它们做了我们想让它们做的，而我们没有给它们一个好的奖励，它们就不会继续重复那些行为。所以当一只蜘蛛面对另一只蜘蛛时，我们给了它们很好的奖励，当蜘蛛朝着另一只蜘蛛的方向前进时，我们给了它们更好的奖励。这使得两只蜘蛛朝着另一只蜘蛛的方向前进，在某个时候，其中一只蜘蛛会把另一只蜘蛛扔出平台。(这只是一个简单的例子来证明我的观点)

此外，他们自己也学会了用拳头把对方打在地上就能赢。所以在同一时刻，他们开始“摔跤”。这是一个非常有趣的观察。

使用Unity ml-agent进行深度强化学习