Google开发出令人震惊的人工智能，现在又要限制它

Google已经在英国伦敦组建了一个专家团队，这个团队正在致力于“解决智慧”问题。它由DeepMind成员组成，该公司是这个美国科技巨头在2014年收购的人工智能（AI）公司。

负责DeepMind的Demis Hassabis（他又被称为Google的人工智能设计师）在接受MIT Technology Review的采访时，说出了公司对未来人工智能发展的一些最大的担忧。

Demis Hassabis和他的团队正在寻求一个可以将人工智能技术应用于Google服务的机会。DeepMind人工智能公司会教计算机像人类一样去思考问题，将人工智能技术融入Google的服务可以进一步提高服务的质量。例如：它可以增强YouTube针对用户的推荐建议或者使公司的移动语音搜索变得更好。 

但是，DeepMind不仅仅是在考虑为Google的产品带去更新。令人担忧的是，联合创始人Shane Legg认为团队技术的发展将有可能会毁灭整个人类。在接受采访时Legg告诉 LessWrong博客：“最终，我认为人类灭绝很有可能会发生，而技术将有可能在此发挥了重要作用”。他还补充说，他认为人工智能是“本世纪的头号威胁”，这是“不祥”的东西。

像斯蒂芬·霍金（Stephen Hawking）和埃隆·马斯克（Elon Musk）都曾担心过随着人工智能的进步，人类将会面临很多危险。他们都认为随着技术的发展，机器人能够变得非常聪明，以至于这些机器人可以自主决定是否要消灭人类。如果霍金和马斯克都认为人工智能是可怕的，那么作为普通人的我们是否也要担心呢？

Hassibis在今年4月份，曾在视频中展示了一些DeepMind软件。在视频里面，一台计算机学习了如何玩Atari的电子游戏，这台计算机并没有使用任何关于如何玩这个游戏的代码来编写程序，只是通过它自己的本能来控制游戏从而取得了胜利。美国加州大学的人工智能专家Stuart Russell表示，人们被“震惊”了。

Google也开始担心以这种方式发展的计算机技术所带来的“双刃剑”般的影响。这就是为什么Google成立了一个“伦理委员会”，委员会的任务就是确保人工智能技术不被滥用。Hassibis解释说：“这是我们团队以及整个Google都需要认识到的问题。目前我们还停留在玩Atari游戏的阶段，但随着人工智能向前发展，人们对它的恐惧也会随之而来。” 

Hassabis表示，Google DeepMind人工智能的主要作用是创造可以“解决任何问题”的计算机，人工智能拥有让人类震惊的巨大潜力。加快我们找出对抗疾病的方法是其一个应用范围。但也正是这个原因，让人害怕拥有如此智慧的技术。 

via businessinsider

雷峰网原创文章，未经授权禁止转载。详情见转载须知。