最聪明的人都在担心人工智能，你呢？

在2015年第一个星期天的下午，埃隆·马斯克参加了一场在波多黎各某度假胜地举办的闭门会议，会议的主题是井喷式人工智能化。这个词有点吓人，因为人工智能的发展似乎脱离了人们的掌控，超出了认知范围，马斯克和物理学家霍金都担心这会在未来给人类带来灾难。

马斯克这样的人物都参加的会议，显然有其重要性。会议有着非常乐观的主题，“人工智能的未来：机遇与挑战并存”，是一场史无前例的巨人聚会，汇聚了牛津大学人工智能伦理学家Nick Bostrom、Skype的创始人Jaan Tallinn以及Google的AI专家Shane Legg。

马斯克和霍金为人工智能潜在的威胁而担忧。过去的五年中，随着人工智能的发展，尤其是分支学科深度神经网络的发展，具有一定人工智能的产品出现在了我们的生活中。Google、Facebook、微软、百度等公司都在以前所未有的需求招聘人工智能方向的研究人员，并投入数亿美元开发出更优算法和更加智能的电脑。

人工智能在几年前还是那么神秘，现在却向研究人员敞开心扉。我们有了语音识别系统，Skype实时翻译，Google无人驾驶汽车，计算机甚至能自行识别猫的视频，机器狗能像真实的狗那样行走，以假乱真。

“计算机视觉正处于起步阶段，语音识别也刚初见成效。人工智能的发展势头越来越强劲。” 康奈尔大学的教授，人工智能伦理学家Bart Selman说道，“这就使得问题更加紧迫。”

在波多黎各举行的会议上，与会代表们签署了一份公开信，承诺将指引人工智能走向健康、积极的道路，避免“误入歧途”。马斯克也签下了自己的名字。“这里几乎集聚了人工智能领域所有最优秀的研究人员，他们都表示安全是最重要的”，马斯克表示，“我同意他们的意见。”

Google蓄势待发

9名来自DeepMind的研究人员也在信上签了名，这是一家Google在去年收购的人工智能公司。

这件事还得追溯到2011年。Demis Hassabis创建DeepMind不久，在一次人工智能报告后，Jaan Tallinn向他毛遂自荐。Tallinn自创建Skype以来，他就成为了一名人工智能布道师。这两个男人开始讨论人工智能，Tallinn也迅速投入到DeepMind的工作中。去年，Google以4亿美元的价格收购了这家拥有50名职工的公司，一举拥有了世界上最顶尖的深度学习方面的人才库。Google将DeepMind的野心牢牢地抓在了自己的手中，不让Hassabis接受采访。但是DeepMind的研究从未停歇，他们致力于让机器人或者无人自驾汽车能更好的感知周围的环境。

这使得Tallinn稍有些担心。他回忆起一次午餐会，Hassabis向大家展示了能玩80年代经典街机游戏Breakout的机器学习系统。该系统不仅使得计算机精通游戏，其变态的效率让Tallinn非常震惊。一部分人觉得他的产品是未来智能化灾难的雏形。

在波多黎各大会上，与会者签署了一份有关人工智能发展方向的公开信，信中一致认为人工智能的研究应该以系统安全、经济效益和法律后果等为主。马斯克也为这项研究拨款1000万美元。有些企业已经想的更多、做得更好，去年加拿大的机器人公司Clearpath Robotics承诺不会研制军用机器人。

承诺不研制终结者只是一个步骤。诸如Google的企业还需要考虑智能汽车的安全性和法律责任。计算机算法对人们来讲是不公平的，可能会让一部分人失去工作。例如，为什么亚马逊的同一件商品在不同的社区售价不同？有什么安全措施保证大宗商品交易市场交易算法不会崩溃？无人驾驶时代的到来，司机们干嘛去？

反对机器人杀手

Binatix是一家和股票市场打交道的深度学习公司，创始人Itamar Arel没有出席波多黎各大会，但是当他看到那封公开信后爽快地签了名。“是时候花更多精力去了解用智能机器人接替蓝领工人的工作，会带来怎样的社会影响，社会跟不上人工智能发展的步伐，这绝对是个问题。”

可以预见，未来的某天破坏性智能大脑会出现在头版头条，但是就目前的水平来看，这个问题还是等到几年后再去担心吧。很难预测未来到底会发展成什么样，但是我们可以肯定的是，人工智能会对社会造成影响。

via wired

雷峰网原创文章，未经授权禁止转载。详情见转载须知。