人工智能才是人类的严冬 ——驳《Elon Musk的“人工智能恶魔论”是在误导大众？》

不久前，Elon Musk在一档谈话节目中表示，自己投资人工智能的研究只是为了实时掌握这个“恶魔”诞生的时间。Musk担心人类会成为“人工智能”这个超级生命的“生物加载程序”。此言一出立刻引起了不少人工智能领域专家的反驳，认为Elon Musk不过是在哗众取宠，他对人工智能的理解不过是一知半解而已。对于社会而言，这样不负责任的言论只会引起公众对人工智能不必要的担忧。Musk真的只是在哗众取宠，公众对人工智能的担忧真的只是杞人忧天？我不这么认为。

此人工智能，非彼人工智能

科学家们常常指责Musk与霍金并非人工智能领域的专家，对于人工智能的研究现状并不了解，往往只是在根据自己的臆测来做出判断。但实际上，对于公众而言，Musk与霍金口中的人工智能才是真正的“人工智能”—— 由人类所创造的类人的智能，而科学家的定义——人工智能就是研究如何使计算机去做过去只有人才能做的智能工作——则往往显得过于专门而狭隘。就目前的研究状况而言，现有的所谓人工智能都不过是一个严密而复杂的程序而已，它的一切行为都是可以根据写入的代码进行预测的，科学家们自然不会担心因某一个程序的失控，而对人类造成毁灭性的灾难。

Elon Musk与霍金对人工智能的担心，其实质上是对掌握了科学之力的人类的人性的一种不信任的假设，与其说是在担心人工智能的失控，倒不如说是在担心人类本身能否运用好科学的巨大力量。那么这种带有幻想色彩的人工智能真的可以诞生吗？可能！要知道人类也是由物质构成的，并没有什么所谓的灵魂这类神圣的成分。阻碍人工智能研究的并不是传统的技术上的瓶颈，而是人类对自身的探索还不够深入。如果人类破解了自我意识的诞生之谜，以程序的方式将答案表述出来也并非不可能。

人工智能尚处于“婴儿期”，距“天网”诞生尚远？

不少人工智能专家指出，人工智能的研究已经陷入瓶颈多年。目前“最聪明的人工智能产品也仅仅是与一个刚会走路的孩子智力相当，而这还仅限于处理一些需要外部帮助的任务（如信息召回）”。人类目前的机器人技术已经有了长足进步，但绝大多数机器人连“捡球”、“跑步”这类简单的任务都做不好。这样看来，似乎公众对于纽约州某位前州长某一天突然出现在自己面前的疑虑只是多余。但事实上，人类科技的进步从来都不是以某种按部就班的计划缓慢前进的，而是以一种几何级的速度在发展。往大的方面说，在原子弹爆炸之前，没有人能想象人类能够掌握核能这种可怕的力量；往小的方面说，在乔布斯发布iPhone之前，没有人能想到苹果可以在如此小的体积里塞进一台电脑。

目前的人工智能的确还算不上是人类的威胁，但随着技术的进步，一旦人类突破了某个关键的技术节点，人工智能将会以一种不可阻挡的趋势降临人间。人工智能的可怕之处不在于其诞生时具有多么强大的智慧与能力，而在于真正的人工智能可以在日后的学习中不断地完善、进化自己，人类十万年的进化史，人工智能也许只要用很短的时间就可以走完，并且依托于人类目前已经取得的成就，人工智能还有可能进化成为超越人类的超级生命。这就是所谓的“智能爆炸”。依人类短暂的科学史来看，“智能爆炸”是有可能发生的，而且一旦发生，人类恐怕就无力阻止。这种高于人类的存在与其所具备的毁灭人类的可能，才是霍金与Musk所担忧的“存在风险”。虽然我不主张“黑暗森林”式的消除威胁，但对技术的运用我们应当谨慎。

我们可以指望人工智能的道德吗？

 科学家在道德层面上对于人工智能的讨论往往自相矛盾，一边说真正需要防范的是所谓“恶意”的人工智能，一边又说人工智能不会落入“伦理困境”。这里问题的实质是在探讨人工智能具有道德意识的可能性。如果人工智能具有道德感的话，那么“恶意”的人工智能就可能是存在的，人类的“伦理困境”也会困扰人工智能；而如果人工智能不具备道德感的话，“伦理困境”自然就不存在了，“恶意”也失去了成立的前提。

 人工智能会有道德感吗？很难。人类的道德其实是社会的产物。人工智能作为一个程序而言，很难想象其能够产生社会这样的存在。机器人三大定律与其补充规则，看起来似乎完美无缺，但很多时候依然会出现漏洞；而道德很多时候并不是完美的规则，依赖人类对人工智能进行道德编程，也是一个不可能完成的任务。没有道德、毫无人性的人工智能的行为是人类难以预测的。我们必须对其拥有足够的警惕。

 现代人类科学的发展是人类历史上的一个奇迹，我们已经生活在几十年前的所谓的“科幻”世界了。科技在给我们带来便利的同时，也带来了污染与核战的威胁，我们应当对技术的运用抱有敬畏之心。如果我们只是追求技术的进步，而不去防范技术被滥用的风险，"咚咚"，是终结者在敲门。

雷峰网原创文章，未经授权禁止转载。详情见转载须知。