“机器人威胁论”尘嚣甚上？DeepMind 研究要教机器人“服从人类”

以《机械公敌》为代表的科幻电影中，都表达了未来人类可能会被机器人掌管的担忧。在耳渲目染下，不少人都坚信奇点（人工智能的智力超过人类）的存在，不过最新的研究报告可能舒缓这方面的担忧。

来自 Google 的 DeepMind 人工智能实验室的最新研究报告指出，大脑信号将自动告诉我们人类如何融入社会等级。在制造智慧型机器人过程中，这项研究将会产生巨大帮助，使其了解自身阶级定位，从而让人类始终具备主动权。

为摸清人类如何学习社会等级制度，来自 DeepMind 和伦敦大学学院的科研团队利用 fMRI 脑扫描仪，邀请了 30 名健康的大学生执行一项任务。这项任务就是假设自己毕业到想要的公司上班，如何才能尽快了解公司现有的权力架构。

他们要求观察两名同事之间的「竞争」，并根据胜出结果来判断两者之间的权利大小。在完全了解公司的权力架构后，绘制出这家公司的权利阶级。而最终，他们不得不决定在公司内应该为哪个人工作。

「我们发现这种让参与者了解团队中个体权利大小的方式，是贝叶斯推理逻辑的最佳证明。」DeepMind 实验室的科研专家 Dharshan Kumaran 说道：「基本上你需要评估每个人的权利等级，当你接受到新的讯息（例如两个人的竞争结果）时候就会自动更新。」

这意味着人们可以通过观察不同人之间的交互结果并填补缺失部分，就能迅速形成对整个层级等级的理解。

举例来说，当有人观察到「Jane」在同「Paul」的竞赛中获胜，又观察到 Paul 战胜了很多竞赛者，那这样就能让他们预估 Jane 的权利有多大。这是因为有新的证据表明，Paul 尽管是第一场比赛的失败者，但依然比我们想象中的更为强大。

「相比较作为旁观者，当身处于某个权利架构中的时候，人类就会使用多种方式学习和展现社会阶层。」Kumaran 说道：「人类的脑前额叶，是高度发达的区域。该项研究的参与者在了解自己所属社会团体中人员权利组成的时候，明显要比了解其他人的社会团体权利结构更加的活跃。这也表明当涉及自我信息的时候人类的特殊天然反应。」

社会互动必须要区分我们的思想、目标和偏好，而这正式人类所擅长的认知功能。Kumaran 教授说道：「DeepMind 团队从事神经科学研究的部分原因是，我们的终极目标是研发人工智能并将其应用解决世界上最棘手的问题。」

「因此我们口中的『智能』的核心之一是，理解我们人类自己是如何学习结构化知识，因此这是我们研究的重点。」这项研究成果已经在《Neuron》期刊上发表。

via dailymail

【招聘】雷锋网坚持在人工智能、无人驾驶、VR/AR、Fintech、未来医疗等领域第一时间提供海外科技动态与资讯。我们需要若干关注国际新闻、具有一定的科技新闻选题能力，翻译及写作能力优良的外翻编辑加入。

简历投递至 guoyixin@leiphone.com，工作地 深圳；

或投递至 wudexin@leiphone.com，工作地 北京。

雷峰网原创文章，未经授权禁止转载。详情见转载须知。