1
| 本文作者： 咲甜 | 2016-08-29 13:39 | 专题：GeekPwn（极棒）2016嘉年华 |
当现在还处在弱人工智能（ANI）的阶段时，就有人开始「危言耸听」了，特斯拉CEO马斯克就曾说： 未来人类在智力上将被远远抛在后面，将沦为人工智能的「宠物」。然而与之持对立观点的扎克伯格则认为，这些担忧毫无依据 (not valid fear)，简直就是发神经 (hysterical)。
对于今天的我们来说，人工智能听起来似乎还是颇为高端和神秘。但它可不是什么冰山美人、低调的边缘者。也许在未来的几十年内，它就将会变成一匹脱缰的野马，对人类有限的认知发起一波又一波的冲击。人类社会瞬息万变，不管你信不信，时代正站在变革的边缘。目前关于人工智能的大部分研究集中在ANI上，即让机器专注于具体的任务，例如人脸识别、语音识别、自然语言处理等方面。现在已经运用在了聊天机器人、无人驾驶、精准医疗、人机对弈等领域。
前段时间，日本有名女子患了白血病，治疗效果一直不佳。Watson（认知计算系统IBM Watson）通过快速大量的阅读有关白血病的文档资料，通过对该名患者的基因分析与系统联系，实现对这名女子病情的有效分析。很快诊断出了这位患者的病发原因。
让我们想象一下这样的画面，当AI的运作越来越稳定，开始深度介入你的生活，从厨房到卧室，从生活起居再到工作社交…… AI作为一种辅助工具，当它几乎可以满足我们所有能想象到需求，被运用在天文、气候、医学、军事等重要领域，能让人类的生活更加美好吗？
( 人工智能之父 Marvin Minsky )
于是乎，各种脑补纷至沓来：AI难道不会出错吗？人类能和AI和谐共处吗？人爱上AI了怎么办？AI闹革命了怎么办？……
还记得杰昆·菲尼克斯和斯嘉丽·约翰逊主演的电影《HER》吗？人工智能系统萨曼莎，拥有着迷人的性感声线，并且温柔体贴、幽默风趣。与孤独的男主人公展开了一段浪漫的人机恋情。如果故事就这么结束了，这电影一定不是一部好电影。
( 电影《her》剧照 )
也许是人工智能系统萨曼莎和人一样存在「无穷的欲望」，在不久之后它开始玩起了「劈腿」游戏。通过「语音聊天」，它能够同时与无数个寂寞的男人海誓山盟，谈情说爱。就和远距离恋爱一样，反正你看不到……萨曼莎成功「玩弄」了菲尼克斯的感情。当然，萨曼莎还只能出现在电影中，AlphaGo也仅作为尖端科技与我们阁屏相望。但是AI就像一个未知的幻境，让人们对它的猜想和思考根本停不下来！！……
假如你成功的安装了AI家庭系统，所有的事由AI把关。门禁系统规定必须在通过人脸识别确定是主人后，房门才能开启。是不是听起来非常安全，万无一失。毕竟我就是我，是颜色不一样的烟火。那么，你家可能就会很危险了！近日来自北卡罗来纳大学的一个研究团队（Chaos Computer Club）凭借他们在社交媒体上收集到的若干照片，利用特殊的电脑合成和渲染技术，生成一个平面化的3D模型骗过了人脸识别系统，投了一张反对票。Hey，在IT领域，这可绝对不是什么新鲜事儿！
为了AI系统能够更高效的运行，设计者在设计过程中加入了目标函数，通俗的说就是当AI某种指标达到函数的指标时，它将获得某种奖励。想象一下系统滥用设计者意图的后果：它可能使用其以一种无意识的方法获得奖励。比如，一个AI通过清洁脏乱可获得奖励，那它可能故意制造脏乱来进行清理以获得更多的奖励。如果人工智能系统萨曼莎被设定为每帮助一个 「孤独患者」便能获得奖励，那么它就可能设法去帮助更多的「孤独患者」了…
像史蒂芬·霍金、伊隆·马斯克、比尔·盖茨这样的专家，最近越发看重AI的潜力和威胁。人们对于人工智能这个热点话题仍说法各异。但是拜托！! 在异想天开AI将威胁到人类对地球的主宰地位之前，先来解决一下现有的BUG好不好！！前一段刚上线不到一天的微软聊天机器人Tay，从彬彬有礼的美国「姑娘」变得出言不逊、脏话不断的bad girl。是的，「她」被黑客PWN掉了！你们能想象在更多更重要的领域，人工智能被PWN掉的后果吗……
( 机器人Tay )
那么这个英雄将会是你吗？当白帽黑客与人工智能碰撞，将产生怎样的火花？在前瞻性地意识到人工智能可能的安全问题之后，知名的黑客大赛 GeekPwn引入「人工智能Pwn」比赛项目，简单的说就是利用人工智能的种种弱点，黑掉它，改变设计者的初衷。该项目最高80万元的奖金，这在世界范围内尚属首次。
选手现场需要实现对已发布的AI服务或产品完成误导、欺骗，使它们做出违反常规或者错误的判断、决策。例如，外国某研究人员通过「欺骗」神经网络函数，彻底修改了识图AI的思维和三观，使它们熊猫、秃鹫都傻傻分不清楚…… 人工智能对抗将成为黑客的终极目标吗？10月24日在上海的极棒嘉年华，或许你能触摸到这个问题的真实答案。
雷峰网原创文章，未经授权禁止转载。详情见转载须知。
专题
