1
当人工智能被蒙骗，人类的未来将会怎样？5月13日，全球首次海上极客大赛GeekPwn年中赛在香港举办，组委会在举办地星梦邮轮“云顶梦号”上宣布：将以500万的奖金池，启动10月24日在上海和硅谷的人工智能安全挑战赛的招募，接受全球顶尖AI安全极客的报名。同时GeekPwn还将与项目联合发起方Next Idea（腾讯创新大赛）、独家AI协办机构机器之心等合作伙伴，就AI安全的社会及专业议题展开前沿深入的探讨。
（碁震KEEN公司CEO，GeekPwn大赛创办人王琦）
远程操控特斯拉、用鼻尖解锁手机、任意远程劫持世界任一用户的通讯……创办于2014年的国际安全极客大赛GeekPwn，白帽黑客们将他们的逆向思维、奇思妙想的脑洞发挥到了极致。在向世界秀出他们的才华的同时，也帮助了上百个厂商及产品去修复安全问题。GeekPwn创办人、碁震KEEN公司创始人兼CEO王琦表示，从对抗的思路出发，创办人工智能安全挑战赛是为了寻找AI潜藏的风险并不断帮助其完善，帮助人工智能安全健康成长。
如今，人工智能已经广泛应用于生活的诸多场景中，包括实时语音翻译、目标识别、自动驾驶等等。率先关注到人工智能可能暴露出的诸多风险，GeekPwn实验室在2015年底开始了AI对抗的研究，并广泛接触和招募AI领域的顶尖人才，很快，在2016年的GeekPwn美国站上，生成对抗网络(GANs)之父Ian Goodfellow就展示了“对抗性图像”在现实物理世界欺骗机器学习的效果。原始图像以60%的置信度判断为“熊猫”，但是加入了微小的干扰，在人眼完全看不出差别的情况下却以99%的执行度归为了长臂猿。
近期，有研究者发现，恶意攻击者可以欺骗Google的CloudVision API，这将导致API对用户提交的图片进行错误地分类，网络犯罪分子可以利用这种技术来传播暴力图片、色情图片或恐怖主义宣传图片。
AI在图像领域存在被欺骗的可能性，让王琦预见到这种可能性在其他语音和行为智能等领域也会存在。AI被欺骗，看似人工智能的错误和不完善，但其实在黑客眼里就有可能变成可以被利用的漏洞。随着AI在交通、金融和医疗体系中运用得愈加普遍，GeekPwn希望在恶意分子真正动手之前、找到对抗这些攻击的方法。
王琦表示，在人工智能领域，深度学习依赖对大量样本进行学习，最后产生决策的过程，和安全领域里通过产生大量模糊测试样本引发计算机异常，从而发掘出漏洞，最终执行流程可以被改变，进而导致安全危害的过程非常相似，如果说正确样本能够产生正确的决策，那么黑客通过离线模拟产生的AI攻击样本，则可能给人工智能带来错误的决策和行为。
微软聊天机器人Tay上线不到一天，就向网友“成功学习”了新的聊天方式，从彬彬有礼的美国“姑娘”变得脏话不断，言语中还充斥了种族主义、色情等“情感偏见”。王琦大胆预言：深度依赖学习样本的人工智能，未来对它的攻击可能甚至不需要编写代码，人人都可能成为“黑客”。
作为全球首个探索人工智能与安全的专业平台， 2017年，GeekPwn（极棒）将人工智能安全挑战赛列为全年重点项目。联合发起方NEXT IDEA 2017年则以“未来想象”为主题，让青年群体更多关注包括人工智能安全等与人类未来息息相关的领域，让每一个年轻人的奇思妙想得到肆意生长。腾讯集团市场与公关部总经理许菁文认为，安全专家对于未来的担忧将引领年轻人思考人类未来的生产、生活遇到的问题和挑战，让更多的年轻人一起为人工智能安全贡献一份力量。
无论你是想突破人脸识别手机解锁，在 AI 开源框架中找到问题，还是想“创造”AI特工，让它实现入侵，都可以报名参加。在这场即将到来的黑客与人工智能的对决中，黑客将利用AI 的错误以及不完善，为人们带来怎样突破性的想象和超前的技术展示？这一切，将在10月24日GeekPwn2017嘉年华上海站及硅谷站的现场为全人类揭晓。
“我们现在是帮助人工智能成长，希望有朝一日，黑客可以成为保护人类的那群人。”王琦说。
雷峰网原创文章，未经授权禁止转载。详情见转载须知。
