0
“在这普通的一天，我用普通的钉钉，很普通地和同事视频连线；打开普通的软件，普通地购买生鲜；普通的AI在普通地检测谁在发烧……”如果把红遍全网的B站名曲《普通Disco》改编成2020版，或许就是这样。
这种的日子放在十年前还很新鲜，现在确实只是“普通的一天”。
科技已经进入到我们生活的方方面面，正如支付宝首席AI科学家漆远在好奇心圆桌派上说的那样，人工智能正在变成数字经济生活的基础设施之一，智能化服务对社会的助力真实可见，更多变化在未来的五到十年时间里会大规模地发生。
AI该是什么样子？在顶尖AI科学家漆远和雨果奖知名科幻家郝景芳眼中，AI更像是一个在努力成长却不够成熟的孩子，它前进的步伐，取决于“原生家庭”指引的方向，也有无数的人在为AI的向阳而生而奋斗着。
昨天，各大直播网站发布了一场名为“好奇心科技”的圆桌对谈。当一位科学家，一位科幻家，和一位B站人文类UP主，为人类与AI的将来聚到一起，他们在谈些什么？
人们提起AI，会想到科幻电影里冰冷的机器人，会想到藏在手机里的Siri，也会想到在抗疫过程中的一系列AI应用。它进化飞快，时时带给人惊喜，有时也带去意外。
那在中国一流的科幻作家眼中，现在的AI是怎样的？
《北京折叠》拿下雨果奖之后，郝景芳出版了以人与AI为主题的《人之彼岸》，把目光更多地投向AI的发展。她在圆桌现场强调，目前的AI在某一方面异常优秀，在其他方面却不如小孩子，是一个“偏门的天才”。
正如她在《我们离超级人工智能到来还有多远》一文中提到的那样：
从某种程度上来说，人工智能目前就像电影《雨人》中那类自闭的孩子，一眼就数得清地上的牙签，能心算极大数字的乘法，背得下来全世界的地图，却答不出有关自己的问题。它只懂研究每秒300盘的棋路，却不知道“我正在下棋”这件事。
深耕人工智能领域数十年的漆远有着类似的感受，他认为，现阶段的AI更像是“一个严重偏科的孩子”。
支付宝首席AI科学家 达摩院金融智能负责人 漆远
这种偏科首先表现在了跨领域、跨专业的学习上，它在某一知识领域会非常精通，但跳出这个领域就可能会有些傻。学围棋和学英语，人可以同时学会，但一个已经学会下棋的神经网络再去学英语，可能就丢失了原来的技能。
因此，多任务学习技术成为现在人工智能的方向之一，漆远解释称，这就像是学过围棋之后去学五子棋，二者背后有很多可以相互借鉴的地方，这种类似的任务就可以让AI通过算法把不同任务间共通的和不同的自动学习出来，提升完成每个任务的能力。
郝景芳的另一个身份是童行学院的创始人，儿童教育经验丰富的她笑称这种“把相近学科之间共通的思维能力拎出来教给AI”的做法，像是人工智能界的“通识教育”。
AI的“偏科”，更体现在了“重数据学习、轻推理能力”上。
在郝景芳看来，AI通过大数据学会了如何找相关性，学会数学层面上的推理，但恰恰就不擅长与人类社会有关的推理。
假设现在有一个人被扇耳光了，在场其他人都会猜事发的原因，可能经常猜得八九不离，但AI未必猜得出来。因为像扇耳光的动作含义、双方可能的关系，都属于生活中积累下来的经验，AI很难在这种生活情境中对日常的因果关系做出准确判断。
漆远也有同感。在他看来人工智能如今最突出的表现之一，其实是用海量数据“堆出来”的强大记忆力，达到某种程度上的“见多识广、学识渊博”。它能在“见过”一万张猫脸图片之后，顺利识别出新的猫脸，就是记忆力的体现；但在逻辑推理能力上有所欠缺。
“就像那种被高考机器惯出来的孩子，学习了大量知识点之后，做题很快，但缺乏常识和基础的情商。”漆远说。
电影《Her》的“女主角”被设定成AI，她在男主角身上习得了更多知识，进化迅速，最后离他而去。
AI诞生以来，这样的焦虑被呈现在各种科幻作品里。本场圆桌的主持人，UP主“闪光少女斯斯”也由此抛出了一个“灵魂拷问”：
如果AI的发展速度超过人类了，它会抛弃我们吗？
“（人与AI）应该是互惠共生的一种关系。”在郝景芳看来，这类似于动物与植物的关系，各自吐出二氧化碳和氧气，实现碳循环；双方在交互中可能会有一些小型冲突，但不会发生人类智能和人工智能的整体性冲突。
她接着开出了“新脑洞”：随着脑机接口等技术的发展，人类将会看到自己的数字大脑不断地与AI发生数据交换；比起AI实体化“冲入”现实世界，虚拟人格与AI在虚拟世界中频繁交互，共生于数字世界，这是未来的50-100年间必然会发生的一件事情。
左：第74届科幻雨果奖得主 童行学院创始人 郝景芳 右：女性人物纪实节目《闪光少女》创始人 斯斯
漆远给出了更确定的答案：“这种（人工智能）俯视人类的感觉，在可见的未来里，我认为不会发生——人和机器会在一起，定义一个共同的未来。”
当我们必将进入人与AI共生的时代，AI会从那个“偏科”的孩子长成什么模样？
在这两位科学家和科幻家看来，人工智能正在成为数字化生活的基础设施，挖掘数据背后的规律，产生价值，通过不同场景服务于，对社会的智能化改造也会在不远的将来里大规模地发生，很多技术也在处在研发进行时。
郝景芳这样描绘她心目中的未来人工智能服务：像是每天早上你走进办公楼，大门识别到你了，通知三楼的咖啡机，等你到了三楼就有一杯咖啡可喝，也准备好了一系列服务，并不见得一定要有一个两条腿的机器人在门口迎接你。
漆远对AI成长趋势的研判就更“技术宅”一些，他首先提到AI会从纯数据驱动，变成数据和知识推理的“双轮驱动”。
正如前文提到的那样，AI的逻辑推断“短板”会被补上，能力更加平衡，人类的知识经验沉淀为大量规则，将与算法一起让AI变得更有“常识”和“情商”，会成为接下来的主要发展方向之一。
其次，是从隐私保护出发，试图在确保数据安全的同时产生数据价值。
用人的身体打个比方，DNA是一个人最隐私的数据，这甚至比长相（人脸数据）更隐私。如果要解决很多重大疾病，绕不开理解和研究DNA——但矛盾也同时出现：如何在保护隐私的情况下，能够产生和分析这种基因和RNA的数据，来开发更好的药品和疫苗？
如何平衡隐私保护和数据使用，人工智能学术界和工业界其实已经获得了一些技术成果，隐私保护机器学习、共享智能、联邦学习、安全多方计算等都与这一议题紧密相关。
支付宝AI就将共享智能技术，率先落地在业务敏感度颇高的金融风控场景。中和农信借此大幅度提高了风控性能，把原来传统的线下模式转为线上自动过审，大规模提升了风控能力，8个月累计放款31.9亿，授信成功人数44万。
这类技术的思路，就是在保证各方隐私的情况下，将他们的数据价值提取出来，打破数据孤岛，产生数据融合的大价值。
它的运行原理可以用羊吃草来类比：机器学习模型是羊，数据是草。过去某种做法是，羊不动，草被购买到中心；更安全的做法是让草不动，让羊动，也就是说模型去不同的草场去访问，草不出草场，也没有人知道羊吃了哪些草，羊仍然能够顺利长大。
第三大发展方向，是AI需要更“皮实”，必须成长为经得起攻击的博弈智能体。
2020年是黑天鹅的一年，在数字经济进一步推进的同时，黑产猖獗，造假升级，deepfake和内容风险……抵御不同方向的风险，是AI大有作为的方向。在漆远看来，不确定性正是这些风险爆发的关键之一，也是如今机器学习面临的挑战，
正如孩童长大成人，进入社会，要变得不再脆弱，任何一项技术在真正走向使用时也必须更可靠、更广泛适用、更经得起打击。而贝叶斯机器学习就是将不确定性和小概率事件的研究，和推理能力、理解能力结合到一起，实现对AI对抗攻防能力的提升。
漆远所在的支付宝安全实验室，开发了把博弈论和深度学习结合的智能攻防算法——这是世界上首次把深度学习引入博弈论，他们也借此在德州扑克小实验达成世界领先的水平。
同时，红蓝攻防这种“左右手互搏”的形式也纳入了支付宝安全实验室的日常AI演练，让系统在对抗和错误中学习成长，做到在对手“魔高一尺”的时候，让自己的AI“道高一丈”。
这些正在发生的技术变革，又对“人机共生时代”意味着什么？
“AI就像是我们的朋友一样，在帮助我们做判断和辅助，成为了一个智能伙伴。”郝景芳提到，AI帮助大众加固最基础的“安全工事”，人机共生的前景会更开阔明亮。
对谈的最后，漆远与郝景芳谈起了本场圆桌的名字：好奇心。
在他们眼中，好奇心是探索世界的初心，好奇心是探索过程中疯狂运转的大脑和释放的多巴胺，它推着原始人向前进化，推着孩子去思考和学习，人类对自身和对所有外部世界的好奇都在推动所有领域的科学探索。
但只有好奇心，让AI这些先进技术只会“向前冲”，可以吗？
“没有敬畏之心做底线，其实就没有未来。”漆远谈到，一个科研者应有的价值取向，就是好奇心、敬畏心和普惠。
就像汽车有引擎，也会有刹车，路上会有红绿灯，如果AI像引擎一样在推动社会的发展，就必须有这些安全系统，否则就有失控的可能。
另一方面，AI本身又能够提升安全技术，可以使安全“刹车”更智能——AI和安全，其实是相辅相成的关系。若没有安全性和稳定性的保护机制，再迅猛先进的科技也不过是空中楼阁。
让AI变得更有“常识”和“情商”，变得更尊重数据隐私，变得更平衡、更稳定、更抗打击，其实也都是为了安全这同一个目标。
当假新闻层出不穷，当眼见为实不再有意义，技术能给人多少安全感，研发者的价值取向显得尤为重要。
郝景芳感慨道，技术本身并没有善恶之分，但技术能放大人性的恶，也能放大人性的善——就像一把菜刀，成为厨房好物还是成为杀人凶器，选择权在人类手中。
人的成长有欲望的驱使，而人工智能只有人类给它设置的“目标函数”。把“帮助更多人、服务更多、永远不伤害更多人”都写在目标函数里，其实才是真正的共生。
漆远认为给人工智能设定好的目标函数至关重要，长远而言，要把对人的善意和公正写进去—而人工智能的公平性研究也日益重要。这给目标函数就相当于一个公司的使命和愿景，是他们马不停蹄想要前往的目的地。
对漆远和他所在的支付宝而言，这个目的地就写着“普惠”二字。好奇心带来探索，敬畏心带来克制，两方的平衡让技术像自行车一样平稳地向普惠驶去——科技发展至今，其实也沿着这条清晰可见的脉络在行进。
他在圆桌中分享的一个案例，令我们印象深刻。
一位农民在自己50岁那年，迎来了生命中的第二个「大件」物品——一台三轮车，第一件是家里的19 寸老式电视机。
这辆价值一万七千元的三轮车，花去了他信用贷款3万元中的一大半，但他靠三轮车跑运输，不仅把钱按时还上了，还改善了自己和80岁母亲的生活。
这也只是中国绝大多数农户的一个缩影。由于缺乏信用数据积累，没有银行流水、资产证明、抵押物等，他们被传统的金融服务拒之门外，而支付宝一直在借助科技的力量服务这些人群和小微企业们，践行普惠金融的目标。
科技的善恶，其实并不由那些复杂的数据和计算，而是取决于它是否放大了人的善念，是否让普罗大众享受到了科技进步的价值，是否有科技力量落到实处，化作普惠这一盏灯，照亮他们的生活。
雷锋网雷锋网雷锋网
雷峰网原创文章，未经授权禁止转载。详情见转载须知。
