0
雷锋网新智驾按:最近,有关佐治亚理工学院一项研究成果的新闻在互联网上掀起了轩然大波,它们发现就连技术都玩起“种族歧视”了。
原来,佐治亚理工学院的一篇研究论文显示:靠机器学习完成感知的自动驾驶汽车,对有色人种的识别能力明显低于白人。因此,媒体将其“引申”为自动驾驶汽车在搞“种族歧视”。
这样的新闻不但抓人眼球,还像是《黑镜》重现。不过,静下心来想想你就会发现,媒体把这条新闻推上头条主要还是为了拉流量,他们才没心情做个深度调查。
事实上,这所谓的研究成果漏洞百出。
首先,这篇名为《目标检测中的预测不平等》的研究只是“预发布”在了 arXiv(一个收集物理学、数学、计算机科学与生物学论文预印本的网站)上。
从本质上来说,这是一篇还没定稿,等待同业评审的论文。至于要等待多长时间,没人能说清楚。不过看看 arXiv 上计算机科学下的计算视觉门类你就会发现,几天时间里这儿就新增了 174 篇论文,平均每天 31 篇。即使有大量学术人员值守,这些论文也够他们看上十天半个月了。可惜,arXiv 管这块的只有一名工作人员,人家还是志愿者。
对于很少接触学术界的读者来说,这个论文评审的过程确实有些繁琐,但现实中的同业评审就是这么严格。所以,arXiv 上的论文其实只能算学术日志,它只是一个存储未评审论文的平台。显然,媒体直接忽略了这个巨大的区别,它们太当真了。
据雷锋网新智驾了解,作为本篇论文的第一作者,Benjamin Wilson 博士做这项研究是为了拷问“机器学习的公平性”。这个切入点选的确实很棒,因为业内有许多人对 AI 的偏见很感兴趣,在面部识别领域已经有多篇类似论文问世。不过,如果你意识到作者只是想把面部识别系统中存在的偏见“栽赃”给自动驾驶系统,马上就会觉得这项研究索然无味了。
事实上,自动驾驶系统对肤色根本没兴趣,因为它工作时靠的是可见光谱,从根本上避免了任何“歧视”出现的可能。
“自动驾驶传感器跟面部识别技术没有任何关联性,”卡耐基梅隆大学机器人学院主管 Martial Hebert 说道。“毕竟行人面部在自动驾驶系统看来只不过是几个像素点而已,肤色根本无足轻重。”
无论技术如何进化,自动驾驶汽车也无法站上能探测到行人肤色的高度,因为它还要考虑定位、路径和规划等任务,如果再加上肤色识别就过于复杂了。别忘了,自动驾驶系统还得实时保证车辆安全。也就是说,自动驾驶汽车根本不可能为了识别肤色浪费大量算力,研发人员脑子可清醒着呢。
事实上,本篇论文的作者恐怕很难自圆其说,因为他自己就承认,在研究中想基于肤色在训练数据中打个标签都困难的要死。“我们发现,初期实验中就出现了大量不符合项。”Wilson 写道。“我们怀疑这是大量裁切图像尺寸过小引起的。”
相对较小的图像就够自动驾驶汽车用,这不但是因为它们不需要从图像中提取类似肤色的细节信息,还是因为只靠图像不可靠。
一般来说,自动驾驶汽车的工作是“传感器三大天王”撑起来的,对激光雷达、摄像头和雷达进行数据融合才能得出最真实的路况信息。由于激光雷达和雷达工作时靠的是激光和无线电波,因此在它们的字典里不可能有肤色二字。
Allvision 公司 CEO Aaron Morris 听到媒体的报道很恼火,他表示:“实话说,在自动驾驶汽车眼里,肤色根本就不重要,毕竟正常人可不会在大街上裸奔。它们探测的唯一目标就是不撞到行人,其它额外信息都是些噪音罢了。”
自动驾驶开发者其实很关心行人探测工作,因为它是车辆能否完成主要任务(持续且迅速完成定位和路径规划)的基础,特别是去年 Uber 测试车在凤凰城惹出命案之后。
当然,如果自动驾驶汽车真的需要破译行人肤色或其它物理细节的话,也许这篇论文就能派上用场了。否则,它就只能用来证明 100% 基于摄像头的自动驾驶系统不可取。好在,大多数自动驾驶开发商都是三种传感器配齐,因为他们担心复杂的边缘场景会遮挡住行人的身体,导致悲剧发生,而边缘场景可与种族歧视无关。
在许多人心中埋下了不信任的种子,而信任是当下自动驾驶汽车最珍贵的财富。(雷锋网新智驾)
雷峰网原创文章,未经授权禁止转载。详情见转载须知。