数据要素产业
伦理与技术之争,IBM首个站出来直言“放弃”人脸识别
因担心应用不当,IBM宣布不再开发、提供任何人脸识别相关技术!
IBM CEO Arvind Krishna在日前递交给美国国会议员的一封信中提到了这个决定,并表示“IBM反对使用任何技术(包括其他供应商提供的人脸识别技术)来监视大众、种族定性、侵犯基本人权和自由,以及用于任何与我们价值观及原则不一致的目的。”
值得注意的是,IBM是第一家直言放弃人脸识别相关技术与产品的美国科技巨头。
IBM的人脸识别生意
对于IBM宣布放弃放弃人脸识别技术,有知情人士承认,此举的确踩中了当前美国社会对警察改革个种族不平等强烈关注的重要时机,但同时IBM也有商业考量。
据了解,正如谷歌、微软、亚马逊等其他硅谷巨型科技公司一样,IBM也早早就开始了有关于人脸识别技术的研发与业务拓展,也曾为了消除“算法歧视”而有所作为,包括发布脸部多样性数据集Diversity in Faces(DiF),该数据集包含100万丈已标注的人脸图像,旨在加速公平且准确的人脸识别系统研究。
然而站在业务层面,人脸识别技术并未给IBM带来可观的营收,反而带来了用户的诉讼等负面影响。
与此同时,早在Krishna于今年4月正式接手CEO一职时就曾表示,在他带领下的IBM将专注于混合云和人工智能两大战略。这么一看,放弃人脸识别业务对于IBM而言“无伤大雅”。
在美国“磕绊前行”的人脸识别技术
在信件中,Krishna也提到,“我们相信现在是时候展开全国性对话,讨论国内执法部门是否应该、如何部署人脸识别技术。”
可以看到,相比于其他前沿AI技术的研发与落地,人脸识别技术受到了更多的争议,更是数次与“种族歧视”等敏感问题有所牵扯,而这正是美国近期游行的核心问题。
人脸识别首次因为“种族歧视”问题被关注是在2018年,彼时人们利用亚马逊人脸识别系统对535为美国国会议员的照片进行识别。结果令人惊讶,有28位国会议员的识别结果为“罪犯”,这28人中包括11名有色人种。另外也有多项研究显示,美国各大公司的人脸识别算法在面对黑人时均存在准确率低的问题。
种族歧视之外,“隐私安全”是造成人脸识别技术在美国“磕绊前行”的主要原因之一。在过去的两年多时间内,包括亚马逊、微软、谷歌等在内,均被曝出与政府之间存在“人脸识别”技术相关的项目合作,由此引发了人们对“军事与工业结合体”的担忧。
在一些组织和民众看来,军事和工业结合体会被作为不正当杀人利器,以及这次合作背后可能引发的机器学习发展与道德问题,譬如打破隐私及实用性之间的平衡。
值得注意的是,“人脸识别”技术引发的舆论早已从个体的科技公司上升到城市层面。就在去年,美国旧金山城市监管委员会投票通过“禁止使用人脸识别”的决定,成为美国第一个对该技术说“不”的城市。这之后,马萨诸塞州的赛默维尔市、加州奥克兰市等也相继宣布禁止人脸识别技术和系统。
由此可见,人脸识别技术在美国“不被待见”的程度之深。但不可否认的是,即使引起了多次争议,且遭到了来自不同组织与民众的抵制,但是人脸识别技术的“利好”也是显而易见的,市场也是的确存在的。
以IBM为例,虽然它宣布放弃人脸识别,但也只是不再提供通用的人脸识别或分析软件,也不再宣传、推销和更新这些产品,而有知情人士透露,IBM依旧会在出现需求时,为现有的客户提供支持。
人脸识别技术在美国被“一刀切”是不可能的,但是IBM此次宣布“放弃”的态度之鲜明,也让美国科技界和社会再次思考技术研发与社会道德、责任之间的平衡。