近年来在数字技术监管领域走在全球前列的欧盟，又祭出了在人工智能监管上的立法新举措。

4月21日，欧盟委员会提出了一项旨在加强人工智能（AI）技术监管的法规草案。这项草案拟创建一个所谓“AI高风险应用场景”的清单，对AI技术在关键基础设施、大学招生、申请贷款等被认定为“高风险”应用领域的开发和使用制定新的标准，并进行有针对性的监管。根据这项法规，欧盟监管机构将有可能对违规公司最高处以相当于其全球年销售额6%的罚款。

这一监管法案的全名为“制定关于人工智能的统一规则，并修订部分欧盟法条”（Laying Down Harmonised Rules on Artificial Intelligence (Artificial Intelligence Act) And Amending Certain Union Legislative Acts）。法案的草案仍需经过欧洲议会和欧洲理事会的审议批准，其正式生效可能需要数年时间。

如果一切按计划进行，那么欧盟居民将在两年后受到法律保护，不受某些最具争议性的人工智能(AI)应用的影响，这类应用包括街头摄像头识别和追踪个人，或者政府电脑对个人行为打分。

欧盟方面本周公布相关计划，拟成为全球首个就如何使用人工智能出台规则的大型司法管辖区。此举意在将欧洲价值观置于这项快速发展技术的中心。

欧盟妄求保护居民

不受高风险AI技术的影响

根据这一提案，AI应用场景将被分为不同的风险等级加以监管，少量被认定为“高风险”的场景将直接禁止AI技术的使用，譬如政府的社会征信系统 (social credit systems)，以及被认为使用了“潜意识技术”(subliminal techniques)或“能够扭曲一个人的行为、对其造成生理或心理伤害”的应用场景。

对于警方、雇佣单位、大学院校等有可能因AI技术的使用造成偏见、歧视等不公平的机构，则将被限制使用人脸识别等AI技术。

譬如，对警方而言，原则上他们将被禁止在公众场合使用包括人脸识别在内的所谓“生物特征远程识别系统”。但法官可以在特殊情况下批准豁免，比如需要用AI技术来寻找被绑架的儿童、阻止恐怖袭击、确定一些犯罪嫌疑人的位置等等。

在欧盟内部被誉为“反垄断女沙皇”的欧盟委员会执行副主席玛格丽特维斯塔格(Margrethe Vestager)在发布会上称，新的监管措施将致力于解决AI技术在实际应用中给人类及社会发展带来的风险。“我们认为这很紧急。我们是这个星球上第一个提出这一法律框架的。”

按照这一立法框架，被归为所谓“高风险”应用场景的AI系统的提供者，未来还需为他们的系统如何运转提供详细的说明文件，以确保合规。

维斯塔格称，应用于“高风险”领域的AI系统未来将必须证明，这些系统无论在设计上还是使用上都有着“恰当程度的人工监督（human oversight）”。此外，用于训练AI程序的数据也将必须遵守特定的数据质量要求。

尽管对于“高风险”应用的监管将更趋严苛，欧盟方面表示，新法案对于视频游戏、垃圾邮件分类等大部分常用的AI系统并不会产生新规则。

不过，类似“聊天机器人”（charbot）这样的低风险AI应用未来也需要明确告知用户：对方不是真人。维斯塔格解释称，“这样做的目的是要毫不含糊地让用户知道，他们正在跟一台机器互动。”近年来走红网络的换脸APP等Deepfake软件，也将需要标注类似的标签。

在正式立法之前，该法案的草案还须经历漫长的审批流程，并且内容可能会有修改。通常，类似的法律框架必须被代表27个成员国政府的欧洲理事会、以及直选的欧洲议会分别批准后，才能正式立法，过程可能需要好几年的时间。

草案与《通用数据保护条例》（GDPR）对比

2018年5月生效的GDPR号称“最严数据法”，自欧盟提出后亦为美国的一些州政府以及其它一些国家所借鉴，其细致严苛的条例和巨额罚款成为不少国家和地区在制定通用准则时参考的模板。

因此，一些业内人士比照GDPR的效应认为，一旦上述AI监管法案通过生效，其或将在很大程度上成为全球其它地区治理和监管AI技术的参考对象。

GDPR让我们看到，欧盟规则的影响力实际上延伸到了世界各个角落，给全球其它国家带去压力，迫使它们寻求新的、更高要求的国际标准。他称，“对于AI的监管，我们同样可以期待这个（后续影响）。这只是一个开始。”

伦敦大学学院（University College London）计算机科学荣誉副教授、曾在谷歌担任科学家的Julien Cornebise则认为，新的AI法规未必能够拥有与GDPR同等级的广泛影响力，原因是AI的定义十分宽泛。“我们的手机现在每天都在做着20年前可能被视为‘AI’的事情，”因此，他认为，人工智能技术就像“移动的球门柱”，此次欧盟提出的监管规则存在诸多晦涩不明的风险，“要么迷失在（AI的）定义里，要么可能迅速过时。”

不少数字权利运动人士也认为，尽管他们欢迎提案中的部分内容，有些内容目前仍然显得过于模糊，并且提供了太多可以被利用的漏洞。

譬如，对于豁免的规则，非政府组织“欧洲数字权利”高级政策顾问Sarah Chander认为，草案规定的可豁免的用途范围过于宽泛，这样一份豁免清单某种程度上“违背了所谓‘禁令’所要实现的目的”。

一些科技行业的游说者则为草案内容没有比他们想象的更严厉而长舒一口气。代表Facebook、亚马逊、谷歌等多家美国科技巨头在欧洲进行游说的“计算机与通信行业协会”(Computer & Communications Industry Association)布鲁塞尔办公室负责人Christian Borggreen表示，欧盟委员会采取这种“基于风险的监管办法”（risk-based approach）是积极的。

不过，也有欧洲产业界人士担忧，由于中国的科技公司无需面临这样严厉的规则，欧盟提出的这一法律框架或将给中国公司在全球竞争中带来更多优势。

与欧洲科技产业有结盟关系的智库“数据创新中心”(Center for Data Innovation)高级分析师本杰明穆勒Benjamin Mueller就认为，欧盟收紧监管将进一步推高在欧洲打造AI的成本，使其变得“难以承受的高昂（prohibitively expensive），甚至技术上不可行”。穆勒称，美国和中国将“兴致勃勃地看着欧盟亲手扼杀自己的初创公司”。

不但新规提出的罚款力度几乎已经达到欧盟反垄断罚款中最严苛的水平，AI技术的使用者未来还要在实际操作中确保合规这不但需要很多费用，还需要投入大量人力。

他认为，欧盟委员会应当在未来几个月听取AI技术开发者和使用者的意见，让法案中的规定能够真正实现监管目标，并且继续细化其中一些含糊的概念；而对于技术使用者，新规将迫使他们“从根本上重新思考应当如何设计AI、以及如何采购AI”。

过去几年，AI技术发展迅猛，有关技术安全及伦理的讨论亦日趋激烈。对于此次欧盟提出的AI法规，企业界褒贬不一。一些科技公司负责人认为，欧盟的强监管不但将推高商业成本，还可能扼杀创新和企业潜力。但也有人认为，目前针对数据隐私、技术滥用，尤其人脸识别等AI技术领域的争议声越来越大，更强的监管规则有助于巩固公众对AI的信任。

美国禁止市政使用人脸识别

防止权力滥用

目前，全球已有多座城市立法限制与AI相关的技术滥用。一向以科技领先著称的美国旧金山市，早在2019年便立法禁止当地警方及其他市政机构使用面部识别技术，以防侵犯个人隐私等。

作为美国首个禁用人脸识别技术的城市，旧金山此举或影响美国其他地区和联邦政府部门，在尚不完善的人脸识别规范立法领域进一步采取行动。

2019年5月14日，旧金山市的立法机构监事会（Board of Supervisors）以8票对1票的压倒性结果通过了“停止秘密监视条例”。旧金山监事会还将于下周进行形式性的第二次投票，法案预计下月生效。

根据法案内容，旧金山市警方、执法、交通管理等53个市政部门，被禁止使用人脸识别技术。此外，法案还针对更为广义的监控设施及操作进行了限制。

例如，任何市政机构若想引入监控技术或服务，需事先得向监事会说明使用目的和方法，就此进行公开听证，并得到监事会批准。旧金山市政府还需每年报告监视设备和服务的使用情况，包括是否遵循既定要求、储存数据是否得到妥善保护或及时删除等等。

该法案覆盖旧金山市的市政机关，但在美国联邦政府控制之下的旧金山国际机场及港口则不受此限。

同时，该市企业及居民仍有权使用面部识别技术，例如在自己的居所安装嵌入人脸识别技术的监控摄像头，均被允许。这也意味着，必要时，警察仍可以从居民处获得监控录像以及被监控者的个人信息等等。

支持该法案的监事会成员Aaron Peskin表示，旧金山被视为尖端科技的大本营，有义务向全美呼吁加强人工智能（AI）的法律监管。

监事会投票前，旧金山警局表示，期待与监事会、公民组织美国公民自由联盟（ACLU）等方面合作，共同针对科技威胁个人隐私等事项推进立法，同时努力平衡公众对于安全问题的忧虑。

保障公民隐私与人权与提高政府打击犯罪的效率，是面部识别技术是否应被公权力部门使用的争论中，正反两方的主要落脚点。

反对全面禁止这一技术的“停止旧金山犯罪”组织的负责人Frank Noto表示，他认可隐私保护和公民权益的重要性；但除了尚未投入使用的人脸识别技术，新通过的法案还要求当地警方需经过申请、获得监事会批准，才能运用其他已投入使用的监视技术。因此法案内容仍有待完善。

根据美国联邦调查局（FBI）数据，2017年旧金山的财产犯罪率在全美主要城市中高居第一。

Noto指出，“如果能够负责地应用人脸识别技术，它可以成为公共安全保障的有效工具”。

面部监控技术为政府提供了前所未有的权力，令其能够追踪民众的日常生活。旧金山市的法案十分“具有前瞻性”，能够防止权力部门针对公众大面积地使用这项“危险”的技术。他还强调，公民有权参与针对高科技监控技术的监管决策，美国其他地区或将陆续出台类似政策。

其他立法推动人士指出，运用面部识别技术进行执法，可能有违美国宪法第四修正案中保护民众不受到不合理调查的原则。

AI研究人员还对面部识别技术的准确性表示了忧虑。

麻省理工学院在研究了亚马逊开发的人脸识别技术后发现，由于这项技术基于机器学习，机器学习的主要对象仍是男性和白人，因此在识别有色人种及女性的面孔时，面部识别技术的准确率显著降低。但亚马逊方面否认了这一研究结果。

目前美国的多家科技公司中，Facebook、微软、谷歌已对亚马逊呼吁，在立法等监管措施到位、面部识别技术足够成熟之前，不要向美国政府出售该技术，但并未提议终止研发。

微软总裁Brad Smith去年12月表示，支持美国政府在2019年引入人脸识别技术的监管法规。

这一技术在美国各地的普及程度，至今尚无权威的统计数据。ACLU律师Matt Cagle指出，美国政府及企业在这一问题上极不透明，因而公众对于内情并不了解。

就旧金山来说，该市警方现阶段并未应用这一技术，但2013年至2017年期间曾进行过测试。该市的部分无家可归者收容所，曾根据照片和指纹来监控收容所的使用情况，以防止未注册的无家可归者使用的相关设施出现。

非盈利组织“电子前沿基金会”（Electronic Frontier Foundation）的高级调查研究员Dave Maass则提供了一份清单，上面罗列了使用人脸识别技术的多个美国地方警署，包括拉斯维加斯、奥兰多、圣地亚哥、纽约、波士顿、底特律等市。在2018年6月的美国马里兰州Annapolis市报社枪击案中，谋杀五人的犯罪嫌疑人，就是在面部识别技术追查下落网的。

除了市级警察部门外，Maass表示，科罗拉多州公共安全局、加利福尼亚州司法局等州级政府部门也采用了面部识别实施监控。

联邦层面上，美国海关和边境保护局（CBP）在全美各大机场及港口均已运用人脸识别技术来确认旅客身份。CBP称，其做法遵循了隐私法，但仍遭到外界关于侵犯隐私与人权的抨击。

根据美国官方数据，美国至少有18个州对联邦调查局（FBI）提供了其照片数据库。根据这些数据，FBI在今年3月开展了逾9000次人脸识别的调查。

在监管方面，美国各地正陆续推出针对多种监控技术的政策或法规。

同样位于湾区的加州Oakland市，正考虑禁止面部识别技术的应用。马萨诸塞州也在酝酿暂时禁止面部识别技术及其他远程生物监控系统。

今年3月，美国国会参议院的两名议员提交了“商业面部识别隐私法案”，这也是美国国会首个围绕面部识别技术的法案。草案内容包括：企业在收集人脸识别数据前，必须得到消费者的明确同意，还对企业与第三方共享相关数据进行了限制。

该法案的牵头人之一、密苏里州选出的美国参议员Roy Blunt表示，“在科技不断发展的同时，我们需要确保它是以负责的方式得到应用的。这项法案能够加强商业实体应用面部识别技术时的透明度，和消费者的选择权。”

至于中国国内，二年前，中科院研究员曾毅此前曾在行业大会上发言称，很多企业对AI安全风险视而不见，而AI的健康发展，一定是治理和发展双轮驱动。此外，禁用一两项技术并不能解决问题，除了人脸识别，步态识别、声音识别、虹膜识别等也同样存在风险。曾毅援引统计数据称，中美大部分民众实际上都认可政府合理使用人脸识别，关键在于治理的原则要随着技术的发展不断迭代。

【1】欧盟新提案将限制人工智能及人脸识别的使用，华尔街日报

【2】欧盟寻求规范人工智能使用，FT金融时报

【3】欧盟拟立法强化AI监管 违规企业最高可罚年营收6%，财新网

全文到此为止，如果喜欢，请点下“在看”或者分享到朋友圈。