备选：

1.成本不到50美元的网上测试，怎么成了AI高风险？

2.欧盟严管AI，这真的有助于社会发展吗？

3.史上最严AI监管提案，连网上考试都不放过？

智东西（公众号：zhidxcom）

编译 | 贞逸

编辑 | 云鹏

智东西7月26日消息，据外媒报道，麻省理工学院的科学家表示，欧盟对人工智能的监管提案（ EU proposal to regulate AI）将会影响Duolingo的技术创新。

Duolingo是可供免费下载的学习外语的应用程序，目前已成为世界上学习第二语言最流行的方式。该公司在上周的IPO中高达34亿美元。

欧盟在今年四月祭出了史上最严的人工智能监管提案，按照风险的高低，将人工智能应用场景分为“不可接受、高、有限、极小”四个风险等级，以保护欧盟民众的安全和正当权利不受侵害。此次的Duolingo被评为了高风险等级（high-risk），原文作者认为这会影响企业对类似的教育行业（机构/技术）的投入。

一、欧盟认为该程序存在高风险

Duolingo中有一个功能是英语测试，使用该功能需要使用到人工智能系统。考生不需要注册，仅需要一个带有摄像头的联网设备，在经过一个小时的考试之后就能完成测试。测试可以防止欺诈行为（摄像头的作用），并评估（考生的）读写能力、会话和理解能力。该英语测试会在2天内出结果，而且成本不到50美元。

欧盟的一项提案将使用人工智能“评估参加教育机构一般测试的考生”的系统归入高风险的类别。这个标签适用于在测试中使用人工智能的情况，例如个性化测试（即时生成适合考生技能水平的问题）和评分。这意味着Duolingo将会受到该提案的影响，有可能募资减少。

二、高风险标签阻碍了市场投资

在欧盟的人工智能监管提案通过后，高风险人工智能系统的供应商（如果想进入市场）将必须根据欧盟提案中的规则，采取一系列的步骤：数据和数据治理、透明度、监督、稳健性、准确性和安全性等。该提案涵盖了对高风险人工智能系统的10页要求及其供应商应尽的义务。

原作者认为，在高风险应用领域，基本上所有的科技企业家和投资者都会抵制（反感）这些昂贵且耗时的要求，并将他们的精力投入到其他的应用领域中。在此情况下，欧盟将在重要活动等方面的技术创新减少。但欧洲民众也都知道，人工智能需要长久的研究时间（人工智能的研究不是一蹴而就的）。这将会影响欧洲部分企业的竞争力。

三、让门外汉也能创新

越来越强大的科技创新影响了民众的生活，甚至有些可能已经“越界”。一所学校认为，某些技术可能过于强大（影响了欧盟民众的安全），因此需要大量的预先规划（讨论）和持续监督。这是“上游治理（upstream governance）”方法，欧盟提议的人工智能提案就是一个典型的例子。

另一种方法通常被称为“未授权的创新（unauthorized innovation）”。该方法允许即使是小型的创业团队或者预算有限的门外汉（outsider）都可以进行尝试创新并改进产品（比如一开始的Duolingo）。

原作者认为这是推动创新的最佳方式，让创新者的发挥空间受限或者要求他们承担前期的高昂成本并不是个好主意，这将导致（创新）的步伐放缓，成功的案例也有可能变少。

结语：严管不利于科技创新

随着欧盟的《通用数据保护条例（General Data Protection Regulation）》于2018年5月生效，谷歌的市场份额有所增加，企业在欧洲的投资有所减少。原作者分析该现象后认为，欧盟对人工智能进行监管提议将会阻碍欧盟的科技创新。

科技是在不断发展的，有些时候过于强大导致了民众对于科技的抗拒心理。但科技创新发展和民众的安全不应该是二分法，如何取得两边的平衡点将是未来治理的关键。