Select Language

AI社区

数据要素产业

“人工智能威胁人权?”联合国罕见叫“停”,矛头直指技术滥用

【南方+9月16日讯】据半岛电视台报道,当地时间9月15日,联合国人权事务高级专员米歇尔巴切莱特(Michelle Bachelet)呼吁暂停出售和使用威胁人权的人工智能(AI)系统,直到适当的保障措施到位,以确保技术不会被滥用。

报道称,巴切莱特说:“我们承担不起继续追赶AI系统的后果--允许在没有边界或监督的情况下使用人工智能,并在事后处理几乎不可避免的人权问题。不符合国际人权法的AI应用必须被禁止。”她补充说:“AI为人们服务的力量是不可否认的,但AI在几乎不可见的情况下大规模侵犯人权的能力也是不可否认的。为了我们所有人的利益,现在需要采取行动,为AI的使用设置人权护栏。”

紧接着联合国人权办公室(UN Human Rights Office)发布一份报告,对AI技术的风险发出警告,并强调尽管AI可以作为一股向善的力量,但如果不负责任地使用,也可能造成灾难性的影响。报告称:“AI系统开发和运行背后的数据环境、算法、模型的复杂性,以及政府和私人行为者的私自保密,都是破坏公众了解AI系统对人权和社会影响的因素。”

联合国还担心AI进行分析和自动决策的能力以及它的其他用途,威胁着无数的人权。联合国人权办公室警告说,AI会影响“健康权、教育权、行动自由、和平集会和结社自由以及言论自由”。巴切莱特说:“AI系统被用来确定谁获得了公共服务,决定谁有机会被招聘到一份工作中,当然,它们还会影响人们在网上看到和分享的信息。”

联合国人权办公室指出,已经出现了一些危险的失误,个人因面部识别缺陷而被剥夺社保福利或被捕的案例层出不穷。此外,AI系统通常以不透明的方式收集、共享、合并和分析数据,因此收集的信息可能会被泄露或过时,甚至具有歧视性等。

对于AI被滥用的影响,巴切莱特强调:“与AI驱动的决策相关的歧视风险--那些可以改变、定义或损害人类生活的决策--实在是太真实了。这就是为什么需要对AI系统的影响进行系统评估和监测,以识别和缓解人权风险的原因。”

校对:吴荆子