你对人工智能(AI)的信任有几分？

当前，新一代人工智能技术在全球蓬勃兴起，从自动驾驶、医疗、工业到生产生活，人工智能技术向经济社会各领域加速渗透，展现出巨大的变革赋能潜力。根据中国信息通信院研究测算，2020年，我国人工智能产业规模约为3031亿元，同比增长15%。然而，随着人工智能应用广度和深度不断拓展，风险与隐患逐渐显露出来，算法的安全、隐私保护、数据歧视、数据滥用等问题挑战着人们对人工智能的信任。

“可信AI”的重要性不言而喻。联合国人类住区规划署中国项目主任张振山向记者表示，中国进入数字化时代，城市化进程正向高质量发展转型，以人工智能、大数据、云计算、互联网、物联网等引领的科技力量是赋能城市转型的生力军，倡导公平、公正、安全、可控、值得信赖的“可信AI”是促进智慧城市建设落地的重要抓手。

如何实现“可信AI”？

人工智能还有“可信”和“不可信”之说？“可信AI”能解决什么问题？

澳大利亚科学院院士、京东探索研究院院长陶大程举例说，如果在道路交通牌上贴一个小广告，无人驾驶系统就可能误判，这反映了人工智能安全性的问题。另外，由于缺乏可解释性，自动驾驶系统如果遇到问题，驾驶权交付给驾驶员时就会产生困难，因为驾驶员无法在短短几秒钟之内对道路做出判断。

“一直以来，智慧城市建设的瓶颈还存在数据不能互通和隐私如何保障的问题，这也是中国智慧城市一直停留在1.0阶段的重要原因之一。”金砖国家未来网络研究院中国分院院长朱禹涛表示，如果通过“可信AI”建立一套脱敏的数据存储和调用机制，将有利于解决当下智慧城市建设遇到的难题，这样才能更好地迈入2.0阶段。

除了智慧城市建设，“可信AI”还致力于推动中国传统产业的数字化升级。“‘可信AI’是数字时代‘抵御风险’的关键能力。”蚂蚁集团副总裁、首席AI科学家漆远介绍，在中国，“可信AI”技术目前已在反欺诈、反洗钱、反**、企业联合风控、数据隐私保护在内的多个风控场景下落地，支撑着企业防御风险的需求。

专家普遍认为，要想实现“可信AI”，不光要从技术角度出发，还需要有社会的视角，系统必须具备在线连续学习和随时纠错的能力。中国科学院自动化研究所中英人工智能伦理与治理研究中心主任、国家新一代人工智能治理专委会委员曾毅认为，在需求、设计、研发、使用、部署等每一个环节都应该嵌入关于人工智能伦理的考虑，建立全流程多方共建的治理机制，这是实现“可信AI”的重要方面。

赋能城市数字化转型

智慧城市重在智慧为民。具体来说，科技要为人服务，而不是人为科技服务，“可信AI”的一个最显著特点就是以人为本。

“疫情也加速了前沿科技的应用。未来城市数字化转型需要以人为中心的共识和行动。”联合国人居署中国办公室国家官员应盛表示，新冠肺炎疫情加速了城市数字化或智慧化的进程，很多需要几十年推广的技术应用，在一两年就得到很好普及。

应盛描述了一个真实存在的场景，“几年前人们讨论人工智能时，还惧怕人工智能会取代人、替代人类的工作，现在很多场所人工智能的使用与普及为人们的工作和生活带来了便利、提高了效率。大家对人工智能的认识认知都有了提高。”

那么，“可信AI”该如何赋能城市数字化转型？工业和信息化部科技司技术处处长徐鹏建议，应深化人工智能和实体经济深度融合应用，大力培育发展智能经济，促进人工智能与一、二、三产深度融合；发展智能农业、智能制造、智能服务等智能+经济，推动产业提质增效，构建数据驱动，人机协同，跨界融合，共创分享的智能经济形态；此外，还要加快相关法律法规、伦理、治理框架标准和研究工作，重点研究智能的算法产品安全性和公平性，切实提升数据安全和隐私保护能力。

为人工智能治理

提供“中国方案”

不难注意到，面对人工智能引发的全球信任焦虑，发展“可信AI”已经成为全球共识。早在2019年6月，二十国集团（G20）就提出“G20人工智能原则”，并在其五项政府建议中明确提出“促进公共和私人研发的投资力度，以促进可信赖的人工智能的创新；需创建一个策略环境，为部署值得信赖的人工智能系统开辟道路。”目前，这项倡议已成为国际社会普遍认同的人工智能发展原则。

随着“可信”成为共识，产业界也紧跟学术界步伐，纷纷投入“可信AI”的研究。京东、百度、、阿里等我国头部互联网企业，微软、谷歌、IBM等跨国企业都纷纷设立相关部门或项目探索“可信AI”的应用实践。

7月9日，中国信息通信研究院联合京东探索研究院发布国内首本《可信人工智能白皮书》（以下简称《白皮书》），为落实全球人工智能治理共识提供“中国方案”。

值得注意的是，《白皮书》提出了衡量人工智能的“四把尺子”：稳定性、可解释性、隐私保护、公平性。据陶大程介绍，稳定性是指人工智能系统能够抵抗恶意攻击，可解释性是指人工智能系统所作出的决策需要让人类能够理解，隐私保护是指人工智能系统不能把个人的隐私信息或者群体的隐私信息进行泄露，公平性是指人工智能公平对待所有用户。

“可信AI已经不仅仅局限于对人工智能技术、产品和服务本身状态的界定，而是逐步扩展至一套体系化的方法论。”陶大程表示，要想最终实现可信人工智能，就要找到统一的综合治理框架，这是有待探索的。

■作者：刁静严

版面欣赏