Select Language

AI社区

数据要素产业

应对人工智能新安全风险,国家工信安全中心牵手瑞莱

11月2日,国家工业信息安全发展研究中心(简称“国家工信安全中心”)与北京瑞莱智慧科技有限公司(简称“瑞莱智慧”)达成战略合作,双方将从技术研究及标准制定着手,面向政府对人工智能产品监督和企业对人工智能产品测试检验的需求,围绕实验室建设、评估服务、技术产品咨询等内容,构建人工智能与数据安全评估服务能力,共同促进人工智能产业融合发展与创新治理。

随着网络化、数字化与智能化的发展,安全始终是一项基础能力。国家工业信息安全发展研究中心副所长刘永东介绍,此次合作将以国家语音及图像识别产品质量检验检测中心为载体,充分发挥各自优势、资源互补,进一步推动人工智能安全标准研制,强化风险认知与评估手段,更好的支撑人工智能产业高质量发展。

“应对人工智能新型安全风险是一项系统工程,需构建新标准与新体系。”瑞莱智慧CEO田天介绍,瑞莱智慧将提供算法安全、数据安全、深伪检测等方面系统性的测评工具和测评能力,推动标准研制和技术创新与应用场景结合,为人工智能技术产品快速进入市尝深度融合产业场景提供重要安全保障。

国家工信安全中心作为我国工业领域国家级信息安全研究与推进机构,业务涵盖工业信息安全、两化融合、工业互联网、人工智能、大数据、软件等领域,具备安全审查、风险评估、应急处置等方面的资质,以及基于国家级平台和实验室的技术研发、标准研制和公共服务供给能力。瑞莱智慧是安全可控人工智能基础设施平台和解决方案提供商,自主研发了算法攻防、隐私计算、深伪检测等全方位的人工智能安全产品体系,拥有领先的安全测评能力。目前,相关技术产品已在数十家政府单位、金融机构及重要行业客户中落地实践,并纳入到多项国家重大研发专项中。

此前,国家工信安全中心与瑞莱智慧共同推出了人脸识别安全领域的第一个团体标准《人脸比对模型安全技术规范》,并于日前发布《人工智能安全测评白皮书(2021)》,为开展人工智能安全测评实践提供应对参考。