数据要素产业
兰开斯特大学:人工智能的伦理影响
想象一下,在这样一个世界里,超市熟食的智能包装实时更新你的信息,告诉你碳足迹,实时警告产品召回,即时安全警报,因为在工厂意外检测到过敏原。
但是为这样一个系统提供动力需要消耗多少额外的能量呢?如果意外警报意味着你被告知无缘无故地扔掉你的食物呢?
这是一组研究人员提出的一些问题,其中包括兰开斯特大学(Lancaster University)设计政策和未来思维讲师,他通过从一个“智能”想象的新世界创造对象,来审视在食品行业使用人工智能的伦理含义。
他们的文章《考虑食品部门数字协作的伦理影响》今天发表在数据科学解决方案杂志《模式》11月刊上。
食品生产是英国制造业中最大的部门。复杂的食品生产和分配过程和系统涉及数以百万计的人和组织,每天产生大量的数据。
但是,这篇文章说,要充分实现机会,就需要能够安全地一起工作,共享和访问整个食品行业的各种各样的数据源。共享数据并更有效地利用数据,如与人工智能和其他新技术创新合作,可能会减少浪费、提高可持续性并保护健康。
要满足这一需求,需要一种可信的机制,使整个供应链中的各方能够支持每一方就独立数据源的可信度做出知情的决策。但企业可能对分享可能具有商业敏感性的数据持谨慎态度,因此正在开发新的系统,这些系统可以被信任来保护隐私,同时允许收集的数据得到更广泛的使用。
这篇文章警告说,新技术也可能带来伦理问题和意想不到的有害后果。
这篇文章还说:“要建立这样的数据协作,需要整合前沿技术和周围的社会、制度和政策元素,以确保该系统对所有相关方都同样良好、公平地工作。”
“例如,如果要实施人工智能,我们需要解决这一领域众所周知的伦理挑战,比如偏见和问责,以创建对其实施负责并优先考虑人类福祉的系统。”
该项目将具有不同专业知识的人们聚集在一起,并使用一种名为“设计幻想”的方法来帮助探索分享食品数据和评估尚不存在的技术的伦理影响。
兰开斯特大学想象力实验室的首席作者娜奥米雅各布斯博士说:“与其问可能出错的一般问题,或者必须等到某个东西完全建成如果不付出巨大成本或从头再来,可能为时已晚我们想象过,如果‘数据信任’(旨在保护私人数据,同时允许他人利用数据)已经存在,世界将会是什么样子。”
作为项目的一部分建立的物联网的食物网络+(由林肯大学)探索信托相关食品行业的数据,该研究小组创建的对象充当“道具”,虚构的世界,比如“纪录片”电影,讲述一个超市召回以及实时超市速食包装。这些道具与一组卡片一起使用,这些卡片被设计成能够与技术伦理进行互动,被称为道德- it甲板。利用这些技术,他们与食品和技术专家合作,评估潜在的伦理效益、风险和挑战。
“通过这个过程,我们了解了一些重要的问题,”雅各布斯博士补充说。“例如,关键是要考虑这些系统的权力在哪里,大公司、小公司和个人消费者可能会受到积极或消极的影响,以及不同的伦理方面,如可持续性和福祉,隐私和透明度,可能需要平衡。”在未来开发此类数据信任时,需要考虑这些因素。”
的文章提出了一种方法可以考虑技术进步的道德含义,特别是在数字环境中合作与特定关注食品行业和使用人工智能在共享数据管理和使用和负责任的创新的重要性。