数据要素产业
麻省理工设计出“液体”神经网络,可适应快速变化的训练环境
文/陈根
人工智能时代里,神经网络对于机器学习具有重要作用。神经网络是通过分析一组“训练”示例来识别模式的算法,也被认为是模仿大脑的加工路径。想要适应自动驾驶、控制机器人、医疗诊断等场景,就必须让神经网络适应快速变化的各种状况。
现在,麻省理工学院的研究人员称,他们已经设计出了一种具有重大改进的“液态”神经网络。其特点是能够在投入训练阶段之后,极大地扩展 AI 技术的灵活性。
研究人员从微小的线虫中获得灵感,其中,线虫的神经系统只有302个神经元,却可以产生意想不到的复杂动力。研究人员仔细研究了线虫的神经网络,以及神经元通过电脉冲激活并相互交流的过程。
并且,在研究人员用来构造新的神经网络的方程中,研究人员允许参数根据一组嵌套的微分方程的结果随时间变化。
这种灵活性是此次研究成功的关键。大多数神经网络的行为在训练阶段之后是固定的,这意味着它们很难适应输入数据流的变化。而此次的“液体”神经网络的流动性使其对意外或嘈杂的数据更有弹性。比如,如果无人驾驶汽车上的感知神经网络能够分辨晴朗的天空和大雪等环境,就可以更好地顺应情况的变化、并维持较高的性能。
此外,神经网络的灵活性还有另一个优点,是更易于理解。研究人员此次的流动神经网络绕过了不可伸缩性“仅仅改变一个神经元的表示形式”,因此更容易窥视网络决策的“黑匣子”,并诊断网络为何做出某种表征。这可以帮助工程师理解和提高液体网络的性能。
目前,“液体”神经网络在一系列测试中表现出色。在准确预测从大气化学到交通模式等数据集的未来值方面,它领先于其他最先进的时间序列算法几个百分点。研究人员认为,该网络的小规模意味着它在完成测试时没有高昂的计算成本。这也为进一步研究提供了希望的前景。