来源：《科学之路》

作者：杨立昆

即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明。

人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的65年中，无数电影与小说塑造了各种经典的人工智能角色，AI（Artificial Intelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智能不断拓宽我们对未来想象的同时，也不乏“AI 统治世界”、“AI 监视隐私”等等一类的消极论调，那么，我们当下讨论的 AI 真的即将统治人类吗？AI 真的在威胁着个人数据与隐私吗？......又或者，AI 真的比我们更聪明吗？

如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走，那么，图灵奖得主杨立昆（Yann LeCun）的新书《科学之路：人，机器与未来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。

在真正开始有关 AI 的伦理思考之前，我们首先要弄清楚以下三个名词的关系：人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。目前，开发新应用最常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。

杨立昆在书中对人工智能提出了10个问题并进行了深入探讨，让我们更全面、更客观的了解人工智能。

1、人工智能是不可理解的黑匣子吗？

一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原理，但这不正是所有智能决策的特点吗？

我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时，为什么还要对它产生怀疑呢？

人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满意的效果，这不就够了吗？

而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它于1897 年首次被合成，可是直到1971 年我们才明确其作用机制。

2、大脑只是一部可模拟的机器吗？

如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿个相对简单的神经元的活动，我们便获得了大脑和思想。

我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重现。

质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但是我坚信，哺乳动物或人类的大脑是可以“计算”的机器，并且这些计算原则上可以通过电子机器或计算机进行再现。

3、人工智能会产生意识吗？

意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认出自己的大象和黑猩猩已经具有自我意识，而狗不行。

我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时，我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开启“世界模型”以规划下一步行动。

对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人类的不同，它们可以同时专注于多项任务。但它是无法培养意图或发展意识的。我的同事安托万博兹总结道：“我们甚至没有配方的原料去制造一台既能够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基础概念。”

4、人工智能比人类更聪明吗？

如今，即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明。虽然我们已经了解了大脑学习的原理，知道了大脑的结构，但重现其功能所需的计算量是无比巨大的，大约是每秒1.5× 1018量级的操作。现在一块 GPU 每秒可执行1013次计算，功耗约为250瓦。为了达到人脑的计算能力，必须将10万个这样的处理器连接上功耗至少25兆瓦的巨型计算机才能实现。这巨大的能量消耗是人脑的 100 万倍！

因此，深度学习的能力十分强大却又十分有限。目前的深度学习系统仍无法进行逻辑推理，因为当前的逻辑与学习能力并不匹配，这是未来几年的主要挑战。只受过国际象棋训练的机器根本无法下围棋，而且它完全不理解自己所做的事情，它只不过是机械化地执行指令。如果以生物的智能做一把标尺，人类的智能为 100，老鼠的智能为1 ，那么人工智能在标尺上的位置可能更接近后者。

科学面临的挑战是巨大的，技术也是如此。

也许你要提起那些仿真机器人来反驳我了，比如“索菲亚”。索菲亚是一位面带神秘微笑、长着一双玻璃眼珠的美丽的光头女人，“她”在2017 年的许多舞台上都大放异彩。“她”动人的脸庞能够呈现数十种不同的表情，在调侃一个记者关于地球上有太多机器人的担忧时，“她”笑道：“您好莱坞电影看太多了！”这个经典笑话让她如此酷似人类，以至沙特阿拉伯在当年授予了“她”沙特国籍。实际上，“她”只是一个由工程师预先设定好一系列标准答案的“木偶”。当我们与“她”交流时，所有的谈话内容均会经过匹配系统处理，并从得到的答案中选择最合适的一个输出。索菲亚欺骗了人们，“她” 只是一个完成度很高的塑料制品，只不过是我们（被这个激活了的物体所感动的人类）赋予了它某些智能。

所以，人工智能比人类聪明吗？也许它们在执行十分精确严密的特定任务时所表现出的性能远超人类。但至少目前，任何一种机器学习方法都没有人类的学习更加有效。

5、人工智能会产生人类感情吗？

我丝毫不会怀疑自主智能机器有一天会产生情感。

当用于测量机器人电池电量的镜头元件产生了较高的成本而致使机器人开始寻找电源时，不正与饥饿的感觉相似吗？

当机器因成本高昂而避免采取行动时，或者由于成本低廉而执行任务时，这是否已经可以看作是一种情感的标志？

当计算饥饿的目标函数的组成部分产生高成本时，它会触发对食物的搜索。普遍地观点认为，这些行为是目标模块组件不满意的结果。

我很清楚地意识到所有这些似乎都是可以简化的。情感是人性的重要组成部分，因此人们不愿意将其数字化为简单的数学函数计算，对将人类行为简化为目标函数的最小化也心存疑虑。但是，我在此提出的仅是关于智能系统的一般体系结构的假设，没有否认目标函数和世界模型的丰富性或复杂性。

6、人工智能可以预测未来吗？

人们都很喜欢预测，例如预测库存、预测产品的需求、预测一只股票或财务价值的演变曲线...... 那么，人工智能可以预测未来吗？

如今的人工智能有一个悖论：它功能极其强大、极其专业化，却没有一点常识。

常识至关重要，它制约着我们与世界的联系，它能填补空白，弥补隐含的信息。当我们看到一个坐在桌子旁的人时，可能看不到他的腿，但我们知道他肯定有腿，因为我们对人类有一定的常识。我们的大脑还整合了物理学的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就会洒得满桌子都是。我们知道如果不拿住某个东西，它就会掉下去。我们还能够意识到时间流逝、万物运动。

目前，机器带有的预测能力十分有限。当然，如果给定一个有些删减的文本，机器有能力给出一个可能的后续单词列表。但是，如果这段文字是阿加莎克里斯蒂(Agatha Christie)的小说，在最后一幕波罗探长宣布“凶手是......先生”，那么，为了完成这个句子需要读者有很强的常识和对人性的了解。很显然，没有哪一台机器能做到这一点。更不用提预测人类世界的未来了。

7、人工智能会统治世界吗？

在经典科幻电影《我，机器人》（I,Robot）中，机器人具有自我进化能力，转化成了人类的“机械公敌”，制造者和被制造者展开了战争。这恐怕也是很多人对人工智能未来的担忧。

我们对机器人想要取得权力的恐惧主要来自人性特质在机器上的投射。对大多数人来说，人类与智慧生物的唯一互动就是与其他人类的互动，正因如此，我们混淆了智力和人性。这是一个错误，因为还有其他形式的智力存在，即使在动物界也是如此。

人类同倭黑猩猩、黑猩猩、狒狒和其他一些灵长类动物一样具有复杂且通常带有等级制的社会组织，每个个体的生存（或舒适度）取决于它影响该物种其他成员的能力（统治只是影响的一种形式）。我们是社会性动物的事实解释了我们为什么把对统治的渴望与智力联系在一起。

除了对统治的渴望，为了人类物种（或基因）的生存，我们的许多冲动和情感已通过进化建立了起来，其中包括好奇心，对探索的渴望，竞争力，屈服，渴望与我们的同类接触，爱，仇恨，掠食，以及我们对家庭成员、我们的部族、我们的文化、我们的国家的偏爱，没有这些冲动和情感的人、动物或机器也都可以是有智慧的。我们必须将这个问题说得清晰透彻：只有当我们在智能机器中明确地建立了这种欲望时，它们才会渴望统治人类。但我们为什么要这样做呢？

8、人工智能会被滥用吗？

霍金于2014年向英国广播公司称，“人工智能可能意味着人类的毁灭”， 但后来他改变了想法。就像任何一位出色的天体物理学家一样，他的时间尺度是以数百万或数十亿年为单位的。试想，我们怎么会如此聪明地设计出一个超人类的智能机器，同时又如此愚蠢地赋予它荒谬至极的目标呢？

请记住，人工智能始终都是由人类开发出来为人类服务的工具，目的是放大人类的智能。

我们认可的造福人类的所有技术革命都有其阴暗面，每一项技术都带来了问题，而这些问题最终都得到了解决。

为了防止这些滥用，我帮助创建了“ 人工智能伙伴关系” （PAI），这个组织汇集了约100名成员，包括大型公司、互联网巨头、学者社团、人权组织（国际特赦组织、美国公民自由联盟、电子前沿基金会）、媒体（《纽约时报》）、大学团体和政府机构等。我们讨论道德问题，警告危险并发布建议。人工智能是一个新领域，其深度展开的后果并非总是可预测的，我们必须多加考虑。

9、人工智能会带来军事风险吗？

像其他所有技术一样，人工智能可以被用于做最好的事情，也可能被用于做最恶的事情。有些声音反对在军事上使用人工智能，主要是反对致命性自主武器系统（lethal autonomous weapon systems），它通常也被称为“杀手机器人”。相对应的保障措施已经较为成熟，大多数军队都有极为严格的规则来管理启动打击的授权程序。无论是何种武器，决策的源头始终是高级军官。我们都知道，自动或半自动武器已经存在很长时间了，弹道导弹、巡航导弹也是如此。在所有具有很强杀伤性的自动武器中，最古老的当属地雷。自1999 年以来，地雷就被一项国际公约禁止使用，不是因为它们很聪明，而是因为它们很愚蠢。

那么，智能化武器是否会有滑向军备竞赛的危险？弗拉基米尔普京（VladimirPutin）在曾表示，“人工智能的领导者将成为世界的统治者”。面对人工智能推动的可能存在的军事失控，危险是无比真实的。避免这些危险最重要的力量来自我们的国际机构，坚定捍卫已有的保护措施比以往任何时候都更加有必要，因为它们受到了民粹主义、民族主义和孤立主义的威胁。

10、你会被人工智能取代吗？

我不确定人工智能革命是否会影响所有人。与那些从事可能被（部分或全部）系统化和自动化工作的人相比，深耕于有资质的、创新性的、专注于人际关系或人力资源职位的人更有可能保住工作。如果我们的政府不通过财政措施纠正存在的问题，那么人工智能带来的收益将无法平均分配，贫富差距会进一步扩大。

自动化已经取代了人类来完成重复性或艰巨的任务，而人工智能将在那些一定程度上需要加入感知、推理、决策和行动计划等内容的工作中取代人类。自动驾驶汽车会减少卡车、出租车和载客专车（VTC）的驾驶员的数量，因为它们会更加安全。医学图像分析系统已经走进放射科医生的日常工作中，患者也因此得到更可靠、更便宜的检查。在以上这些健康和交通运输领域，人工智能将会挽救更多的生命。

所有的职业都将受到科技变化带来的影响。有一件事是可以确定的：人工智能及其应用无法参与竞争的东西会变得更有价值。

我们每个人都可以花不到2 欧元的低价或通过订阅的方式聆听最喜欢的音乐家的作品，然而如果要欣赏摇滚音乐会或歌剧，我们就需要支付50～300 欧元。区别在哪里？区别在于，独特的事物赋予了生命独特的时刻。一顿大餐，参观自然景点或博物馆，听一场爵士乐音乐会作为一个开明的业余爱好者，我因为能够做这些事情而感到高兴 ！我们越来越重视创造力和独到的体验，越来越不看重大众化的产品。在健康、艺术、科学、教育、体育等领域的职业中，感性的方面在未来将占有重要的一席之地。