Select Language

AI社区

数据要素产业

AI 如果 “智力爆炸” 成为超级智能,人类是蝼蚁还是宠物?

12-08 01:21 TAG: AI 超级智能 人类

想象一下,当你推倒多米诺骨牌时,第一张牌倒下,而后每一块牌迅速产生反应,直至最后一块牌。实际上,这种连锁反应不局限于物理界,而是广泛存在于各个科学领域。

而今天,科学家们都在讨论一个全新的、会产生连锁反应的领域——AI。许多人提出,AI 的智力就像多米诺骨牌一样,一旦打开某个开关,它就会不断地自我补充,形成 AI “智力爆炸”,甚至最终可能超越人类智力。

AI 如果 “智力爆炸” 成为超级智能,人类是蝼蚁还是宠物?

近日,世界知名的人工智能专家、前加州大学教授 Lance B. Eliot 博士在福布斯杂志发表文章,详细讨论了 AI “智力爆炸” 这一问题。

你说的 “AI” 不是 “真正的 AI”

一些科学家认为,某一天,AI 有可能会发生 “智力爆炸”,并且宣称,这可能发生在 2050 年至 2100 年之间。但没人知道具体的答案。

事实上,目前已存在的 AI 系统,还无法与人类智力相提并论。当前基于计算机的 AI 可以做一些相当棘手和令人印象深刻的事情,但这充其量只能称作是 “狭义的 AI”--- 它只能在有限的范围或领域中工作,而且缺乏与人打交道的常识性推理能力。

而真正的 AI,通常被称为 AGI(Artificial General Intelligence),可以毫无悬念地通过图灵测试。

但目前,世界上还没有一个 AGI。

有人认为,只有人类才可能展示出最高水平的智力,因此,AI 智力无论经过多少演变发展,都不可能达到高于人类的水平。因此,AI 经过智力爆炸后,将达到与人类智力完全等同的程度,而后便停滞不前。

但相反,也有另一种观点认为,AI 智力的爆炸式增长将会超越人类智力,并停留在所谓的超级智能左右的水平上。

超智能水平究竟有多高?我们对此暂时毫无了解。

但有人坚信,尽管超智能会超出人类的智力水平,但它本身也将具有一个界限或最终优势。同时,AI 智力爆炸可能是一个永无止境的连锁反应——AI 可能会不断地发展,引发超级 AI,再引发超级超级 AI…… 总之,变得越来越聪明,直到永远。

AI 智力爆炸,于人类是利还是弊?

我们不得不注意的一个问题是:超级 AI 可以思考出、做到、看到或说出哪些我们普通人所不能做到的? 

Eliot 教授给出的答案是,超级智能大概可以解决癌症,世界饥饿,解释宇宙是如何开始的,并且从本质上可以回答人类仅有的敷衍智力尚未解决的、所有棘手的开放性问题。

令人悲伤的是,人类的普通智力甚至可能不足以识别出超级智能所能想到的东西,因此到那时,人类在 AI 眼中可能如同小小蝼蚁,超智能 AI 要么容忍我们的存在,要么帮助我们存活下去。

它可能试图将我们推向智能阶梯,或者决定让我们成为 “宠物”,可能会教给我们新的智慧,也可能会认为我们不值得它为此烦恼而放弃我们。

但另一方面,这是否意味着我们根本不需要任何其他新发明,因为以某种方式拥超智能有 AI 就可以满足我们的所有需求?

想象一下,有时候与真正聪明的人在一起时,我们的智力会得到提高,因为与对方的交互作用可能使我们沉迷、吸收或以某种方式放大自己的智力。因此,假如我们实现了 AI 超智能,则可能导致我们作为一个物种的自身智能的增加,这似乎也是合理的。

AI 自动驾驶汽车与智力爆炸

不得不说,目前的人工智能产业的一大领域就是自动驾驶汽车。但实际上,目前的无人驾驶汽车技术水平还未达到较高水平。

真正的自动驾驶汽车是指 AI 完全自行驾驶汽车,并且在驾驶过程中不需要任何人工协助。这些无人驾驶车辆被认为处于 4 级和 5 级水平。

而要求驾驶员共同分担驾驶工作的汽车,应该被称为半自动驾驶(semi-autonomous),处于 2 级或 3 级水平,通常包含各种自动附加组件 ADAS(Advanced Driver-Assistance Systems)。

现在,4 级无人驾驶汽车正在通过非常狭窄和经过选择的公共道路进行试验,来尝试增加其吸引力,尽管是否应该允许进行这种试验仍存在争议(因为反对者指出,人在这些试验中充当小白鼠,是生死攸关的事)。

在文章中,Eliot 教授提出了 AI 自动驾驶汽车和 AI 智力爆炸的三个方面:

(1)AI 自动驾驶汽车的兴起是否会对 AI 智力爆炸的连锁反应起促进作用?(2)如果 AI 自动驾驶汽车本身不属于 AI 智力爆炸的一部分,那么 AI 自动驾驶汽车是否还会得到研究与发展,并最终促进 AI 智力爆炸?(3)我们设计的 AI 自动驾驶汽车是否会在 AI 智力爆炸产生 AI 超智能后,成为废弃无用的技术?

一种观点认为,今天正在设计的 AI 自动驾驶汽车似乎不太可能产生 AI 智力爆炸。现有的系统要达到超智能水平,似乎还远远不够。这就引发了另一场关于是否要实现真正的无人驾驶汽车的讨论,毕竟,有了超智能 AI 后,现在无人驾驶汽车似乎仅仅是个玩具。

总而言之,智力爆炸的概念无疑能让我们的思绪飘扬。

想一想,如果无人驾驶汽车突然的 AI 驾驶系统突然引发智力爆炸,它们可能决定不再当我们的汽车驾驶员,而是成为人类生存和未来的驾驶员。这无疑会让人们陷入担忧。