《读库1806》中有一篇《人工智能会觉醒吗》,总结了关于人工智能的三个思想实验,记录如下。

图灵测试

Alan Turing在1950年发表了论文《机器能思考吗》,提出了图灵测试:

假如一个人与另外两个“人”(A和B)进行不见面的对话,A和B一个是机器,一个是真人。但是,无论这个提问者怎么努力发问,他都无法区分出A和B到底哪个才是机器,那么就可以说这台机器通过了图灵测试。

图灵指出:

如果机器在某些现实的条件下,能够非常好地模仿人回答问题,以至提问者在相当长时间里误认它不是机器,那么机器就可以被认为是能够思考的。

中文房间

20世纪80年代初,哲学家John Searle在论文《心灵、大脑和程序》中提出了“中文房间”,用来反驳机器能够思考的观点:

假设有一个对汉语一窍不通、只说英语的人,关在一间只有一个开口的封闭房间中,房间里有一本英汉互译手册以及足够的纸、笔和橱柜。房外的人不断向房间内递进用中文写成的问题,房内的人将中文翻译成英文,解答后再翻译成中文递出房间。这样可以让房外的人以为他懂中文。

如果把房里的人比作图灵测试中的计算机,手册就是计算机程序。虽然房里的人可以正确回应房外人的问题,但是,正如房里的人根本不理解中文、不会用汉语思考一样,计算机也不可能通过程序来获得理解力,它们只能运行程序、处理信息,给出一个“智能”的假象。

这个实验留下了一个疑问:什么是理解?如果机器能通过查手册以假乱真,是不是可以认为它具备了对中文的理解能力呢?

亿年机器人

更进一步地,机器和人本质的区别到底是什么?

Daniel C. Dennett在《直觉泵和其他思考工具》(2013)一书中提出:

假如我们进入一个休眠仓,希望自己能在一亿年之后成功地苏醒。为达成这个艰巨的目标,我们必须制造出一个能感知环境、回避风险、寻找资源的机器人,我们只留给他一个指令“让我活着”,然后就休眠了。在这一亿年中,我们再也无法对这个机器人进行任何干预。机器人为完成终极目标,必然会把这个大目标分解成无数个小目标,在执行这些目标的过程中,机器人就会开始演化,就会表现得越来越像人。

如果我们人类是上述实验中的机器,实验中的人类就是基因。基因创造了生物,然后就放手了,什么都不管,唯一的指令就是“把我传递下去”。人就是基因为了让自己永生而演化出来的产物,从基因把控制权让渡给人类的那一刻起,人类就拥有了自由意志。

那么,既然人是基因演化出来的机器,人制造的机器为什么就不可以拥有意识呢?

也就是说:机器和人不存在本质区别

艾伦脑科学研究所所长克里斯托夫·科赫提出:

意识是达到一定复杂程度的物理系统所具备的一种属性。

科赫曾与DNA双螺旋结构发现者之一的克里克一起工作,他们都主张抛弃关于意识本质的争论,而应该找出一个物理量来表征一个系统是否具备意识。

目前人工智能的研究热点集中在基于统计学的机器学习、深度学习,本质上是算法和程序,同时,关于仿生大脑的研究也在持续进行,这两条研究路线都有可能唤醒真正的人工智能。最有可能的则是,当计算机系统强大到足以模拟大脑神经元结构时,上述两条路线交汇,机器觉醒。

从目前人工智能的发展情况来看,机器必然会进化出自我意识,摆脱人类的控制,成为与人类争夺资源最强有力的对手。

如果不想被灭绝,人类必须进化成机器。