人工智能会有自我意识吗?

什么是意识?对有宗教信仰的人来说,人的意识就是灵魂。笛卡儿则说,我思故我在。他相信只有人能有意识,动物只是不会思考也不会痛的机械。

我们如今发现,鸟兽比我们想像中聪明;鱼也不像传说中只有七秒记忆。石斑和海鳗会借助对方的强项合作打猎,专门帮其他鱼清理身子吃寄生虫的裂唇鱼则有生意头脑,不只每天应付上千条不同性子的客户,还会区分常客和偶然到此一游的顾客,选择要不要招生意或提供额外服务。

但所有动物都有意识吗?无脑的水母会思考自己的存在吗?植物用化学物质沟通,能感知周围环境,但有内心世界吗?病毒则像电脑程序,会自动执行基因里写好的繁殖过程,仅此而已。我不是贬低这些生物,毕竟聪明绝顶的我们选了特朗普当美国总统,相比下无意识的微生物不只是地球主人,也能让牛高马大的人一命呜呼。

几十年来,科幻小说和电影如《2001太空漫游》到《银翼杀手》假设人工智能会有跟人一样的意识和情感。但《2001》故事发生在2001年,《银翼杀手》发生在遥远的2019年。不知道该遗憾还是庆幸,我们至今未研发出类似 HAL 9000 的电脑或生化机械人。再看看我手机上 Siri 的智能水平 ⋯⋯ 人工智能对人构成威胁的未来似乎还很远。不过,今天的世界虽然没有几十年前父母辈想像的飞行车、移民火星和生化机械人,互联网和智能手机却颠覆了世界。同理,在人工智能有意识以前,它会先令大部分人失业,令社会面临巨变。

撇开这些威胁不谈,人工智能可能有感情和意识吗?专家对此众说纷纭,不是专家的我更没有答案。也许人太纠结于自己的切身体验,把脑细胞生产的幻觉想得太神圣,让我们难以承认世界上可以存在各种不同的、非人的意识和情感。

情感可以很复杂,但究其本质不过是四十亿年来进化而成的奖励和惩罚机制。爱亲情性欲促使我们繁殖和养育下一代,恐惧让我们避开危险。但这些情感对我们来说像刀割肌肤一样真实。如果我们给人工智能植入惩罚机制,让它学会回避做某些事情,这算不算痛或恐惧?如果我们在人工智能里植入奖励机制,帮人完成任务就会满足,那算是快乐吗?

科幻电影中常见的一个经典桥段,是主角发现自己的回忆是假的,自己只是被植入回忆的机械人。科学家还在探索意识的本质,很多科幻作者则说,人生体验形成的记忆构成了自我,让我们有连续的我一直存在的感觉基础。这让我生出有趣的想法:鉴于电脑有比人精准的记忆,人工智能如果有了意识,它们的存在是否比我们更真?

当然,科幻电影和小说乃虚构,以上纯属胡思乱想。学者又怎么说?2017年10月《科学》神经科学特刊的一篇综述认为,人的意识分为三个级别,即无意识的自动驾驶模式(C0)、获取信息作出决策(C1)和自我监控(C2)。目前人工智能处于C0意识等级,如精通下棋的电脑 AlphaZero 能自主学习并思考出让对手出其不意的招数,但它不会思考「我是谁」。人也常处于C0模式,如我们开车经常是靠潜意识操纵车子;有些因脑部损伤失明的人,依然能在障碍物中穿梭前进,或举手挡掉丢向他的乒乓球,凸显人脑就算没有意识也可以对周遭的事情作出一些反应。一些科幻电影和小说想像,如果有外星智慧,那极可能是无意识的生命,像电影《湮灭》里的外星人只会不断改造和复制周遭的生物,这种对手无法被人理解,所以可怕。

有些专家认为,人工智能或许只能发展到这种级别。一个红色色盲的人可以花一辈子收集关于红色的一切知识,知道一切关于红色的事情,但他体会不到什么是红色。同样地,人工智能可以拥有超越人的智慧,甚至行为上百分百模仿人,却未必有人的意识。但什么是意识?正常人也看不见紫外线和红外线,只能用科技把这些颜色转成人体验得到的色彩,可是不会有昆虫鸟类亲眼看见这些色彩的体验。人的意识也不完美,而人工智能虽未必会有人的意识,但也可能发展出有别于人、人无法体会的一套思考模式、意识和情感。到时它们可能要反问:人能有像我们一样的意识吗?

我思故存在,爱过恨过所以活过,因为没什么比自己的情感和意识更真。如果人工智能产生意识,它们的意识也会是最真实的自我,它们的情感 —— 就算那只是人工植入的奖励和惩罚机制 —— 也会是切身体会。也许在遥远的未来,人工智能也不需要人去承认它们有意识和情感,毕竟人工智能的智力发展有无限潜能,人则受限于人性和潜力耗尽的生物大脑。到时跪求被承认真实存在的,搞不好不是人工智能,是人!

写到这里,我不寒而栗。幸好,我看看手机上 Siri 的智能水平,看来这一天离我们还有很远。