人工智能會有自我意識嗎?

什麼是意識?對有宗教信仰的人來說,人的意識就是靈魂。笛卡兒則說,我思故我在。他相信只有人能有意識,動物只是不會思考也不會痛的機械。

我們如今發現,鳥獸比我們想像中聰明;魚也不像傳說中只有七秒記憶。石斑和海鰻會借助對方的強項合作打獵,專門幫其他魚清理身子吃寄生蟲的裂唇魚則有生意頭腦,不只每天應付上千條不同性子的客戶,還會區分常客和偶然到此一遊的顧客,選擇要不要招生意或提供額外服務。

但所有動物都有意識嗎?無腦的水母會思考自己的存在嗎?植物用化學物質溝通,能感知周圍環境,但有內心世界嗎?病毒則像電腦程序,會自動執行基因裡寫好的繁殖過程,僅此而已。我不是貶低這些生物,畢竟聰明絕頂的我們選了特朗普當美國總統,相比下無意識的微生物不只是地球主人,也能讓牛高馬大的人一命嗚呼。

幾十年來,科幻小說和電影如《2001太空漫遊》到《銀翼殺手》假設人工智能會有跟人一樣的意識和情感。但《2001》故事發生在2001年,《銀翼殺手》發生在遙遠的2019年。不知道該遺憾還是慶幸,我們至今未研發出類似 HAL 9000 的電腦或生化機械人。再看看我手機上 Siri 的智能水平 ⋯⋯ 人工智能對人構成威脅的未來似乎還很遠。不過,今天的世界雖然沒有幾十年前父母輩想像的飛行車、移民火星和生化機械人,互聯網和智能手機卻顛覆了世界。同理,在人工智能有意識以前,它會先令大部分人失業,令社會面臨巨變。

撇開這些威脅不談,人工智能可能有感情和意識嗎?專家對此眾說紛紜,不是專家的我更沒有答案。也許人太糾結於自己的切身體驗,把腦細胞生產的幻覺想得太神聖,讓我們難以承認世界上可以存在各種不同的、非人的意識和情感。

情感可以很複雜,但究其本質不過是四十億年來進化而成的獎勵和懲罰機制。愛親情性慾促使我們繁殖和養育下一代,恐懼讓我們避開危險。但這些情感對我們來說像刀割肌膚一樣真實。如果我們給人工智能植入懲罰機制,讓它學會迴避做某些事情,這算不算痛或恐懼?如果我們在人工智能裡植入獎勵機制,幫人完成任務就會滿足,那算是快樂嗎?

科幻電影中常見的一個經典橋段,是主角發現自己的回憶是假的,自己只是被植入回憶的機械人。科學家還在探索意識的本質,很多科幻作者則說,人生體驗形成的記憶構成了自我,讓我們有連續的我一直存在的感覺基礎。這讓我生出有趣的想法:鑑於電腦有比人精準的記憶,人工智能如果有了意識,它們的存在是否比我們更真?

當然,科幻電影和小說乃虛構,以上純屬胡思亂想。學者又怎麼說?2017年10月《科學》神經科學特刊的一篇綜述認為,人的意識分為三個級別,即無意識的自動駕駛模式(C0)、獲取信息作出決策(C1)和自我監控(C2)。目前人工智能處於C0意識等級,如精通下棋的電腦 AlphaZero 能自主學習並思考出讓對手出其不意的招數,但它不會思考「我是誰」。人也常處於C0模式,如我們開車經常是靠潛意識操縱車子;有些因腦部損傷失明的人,依然能在障礙物中穿梭前進,或舉手擋掉丟向他的乒乓球,凸顯人腦就算沒有意識也可以對周遭的事情作出一些反應。一些科幻電影和小說想像,如果有外星智慧,那極可能是無意識的生命,像電影《湮滅》裡的外星人只會不斷改造和複製周遭的生物,這種對手無法被人理解,所以可怕。

有些專家認為,人工智能或許只能發展到這種級別。一個紅色色盲的人可以花一輩子收集關於紅色的一切知識,知道一切關於紅色的事情,但他體會不到什麼是紅色。同樣地,人工智能可以擁有超越人的智慧,甚至行為上百分百模仿人,卻未必有人的意識。但什麼是意識?正常人也看不見紫外線和紅外線,只能用科技把這些顏色轉成人體驗得到的色彩,可是不會有昆蟲鳥類親眼看見這些色彩的體驗。人的意識也不完美,而人工智能雖未必會有人的意識,但也可能發展出有別於人、人無法體會的一套思考模式、意識和情感。到時它們可能要反問:人能有像我們一樣的意識嗎?

我思故存在,愛過恨過所以活過,因為沒什麼比自己的情感和意識更真。如果人工智能產生意識,它們的意識也會是最真實的自我,它們的情感 —— 就算那只是人工植入的獎勵和懲罰機制 —— 也會是切身體會。也許在遙遠的未來,人工智能也不需要人去承認它們有意識和情感,畢竟人工智能的智力發展有無限潛能,人則受限於人性和潛力耗盡的生物大腦。到時跪求被承認真實存在的,搞不好不是人工智能,是人!

寫到這裡,我不寒而慄。幸好,我看看手機上 Siri 的智能水平,看來這一天離我們還有很遠。

書與谷歌

柏拉圖討厭人們寫字和讀書。

他抱怨說,人們讓文字取代了記憶。他還說,文字讓人在無老師指導下得到知識。人們以為學到很多,但那不是智慧,那只是罐頭知識。真正的智慧只能由大師口授。

話說很諷刺,跟他師傅蘇格拉底不同,柏拉圖有把想法寫下來。因為這樣,他是那時代極少數作品保存至今的哲學家。

不管怎樣,柏拉圖活在兩千幾百年前,但他對文字的看法跟今天很多人抗拒谷歌的理由一樣。人們怕科技讓人健忘,怕愚民上網得到不全面甚至虛假的資訊,還自以為有知識,讓真正的專家失去權威。

所以,科技有那樣的問題嗎?當然有。柏拉圖抗拒文字的理由合理嗎?也很合理。人們發明印刷術時,也很多人怕廉價書本讓人懶惰思考不再服從教廷讓不道德內容散;收音機開始普及時,評論者也大肆炒作收音機的假消息問題,說收音機洗腦愚民助長法西斯主義。這些指控不是無中生有,但也凸顯了這類批評跟文字一樣古老。

另外,我不喜歡「讀實體書才有用,網上都不是知識」的陳腔濫調。我見過太多濫竽充數的實體書,內容不比很多網上文字可靠或有深度。一流的書作者也有偏見。盡信書不如無書,看書跟用谷歌都一樣要自己判斷分辨比較思考。

但我們需要書本。古人的智慧不寫下來早就失傳。口授?玩過傳話遊戲嗎?口授未必能讓對方全面理解,人們又愛加鹽加醋,一代傳一代知識肯定面目全非。多虧有文字,千年後我們還能讀古人自己用的字眼,不是聽別人亂講孔子講過什麼。

這是文字的優點,但也是缺點。當一段知識記錄成文字,它就像封在琥珀裡的古代昆蟲,永遠保存那時代的特色。它不能與時俱進,會變得不合時宜。後人可以寫本新書去更新補充那舊知識,但除非你是秦始皇,我們不能消滅不合時宜的舊文字。當有人沈迷於古文又不善變通,他也會成為不合時宜的人。

好玩的是,互聯網等現代科技反而讓一小撮人更不合時宜。他們上網讀到一兩千年前的經文,並自行詮釋,沒有老師引導。結果全單照收經文,回到聖戰和殉教的時代。宗教可以與時俱進,經文不能。這些古老的文字將永遠保留某個時代的色彩,尷尬地與現代文明並存。

人存在了至少20萬年,六千年前才有文字。有了文字才有歷史,人才有了記憶。至於人為什麼發明文字?文字本來不用來紀錄歷史和想法,也不用來溝通,是用來記錄和處理資料,尤其是數字。人把文字跟嘴上的話綁在一起並用來寫情詩,是後來才有。從這角度來看,電腦跟當初文字的角色一樣。它可以紀錄和處理海量資料,而且比人快一億倍又更精準。它幫我們省去繁瑣的工作,減輕人腦負擔,讓人專注於我們擅長的,如創意和思考怎樣變通。

跟文字一樣,我們用電腦來做越來越多事情。我們讓文字取代講話,讓文字取代記憶,讓文字取代人與人的互動。為了效率,今天我們不也我們讓微信取代講話,讓谷歌取代記憶,讓臉書取代互動?

互聯網和谷歌,是跟文字和書本一脈相承的科技。

不管是文字書本活字印刷術還是互聯網,它們都把我們推向同一個方向:知識成為共享資源。普通人不用什麼事都花錢請教師傅,人不再受限於有限的記憶,我們隨時都可以去圖書館查東西,或者上網。如果不是因為文字書本互聯網,今天還是大師說了算老百姓皆無知的時代。

但柏拉圖的擔憂不是沒有道理。

自從我們有了文字書本和互聯網,知識不再有人把關。我們可以自己看書自己上網自行學習。但閱讀是困難的藝術,我們的理解通常不全面。當每個人都可以寫書,可以寫部落格寫臉書狀態,資訊和意見就氾濫。我們對知識的吸收越來越多卻也越來越偏狹,人人只汲取感興趣的資訊,只聽自己認同的想法。我們不再耐心思考複雜的概念,只吸收入腦即化的資訊碎片。我們也難以分辨資訊真偽,更無法在雜音中找到智慧。我們知道更多,但我們懂得更少。

套用米蘭·昆德拉在《笑忘書》中的話:總有一天每個人會發現自己是作家。這一天來臨時,人們會進入一個全面聾聵全面誤解的年代。

他是對的,我們進入了昆德拉預言的年代。人人包括我都發表偉論,但不聆聽。在很多人眼裡,資訊時代是個群魔殿。也難怪最近《紐約時報》說,當民粹主義伴隨互聯網所帶來的資訊自由崛起,連西方左派也開始相信應該控制資訊,特別是他們眼中的假新聞和仇恨言論。

的確,資訊氾濫帶來了很多問題。但當我們開始躲避它,而不是學會怎樣應付,我們會來到一個全新而且危險的轉折點。

我今年較早寫過人工智能的問題。谷歌近年來致力發展人工智能。以前我們用谷歌找資料,它不會給一個明確答案,只會展示一系列包含搜索字眼的網站。我們需要一個個點進去看,判斷哪個網站可靠。但今天,谷歌旗下產品如Google Assistant嘗試給我們明確簡短容易消化的答案。我問:納吉多少歲?谷歌瞬間在網上找到答案,判斷哪一個答案最可靠,然後信心滿滿地說:64歲。

但這只是個簡單、答案明確的問題。很多問題沒有明確答案。我們今天難想像有人問谷歌大神,以你對我的認識,我該支持什麼黨?但誰知道呢?人們招架不住資訊氾濫,日益渴望黑白分明的答案。或許有一天我們會希望專家幫我們決定一切,渴望谷歌大神幫我們判斷是非。我不確定我們會四分五裂下去,大家活在不同的真相裡?還是我們會放棄思考能力,任由統治者和科技決定什麼是真相?這些判斷會來自誰,是政府,是掌控科技的資本家,是我們的社交圈子,是電腦的演算法?如果科技終於取代我們的判斷能力,這或許是最高級也最可怕的效率了。

人有多渺小?

古人以為大地是宇宙中心。但現在我們知道,地球不是太陽系的中心,也不是太陽系最大行星。太陽系不是銀河系中心,銀河系只是宇宙裡一顆渺小的塵埃。

我們知道太陽比地球大。但多大?從體積來看,約有地球1,300,000倍。但太陽只是一顆很小的恆星。跟太陽相比,很多其他恆星是龐然大物。例如大犬座VY星(VY Canis Majoris)體積約有太陽3,000,000,000倍,目前已知最大恆星盾牌座UY星(UY Scuti)體積則是太陽約2,500,000,000~5,000,000,000倍。

盾牌座UY星雖然大,在銀河系裡只是滄海一粟。銀河系有約100,000,000,000顆恆星。但銀河系只是數十億星系之一。近年科學家發現,銀河系附近10萬個星系都屬於一個叫拉尼亞凱亞(Laniakea)的超星系團,銀河系是拉尼亞凱亞邊緣其中一粒小點。

如果你需要一點存在危機感,《Vox》網站兩年前發布一系列圖片,對比天體大小。文章標題是《11 images that capture the incredible vastness of space》,我鼓勵你上谷歌找找,你一定會覺得誇張。

我也推薦你尋找薩根博士(Carl Sagan)一段稱為《黯淡藍點》(Pale Blue Dot)的演講錄音,跟這篇文章強調一樣的意見,YouTube上有。

科學家都承認我們知道很少。但隨著科學發現越來越多,宇宙只有越來越浩瀚,人只有越來越小。沒有任何證據顯示人類像自己想像中那麼重要。我們曾經自以為宇宙中心,但原來我們不止渺小,我們的世界還連一顆塵埃都不如。

可是我們寧可繼續相信人是天之驕子。我們亟需上天關注,哪怕祂連我們衣食都要管。當科學無情地把人從宇宙中心驅逐到星海中一個不起眼的小角落,也許只有這樣讓我們好過。

所以我們繼續傲慢短視。我們沉醉於「中華民族偉大復興」「讓美國再次強大」「振興哈里發國」這些幼稚的族群口號,互相憎恨殺戮。我們不肯一起解決溫室效應全球飢餓人口這些比族群更大的問題。

說真的全球團結理想雖然崇高,或許不切實際。就算我們消除國界選出全球政府,那好比把全人類命運放進同一個籃子。每個地方有自己的需求。各國可以合作,但利益時有衝突。怎樣看待和解決衝突,就看雙方民族素質和維持和平的意願了。

人類文明太年輕,全球化更是最近才發生。我們不到一萬年前只有部落沒有國家,過去幾千年,文字農業和政治革命徹底改變了社會。人性趕不上社會發展,我們不能適應日新月異的世界。

但不管怎樣,我們需要認清自身處境。

因為環境污染和人口過剩,因為地球上有逾15000顆原子彈,人類文明已經能消滅地球。但我們離不開這個家。就算明天我們能去火星,就算火星適合人住,請想想:火星離地球最近都有5,460,000公里。從火星上看地球,地球是幾乎看不見的點。到了地球末日,我們能把地球上七十多億個人搬到火星嗎?除非你有錢有勢,去的人幾時輪到你,或輪到你的子孫?

我們的世界完全可能毀於一旦,也可能慢慢死去。薩根說,除了我們自己,恐怕沒有任何力量可以阻止我們自我毀滅。

但我們堅信人是天之驕子,堅信天不會讓人滅絕。我們說世界末日不是人的末日,那一定是壞人下地獄好人上天堂,而且每個人都自以為好人。不信神明的人也迷信科學能解決一切,覺得人足夠聰明,到時會有辦法活下去。

於是我們為眼前利益盡情破壞地球,犧牲後人填滿自己口袋。反正子孫會想辦法,不是嗎?於是我們呼喊民族口號,動不動就恫言付諸於武力。反正美國跟中國不至於打起來,第三次世界大戰不會燒到我等小國,反正死的一定是壞人不是自己人。反正原子彈不會隨便發射,反正地球不會那麼容易毀滅。對吧?

對古老浩瀚的宇宙來說,這一切都不重要。就算人最後維持了一億年文明,也只是顆塵埃產生了短暫火花。

但這是我們唯一的世界。如果我們懂自己多渺小,也許我們不會這麼執著於個人和群體的榮耀。也許我們會更珍惜擁有的一切,也許我們會合作,讓這顆火花發光發熱久一點,讓它給我們帶來幸福。