如果A片能換上任何人的臉

上禮拜國陣競選宣言引起議論紛紛,不只因為內容。在網上可以下載的宣言文檔中,第十七頁有兩張圖,顯示現在和未來的吉隆坡市景。眼尖民眾注意到,圖中好像少了點什麼?第一張張圖中,我們還可以看到國油雙峰塔下半身的一點點,上面明顯P掉了。第二張圖中,可以清楚看到吉隆坡塔,但不見雙峰塔。取而代之的是106交易塔。

像某國陣公關所說,這是無關緊要的美術問題。宣言內容才是重點!雖然如此,我剛在大西洋月刊裡讀到《假影片時代崛起》一文,講到現在科技能像P圖那樣輕易修改影片中移動的內容,我就再次想起國陣宣言裡消失的雙峰塔。

宣言裡那兩張圖片有99%可能是用Photoshop弄的。多虧有電腦,今天只要有少少技巧,P圖只需幾分鐘,學生都可以做。

不過,修圖比電腦古老得多。在十九世紀,人們為了藝術商業或政治目的,用墨水、油漆、雙重曝光、拼接照片等方法修改照片內容。最顯眼的一些例子是在政治宣傳和修飾歷史。例如在斯大林統治下的蘇聯和毛澤東時的中國,每當有共產黨黨員遭到清算,宣傳單位就會確保這些人從官方照片和檔案中消失,讓他們不曾存在。這些人很多曾是斯大林毛澤東的戰友,就像被視為雙峰塔幕後主腦的馬哈迪,也曾是納吉所屬巫統的領袖。但過去只是為了服務現在,一翻臉歷史也得跟著改寫。

我上面說到大西洋月刊中《假影片時代崛起》一文。文中提及,去年有人開發了軟件,可以輕易把別人的臉「換」到影片中演員的身上。軟件會分析當事人大量照片,製造出他的各種立體表情,然後移花接木到片中角色的臉上。不知情者看了,還以為當事人參與了影片演出。

這科技有可怕的應用。舊情人可以把女子的臉轉接到A片裡,然後放上網。這不是危言聳聽,這款軟件目前最受歡迎的應用就是把明星的臉轉接到A片演員身上,來滿足某些人的幻想。這種影片叫deepfake,名字源自軟件中的深度學習(deep learning)演算法。雖然很多社交媒體禁止了這些影片,上網還是不難找到。因為效果驚人地自然真實,如果沒人說,觀眾會以為明星真的參與了片中動作。

也不是全部人用這軟件於不正當或色情用途。很多人用它純為娛樂,如把政客的臉轉接到電影角色身上。也有人研發怎樣把這科技用在對的地方,如心理治療時當事人可以在和醫生的視頻對話中隱去臉部,以維持隱私。不過,這些正當用途可以彌補這項科技可能帶來的傷害嗎?木已成舟,我們又怎樣阻止人們濫用科技呢?

當然,修改影片內容不是新東西。電影向來有用特效,否則就沒有《魔戒》那類電影了。但是特效需要昂貴器材軟件和大量時間,拍攝要安裝綠屏後製要請人。Deepfake的開發者則承諾,有普通電腦的人都能免費使用這款開源軟件。想想一個癡漢把迷戀對象的臉接到A片裡面。想想一個政治狂熱份子可以修改錄像,用WhatsApp散播經過修改的影片,說是現場拍攝。一旦這科技普及,我們不只要擔心自己突然出現在別人的性愛影片中,我們也不再能輕易判斷任何影片的真偽。

迄今為止,如果有政客否定指控,但有廣泛流傳的影片顯示他犯罪,那多數人會相信影片。在多數人眼裡,錄像就是真相,可以擊破任何謊言,因為我們知道:照片易改影片難改。但如果連修改影片內容也變得容易,不只政客的話不能相信,照片不能隨便相信,錄音不能隨便相信,現在影片也難分真偽。除非人在現場,不然有誰能相信什麼呢?

當自己所見的都不能完全相信,我們會更謹慎,怕那段網上流傳的影片有少少可能是經過修飾,還是別分享或評論。對統治者來說,這種真相瓦解的時代真好。如果老百姓不再相信自己的眼睛,統治者就能肆意替我們決定什麼真什麼假。這官員召妓的影片是是假的!分享者要坐牢。那段顯示反對黨領袖犯罪的影片,政府發表過文告說是真的,大家放心登放心播放心分享!與其創造真相來對抗對自己不利的真相,不如讓天下不存在真相,所有信息都有那麼一點點可能是假新聞。

臉書和媒體的畸戀

特朗普當選總統後,很多美國左派把矛頭指向科技企業,尤其是臉書。

他們說,臉書促進假新聞散播,通過演算法讓使用者只看到自己認同的內容(也就是所謂回音室效應),還打破媒體的飯碗,大幅拉低網上廣告收費。同時人們越來越依賴臉書讀新聞,所讀內容也只因朋友分享或標題誘人,不只降低讀者對媒體品牌的忠誠,也使騙點擊率的文章叢生,讓新聞廉價質量差勁。

我覺得臉書很大程度上是代罪羔羊。美國左派因厭惡的人選上台就以假新聞和仇恨言論為由呼籲科技企業管制輿論,也是讓人無言的發展。社會早有分裂,而人們分享內容不在乎真相、愛看認同自己立場的內容多於反對聲音,這是人性,臉書演算法不過是潤滑劑。跟很多科技企業如谷歌一樣,臉書不能決定二十億名使用者怎樣用它的產品,出於商業考量和言論自由的原則,也不大願意去管制。

何況,如果沒有臉書,虛假資訊會根除嗎?不會。WhatsApp等聊天平台上各種虛假資訊散播得比在臉書更猖獗,也更難制止;就算沒有電腦手機,我每天在辦公室都聽到同事頭頭是道講一堆我知道是錯的資訊,或散播陰謀論。這比在手機螢幕上更糟,當熟人當面跟我們說這些東西,我們自然相信他,不覺得他騙人。他也不過是人云亦云,或忍不住加油添醋。

但不管臉書是不是應得這些批評,人們對社交媒體的看法跟十年前甚至五年前已經很不一樣。記得阿拉伯之春嗎?那時我們以為,社交媒體會讓善良的人團結起來推倒高牆。到了2018年,社交媒體成了民粹沃土,在緬甸它充斥著反穆斯林言論,在柬埔寨它是獨裁者對付異議者的利器,在美國它是特朗普恫言轟炸朝鮮的麥克風。人們普遍對社交媒體厭倦和反感,覺得它對社會有害無益。臉書就算不流失活躍用戶,名聲也已經惡劣;人們怎樣都會覺得它對當下社會各種問題有一部分責任。

在這背景下,臉書創辦人扎克伯格年頭宣布,他今年決心修補臉書的問題,「我希望我孩子長大後,會覺得爸爸做的對世界有益」。扎克伯格說,臉書會減少人們在臉書上看到的品牌內容、新聞和廣告,優先顯示親友的貼文,特別是引起很多互動的貼文;這次改變後,人們可能會花較少時間在臉書上,但扎克伯格希望我們花在臉書上的時間因此更有價值。

「互動」容易讓人聯想到正面互動。某朋友在臉書曬寶寶照片,眾人紛紛留言「好可愛喔長得像媽媽」,因為留言多,臉書演算法會確保我先看到這寶寶的照片。聽起來不錯吧?但假設朋友在臉書寫一則政治評論,下面幾百人對罵呢?這也是互動。此外臉書減少新聞內容在動態消息中的份量,也無助於減少虛假資訊。虛假資訊通常都是由親友分享,而且動態消息中真新聞比例少了,反而更難比較真偽呢。

雖然如此,對我 — 一個普通人 — 臉書所承諾的改變會讓它較有吸引力。臉書是跟朋友交流的平台,我沒興趣在那看到一大堆廣告和政治新聞。要看新聞閱報就好啊,也不想看到一堆親友在新聞帖子下發表讓人不愉快的意見,或看到親友like了自己無法苟同的東西,又礙於情面不能糾正對方,結果大家都對周圍人人越來越有意見。難怪不少民調顯示新世代越來越少用臉書,他們較鍾情於臉書旗下另一個產品Instagram。其中一個主要原因是Instagram上不能分享網站連結,也就很少會有人在那裡分享新聞內容,不讓人神經緊張。

臉書此舉或許能滿足一般使用者,卻令媒體不安和憤怒。他們說,正是臉書破壞了媒體生態,讓新聞業在新秩序中被迫依賴臉書;現在臉書卻對媒體說「我不那麼需要你們」,好比耗盡別人青春後把對方拋下不管。猶記臉書去年說,以後臉書的演算法會重視視頻內容!媒體紛紛下重本製造更多視頻,有些網絡媒體還乾脆放棄文字內容專心生產視頻。如今臉書確認新演算不那麼注重視頻,對全面投資於視頻的媒體是很大打擊,很多除了臉書沒有其他平台的網絡媒體甚至會面對淘汰。即使有自己網站的媒體,流量也主要來自臉書和谷歌,如果斷絕來自臉書的流量,很多網站的流量就少得可憐。

當點擊率能直接轉換成廣告費,流量當然重要。但就像The Verge記者Casey Newton說的,很多媒體自以爲有讀者,其實只有流量;現在臉書要揭曉誰有讀者,誰只有流量了。靠標題騙人點擊的劣質媒體就有流量沒讀者;讀者甚至不記得這些媒體存在。路透社數位新聞研究報告就曾指出,如果問「你用社交媒體閱讀新聞時,會注意到新聞內容提供者的品牌嗎?」,只有不到半數受訪者注意到新聞來源。即使在網絡時代,建立品牌信譽只能靠老方法,那就是生產非凡內容鶴立雞群。

我最喜歡《大西洋》月刊寫的,媒體長期厭惡臉書和谷歌破壞他們的飯碗,卻依賴它們所帶來的讀者流量。近期反科技浪潮崛起,媒體也釋放壓抑多年的的敵意。如今扎克伯格強迫媒體接受現實,即臉書不會成為新聞業在網絡時代的救星。媒體早知道這點,但一直不肯承受分手之痛,與其批評扎克伯格,他們應該謝謝他幫助終結畸戀才對呢。

與此同時,扎克伯格上面就承認,臉書這次改變可能令人較少用它,何況減少品牌內容和新聞意味著減少收入來源。換句話說,不論臉書還是媒體短期內都不會好受。但就像醞釀已久的分手,陣痛期後雙方往往因這段經歷而成長。臉書必須學會放慢腳步,不再快速突破除舊立新(move fast and break things —— 扎克伯格的舊口號),對自己的龐大能力負責任。媒體也必須擺脫對點擊率的追求,恢復生產有水準內容,鞏固自身的公信力和品牌價值。

中國想掌控人工智能

2017年9月俄羅斯總統普汀說,誰先掌握人工智能,他就能統治世界。

2017年最後一天,習近平發表新年賀詞影片。眼尖網民注意到習主席書架上多了兩本有關人工智能的書,一本是Pedro Domingos的《掌握運算法則》(The Master Algorithm),另一本是Brett King的《增強:智能生活》(Augmented: Life in the Smart Lane)。

這兩本書出現在書架上絕非意外,也不是中國首次對人工智能展示興趣。去年10月習近平在中共十九大上就說過,中國會推動人工智能等科技和實體經濟融合。中國國務院去年7月也定下目標,要讓國內人工智能產業在2030年價值達1,500億美元,讓中國成為世界主要的人工智能創新中心。

很顯然,中南海相信人工智能是中國必須掌控的關鍵技術。但重視人工智能的不只有中國。全球首要IT服務供應商高知特的戰略主管弗蘭克(Malcolm Frank)就認為,中國印度和美國在人工智能開發皆有強項,呈現鼎足三分之勢;其中印度已有價值1,430億美元的人工智能外包行業,為德意志銀行、洛克希德-馬丁、IBM微軟和美國陸軍等全球頂尖機構企業提供服務。至於美國,矽谷勢頭依然強勁,是全球科技的領頭羊。

今天不說印度,我們看看中美這兩大競爭對手。

的確,特朗普不看重科學,大幅削減科研經費,無疑影響美國的人工智能開發。但谷歌、臉書、亞馬遜、蘋果、IBM、微軟等矽谷巨擘研發人工智能已久。一家企業用數據訓練人工智能越久,人工智能變聰明的速度就越快,提供的服務也就越好,消費者又會自願為優越服務提供更多數據,讓人工智能學得更快。如此循環,好比寬度不斷翻倍的護城河,讓新興競爭者望塵莫及。

谷歌是人工智能最早最堅定的信徒,它毫無保留研發能整理全球資訊並從中學習的人工智能。去年谷歌AlphaGo戰勝圍棋世界冠軍,過幾個月谷歌又推出比AlphaGo更強的下棋軟件;如果Skynet或HAL 9000誕生,它挺可能打著谷歌商標。

不過科技唯一不變的真理就是變,鹿死誰手尚難論斷。百度和阿里巴巴等中國科技企業時間上落後了,但除了政府資助,還有一大優勢:中國的十三億人口,包括7.3億名中國網民。人口可以轉換成數據,給人工智能處理越多數據,它就學得越快。對人工智能開發者來說,中國十三億人口是誘人的一塊肥肉。

數據看量也看質。因為沒有舊科技包袱,中國人比歐美民眾更熱情擁抱新科技。從叫車網購到吃飯結帳,今天中國人萬事用手機搞定。智能手機無時無刻收集各種精準的個人資料,包括地理位置、社交圈子、音樂品味、消費習慣、照片內容以至健康情況和臉部特徵。加上中國隱私法律薄弱,在騰訊等科技企業配合下,政府長期收集每一個公民的信息,甚至落實人臉識別監控系統、互聯網實名制和「社會信用系統」監控民眾言行。所以,跟政府關係密切的百度阿里巴巴等擁有讓任何矽谷企業都要眼紅的海量精準數據。

雖然這樣,我們也別高估中國的人口優勢。除了中國朝鮮伊朗幾個國家,全世界都用谷歌和臉書(俄羅斯沒禁臉書,但VK是最受歡迎的社媒)。目前在中國翻牆上谷歌和臉書屬違法。與此同時臉書全球活躍用戶超過20億人,全中國包括不上網的人口才13億。谷歌搜索是全球最多人上的網站,每日流量是百度的1.46倍;第二多人遊覽的YouTube也屬谷歌旗下。百度阿里巴巴和騰訊要在人工智能上和谷歌臉書等角力,就必須放眼全球,讓旗下產品在海外競爭。例如近期騰訊和阿里巴巴把各自的「生態鏈」引進大馬和泰國,是實現這目標的關鍵一步。

另外,中國政府雄心勃勃投入以十億計金錢資助國內企業開發人工智能,但研發需要頂尖人才。中國在吸引培育人才方面有待進步。領英前年10月調查顯示,中國從事人工智能科技相關工作的只有5萬人,遠低於美國的85萬人,也只有印度的三分之一。

上面提到中國監控民眾,以我所見,中國政府跟谷歌臉書有玩味的共同點。他們都迷戀大數據和科技,相信全知就全能,想知道每一個人的日常生活,想掌握他的喜怒哀樂,想讓他成為不多思考的知足消費者,想在任何趨勢發芽前主導它控制它或消滅它。但谷歌臉書對數據的飢渴是為了賣廣告,中南海則是為政治穩定。過去十年證明,新科技是武器,能顛覆任何政權;對中國政府來說,比美俄更快掌控人工智能是生死問題。當資訊時代把特朗普等民粹政客推上世界舞台,難怪中國相信它必須主導全球科技發展的大方向,把開放化為封閉,把自由化作監控,讓消費取代求知,讓信息對付批評者而非統治者,才能避開來自內部或外部的顛覆。

不管鹿死誰手,我們還不能預料人工智能對社會的影響。隨著人工智能滲透社會,我們會面對種種道德難題,甚至重思人的價值。SpaceX首席執行官馬斯克(Elon Musk)警告,各國之間的人工智能競爭可能引發第三次世界大戰。很多人擔心人工智能會消滅人類統治地球。這是杞人憂天嗎?也是,也許不?在人工智能尚不發達的今天,科技已取代無數工作,資訊時代帶來種種問題。企業或國家不該為軍備競賽盲目開發人工智能,我們必須慎思它的方向和後果。