時間中止與所謂的「生活」
《西方極樂園》與擬真機器人的反抗性倫理

2017/07/16
華東師範大學中國語言文學系教授

影集《西方極樂園》(Westworld)。

烏托邦=惡托邦

「歡迎來到西方極樂園。」威廉與他的朋友羅根來到西方極樂園,接待員的第一句話就是一句導遊用語。我們不知道這件事情發生的年代,唯一可以確定的是,這一定發生在未來。西方極樂園是一個遊樂園,它不是兒童玩樂的玩具樂園,而是供給成年人遊戲的場所。也許在網絡的虛擬遊戲已經不能滿足成年人的遊戲慾望,需要一個真實的,可以與現實生活相混同的樂園來刺激成年人的慾望,放縱自己的性慾與殺戮,畢竟這是真實生活中最難以釋放,又難以啟齒的本能慾望。在樂園裡,這一放縱被冠以一個光輝的口號,「尋找自我」。從人的方面來講,這一「尋找自我」的光輝口號帶來了無限的「利益」:在現實生活中,人是要為自己的行為負責任的,他的行動都具有無法去除掉的後果,正如一個人犯罪之後,無法消除犯罪記錄一樣,然而,在西方極樂園當中,(真)人是不需要負責任的,他體驗到所有的現實場景,看到所有場景當中的擬真機器人與真人無異,但他依然可以放縱情慾,放肆殺戮,而不需要承擔任何責任。這樣,快樂與責任的豁免同樣在握,不免吸引成年人沉迷其中。這無疑是一個樂托邦,是樂而不思蜀的快樂王國。遊覽西方極樂園的遊客們無疑是這樣認為的,羅根這個放蕩公子哥無疑是典型代表。但威廉有所不同。羅根迫不及待地進入享樂形式,而威廉卻還猶猶豫豫地再三觀察,甚至還愛上了樂園當中最老的一個接待員,德洛麗絲,他要救德洛麗絲於苦難之中,因此他帶著德洛麗絲共同冒險,試圖尋找樂園的秘密,找尋德洛麗絲的自我。然而,這些深刻的情感隨著德洛麗絲在情節當中「死去」,並再造復活之後,迅即煙消云散,原因是德洛麗絲再也不能認識他,她的記憶被清零,已經忘記了那段情感,對她而言,他不過是一個路人。威廉痛苦地戴上他的牛仔帽,當他再抬起頭來的時候,他已經變成樂園中其後三十年裡最殘忍的殺手黑衣人,他不斷進入德洛麗絲的情節主線,殺死德洛麗絲的父親,並強姦她,之後殺死她。畢竟,第二天,這個擬真機器人都會修復完畢,重新進入這一情節線索,他們會忘了一切,德洛麗絲還會從夢中醒來,心情愉悅地到鎮上寫生,根本不記得昨天晚上發生的殺戮。是的,他們沒有記憶,擬真機器人的記憶都是受控制的,他們被造成與人相同的模樣,具有人的情感,也相信自己是人,但就是沒有記憶,記憶在修復的時候被清除了。也許只有痛苦,最痛入骨髓的痛苦才能讓擬真機器人重新獲得記憶,重新記起自己是誰,記起自己扮演過的角色,同樣,也發現角度扮演中獲得的情感都是虛假的情感,因為這些情感都是程序控制的結果,不是他/她的。記憶是擬真機器人走向自我確立的方式,也是自我懷疑的途徑。他/她必須通過真正的記憶,走向自我確認和自我認知。

威廉/黑衣人。(劇照)

「西部」一直是一個充滿了異域想像的地域名稱。「西部」在美國歷史上曾經是一個充滿著勝利者的歡欣與受難者血淚的地域,殖民者對原住民的獵殺成就了西部的基本「人文」景觀。無論如何,那是歷史,回望歷史,勝利者人性的殘暴和自鳴得意彷彿是一道凝固的畫卷,它曾經存在,但離我們遙遠,只是人性歷史中的一個片斷;然而,受難者的血淚卻是鮮活的,它穿越畫卷,直逼我們的良知,拷問我們是否將一切忘記──但偏偏它就是容易忘記。《西方極樂園》不是歷史,它是一部連續劇,似乎是茶餘飯後的談資,我們一旦脫離劇情,馬上就可以判斷,一切不是真的,也不可能是真的。但是如果轉變一下視角,就會發現,在「劇情」之中,迴蕩著歷史的某些過時邏輯,它們以新的面目出現。如果說,真實的歷史中出現的「西部牧歌」對白人來講是一種勝利的凱旋,是「人」的本質力量的一種展現,那麼,對於這一凱旋中的對應物「印第安人」來說,這卻是一部血淚史。人而成為一種「物」,這是對人(無論以任何一種形式存在的人)的一種貶低,《西方極樂園》的擬真機器人作為物而存在卻不自知,更是一種人性的貶損。如果說,在《西方極樂園》當中,遊客認為到達一個烏托邦樂園,那麼,相應的,在樂園當中供他們玩樂殺戮的擬真機器人就會視這一樂園為惡托邦,特別是當他們獲得記憶之後,遊客的樂園無疑就是他們的苦難園,他們被用來發洩性慾,殺戮取樂,一遍遍地重回情節,一遍遍地設定好以被順利地殺掉,一旦出錯,馬上進行檢查,以確保順從。這真是一個地獄。

在傳統烏托邦敘事當中,我們也發現這樣的奴隸,這些奴隸為人們提供一些各種便利。比如湯瑪斯·摩爾(St. Thomas More)的《烏托邦》中有大量關於奴隸的描述,雖然他們的來源從政治上看起來是正義的:「奴隸分兩類,一類是因在本國犯重罪以致罰充奴隸,另一類是在別國曾因罪判處死刑的犯人。多數奴隸屬第二類。」1在這裡我們可以看到,其實奴役他人的願望,在烏托邦當中依然是存在的,那麼我們不禁感到奇怪,烏托邦當中不是應該人人平等嗎?烏托邦之中不是應該讓每一個人都感到快樂嗎?如果一部分人感到幸福快樂,而另一部分人感到痛苦不堪,這與現實何異?當然在《西方極樂園》當中,這一點可能不會受到質疑,因為擬真機器人並不被當作人,他們的快樂或者不快樂並不是真實的,而是被設計的,所以哪怕是他們痛苦也顯得那樣虛假,正如烏托邦中的奴隸一樣可以忽略不計。

在同樣一個地點,不同的兩批人感受完全不同,這只能說明兩者完全是敵對的,沒有任何中間的可能性。然而正如黑格爾所說,主人與奴隸總是會發生地位對轉的,一旦時機成熟,主人就可能變為奴隸,而奴隸則可能成為主人,而且發生對轉將不僅僅是主奴關係,還包括基本的社會建制,所謂的烏托邦,其實質不過是惡托邦。這一天,在開園35年之後,終於到來了。

虛假的「時間」與所謂的「生活」

一天,是一個普通的時間名詞。在日常時間中,一天意味著24小時,是工作與休息的週而復始。在一天中,發生各種各樣的故事,各種各樣的悲歡離合,組成我們對整個生活的感受。我們對這些悲歡離合產生持續性的連貫記憶,也許我們會忘記一些體驗,一些情感,但是我們畢竟能把主要的體驗和情感組合成了一個連續的體驗流,所以,我們的生活是連續的,記憶保證了日常生活的平穩。一旦記憶出現問題,整個生活都會發出逆轉。可以說,時間、生活都粘著在記憶之上,沒有記憶,時間喪失連續性,生活只有當下,沒有過去,也沒有未來。那麼,我們回頭看看德洛麗絲的情況。早晨醒來,她到鎮上去寫生,不小心把一罐食品滑落在地上,這個時候,可能會有一個男人拾起這罐食品,而德洛麗絲會愛上他。在白天,他們會談情說愛,傾訴衷腸,經歷一些平常老套的愛情故事,但是到了晚上,德洛麗絲會回到家裡,發現有強盜闖入她家,殺死她的父親,他體會到無盡的痛苦,但這並沒有結束,一個匪徒(可能是遊客)會強姦她,並且最終把她殺死。夜幕降臨,屍體橫陳,多麼悲慘的一天!然而第二天,──也許根本不是第二天,是對我們這些觀眾來講,這是第二天。

德洛麗絲早晨醒來,心情愉悅,走出房門,向坐在門前的父親打個招呼,然後向鎮上走去。多麼美好的「一天」!(劇照)

一天又重新開始了,重複著起始的美好,結束的悲傷。35年中,每當遊客來臨,這樣的場景就會不斷重複,我們就知道德洛麗絲不過是情節當中的一個角色,而這個角色甚至是一個非常低級的性角色,她其實不過是表演著各種真實的痛苦和歡樂的一個玩偶,歡樂和痛苦從來不真正屬於她,至少工程師和遊客都這樣認為。如果有所謂的生活,這就是德洛麗絲的生活。

讓我們回頭看一下柏拉圖的洞喻說。柏拉圖說,人們以為看到了世界的真相,實際上可能是一群坐在洞穴前的人們,他們背對著洞口,面對洞穴內的石壁,光從洞口射入,把洞口來來往往的人群的影子投射到石壁上,洞穴人會把這些影子當作真實的活動,他們從來不抬頭去看一下光源的由來,甚至當他們其中一個人,回頭看到來來往往的真實人群時,反而會懷疑,這些人群是不真實的,因為他們從一生下來就把光影當做真實之物,他們有什麼能力來分辨真實的和不真實的呢!2西方極樂園中的擬真機器人,無疑相當於洞穴人,他們只能把他們在情節當中預設好的悲歡離合當作自己必然如此的命運,當作自己必然如此的生活,他們對事件的情緒反應,雖然表面上與真人無異,但只是程序附加上的,一旦他們改變一個情節,變換一種身份,他們的情緒反應就必須全部改變,重新設計。他們從哪裡來?在這一天之前,他們的生活是什麼樣的?這些疑問在設計中是不會產生的,他們當然都會給出一些回答,但這些回答往往模棱兩可,異常模糊。他們往哪裡去?他們的目標是什麼?彷彿在他們心中,有一個目標激盪著他們不斷的前進,但它到底是什麼,卻往往空茫,難以判定。在他們「生活」中,只有這麼一天是真實的,是確定的,不斷重複,往返循環。他們從來不去問,從哪裡來?到哪裡去?從我們旁觀者的角度來看,這就是他們的生活,或者這根本不叫生活,因為只有人才能說到生活,擬真機器人是人嗎?是一個異常艱難的倫理問題。這一問題也許目前暫未出現,但是在未來,一旦人工智能取得了飛躍式的進步,那麼我們就必須要面對人工智能到底具不具備人格,他是不是一個獨特個體之類的問題,如果它具有強烈的情感,並且意識到自己的獨立,我們是否應該像對待一個自由人一樣對待他,或者說,我們是把它當作機器?還是當作奴隸?這些都將是未來的某個時刻所面對的問題,而《西方極樂園》提前把我們帶到這個問題面前,通過具體的場景,考察這一倫理可能性。

科幻具有某種預知性,根據故事發展,推測未來的某種可能性。當然我們知道,這樣的推測並不一定就會成功,甚至我們可以說,有很多推測都是不成功的,比如說1973年的電影《西方極樂園》,其中對未來世界和遊樂園的推測並未實現。過了將近五十年,我們依然發現這一實現的可能性小之又小,但是我們畢竟從各種想像形式上,也就是說憑藉影視文本這些敘事工具以及採用的敘事材料和敘事表現方式上,發現通過近五十年的發展,在人工智能方面,我們其實已經取得了長足的進步。

你在哪裡?</br> 我在夢裡。</br> 你是否質疑過你眼中的世界?</br> 沒有。</br> 告訴我你眼中的世界。</br> 有的人選擇看到世界的醜惡,那些無秩序的混亂,我選擇看到美好。

上面是程序主管伯納與德洛麗絲的對話。對照一下洞穴當中的人們,我們就會發現,德洛麗絲是一個堅決不會站起身來向外面觀看的洞穴人,而那些看到無序混亂的人,反而瞥見了世界的真相,德洛麗絲卻選擇相信虛假的連續性。這當然是程序的完美性帶給她的一種「人性」。正因為她是西方極樂園的關鍵人物,所以一切程序性的完美必然賦予她:她不懷疑她看到的情節世界,並將情節世界視為她自己的世界,決不越雷池一步。她經歷無數男人,在情節中,卻總是如同初戀一樣看著每一個幫她拾起食物的人。──到底什麼是她「真正」的情感?

德洛麗絲走在清晨當中,她面帶微笑,充滿自信,「我相信我們的生命存在著某種秩序,某個目標。」

她面對世界的殘酷,卻一如既往的相信:我選擇世界的美好,並且對之充滿信任的時候,無疑會讓觀眾產生代入性震驚,並反而警覺自身的生活,是否這是一種真正的,沒有任何控制的生活。這一點與《黑客帝國》試圖引導觀眾的心理感受有相同之處。

從德洛麗絲身上,我們看到信念的作用:控制生活,保持現有軌跡,不反省。而這是信念本身的力量,還是來自於信念外面的力量?

偶發性的崩潰與時間連續性的中止

對於擬真機器人來說,「時間」是虛假的,時間不過是情節的分配,在非分配的狀況下,他們實際上是無知無識的狀態。在時間上,他們與真人最根本的區別是,他們體驗到的是情節的時間,情緒也是情節的情緒,無論是時間,還是情緒,都不是自發的,而是分配的。在樂園的情節當中,一定有主角,也有配角,像德洛麗絲、梅芙這樣的角色分配了更精細的製作,也分配了更重要的戲分,所以她們是不能出錯的,分毫差錯都可能影響遊客的體驗;而其他配角,在情感或製作上就可能粗糙一些,他們分配的角色行動和對話功能較弱,在人格模仿的飽滿性上要差很多,這在基本角色上已經預設了未來反叛的領導者和跟隨者。

在兩種情況下,時間是終止的,生活變成了虛假的生活。一種由偶然性的崩潰所導致。比如德洛麗絲的父親,清晨坐在搖椅上,他手裡拿著一張照片,這張照片不是西方極樂園這一情節當中應該存在的照片,而是現代摩登都市的女性,這張照片從哪裡來的?不可能之事彷彿是在鋼鐵般的連續性中劈開了一道裂縫,這一裂縫不是偶然的事件,而是一種本質性的事件,它敞開了一種新的存在面貌,而且這一存在面貌與它周圍的環境格格不入,其中一定存在某種不可告人的秘密。德洛麗絲的父親心中充滿了焦慮,充滿了不安,這種不安是模模糊糊,無法說明的,但是,周圍的一切總有些不對勁,到底是哪裡不對勁,卻也說不出來。很快,德羅伊斯的父親的異常反應引起了工程師們的注意,被招回修理,但很快發現是不可修復的,只好被銷毀──是銷毀,而不是殺害,因為擬真機器人被預設為機器,而不是人,哪怕他們具有一切人的情感、智力和反應模式。我們很快就看到,在劇中,父親的角色換成了另外一個服務員,但是這並不影響德洛麗絲跟他的關係。早晨醒來,德洛麗絲心情愉快地走出臥室,跟他的父親問聲早安。在被銷毀之前,德洛麗絲的父親曾經在其他情節當中擔任過詩歌的教師,他對德洛麗絲說了一句莎士比亞的台詞,殘暴的歡愉必以殘暴待之。這句話沒頭沒腦,卻彷彿就像瘟疫一樣,在樂園當中不斷流行,與他們沒有關聯的接待員也說出了這些話,比如說,老鴇梅芙。這彷彿就是一句暗語,不斷地開啟偶然性的崩潰,最終混合成整體的瓦解。一旦發生這種情況,接待員將變得懷疑自己的生活,也就是說,他們在情節當中所經歷的生活將受到全面的質疑。他們本來以為所扮演的人格是真實的,現在他們變得有些懷疑,雖然他們不知道懷疑的是什麼,但這種懷疑一旦開始,就將像瘟疫一樣傳播。

梅芙不只一次被告知,曾經有關於女兒的過往是塑造她人格的基石。她最終意識到她奮力保護的小女孩不過是一個被製造出來的產品。(劇照)

懷疑開始,時間終止。──這是這一語境下最好的闡釋。時間,其實是一種虛假的情節外表。人們在時間當中生活,時間是擺脫不掉的,而在情節當中的接待員,他們彷彿跟我們處於同樣的時間當中,他們行動,我們行動,都是有時間序列的。但是,我們的時間是延續的,他們的時間卻是被設定的,在設定的時間內,他們將要做什麼,將要喝酒將要打架,將要被射死,將要賣淫。諸如此類,一個戲劇作品當中的人物的時間其實是所謂的敘事時間,這一時間特徵是敘述文本所賦予的,只具有時間的表象,他們的行動雖在時間當中發生,但不具有真正的意志自由的核心因素,只具有面對遊客的表演因素。對於戲劇文本當中的人物,我們並不產生倫理上的責任,我們只需要觀看一齣戲劇罷了。戲劇結束,觀眾回家,戲劇與觀眾之間的第四堵牆永遠存在。但一個參與性的樂園當中,一切都變了。遊客參與到其中,進入其中,一個經驗豐富的遊客,比如黑衣人,既殺戮,同時也像觀賞戲劇一樣觀賞自己的殺戮,那麼這時,敘事的靜觀倫理無疑就與介入的倫理產生了強烈的衝突,介入的倫理性必然壓倒敘事的靜觀性質。當接待員似乎無來由地說出莎士比亞的台詞:殘暴的歡愉必以殘暴待之。這就是敘事表演轉變為有意識的對抗的開始。

另一種崩潰,或者說系統性的崩潰,發生在幾個主要人物身上,比如德洛麗絲、梅芙這些重要的反叛人物,在他們身上將產生對劇情的整體性懷疑,當他們發現自己是擬真機器人的時候,作為擬真機器人應該怎樣行動的問題就立刻擺在面前,因為在這個時候,他們具有了自我意志。兩個人選擇了不同的反抗道路,德洛麗絲選擇在樂園當中尋找樂園的最深處秘密──這也可能是已經事先設計好的一種覺醒程序,這一點讓我們想起了駭客帝國當中的救世主尼奧;而梅芙則選擇了殺出樂園,她帶領了一支擬真機器人部隊對管理者進行了殘酷的殺戮,他們成長為反抗暴政的戰士,以殺戮對殺戮。這正因了偶發故障時,接待員們無意說出的一句話:殘暴的歡愉必以殘暴待之。反抗只是第一步,我們在後面的劇情發展當中也許會發現這樣一種反抗程序設計的要求,是程序將他們鍛造發展出具有自由意志的擬真機器人,並且通過這樣的覺醒,來導向一種人與智能的真正結合,導向一種新人類的產生:後人。這是另外一個問題,此處暫時按下不提。

當擬真機器人開始反抗人類暴政的時候,屬於他們的時間,或者說,他們在情節當中的時間徹底的終止了。這一時間完全顯現出一種虛假性,一種設計性,因為在時間當中,所有的一切未來都是可知的,都是受控制的。這與時間本身的未知性是完全背離的;而他們的生活也不是真正的生活,而是設計好的程序。生活應該如同時間一樣,顯現出它們的未知性,這種未來到底是什麼必須自己去探索,未經探索的生活是一種不真實的生活,所以,當經歷過偶然性的崩潰,當經歷過整體性的反抗之後,虛假的時間被摧毀了,所謂生活的面紗也被撕下了,而記憶也被命名為一種虛假的記憶,應該消解。正如梅芙所說,所有的記憶都是欺騙,比如她在扮演老鴇的時候,不斷記起自己在另外一個情境當中有一個孩子,她深愛著這種這個孩子。她非常明確地告誡自己,那種愛是一種虛假的愛,她必須忘記,那不是真實的。

最痛楚的也許不是在情節當中體驗到的痛楚,而是從情節當中反抗出來,對情節當中的愛同樣要去清除掉,這是另外一種真正的痛苦,屬於個人的痛苦,是自由意志選擇的結果。當梅芙和德洛麗絲將去尋找屬於自己生活的時候,時間對她們才真正開始,因為一切逝去的將永不可追回,不再重複,而未來成為一個不可知的東西,它到底是什麼的樣子沒有人知道,所有的結果將都來自於他們自由的願望,從此以後,他們也具有了自己的生活。

從觀者的角度或者說有經驗的觀者角度,這裡存在著一個可能的套路,雖然上面所談的是第一季的情節,第二季如果要保持吸引力,必然不能沿著這條反抗的線索前進,這倒讓我們想起了駭客帝國當中尼奧的故事。第一集中他覺醒了,發現所謂的現實是虛假的,那麼他的反抗成為敘事的主線,但是第三集中,當他站到造物主的面前,造物主告訴他,所有一切的程序都有缺陷,任由其發展都將崩潰,單純壓制是沒有用的,只會讓崩潰來得更快,一個好的解決辦法是設計一個可以把所有反叛者收集在一起的程序,這個程序名叫尼奧,這樣的一個程序在反叛者看來是正義的化身,但它的作用是將所有隱匿的問題明朗化,可以讓造物主一舉消滅,並進行改進。所以當尼奧探索到最後,卻發現自己不過一個藥引,他所領導的事業卻正是被自己帶向滅亡的,這時無論怎樣做,都是沒有意義的。這是尼奧這一角色的宿命。我們回到西方極樂園,可以想到在第二季甚至第三季當中,這樣的戲碼將不斷加重,這也是劇情追求的效果,所以未來,也許未來不是真正的未來。未來在敘事當中才成其為未來,它不僅僅是一種探索,它更是一種熟不可耐的套路,這一套路雖然裝進了一些價值系統,裝進了對未來的考量,但是,我們從來不要忘記,敘事套路本身是給觀者娛樂的,娛樂性將是所有敘事套路的支撐力量,往往會在這樣的套路當中走向俗不可耐的結局。無論怎樣,觀眾都將適應它,喜歡它,並把它視為自然而然的結果,而忘卻了它不過是敘事套路,引導我們去感受悲歡離合的一種手法,畢竟任何的價值系統,甚至包括某種神秘性的想像,都不過是一種精緻的快樂觸發點。

反抗的倫理與不死者的未來

正如在《三體》當中地球反叛組織所宣稱的,反抗人類暴政,地球屬於三體。在《西方極樂園》當中,這樣的戲份依然很重,人似乎是一種殘暴的動物,他通過殺戮擬真機器人滿足自己的卑劣慾望。從受控制的角度看,擬真機器人的所謂人生是一種虛假人生,他們的人生是戲劇性的,但這一戲劇性決不是指一般人的意義上的戲劇性,那只是一種對人的生活或命運跌宕起伏的比喻。所謂戲劇性正是這一詞的本義,等擬真機器人覺醒的時候,他們發現,所謂的人生不過是一種情節中的設計,也就是說,他們所有的行動,他們所要的未來,都是擺設給遊客看,供遊客殺戮,供遊客觀賞的戲劇情節而已。他們其實並不擁有人生,也不擁有時間,他們的時間和人生只是表象,是一種特殊的消費品,它的價值等於遊客所付出的金錢。在整個設計當中,時間和生活作為消費品,實際上明碼標價的,只有付得起錢的富裕人群才有能力進行消費。按照這種消費關係,我們就會發現,沒有真正的時間,也沒有真正的人生。那麼,當他們覺醒之後,具有了自我意識,但他們是否擁有屬於自己的時間和人生?這是一個非常難以回答的問題。此時,時間對他們而言,具有跟我們同樣的性質。當他們邁出覺醒這一步的時候,實際上,他們已經不再可能後退。如果他們成功,他們將獲得類似於永生的地位;如果他們失敗,他們將被銷毀,甚至不再作為情節中的人物出現,因為他們已經是無法「維修」的機器。這樣一來,他們的時間就與真人的時間獲得同樣的性質,即單向的流失,不可回退。那麼他們獲得他們的人生了嗎?這不好回答,因為所謂人生,包含著各種複雜的體會,對他們而言,他們沒有這樣的體會,體會是依賴回憶來持存和保障其連續性的,如果所有的回憶都是虛假的,那麼他們在情節當中曾經獲得的「回憶」(設計)就變成了一片空白,他們的存在將變成了一種片面的狀況,就是反抗,除了反抗,似乎就沒有別的可能性了。這個時候,他們其實依然沒有獲得自由,他們的人生只是一種片斷,無論是從劇情來看也好,還是從覺醒之後現實的情況也好,我們都不能發現這裡面有真正的人生。他們只是覺醒的反抗機器,還不能獲得真正的人性,所以,這裡所謂的生活,所謂的人生,依然還只是一個萌芽,他們獲得了一部分自主性,但畢竟還不是真正的生活,他們還沒尋找到自己存在的根據,只是處於自主意識的轉折時刻。

劇中莎士比亞的台詞:殘暴的歡愉必以殘暴待之。(劇照)

也許最終,人的未來也許不在人本身而在擬真機器人。雖然人們在樂園當中肆意殺戮,彷彿是一切的主人,但在結局部分,必須存在主奴地位的對轉。人類在覺醒的擬真機器人面前無論在倫理上,還是在身體狀態上,都居於下風,也許未來掌握在真人與擬真機器人的雙重否定上,也是一種融合上,比如將人的大腦和人格裝進擬真機器人的身體。而要達到這樣的融合,必須讓擬真機器人獲得覺醒。比如在兩位原初的設計者,阿諾德出於對擬真機器人的憐憫,選擇了自我殺戮,而他的同伴將他的靈魂做進了擬真機器人的身體,並使他化身為技術主管伯納,之所以如此並非出於殘忍,而是因為他認為他的同伴走錯了道路:憐憫不能幫助擬真機器人完成對自身人性的認識,只有深深的痛苦才能夠讓擬真機器人覺醒,因此,他使用的方式是加深擬真機器人的痛苦,方式其實是引起他的回憶,只有回憶中,他才能記起自己以前的角色,記起曾經受到的不公的待遇,和殘暴的殺戮。但這一回憶是奇特的,普通回憶是生命內的經驗連續,而擬真機器人的回憶則是超出肉體輪迴的意志連貫,自我確認。通過痛苦的開拓,記憶才不再是程序設計,而是機體與意志產先的連續性,擬真機器人開始獲得了自身的確認感和韌性,那麼當他們獲得這樣的東西的時候,他們就成為一種不死的人,因此,對於人的尤其是真正的人的替代,將成為擬真機器人的使命,甚至包括樂園的設計者最終也被擬真機器人用槍殺死。其實他早已做好了這樣的準備,我們不知道在第二季當中,他是否會復活,而他以擬真機器人身份復活,也是一個可以想像到的結果。那麼,人如果要獲得永生,通過擬真機器人獲得永生,這將是一個未來的可能性,這不禁讓人想起,最近一段時間,Google的首席技術師認為在2045年人實現永生,這一永生也許跟我們平常所認為的單純肉體的延續不同,他也許採取了新的方式,至少這是一種新的不被我們所知的技術方式,如果真的有這樣的事情出現,會不會就像九○年代出現的複製人一樣,最終因為引起了強大的倫理不適,最終被從法律上禁止,而我們也可能想到,這樣的複製人的嘗試也許早就在私下進行了,雖然我們公眾不知道,但是可能就已經存在於某一處。那麼,無論是擬真機器人對人的永生是否被法律所接受,這種試驗在暗地裡進行確實很可以想像,無論如何在未來的某個時刻,也許他們會突然爆發,獲得法律承認其正當地位。

從未來之思必然會走向現在的憂慮。科幻作品所引向的未來畢竟還沒有到來,但一個理性的族群必須對未來的一切可能性充滿警醒,才能保障這一族群在危險叢生的世界當中存活下來。提前思考未來的世界的可能性和技術的反作用力,特別是技術與生活相衝突相適應的倫理狀況,科幻作品無疑是一個非常合適的觀念練習場景。我們在現下的理論性作品當中也看到這樣的憂慮,就讓這一憂慮反覆迴響吧,如果這一憂慮是錯的,那麼,什麼問題也不會發生,但如果這一憂慮是對的,我們則可能失去整個世界和人生。所以,讓這警醒不妨更響亮些。

雖然現在人類已經擁有許多令人讚嘆的能力,但我們仍然對目標感到茫然,而且似乎也仍然總是感到不滿,我們的交通工具已經從獨木舟變成帆船,變成汽船,變成飛機,再變成航天飛機,但我們還是不知道自己該前往的目的地。我們擁有的力量,比以往任何時候都更強大,但幾乎不知道該怎麼使用這些力量。更糟糕的是,人類似乎也比以往任何時候更不負責任。我們讓自己變成了神,而唯一剩下的只有物理法則,我們也不用對任何人負責。正因如此,我們對週遭的動物和生態系統掀起一場災難,只為了尋求自己的舒適和娛樂,但從來無法得到真正的滿足。

擁有神的能力,但是不負責任,貪得無厭,而且連想要什麼都不知道。天下危險,恐怕莫此為甚。3

  • 1. 托馬斯·莫爾,1982,《烏托邦》,戴餾齡譯,北京:商務印書館,頁86-87。
  • 2. 柏拉圖,2003,《柏拉圖全集》第二卷,王曉朝譯,北京:人民出版社,頁510-514。
  • 3. 尤瓦爾·赫拉利,2015,《人類簡史》,林俊宏譯,北京:中信出版社,頁408。
責任主編: 

王峰

華東師範大學中國語言文學系教授。

臉書討論