《大家論壇》未來視角：人類正創造自己的上帝或魔鬼　按下六個月暫停鍵是不夠的 -- 上報 / 大師講堂

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#聊天機器人 #chatgpt #生成式AI #人工智慧 #馬斯克

《大家論壇》未來視角：人類正創造自己的上帝或魔鬼　按下六個月暫停鍵是不夠的

齊澤克（Slavoj Žižek） 2023年04月13日 07:00:00

齊澤克（Slavoj Žižek）

●歐洲高等學院哲學教授

●倫敦大學伯貝克人文學院國際主任

生命未來研究所 (Future of Life Institute) 發表公開信，要求對人工智慧研發按下為期六個月的預防性暫停鍵，目前已獲得包括馬斯克 (Elon Musk) 等數以千計高知名度人士簽署，他們憂心人工智慧實驗室「陷入一場失控競賽」，競相開發、部署愈來越強大的系統，甚至到無人（包括其創造者在內）可以理解、預測或控制的程度。

這特定精英族群所爆發的恐慌，該做何解釋？其中重點顯然是控制和監管，但由誰來控制和監管？在這提議的半年暫停鍵期間，人類可以評估風險，但由誰來代表人類？由於中國、印度和俄羅斯AI實驗室肯定會繼續研發（或許暗中進行），我們難以想像就此問題進行全球性公開辯論。

儘管如此，我們還是應該考慮其中的利害關係。歷史學家哈拉瑞 (Yuval Harari) 在2015年著作《人類大命運：從智人到神人》(Homo Deus: A Brief History of Tomorrow) 中預測，人工智慧最可能導致的結果，將是人類社會內部的徹底分裂，比階級分化更為嚴重。很快地，生物技術和電腦演算法將合力製造「身體、大腦和心智」，進而導致「身體和大腦工程之知者與不知者」之間出現鴻溝。在這樣的世界裡，「搭上進步列車的，將獲得創造與毀滅的神性能力；沒有搭上的，將面臨滅亡」。

AI公開信當中呈現的恐慌，在於那些即使已搭上「進步列車」的人也擔心無法駕馭它。當代數位封建社會的主人們心生恐懼。然而，他們想要的不是公開辯論，而是政府和科技公司之間達成協議，不把權力外放。

人工智慧能力的大幅擴張，對那些當權者構成嚴重威脅，其中包括人工智慧的開發者、持有者和控制者。一個自我複製、僅需越來越少人類代理人輸入（演算法股市交易只是這個趨勢的第一步）的人工智慧系統前景，無異於是我們所知之資本主義的末日。我們僅有的兩選項，將是新型態的共產主義，或是無法控制的混亂。

新聊天機器人將為許多孤獨（或沒那麼孤獨）的人們帶來無數個有友善對話相伴的夜晚，無論聊的是電影、書籍、烹飪或政治。就像我比喻過的，這類似於人工智慧版的無咖啡因咖啡或無糖汽水：友善無害的鄰居；只考慮滿足你需求的他者。這裡牽涉一種戀物癖的拒認結構：「我很清楚自己不是在和真人說話，但感覺就像是，而且不挾帶任何風險！」

無論如何，若仔細檢視AI公開信，將發現這是另一次徒勞的嘗試。這是一個古老的悖論：我們不可能參與「後人類的未來」，所以身為人類，我們必須禁止其發展。若要在這些技術中尋找我們的定位，我們應該捫心自問列寧的老問題：誰要拿自由來做什麼？我們以前擁有的是什麼樣的自由？我們所受的控制是否比我們意識到的更多？與其抱怨未來的自由和尊嚴受到威脅，或許我們應該先考慮的是當前自由的意義為何。除非我們這樣做，否則我們將像法國精神分析學家拉康 (Jacques Lacan) 所形容的歇斯底里患者，迫切地需要一個主人，卻是一個受我們主宰的主人。

今日「後人類」科學已不再與主宰有關。他們的信念是驚奇：「黑箱」人工智慧模型可能會為自己爭取何種不可預知的、規劃之外的突現特質？沒有人知道，而這正是整個計畫之所以令人興奮，或者說實際上平庸的理由。

人類正在創造自己的上帝或魔鬼。雖然結果無法預測，但有一點是可以肯定的。如果類「後人類」的東西以集體現實出現，我們的世界觀將失去全部3種具界定性、重疊性的主體：人性、自然和神性。我們身而為人類的前題是我們無法逾越自然，但如果生命變成完全可由技術操縱，就會失去其「自然」本質。完全受控制的存在，將是一個被剝奪意義、偶然和奇蹟的存在。

當然，這同樣適用於神性。人類所經歷的「神」，只有從人類的有限性和終有一死的角度看來才有意義。一旦我們成為神人並創造出人類舊思維看似「超自然」的屬性時，我們所認知的「神」就會消失。問題是，這樣還會留下什麼。我們會崇拜自己創造出的人工智慧嗎？

我們大有理由擔心，後人類世界的技術靈知派願景是意識形態的幻想，導致視聽混淆，讓我們忽視前方深淵。毋庸置疑，若我們想確保人類不會在不久的未來變得無關緊要、生活毫無意義，按下六個月暫停鍵是不夠的。

（翻譯：吳巧曦，責任編輯：楊淑華）