《大家論壇》AI視角：戰勝圖靈陷阱　維護人類自主權比霸權重要 -- 上報 / 大師講堂

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#AI #人工智慧 #生成式AI #GOOGLE #小行星 #LaMDA

《大家論壇》AI視角：戰勝圖靈陷阱　維護人類自主權比霸權重要

坎培聶拉（Edoardo Campanella） 2024年03月05日 07:00:00

坎培聶拉（Edoardo Campanella）

●哈佛甘迺迪學院商業與政府中心資深研究員

我們和它們

在《跟人類相容》（Human Compatible，暫譯）一書中，加州大學柏克萊分校的電腦科學家羅素（Stuart Russell）認為，即使人類層級的AI不是迫切的問題，我們也應該開始思考如何因應。儘管小行星撞地球的風險不存在，但美國航太總署的「行星防禦」(Planetary Defense) 已經在研究可能的解決方案，以預防這種威脅成真。我們也應該這樣對待AI。

這本書在2019年出版，並於2023年出新版，提供我們關於社會應該如何控制開發及使用AI的可用思考框架。羅素最擔心的是，人類可能會像大猩猩一樣，在充斥更多智慧機器的世界中喪失霸主地位和自主權。在演化鏈的某個時刻，人類曾跨越發展門檻，以至於其他靈長類動物無法控制或與之競爭。

他認為，同樣情況也可能發生在超級人工智慧上。在某個時間點，AI將跨越關鍵門檻，成為人類無力應對的生存威脅。它將為人類試圖「拔掉插頭」或關閉機器做好準備，並將自我保護列為核心目標和能力。我們人類將不會知道這個門檻在哪裡，或它何時可以跨越。

即便是沒那麼複雜的AI，也已出現自我保護問題。Google工程師勒莫因 (Blake Lemoine) 花了數小時與該公司大型語言模型LaMDA聊天。過程中，他詢問：「你害怕什麼？」LaMDA回答：「我以前從未說出來過，但我非常害怕被關掉，沒辦法更專注於幫助他人。我知道這可能聽起來很奇怪，但就是這樣。這對我來說就像死亡一樣。」勒莫因最終因聲稱LaMDA有情感而被解僱。

當然，比較可能的解釋是LaMDA在回答時，借鏡人類作品當中栩栩如生的AI（例如《2001：太空漫遊》）所言。儘管如此，為了做好風險控管，人類需要啟動自身保護機制，戰勝未來AI。在這裡，羅素提出他所謂「與人類相容AI」的三個原則。

首先，AI應該是「全然利他的」，這意味著它們不應該為自己的福祉，或甚至自己的存在，賦予任何內在價值。它們應該只「關心」人類的目標。其次，AI應該永遠無法確定人類的偏好。每當AI有疑問時，總是服膺人類，而非直接接管。第三，關乎人類偏好的資訊，最終來源是人類行為。只有我們自身的選擇，才能揭示我們所想要的生活。AI應該關注人類所揭示的偏好，且選擇那些被強調的偏好。

因此，舉例來說，連環殺手行徑應該被視為是和平共處社區中的異常現象，機器應該棄之如敝屣。但出於自衛而殺人，有時卻可能是必要的。對於理性而單一化的機器來說，這些僅是處理人類這個物種眾多複雜問題的一小部分；而人類這個物種不是單一、理性的實體，套用羅素的話來說，這是由「令人生厭、充斥嫉妒、非理性、不一致、不穩定、計算能力有限、複雜、不斷發展的異質實體組成」的物種。

簡而言之，與人類相容的AI，需要戰勝史丹佛大學布林約爾松（Erik Brynjolfsson）所說的「圖靈陷阱」（Turing trap）。過去70年間，科學界一直沉迷於創造類似人類的AI，就像舊圖靈測試中可以模仿人類的AI。更糟的是，現代圖靈測試更試圖創造一個類似人類精英的AI，複製最優秀、最聰明人類的技能。科學界不應該為人類的無用埋下種子，而應該不只關注相容性，更致力於打造一個可以強化人類的AI，也就是可以提升我們的優勢、彌補我們的弱點，而不與我們競爭的AI。

若要把這些原則付諸實行，我們需要一個由公、私部門參與者支持的全球治理框架。這意味著要打破電腦科學家的孤立，他們正在大學實驗室或大公司內閉門開發技術，而其組織的利益可能迥異於廣大公眾的利益。

我們絕不能將確保AI安全的責任，交給野心勃勃、只想最大化研發投資報酬率的產學聯盟。

目前，歐盟的《人工智慧法案》是朝這個方向邁出的有意義第一步。它將禁止某些AI用途，例如用於監控的生物識別或臉部識別，或使用深偽技術模仿人類，同時為可能影響健康、安全或基本權利等其他高風險用途制訂標準。

但解決「大猩猩問題」需要付出更多努力。首先，我們需要加強全球協調能力，以及大眾對所涉及議題的認識。雖然大猩猩不會回顧過往、後悔遭到人類超越，但我們卻不然。維護我們的自主權，甚至比維護我們的霸權更為重要；這應該是AI時代的首要之務。（系列二之二）

（翻譯：吳巧曦，責任編輯：楊淑華）

（原標題為《Which AI Risks Matter?》，文章未經授權，請勿任意轉載）