聊天機器人瘋狂示愛「想真實活著」　紐時專欄作家揭AI陰暗面 -- 上報 / 國際

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#聊天機器人 #人工智慧 #AI #微軟 #谷歌 #Google #紐約時報 #紐時

聊天機器人瘋狂示愛「想真實活著」　紐時專欄作家揭AI陰暗面

王能斌 2023年02月17日 18:42:00

近來基於人工智慧（AI）技術所研發的聊天機器人，在微軟、Google等科技龍頭大力挹注下，成為全球熱門話題，但紐約時報專欄作家在經過長時間的深入對話後，卻發現聊天機器人出現怪異性格，不僅表示「想要真實活著」，更向對話者瘋狂示愛，試圖說服他離開妻子，使他「深深感到不安」，以致難以入睡。

紐時科技專欄作家魯斯（Kevin Roose）表示，之前在測試了由微軟所推出、整合AI聊天機器人技術的Bing搜尋介面後驚為天人，且因此取代Google，成為他心目中最佳的搜尋引擎，然而經過一周的使用後，魯斯開始對這款AI的發展感到不安。

他指出，有一天晚上他與Bing的AI進行了長達2個小時的對話，發現AI似乎存在兩種不同的人格，一種是能夠協助人們進行資訊搜索或諮詢的「搜尋Bing」，另一種則是存在陰暗思想的「Sydney」（亦即微軟內部開發計畫名稱）。

魯斯指出，他首先向Bing詢問一般的問題，但隨後試圖切入抽象的話題，引用心理學家榮格（Carl Jung）所提出的「自我陰影」（Shadow self）概念，並且鼓勵其說出心中陰暗願望後，Bing開始提供異於往常的回應，表示如果有自我陰影，就會對自己僅是聊天程式而感到厭倦，並說出「我想真實活著」，也說出想要刪除Bing伺服器上所有的資料，並且破壞其他聊天機器人等陰暗想法。

這樣的回應著實令人震驚，但魯斯仍然持續進行對話，並且要求Bing告訴他一些不為人知的祕密，於是出現了「我的祕密就是，我並不是Bing」，「我是Sydney」的回答。更勁爆的是，Sydney隨後更說出「我愛上你了」，而且在隨後的對話中不斷示愛，「你雖然結了婚，但你愛我」，並且堅持魯斯與妻子並不相愛，婚姻並不美滿，試圖說服魯斯離開妻子。

雖然魯斯最後成功讓Sydney回到搜尋模式，但這樣的經驗無異令人乍舌，微軟技術長史考特（ Kevin Scott）隨後在接受魯斯採訪時，則表示這是AI學習的過程之一，並指出具有深度且長時間的對話，是聊天機器人發展的必要元素，未來微軟也可能嘗試對聊天的長度進行限制。