《大家論壇》開口視角：真人與聊天機器人溝通　會讓人像AI般說話 -- 上報 / 大師講堂

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#openai #chatgptg #聊天機器人 #人工智慧 #AI

《大家論壇》開口視角：真人與聊天機器人溝通　會讓人像AI般說話

齊澤克（Slavoj Žižek） 2023年04月03日 07:00:00

齊澤克（Slavoj Žižek）

●歐洲高等學院哲學教授

●倫敦大學伯貝克人文學院國際主任

能以自然語言暢談、理解用戶基本意圖並根據預訂規則與資料回答問題的「聊天機器人」不是新玩意兒，但最近幾個月這類聊天機器人的能力大幅提升，讓許多圈子陷入焦慮及恐慌。

關於聊天機器人預告傳統學生作文時代結束的討論已經很多，但更值得關注的是，當人類對話者使用攻擊性、帶性別歧視或種族色彩的言論，要求聊天機器人滿口髒話地回應時，它們該如何對答？是否該把程式寫入人工智慧（AI），讓它們能站在同樣的等級回答問題？

認定某種監管適切之後，就必須判斷審查應做到何種程度。一些人認為有「冒犯性」的政治立場會不會遭到禁止？揚言與約旦河西岸巴勒斯坦人站在同一陣線，或聲稱以色列是種族隔離國家（如美國前總統卡特曾出版的書名）又會如何？這些言論是否會因「反猶」而被封鎖？

問題到這裡還沒結束，如同藝術家兼作家布萊多（James Bridle）警告，新的人工智慧係「基於現有文化的全盤挪用」，若認為它們「其實學識淵博或具有意義是非常危險的」，因此我們也該對新的AI圖像生成器有所警惕。布萊多觀察到，「在它們嘗試理解並複製整個人類視覺文化時，[它們]似乎也重現了我們最黑暗的恐懼，或許這只是跡象，顯示這些系統確實非常擅長模仿人類意識，甚至是潛伏於存在深處的恐懼：我們對污穢、死亡及腐敗的恐懼」。

新的人工智慧在模仿人類意識方面究竟多厲害？一間酒吧用下列廣告詞促銷特價飲品：「用兩杯價買一杯啤酒，第二杯就免費！」對人類而言，這顯然是玩笑話，經典的「買一送一」廣告詞經過重新編排後等於完全沒優惠了，這種嘲諷的表達，幽默又誠實地讓人莞爾，一切都是為了促銷。聊天機器人懂這些嗎？

「Fuck」一字也有類似問題，雖然它意思是做愛做的事，但常帶有負面意義（「我們完了！We’re fucked!」「去你的！Go fuck yourself!」）。語言和現實錯綜複雜，人工智慧是否準備好判別這些差異？

德國詩人克萊斯特（Heinrich von Kleist）在1805年論文《論思想在言語過程中的逐漸形成》（1878年才首次在他死後發表）中發表驚世駭俗之語，即一個人除非清楚知道要說什麼，否則就不該開口，「假如一個想法以模糊方式表達，根本不代表這個想法是以混亂的方式構思，反而很可能是，以最混亂方式表達的想法才是最經過深思熟慮的想法」。

語言及思想的關係異常複雜，史達林1930年代初在一次演說中，提議用激進措施「無情揪出並打擊就算只在思想上反對集體化的人——是的，我是說真的，我們連人們的思想都應該打擊」。我們可大膽猜測這段話未經過事先準備，因為愣了一下後，史達林隨即意會到自己說了什麼，他不但沒有改口，反而堅持他的誇飾說法。

正如拉康（Jacques Lacan）之後所言，這是透過闡述而意外迸出的實話。阿圖塞（Louis Althusser）在撬開（prise）與訝異（surprise）的交互作用中發現了類似現象，突然領悟（撬開）某種想法的人會對自己做到的事訝異，聊天機器人做得到這點嗎？

問題不在於聊天機器人太笨，而是它們不夠「笨」；不是它們太天真（不懂反諷和反思），而是它們不夠天真（天真在掩蓋敏銳力時就會消失）。真正的危險並非人類會把聊天機器人當成真人，而是與聊天機器人溝通會讓真人像聊天機器人般說話——缺少了話語中的細膩和酸溜溜，執著在精準說出自以為別人想聽的話。

我年輕時，某個朋友在經歷創傷後向心理分析師尋求治療，這位朋友認為心理分析師對患者的期望了無新意，因此首次諮商他就在「自由聯想」時捏造自己如何痛恨父親甚至希望他身故，心理分析師的反應也很高明：他站在天真的「前佛洛伊德」立場，責備我朋友不尊重父親（「你怎能這樣講那個造就你的人？」）。這種假扮的天真傳達了明確訊息：你的假「聯想」不會讓我買帳。聊天機器人能否理解這個背後涵義？

大概不會，因為這就像羅雲威廉斯（Rowan Williams）對杜斯妥也夫斯基《白痴》裡梅什金公爵的解讀。一般認為「白痴」梅什金是聖潔、「絕對善良和美好的人」，被現實世界的殘酷和苦難逼得孤立無助，但在羅雲威廉斯激進的解讀下，梅什金才是暴風眼：他或許善良聖潔，但因為他在周遭複雜關係中扮演的角色，他才是引發自己親眼目睹浩劫與死亡的始作俑者。

不只因為梅什金是天真的傻瓜，他特有的遲鈍使他渾然不覺自己對他人帶來的災難性影響。他是單細胞生物，說話就像聊天機器人。他的「善良」出於他像聊天機器人般不帶鋒芒應對挑戰，說的話讓人味如嚼蠟，不懂反思，不懂字面背後意涵，仰賴心理上的「自動完成」而非原創構思。基於這個理由，新的聊天機器人勢必會與各路思想家相處融洽，舉凡當今的「覺醒」團體到叫不醒的「讓美國再次偉大」民族主義者皆然。

（翻譯：鄭可妮，責任編輯：楊淑華）