350名專家示警AI風險等同核戰　唐鳳也參與連署 -- 上報 / 國際

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#人工智慧 #AI #OpenAI #馬斯克 #CAIS #chatgpt

350名專家示警AI風險等同核戰　唐鳳也參與連署

高鈺婷 2023年05月31日 13:45:00

人工智慧（AI）成為當前科技界熱門話題，為人們帶來方便的同時，卻也引發各界擔憂。包括我國數位發展部部長唐鳳、OpenAI、Google Deepmind、Anthropic等350多名AI企業領袖與相關業界專家30日聯手示警，強調AI技術發展過於迅速，對人類構成的滅絕威脅，不亞於核戰衝突和流行疫情。

美聯社報導，關注人工智慧風險的美國非營利團體「人工智慧安全中心（CAIS）」30日公開聯名信，指出「降低AI帶來的滅絕風險，應該與其他社會規模等級的風險，如大流行疫情和核戰，同為一項全球優先要務」。

We just put out a statement:

“Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.”

Signatories include Hinton, Bengio, Altman, Hassabis, Song, etc.https://t.co/N9f6hs4bpa

? (1/6)

— Dan Hendrycks (@DanHendrycks) May 30, 2023

聯名信指出，針對AI恐將造成廣泛重要且急迫的風險一事，包括AI專家、記者、決策者和民眾進行討論的熱度日增，但即便如此，也難以完全表達出各界對部分先進AI技術發展風險的高度憂慮，該聲明旨在解決這項難題，並開啟討論，同時也向關切AI可能引發危機的公眾人士，提供可資參考的知識平台。

根據CAIS官網公布的連署名單，目前該聲明已有350多名專家和科學家聯名簽署，其中包括有AI教父之稱的辛頓（Geoffrey Hinton）、開發ChatGPT的OpenAI公司執行長阿特曼（Sam Altman）、Google公司AI部門DeepMind執行長哈薩比斯（Demis Hassabis）、微軟公司技術長史考特（Kevin Scott）、開發AI系統語言模型的Anthropic公司執行長阿莫迪（Dario Amodei）等知名業界大咖，我國數位發展部部長唐鳳（Audrey Tang）也列名其中，共同表達對該議題的重視。

Artificial intelligence raises risk of extinction, experts say in new warning apparently quite a few scientists think we should deal with this. Usually developers just plow ahead for the sake of profit. I’m hoping maybe they choose safety & foresight https://t.co/Kg57aJmgrN

— lostinthesouth (@hexanowl) May 30, 2023

該聲明未提出具體措施，只有部分專家提議按照聯合國方針建立國際監管機構。CAIS主任亨德里克斯（Dan Hendrycks 表示），之所以只在信中寫上簡短一句話，是為了確保此核心警告不會被忽視。他表示：「在我們進行有意義的政策討論之前，我們需要廣泛認識到這個風險的重要性」，並強調對於這種程度的風險，重點不是這項技術被過度吹捧，而是相對於實際威脅的程度，目前對這個問題的重視程度不足。

（延伸閱讀：五角大廈爆炸畫面瘋傳連媒體都上當　真相曝光又是AI搞怪）

在這份聲明出爐之前，AI的迅速普及早已引起一些專家的憂心。報導指出，隨著新一代AI 聊天機器人（如 ChatGPT）的興起，人們越來越擔心人工智慧系統會超越人類走向失控。世界各國已經開始為此制定法規，其中歐盟搶先推進《人工智慧法案》（The Artificial Intelligence Act），預計今年能夠通過該法，並將根據風險等級制度對人工智慧應用、產品與服務進行監控。

特斯拉執行長馬斯克（Elon Musk）、蘋果共同創辦人沃茲尼亞克（ Steve Wozniak）等超過千位 AI 研究人員，也於3月連署公開信，呼籲所有 AI 實驗室暫停開法比 GPT-4 更先進的模型為期至少 6 個月，以免對社會和人類構成威脅。