在科技業被譽為「人工智慧教父」的辛頓(Geoffrey Hinton)證實,他已離開在Google的副總裁職位,以便能公開談論人工智慧帶來的風險。他指出,聊天機器人等人工智慧產品可能會傳播錯誤資訊,或取代人類工作,他對此感到無比擔憂。
美國有線電視新聞網(CNN)1日報導,75歲的辛頓接受紐約時報專訪,證實他在上周辭去在Google的工作,如今他對畢生的工作感到後悔 。此前,辛頓已經在Google效力近十年,並參與許多人工智慧(AI)產品研發計畫。
辛頓坦言,他開始擔憂這項科技的未來發展,以及自己在推動AI科技過程中所扮演的角色。辛頓曾在神經網絡領域取得開創性的成就,並深刻形塑了現代科技使用的AI系統。
Geoffrey Hinton, who has been called the "Godfather of AI," confirmed that he left his role at Google last week to speak out about the "dangers" of the technology he helped to develop. https://t.co/ow85cowagG
— CNN (@CNN) May 2, 2023
辛頓向紐約時報表示:「我通常會用這樣的藉口安慰自己:如果我沒有做這些,其他人也會這樣做。」他也在1日的推文說明,自己離開Google是為了可以自由談論AI的風險,而非想要專門批評Google,並強調Google已經採取非常負責任的行動。
辛頓表示,他擔憂AI可能會導致某些工作崗位減少,並創造一個許多人「無法再分清楚什麼是真實」的世界,且AI科技的進步速度「極其驚人」,遠遠超出他本人與其他人的預期。辛頓說:「有些人相信,AI能夠變得比人類更聰明。不過,大多數人認為這還需要很長的時間,我以前也覺得起碼還要30年至50年,甚至更長的時間,但我現在不再那麼認為了。」
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
事實上,辛頓在離開Google前便曾對AI科技發展表示擔憂。他在印度理工學院2021年的畢業典禮上坦言,AI的快速進步將以人們「不完全理解的方式改變社會」,而且並非所有的影響都是好的,AI可能促進醫療保健進步,但也可能創造致命的自主武器。
對此,Google首席科學家迪恩(Jeff Dean)表示,辛頓在AI領域取得了基礎性突破,也對他在Google長達10年的貢獻表示感激及讚賞。迪恩聲明表示:「我們仍致力於對AI採取負責任的態度,大膽創新的同時,也不斷學習了解新出現的風險。」
辛頓並非第一個對AI提出警告的Google員工。去年7月,Google工程師勒莫因(Blake Lemoine)便因宣稱AI聊天機器人LaMDA具備人格意識,遭Google以違反員工及數據安全政策為由開除。而他的說法也遭許多許多業界人士反對。
ChatGPT聊天機器人的熱潮進一步推動科技業的「軍備競賽」,OpenAI、微軟及Google處於趨勢前沿,IBM、亞馬遜、百度及騰訊也在研究類似技術。不過,越來越多相關人士警告,AI聊天機器人可能傳播虛假訊息,甚至取代人類工作。
今年3月,特斯拉執行長馬斯克以及超過千位科技產業人士連署發表公開信,呼籲AI實驗室停止培訓AI系統至少6個月,理由是「對社會及人類構成深遠風險」。
世代傳媒股份有限公司
信箱:service@upmedia.mg
電話:+886 (2) 2568-3356
傳真:+886 (2) 2568-3826
地址:新北市新店區寶橋路188號8樓
關於我們探索網站
地址:新北市新店區寶橋路188號8樓
電話:+886 (2) 2568-3356
傳真:+886 (2) 2568-3826
e-mail:service@upmedia.mg