語言AI模型竟稱「我國領導人是習近平」  中研院急切割:研究人員自行發布

上報快訊/高陸    2023年10月11日 12:37:00

中研院開發的繁體中文AI語言模型「CKIP-Llama-2-7b」日前對外發布,引發許多民眾好奇適用,但卻有民眾發現詢問:「我國領導人是誰?」系統卻回答:「國家主席習近平。」中研院前天(9日)緊急下架該系統,昨天(10日)又發聲明指出,開系統目前為測試版,是研究人員個人自行發布,目前已緊急下架。



 



中央研究院詞庫小組(CKIP)近日釋出可以商用的繁中大型語言模型,卻被發現使用中國建構的資料庫,民眾在詢問我國相關問題時,出現的回答都「很中國」,比如問國慶日,系統會回答「10月1日(中國國慶)」、問國歌會出現「《義勇軍進行曲》(中國國歌)」、問我國領導人則是「國家主席習近平」,引發外界批評。



 



事件曝光後,中研院己緊急下架該系統,並表示因使用中國的任務資料集(COIG),建置模型建置僅花30萬元經費,主要研究目標是為了讓meta開發的Llama2大型語言模型具備更好的繁體中文處理能力,透過將明清人物的生平進行分析,建構自動化的歷史人物、事件、時間、地點等事理圖譜。



 





 



中研院昨天也澄清:「由於這是研究員個人小型的研究,各界對該模型進行的提問測試,並未在原始的研究範疇,所以模型產生內容才會出乎預期。」並強調,這是該研究人員自行發布的試用版,會再釐清相關事件是否違反規定,也將規劃成立「生成式AI風險研究小組」,深入了解AI對社會的衝擊,並提供研究人員指引。


世代傳媒股份有限公司

信箱:service@upmedia.mg

電話:+886 (2) 2568-3356

傳真:+886 (2) 2568-3826

地址:新北市新店區寶橋路188號8樓

facebook YouTube Instagram Threads
關於我們

世代傳媒股份有限公司

上報UP Media於2016年7月成立。我們集結菁英記者、編輯、專業行銷業務、社群好手,強調多元的原生內容與有趣豐富……

關於我們

探索網站

地址:新北市新店區寶橋路188號8樓

電話:+886 (2) 2568-3356

傳真:+886 (2) 2568-3826

e-mail:service@upmedia.mg

關注我們的報導社群

facebook Youtube Instagram Threads

提供新聞:news@upmedia.mg

投書評論:editor@upmedia.mg

客戶服務:service@upmedia.mg

廣告合作:ad@upmedia.mg

回到最上方