【有片】OpenAI推出「新人聲複製工具」不開放使用 大選年怕遭濫用

劉孜芹    2024年04月01日 14:40:00

美國科技新創公司「OpenAI」於3月29日公布人工智慧(AI)語音模型「聲音引擎」,只需要短短15秒的說話者聲音樣本,就能複製出幾可亂真的AI語音,不僅富有情感且逼真,還不受語言限制,可以生成西語、法語等其他語種的AI語音。不過,OpenAI也承認,這項技術具有高度的「深偽」風險,因此不適合全面發布。



 



英國《衛報》報導,OpenAI於2022年開始研發AI語音模型「聲音引擎」(Voice Engine),初始版本起初只被用於ChatGPT內建的文字轉語音功能。這項語音模型的生成結果不受聲音樣本語種限制,如果說的是英文,可以產生西語、法語等多種語言。



 






 





 



不過,OpenAI最新表示,考量到「深偽」、被濫用的風險,他們決定延遲推出「聲音引擎」,目前僅提供給合作夥伴使用,尚未對外全面開放。尤其是在至關重要的全球大選年,OpenAI致力避免假訊息出現的可能性。



 



OpenAI解釋說,他們「目前選擇預覽而非廣泛發布這項技術」,是為了強化社會面對「更具說服力的生成式模型」的抵禦能力。OpenAI呼籲逐步淘汰語音認證,作為登入銀行帳戶或其他敏感訊息的安全措施,並制定在AI領域使用個人聲音的保護政策,以及推廣理解AI技術的能力及侷限性,包括AI可能生成欺騙性內容。



 



OpenAI也強調,目前「聲音引擎」的生成結果都有浮水印,以讓公眾追蹤生成式AI語音的來源。與合作夥伴的使用條款也規定,必須取得原始說話者的明確知情及同意,更不允許開發人員讓個人用戶創建自己的語音檔。



 





 



 


世代傳媒股份有限公司

信箱:service@upmedia.mg

電話:+886 (2) 2568-3356

傳真:+886 (2) 2568-3826

地址:新北市新店區寶橋路188號8樓

facebook YouTube Instagram Threads
關於我們

世代傳媒股份有限公司

上報UP Media於2016年7月成立。我們集結菁英記者、編輯、專業行銷業務、社群好手,強調多元的原生內容與有趣豐富……

關於我們

探索網站

地址:新北市新店區寶橋路188號8樓

電話:+886 (2) 2568-3356

傳真:+886 (2) 2568-3826

e-mail:service@upmedia.mg

關注我們的報導社群

facebook Youtube Instagram Threads

提供新聞:news@upmedia.mg

投書評論:editor@upmedia.mg

客戶服務:service@upmedia.mg

廣告合作:ad@upmedia.mg

回到最上方