《大家論壇》AI視角：ChatGPT3等預測性演算法　加劇社會不平等問題 -- 上報 / 大師講堂

快訊

一条通 8 家指定門市祭出半價優惠、10 款美食最低 20 元起！

2025-03-11 03:45
uuuu

2025-02-11 03:14
銷魂拌麵「剁椒魚頭」、創意甜點「花椒豆腐腦」必點！奇岩一號雙強主廚合推 10 款川湘風味菜單

2024-06-27 07:00
習近平的親俄路線徹底敗壞了中共的處境

2024-06-25 07:00
71歲的習近平為中國帶來什麼

2024-06-24 07:00
宋國誠專欄：怪哉，依法懲治「台獨」──中共的「自嗨政治學」

2024-06-24 07:00
投書：從黃埔建軍到黃埔「遺毒」

2024-06-24 07:00
普丁與金正恩親密駕車互動的「小心機」

2024-06-24 07:00
世界亂局中重建台灣能源安全：賴清德總統的抉擇

2024-06-24 07:00
投書：「核電是AI耗能的救星」　別扯了

2024-06-24 07:00

#openAI #chatgpt #人工智慧 #演算法 #社會信用體系

《大家論壇》AI視角：ChatGPT3等預測性演算法　加劇社會不平等問題

穆加（Robert Muggah）、塞勒（Gabriella Seiler）＆拉佛齊（Gordon LaForge） 2023年03月10日 07:00:00

穆加（Robert Muggah）

●巴西智庫Igarapé Institute、SecDev Group共同創辦人

●世界經濟論壇全球未來城市委員會成員

塞勒（Gabriella Seiler）

●巴西智庫Igarapé Institute顧問

●巴西AI企業Kunumi合夥人、董事

拉佛齊（Gordon LaForge）

●新美國基金會高級政策分析師

●亞利桑那州立大學全球管理學院講師

最近幾個月很可能成為預測性人工智慧（AI）成為主流的時刻。預測演算法已經使用了幾十年，但像OpenAI的ChatGPT3這樣的應用程式，以及它與微軟Bing搜尋引擎的快速整合，可能已經打開了對使用者友善AI的大門。ChatGPT3發布不到幾周，就已吸引1億名用戶，其中許多人無疑已經體驗到它的黑暗面——從侮辱、威脅到虛假資訊，以及它顯示出來編寫惡意程式碼的能力。

登上頭條的聊天機器人僅僅是冰山一角。創造文本、講稿、藝術和影音的AI正迅速發展，對治理、商業和公民生活影響深遠。該領域吸引大量資金湧入，政府和企業都在投資新創企業開發和部署最新的機器學習工具，這些新的應用將結合歷史資料、機器學習、自然語言處理和深度學習，從而確定未來事件的概率。

關鍵在於採用新的自然語言處理和生成式AI，不會局限於富裕國家和領先業界的Google、Meta、微軟等公司。這些科技已經在中低收入環境中傳播，從減少城市不平等到解決食品安全問題的種種預測分析，對尋求提高效率、釋放社會和經濟效益，但又現金吃緊的政府、企業和非政府組織來說是一大希望。

然而問題是，對於這些科技的潛在負面外部性和意外影響，外界的關注仍嫌不足，最明顯的風險是空前強大的預測工具，將加強獨裁政權的監控能力。

一個被廣泛引用的例子是中國的「社會信用體系」，它利用信用記錄、犯罪記錄、線上行為和其他資料，給每個公民打分數，這些分數可以決定一個人能否獲得貸款，進入一所好學校，乘坐鐵路或航空旅行等等。儘管中國的系統被稱為提高透明度的工具，但它同時也是一種社會控制的工具。

然而，即便利用預測工具的是出自善意的民主政府、專注於社會影響的公司和進步的非營利組織，也會產生次優的結果。基礎演算法的設計缺陷和偏頗的資料庫，可能導致隱私洩露和身份歧視。這已經成為刑事司法中的一個重大問題，預測性分析使種族和社會經濟差異持續存在。例如，為幫助美國法官評估累犯可能性而建立的AI系統，錯誤地認定黑人被告再犯罪的風險遠遠高於白人。

外界也日益擔心AI會加深工作場所的不平等。到目前為止，預測性演算法一直在提高效率和利潤，使管理者和股東受益，但犧牲普通工人的利益（特別是在零工經濟中）。

在所有這些例子中，AI系統正在為社會舉起一面哈哈鏡子，投射並放大我們的偏見和不平等，正如科技研究員桑布里（Nanjira Sambuli）所指的，數位化往往會加劇而不是改善既有的政治、社會和經濟問題。

我們決不能讓AI成為決策者要求赦免而非許可的另一個領域。這就是為什麼聯合國人權事務高級專員和其他機構，呼籲暫停採用AI系統，直到考慮其潛在傷害，更新倫理和人權架構。

擬定適當的框架，需要就設計和使用預測性AI工具所應遵守的基本原則達成共識。幸運的是，人工智慧競賽已經引發關於倫理的研究、倡議、機構和網路同步湧現。民間社會已率先行動，而經濟合作組織、聯合國教科文組織等政府間實體也參與其中。

至少從2021年開始，聯合國一直致力於建立合乎倫理的AI普遍標準，歐盟也提出一項人工智慧法案（這是主要監管機關首次出擊），將阻止某些用途（例如類似於中國的社會信用系統），並具體要求和監管其他高風險應用。

迄今為止，這場辯論絕大部分集中在北美和西歐。但中低收入國家有自己的基本需求、關注點和社會不平等問題需要考慮。大量的研究表明，由已開發經濟體研發的技術，往往不適合開發中經濟體。

如果新的AI工具在必要的治理架構到位之前，就被大量引進並廣泛使用，很容易弊大於利。要為AI治理設計真正普遍的原則，就必須考慮所有這些問題。

認識到這些差距，巴西智庫伊格拉佩研究所（Igarapé Institute）和新美國基金會（New America），最近發起一個新的預測性分析促進安全和發展全球工作小組，該小組將召集來自美洲、非洲、亞洲和歐洲的數位權利宣導者、公共部門合作夥伴、科技企業家和社會科學家，為全球南方使用公共安全、永續發展的預測性工具，界定第一套原則。

制定這些原則和標準只是第一步。更大的挑戰是國際、國家和次國家的合作與協調，從而實施這些原則和標準。在全球急於研發和部署新的預測性人工智慧工具的情況下，預防傷害框架對於確保一個安全、繁榮、永續和以人為本的未來至關重要。

（本篇翻譯由PS官方提供，責任編輯：楊淑華）

（原標題為《AI and the Global South》，文章未經授權，請勿任意轉載）