新加坡政府提出「生成式人工智慧(Generative AI)治理架構草案」,內容涵蓋究責、數據、舉報等9大方面

2024-01-17 駐新加坡台北代表處經濟組 吳組長文忠

一、    依據新加坡資訊通信媒體發展局(IMDA)及「人工智慧驗證基金會(AI Verify Foundation)」本(2024)年 1月16日聯合發布的新聞稿指出,星國政府預計於2024年年中推出「生成式人工智慧(Generative AI)治理架構」,刻正就草案內容徵求海內外專家意見,以致力於打造更可信賴的人工智慧環境。該治理架構,內容將涵蓋究責、數據、開發與運用、舉報、測試、安全、內容來源、研究及公共利益等9大方面,係全球首個針對生成式人工智慧的多面向治理架構。
二、    新加坡通訊及新聞部(MCI)部長楊莉明表示,星國的生成式人工智慧發展與運用仍處於初期階段,上述治理架構將著重於指導原則及識別重點,但人工智慧的治理不能僅在國家層面進行,尚須有國際對話及實際建議為基礎,才可逐漸完善,進而推動國際交流與合作。
三、    上述新聞稿指出,生成式人工智慧的開發過程涉及各類業者,因此須制定明確的專責機制。上述治理架構草案建議,應由模型開發者負責協調,確保每項環節業者承擔應有的責任。另,驅動生成式人工智慧的數據對成品品質具有極大影響,業者須使用可信賴的「數據集(dataset)」,以維護個人隱私及版權。
四、    由於生成式人工智慧日益深入民眾的生活,倘未妥善控管,將衍生假訊息、侵犯版權等問題。上述治理架構草案主張對於生成式人工智慧的開發及運用,可借鏡食品的「營養標籤」機制,為不同人工智慧「模型(models)」貼上標籤,明確列出開發過程中使用的數據及測試等重要資訊。「模型」係指ChatGPT、DALL-E等生成式人工智慧系統。由於任何系統皆可能出現漏洞,該治理架構草案亦提出關於舉報、測試及安全等機制。
五、    為防止生成式人工智慧被濫用於傳播假訊息,多國政府刻正探討使用「數位浮水印」及「密碼來源」等兩種標記科技,標示可信賴或原創內容,以協助用戶辨識內容來源及生成方式。針對假象、版權及價值觀等新議題,上述治理架構草案建議透過國際合作,加速對生成式人工智慧風險的研究。此外,亦將探討如何在公共領域、勞動力及永續發展等方面,善用生成式人工智慧,使更多群眾受益。
六、    針對新加坡將推出面向國際社會的「生成式人工智慧治理架構」,業者反映此將有助於進一步規範整體業界,但亦須保留創新的空間。由於人工智慧發展迅速,新加坡已於2019年已推出全球首個「人工智慧治理架構」,並成立人工智慧驗證基金會,以推動國際合作。
 

點擊率:150