top of page

白宮認為人工智慧需要更多監管以維持穩定


Howie Su

白宮與兩院都呼籲祭出人工智慧規範

拜登在近期與總統科學技術顧問委員會的一次會議上指出「人工智慧可以幫助處理一些非常困難的挑戰,如流行病與氣候變遷,但我們也必須解決我們社會面臨的潛在風險,例如經濟與國家安全。」在這之前,特斯拉的創辦人馬斯克也呼籲需要暫停人工智慧研究六個月,避免人工智慧的發展過度失控,釀成無法控制的災難。


在這之前,美國政府就已經在2022年制定《人工智慧法案》,確保從一開始就將重要的保護措施嵌入到 AI 系統中,並且認為科技業者在推出人工智慧服務前就必須確保其安全性。同時,兩黨隱私法案(bipartisan privacy legislation)也列出三條規定,第一為對科技公司的個人數據搜集辦法嚴格規範;二、禁止針對兒童投放特定廣告;第三,要求公司在生產產品時將健康和安全放在首位。這些看起來再基礎不過,但目前看起來是,科技業受到箝制正在加重。


圖、制定人工智慧規範對美國來說刻不容緩

資料來源:Science Business


來自美國國家標準與技術研究院的聲明

基於資本主義與開放市場文化,美國擁有許多頂尖的 AI 業者,如 OpenAI 與微軟,以及大量新創與科技業,但在法規上,則沒有如歐盟一般具備制定強大約束力法規的做法。


在 2020 年,美國國國會要求美國國家標準與技術研究院 (NIST) 擬定人工智慧框架,以讓公司在開發人工智慧系統時遵守,這個後來發佈的「人工智慧風險管理框架」(AI Risk Management Framework,AI RMF)認為人工智慧系統是一種社會技術,例如聊天機器人等服務都會受到社會動態和人類情緒反應所影響,企業應考慮制度文化的變革,更全面地思考、評估和監控人工智慧風險等四大原則來設計人工智慧系統,並透過組織人工智慧風險管理活動的三個元素:「功能」、「類別」、「子類別」來評估系統的安全性。雖然立意良善,但由於缺乏強制性,雖然如Google、微軟等科技業者都贊成,但實際上有沒有做、做得如何都是未知數,僅知道大型企業也有自己的 AI 治理框架。


圖、美國國家標準與技術研究院AI框架費時兩年才完成

資料來源:NIST


世界經濟論壇也提出相關規範,但不具強制性

這些框架與稜稜角角的細節並非只有白宮在做,世界經濟論壇也大力呼籲 AI 治理的重要性,其實連韓國、日本、新加坡等國家也都在執行,但沒有一國像歐盟做得這麼到位,即便如此,如世界經濟論壇提出的建議卻也值得參考,例如企業必須建立良好的 「AI 衛生習慣」。這包含在 AI 開發、部署和使用的各個階段進行的例行測試。測試將取決於系統的類型及其風險級別。同樣,基於人工智慧的靈活性和適應性,測試方法也必須與之相適應,以確保測試結果有效性。


同時,為了提高 AI 的責任歸屬與和透明度,組織應記錄調查結果,例如 AI 系統中使用的培訓數據的來源和差距,這種做法類似於遵守「營養標籤」和「配飲食成分表」,紀錄所有資料的來元、使用方式、產出等,讓企業更能掌握或推論模型的運作方式,避免大規模的歧視或假消息出現,這就進一步帶動 AI 審計的商機,一如財報一樣,未來 AI 可能也需要透過第三方單位來查核,來確保企業在建立 AI 系統時符合監管機構的規定。


 

作者簡介|Howie Su


產業分析師,熱愛前瞻技術與科技產業,曾服務於家族辦公室研究單位,對於商業觀測、趨勢演進與財務併購具濃厚興趣。愛貓,亦愛浮潛與跳傘。

 

創新未來學校 推薦課程:



8/19(六) 隆重開班 熱烈招生中! 從基礎商務企劃理論、

進階數位策略心法到實務操作演練,

幫你打造完整的數位行銷策略!


👉學員心得:WBSA數位行銷 如何幫助家族事業優雅轉型?學員實戰分享 以上課程均視情況調整,歡迎私訊 LINE@、來電 (02)6617-1766,或關注粉絲團最新資訊!

Comments


bottom of page