首頁 -> 頭條

機遇伴風險而來 美國大動作傳遞的AI產業信號

分享到:
2023-06-26 11:17 | 稿件來源:香港中通社

【字號:

香港新聞網6月26日電 美國日前宣布重大行動,將成立一個新的(AI)公共工作組,以應對與AI相關的風險與潛力。人工智能的出現,為人類新世代打開了想象空間,ChatGPT更為人工智能技術按下加速鍵。但是新的技術也伴隨著風險而來,各國紛紛出台監管政策。這一系列監管政策的背後,可以看到,矛頭都指向一個最重要的方向,對當下最火爆的生成式AI產業發佈規範性政策。

美國宣布重大行動

美國商務部長吉娜·雷蒙多日前宣布,旗下美國國家標準與技術研究院(NIST)將成立一個新的(AI)公共工作組,以應對與AI相關的風險與潛力。

據介紹,AI公共工作組將招募來自私營和公共部門的技術專家和志願者,并將重點關注與生成式AI相關的風險。目前這項技術正在推動市場產品的快速變化。

雷蒙多透露,最近NIST發佈的風險管理框架(AI RMF)可以幫助最大限度地減少生成式AI技術的潛在危害。在這個框架的基礎上,這個新的公共工作組將有助於為那些正在開發、部署和使用生成式AI組織提供必要的指導,并有責任確保其可靠性。

該小組成立前夕,拜登在舊金山與資深的AI專家和研究人員舉行了會議,外界評價稱,這體現了拜登政府致力於尋求AI機遇、管理AI風險。

為此,商務部新成立的公共工作組將幫助解決與生成式AI技術相關的機遇和挑戰,還將幫助NIST制定關鍵指南,以幫助組織解決與生成式AI相關的特殊風險。

數據洩露風險不斷

ChatGPT火熱的背後也引發人們的擔憂。與人“對話”、編寫代碼、創作詩歌、模仿名家畫作……ChatGPT完成了一些以往被認為只有人類才能完成的工作,為人工智能技術按下加速鍵。

這種生成式AI可以通過算法、模型、規則生成新內容,這些內容包括圖像、文字、音樂,甚至視頻、代碼等。面對數據安全、個人隱私、信息造假、算法歧視……各國監管部門對一系列潛在風險反應迅速,動作不斷。

因為這些不僅對個人的信息、隱私和財務安全帶來風險,對公司甚至是對於國家安全也一樣面臨巨大風險。在4月10日,中國支付清算協會就發佈了關於支付行業從業人員謹慎使用ChatGPT等工具的倡議。倡議表示,已有部分企業員工使用ChatGPT等工具開展工作,但是,此類智能化工具已暴露出跨境數據洩露等風險。

相關統計顯示,過去5年內,全球安全攻擊數量增長67%,攻擊者藉助釣魚鏈接等方式“黑”進用戶的時間從幾個月、幾周縮短至1小時左右。ChatGPT上線後,進一步降低了攻擊門檻,幾乎沒有代碼經驗的人也可編寫惡意軟件,AIGC被濫用於網絡釣魚、宣傳虛假信息甚至網絡犯罪的可能性激增。

中國在4月11日國家互聯網信息辦公室正式發佈《生成式人工智能服務管理辦法(征求意見稿)》,首次針對於當下爆火的生成式AI產業發佈規範性政策。

去風險尋機遇的監管背後

通用人工智能加速產業發展,將成為新一輪科技革命和產業變革的重要驅動力量,對人們的生產生活產生重大影響。存在風險的同時也帶來了很多產業機遇,目前,一些生成式人工智能應用正向辦公、生活等領域滲透,一批生物製藥、遙感、氣象等垂直領域的專業類大模型走向應用。

美國此次對AI監管成立專門的工作小組有著短期與長期的考量,短期來看,工作組將作為收集指導意見的工具,來完善NIST的AI RMF框架,以支持生成式AI技術的開發,并鼓勵在處理相關風險時使用AI RMF;長期來看,該小組將探索具體的機會,以提高強大的生成式AI技術被有效利用的可能性,以應對這個時代在健康、環境和氣候變化等領域面臨的重大挑戰。

雷蒙多表示,美國總統拜登已經明確表示,必須努力利用AI的巨大潛力,同時要監管AI對我們的經濟、國家安全和社會構成的風險。

香港應科院高級工程師伍裕江在接受中通社記者采訪時表示,對中國來說人工智能發展水平總體上仍處於起步階段,既要重視通用人工智能發展、營造創新生態,又要重視防範風險,會更加任重道遠。中國目前有一批具有行業影響力的預訓練大模型在蓬勃發展,廣闊的市場和應用場景的豐富是中國具有的優勢,能為探索具有產業價值的應用方向,為技術研發提供更多支撐。

伍裕江表示,人工智能不斷進化,也會帶來一定風險。積極推進人工智能治理,就要有一定的前瞻性。通用人工智能可處理、生成近似原作的產品,將在個人隱私保護、打擊虛假信息等方面帶來新的挑戰。政府、行業、企業等共同制定標準和制度規則,將有效防控人工智能的科技倫理風險的同時,促進產業的發展。(完)

【編輯:錢林霞】

視頻

更 多
現場直擊!珠海航展有什麼?為何吸引這麼多外國人來看?
冬天的新疆太美了!讓新疆女生們告訴你哪些景點不能錯過
廣東潮汕英歌舞機器人火出圈!中國玩具已進入新階段
【通講壇】特朗普的俄烏“和平方案”能奏效嗎?
【你不知道的香港】香港郊外竟還有個隱世“老爺車博物館”?
香港工商界人士座談會在深圳舉行
23秒答對全部20道題目!國安問答挑戰賽的冠軍居然是......