我國首份生成式人工智能監(jiān)管性文件正式實施——立定行業(yè)新規(guī) 指明發(fā)展方向

光明網(wǎng)記者 李政葳 李飛

伴隨新一代信息技術(shù)的迅速發(fā)展，各行各業(yè)大模型“浪潮”此起彼伏。國家網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），8月15日起正式落地實施。作為我國促進生成式人工智能發(fā)展和規(guī)范應用的專門立法，《辦法》界定了該技術(shù)的基本概念，規(guī)定了對服務提供者的制度要求，為未來行業(yè)健康發(fā)展指明了方向。

賦能千行百業(yè)，推動數(shù)字化轉(zhuǎn)型

(資料圖)

日前，新華社研究院中國企業(yè)發(fā)展研究中心發(fā)布的《人工智能大模型體驗報告2.0》顯示，訊飛星火位列國產(chǎn)主流大模型測評榜首位；與今年6月首次發(fā)布的報告相比，當前中國的大模型產(chǎn)品進步顯著。

8月15日，頗受關(guān)注的訊飛星火認知大模型再次迎來升級——在提升通用能力的基礎上，升級代碼能力和多模態(tài)能力。科大訊飛董事長劉慶峰表示，代碼能力是支撐認知大模型智慧的關(guān)鍵維度，多模態(tài)能力則是實現(xiàn)通用人工智能的必經(jīng)之路，大模型賦能個體和行業(yè)的大未來正在到來。

“當前，人工智能不斷催生新場景、新業(yè)態(tài)、新模式、新市場，推動數(shù)字化轉(zhuǎn)型發(fā)展。”中國信息通信研究院政策與經(jīng)濟研究所所長辛勇飛說。

對外經(jīng)濟貿(mào)易大學數(shù)字經(jīng)濟與法律創(chuàng)新研究中心主任許可也認為，作為通用人工智能的先行者，生成式人工智能將深刻影響人類經(jīng)濟、社會、文化、軍事等各個領域。

“生成式人工智能底層技術(shù)，實際上就是大模型?！卑俣葎?chuàng)始人、董事長兼首席執(zhí)行官李彥宏表示，大數(shù)據(jù)、大算力、大模型，導致智能產(chǎn)業(yè)涌現(xiàn)；同時，人工智能也發(fā)生了方向性改變，從辨別式人工智能走向生成式人工智能。

在360集團創(chuàng)始人周鴻祎看來，以GPT為代表的大模型，是人工智能第一次能夠比較通用地解決問題，并且解決的都是各行各業(yè)共同的痛點和剛需?！八鼘癞斈陚€人電腦一樣，帶來一次‘工業(yè)革命’。”周鴻祎說。

劃定法律紅線，構(gòu)建良性生態(tài)

今年暑期檔，聚焦互聯(lián)網(wǎng)詐騙主題的電影《孤注一擲》正在熱映。影片生動揭示了詐騙背后，人工智能等新技術(shù)帶來的虛假信息、隱私泄露、算法歧視等風險問題?！敖陙?，人工智能技術(shù)取得了突飛猛進的發(fā)展，尤其是大模型的出現(xiàn)帶來了巨大便利；但隨之而來的是人們對大模型的過度依賴，以及可能產(chǎn)生的安全風險?！敝袊こ淘涸菏苦w賀銓這樣說。

一直以來，我國堅持發(fā)展和安全并重，《辦法》在鼓勵自主創(chuàng)新的同時，也強調(diào)了相關(guān)主體要依法承擔責任，履行網(wǎng)絡信息安全義務。周鴻祎認為，大模型是數(shù)字化的頂峰，同樣也是一把“雙刃劍”，帶來生產(chǎn)力提升的同時，也存在數(shù)據(jù)和算法安全問題等風險。

“如何將海量的數(shù)據(jù)轉(zhuǎn)換為能為大模型訓練所用的數(shù)據(jù)是重點。”在近日舉行的第十一屆互聯(lián)網(wǎng)安全大會上，中央網(wǎng)信辦網(wǎng)絡安全協(xié)調(diào)局副局長羅鋒盈表示，要提升新技術(shù)、新應用安全風險防范能力，善于把數(shù)據(jù)資源轉(zhuǎn)換為數(shù)據(jù)優(yōu)勢，構(gòu)建網(wǎng)絡安全教育技術(shù)產(chǎn)業(yè)融合發(fā)展的良性生態(tài)。

在全球范圍內(nèi)，意大利、德國、法國、西班牙等多個國家的監(jiān)管部門對人工智能表達擔憂或發(fā)起調(diào)查。中國電子技術(shù)標準化研究院黨委書記楊建軍表示，如何發(fā)展好、運用好、管理好生成式人工智能，已成為全世界面臨的共同挑戰(zhàn)?！掇k法》作為國際上較早出臺的積極應對生成式人工智能安全風險的專門立法，為有序開展相關(guān)管理工作明確了方向。

推動多方協(xié)同，引導“科技向善”

“加強生成式人工智能大模型技術(shù)的安全向善、可信可控，是創(chuàng)新發(fā)展的前提，也是我們堅持攻克的方向。”周鴻祎表示，《辦法》內(nèi)容表明了國家相關(guān)部門鼓勵創(chuàng)新，支持人工智能產(chǎn)業(yè)發(fā)展的態(tài)度，為科創(chuàng)領域從業(yè)者提供了信心和保障。

針對未來行業(yè)發(fā)展，第十三屆全國政協(xié)經(jīng)濟委員會副主任蘇波建議，要持續(xù)完善人工智能數(shù)據(jù)安全監(jiān)管體系，用規(guī)范監(jiān)管保障安全發(fā)展。“比如，可以制定人工智能產(chǎn)品應用服務的數(shù)據(jù)安全服務產(chǎn)品體系，通過檢測驗證提升產(chǎn)品安全性、成熟度，降低人工智能數(shù)據(jù)安全風險。”

中國工程院院士鄔江興也提到，人工智能大模型存在神經(jīng)網(wǎng)絡“黑箱”特點導致人工智能存在不可解釋性、深度學習對訓練樣本過度依賴導致學習結(jié)果不可判定性、神經(jīng)網(wǎng)絡推進過程不可逆導致結(jié)果不可推論性等內(nèi)生安全的個性問題，以及漏洞、后門等內(nèi)生安全的共性問題。未來，尚需監(jiān)管部門、企業(yè)共同發(fā)力，從政策、文化、人才等多方面入手。

除了本次實施的新規(guī)新策外，為應對人工智能風險問題，我國在網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法的基礎上，已陸續(xù)實施了《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》。楊建軍表示，通過加強監(jiān)管，探索優(yōu)化應用場景，支持專業(yè)機構(gòu)在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設、風險防范等方面開展跨行業(yè)、跨領域協(xié)作，構(gòu)建良性的應用生態(tài)體系。

騰訊集團高級執(zhí)行副總裁湯道生也充滿期待：“大模型只是開端，人工智能與產(chǎn)業(yè)融合必將持續(xù)綻放更有創(chuàng)造力的可能性。我們要堅持生態(tài)開放共建，加速人工智能產(chǎn)業(yè)的創(chuàng)新探索?！?/p>

《光明日報》（2023年08月16日 08版）

來源：光明網(wǎng)-《光明日報》

關(guān)鍵詞：