商湯科技蘇萱：人工智能技術(shù)日新月異，應(yīng)多方協(xié)作管好AI“三駕馬車”

21世紀(jì)經(jīng)濟(jì)報道記者 馮戀閣 實(shí)習(xí)生湯雨昕 廣州報道

(資料圖片)

8月15日，由中國社會科學(xué)院法學(xué)研究所主辦，中國社會科學(xué)院法學(xué)研究所網(wǎng)絡(luò)與信息法研究室、南財合規(guī)科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行。

研討會上，商湯科技合規(guī)高級經(jīng)理蘇萱從AIGC三大主流領(lǐng)域出發(fā)，結(jié)合人工智能行業(yè)的三駕馬車（包括算力、數(shù)據(jù)和算法）發(fā)展，分享了自己對于AIGC行業(yè)如何發(fā)展與監(jiān)管的看法并對未來監(jiān)管給出建議。

“要談人工智能監(jiān)管治理，首先要明確治理的對象?！碧K萱介紹道，AIGC（AI Generated Content）是人工智能領(lǐng)域一個重要的分支，這一領(lǐng)域的應(yīng)用通過機(jī)器學(xué)習(xí)算法，使用大規(guī)模的訓(xùn)練數(shù)據(jù)，通過強(qiáng)大的計(jì)算模型在基礎(chǔ)設(shè)施上實(shí)現(xiàn)文本、圖像和視頻的生成。

而計(jì)算機(jī)科學(xué)領(lǐng)域的計(jì)算機(jī)視覺、自然語言處理和語音識別這三大方向與AIGC交匯，共同構(gòu)成了當(dāng)前展現(xiàn)在人們面前的各類產(chǎn)品。

具體來看，計(jì)算機(jī)視覺是使計(jì)算機(jī)或機(jī)器能夠“看”和理解圖像或視頻中的內(nèi)容的技術(shù)。這種技術(shù)涵蓋了從圖像采集和處理到圖像分析和理解的各個方面；自然語言處理是使計(jì)算機(jī)能夠理解和生成人類語言（如英語、中文等）的技術(shù)。在AIGC中，自然語言處理主要用于生成文本內(nèi)容；語音識別是一種允許機(jī)器或計(jì)算機(jī)聽到并理解人類的語音的技術(shù)。這種技術(shù)的典型應(yīng)用是將人類的語音轉(zhuǎn)化為文本，或者使計(jì)算機(jī)能夠?qū)φZ音命令做出反應(yīng)。

“計(jì)算機(jī)視覺、自然語言處理和語音識別都是AIGC的重要組成部分，它們使得AI不僅能夠生成各種類型的內(nèi)容，而且還能理解和分析這些內(nèi)容?！碧K萱介紹道。

大模型（例如GPT-4、BERT等）則是使用大量的數(shù)據(jù)進(jìn)行訓(xùn)練，理解和模擬人類的語言、視覺、聽覺等多種模式，從而生成各種類型的內(nèi)容的工具。在文本生成方面，大模型（如GPT-4）可以生成連貫、有深度的文章或?qū)υ?；圖像生成方面，大模型（如DALL-E）可以生成具有特定屬性和特點(diǎn)的新圖像，應(yīng)用于產(chǎn)品設(shè)計(jì)等場景；音頻生成方面，大模型可以生成逼真的人聲、音樂等，用于語音合成、音樂創(chuàng)作等場景。

“大模型通過理解和生成復(fù)雜的內(nèi)容，推動了AIGC的發(fā)展，使得AI生成的內(nèi)容更豐富、更多樣，也更接近人類的表達(dá)和創(chuàng)造水平，進(jìn)一步拓寬了AIGC的應(yīng)用范圍和可能性?！彼毖?。

不過，AIGC潮起的另一面，是不可忽視的伴生風(fēng)險。在新一輪AI變革下，我國的治理體系有怎樣的新變化？

8月15日，由網(wǎng)信辦等七部門發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》（下文簡稱“《辦法》”）正式施行，為生成式人工智能服務(wù)的實(shí)踐落地指明了方向。蘇萱認(rèn)為，《辦法》提供了覆蓋人工智能“三駕馬車”——算法、算力和數(shù)據(jù)的法律監(jiān)管框架。

針對算法，《辦法》強(qiáng)調(diào)非歧視的原則，在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，需要采取有效措施防止產(chǎn)生民族、信仰、國別、地域等歧視；要求不得利用算法優(yōu)勢，實(shí)施壟斷和不正當(dāng)競爭行為。

對于數(shù)據(jù)，《辦法》要求生成式人工智能服務(wù)提供者依法開展預(yù)訓(xùn)練、優(yōu)化訓(xùn)練等訓(xùn)練數(shù)據(jù)處理活動；使用具有合法來源的數(shù)據(jù)；涉及個人信息的，服務(wù)提供者應(yīng)依法承擔(dān)相關(guān)責(zé)任并履行義務(wù)。

而對于算力，《辦法》鼓勵生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)，提升算力資源利用效能。

“《辦法》旨在保護(hù)個人和社會的權(quán)益，促進(jìn)生成式人工智能的健康發(fā)展，同時防止濫用和歧視行為，確保公平和公正?！碧K萱指出。

不過，在蘇萱看來，由于人工智能技術(shù)的復(fù)雜性和快速發(fā)展，目前的監(jiān)管治理體系可能存在一定局限性。

他認(rèn)為，人工智能的發(fā)展速度極快，新的技術(shù)、應(yīng)用和問題不斷出現(xiàn)。而法律法規(guī)的制定和修改過程通常較慢，可能難以及時適應(yīng)技術(shù)的快速變化。

在應(yīng)用落地后的監(jiān)管實(shí)踐中，他指出，人工智能算法的復(fù)雜性和不透明性可能使監(jiān)管變得困難。算法在設(shè)計(jì)、訓(xùn)練和應(yīng)用過程中可能產(chǎn)生的歧視、數(shù)據(jù)來源的合法性和數(shù)據(jù)使用的合規(guī)性等問題都亟待解決。

總體來看，作為顛覆性的新技術(shù)人工智能可能引發(fā)倫理和社會問題，就業(yè)問題、隱私問題、社會公正問題等。這類問題看法和觀點(diǎn)正不斷受到挑戰(zhàn)、發(fā)生變化，需要通過法律法規(guī)和社會廣泛討論形成一個共識?！拔磥淼娜斯ぶ悄馨l(fā)展中，我們面臨挑戰(zhàn)遠(yuǎn)不止提到的這三類問題，但同時也充滿了無限的機(jī)遇。只有各方共同努力，才能推動人工智能行業(yè)的健康發(fā)展。”蘇萱表示。

關(guān)鍵詞：