專家解讀｜從技術(shù)規(guī)則到技術(shù)標(biāo)準(zhǔn)：人工智能治理的標(biāo)識(shí)管理
國(guó)家互聯(lián)網(wǎng)信息辦公室等部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》）及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱《標(biāo)識(shí)標(biāo)準(zhǔn)》）,，旨在防范人工智能生成合成內(nèi)容引發(fā)的信息安全風(fēng)險(xiǎn),，提升人工智能安全水平，規(guī)范人工智能行業(yè)應(yīng)用和健康發(fā)展,。從技術(shù)規(guī)則到技術(shù)標(biāo)準(zhǔn)的有機(jī)組合,，是一種兼具靈活性和約束力的制度創(chuàng)新,，符合全球人工智能治理通用做法,，提出人工智能標(biāo)識(shí)管理的中國(guó)方案，為全球人工智能治理規(guī)則形成和兼容協(xié)調(diào)提供更多基礎(chǔ)共識(shí),。
一,、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制定背景
當(dāng)前以ChatGPT、Sora,、DeepSeek等為代表的生成式人工智能迅猛發(fā)展,，借助人工智能生成合成文本、圖像,、音頻,、視頻、虛擬場(chǎng)景等,，逐漸演變?yōu)橹匾男畔⑸a(chǎn)模式,。然而，伴隨技術(shù)門(mén)檻降低,，虛假信息,、深度偽造、惡意輸出等安全問(wèn)題突出,，加劇傳統(tǒng)信息安全風(fēng)險(xiǎn)的動(dòng)態(tài)性,、滲透性和全局性。聯(lián)合國(guó)2024年《治理人工智能,，助力造福人類》報(bào)告將“損害信息完整性”列為排名第一的風(fēng)險(xiǎn)。
生成合成內(nèi)容標(biāo)識(shí)已成為國(guó)際慣例,。無(wú)論是已施行的歐盟《人工智能法》,、正式出臺(tái)的澳大利亞《安全和負(fù)責(zé)任的人工智能咨詢：澳大利亞政府的臨時(shí)回應(yīng)》，還是正在制定中的美國(guó)《編輯和深度偽造內(nèi)容來(lái)源保護(hù)完整性法案》《數(shù)字內(nèi)容溯源標(biāo)識(shí)法案》,、英國(guó)《人工智能（監(jiān)管）法案》等提案,，均對(duì)水印、標(biāo)識(shí)義務(wù)有要求,。在我國(guó),，2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》提出針對(duì)文本、圖像,、音頻,、視頻、虛擬場(chǎng)景等信息內(nèi)容的標(biāo)識(shí)要求,，2023年8月施行的《生成式人工智能服務(wù)管理暫行辦法》承襲這一規(guī)定,。盡管各國(guó)對(duì)數(shù)字水印、數(shù)字指紋,、加密元數(shù)據(jù)等標(biāo)識(shí)技術(shù)的具體要求存在不同,，對(duì)平臺(tái)標(biāo)識(shí)義務(wù)的強(qiáng)度設(shè)定也存在差異，但在從事后內(nèi)容審核轉(zhuǎn)向生成端風(fēng)險(xiǎn)內(nèi)嵌控制、提高人工智能治理技術(shù)能力的理念是一致的,。
二,、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的核心內(nèi)容與治理邏輯
作為網(wǎng)絡(luò)信息內(nèi)容治理制度體系的有機(jī)組成部分，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》是我國(guó)人工智能法治建設(shè)進(jìn)程中的重要一步,，既與《中華人民共和國(guó)網(wǎng)絡(luò)安全法》一脈相承,，又與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等有效銜接，構(gòu)建的人工智能標(biāo)識(shí)管理要求具有體系性,、技術(shù)性,、協(xié)同性、融貫性,、全流程,、精細(xì)化等特點(diǎn)，在明確治理標(biāo)準(zhǔn)和落地機(jī)制,、促成治理實(shí)效方面,，具備可操作性、落實(shí)基礎(chǔ)和前景,。
1.體系性,、技術(shù)性：技治與法治互嵌運(yùn)行，探索顯隱雙標(biāo)識(shí)機(jī)制
技治與法治彼此的內(nèi)嵌,、牽連,、塑造在人工智能標(biāo)識(shí)管理中尤為明顯?！稑?biāo)識(shí)辦法》援引的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》涵蓋人工智能輸出的基本數(shù)據(jù)類型,，并明確各類信息內(nèi)容的可標(biāo)識(shí)性。其中,，顯式標(biāo)識(shí)能夠?qū)χ黧w權(quán)利,、義務(wù)進(jìn)行明確提示；而元數(shù)據(jù)的隱式標(biāo)識(shí),、基于技術(shù)中立性選擇的內(nèi)容隱式標(biāo)識(shí)和加密,，在不影響輸出數(shù)據(jù)質(zhì)量、用戶感觀的同時(shí),，其內(nèi)容的完備性,、唯一性要求，形式的強(qiáng)制性,、規(guī)范性等共同構(gòu)成結(jié)構(gòu)化數(shù)據(jù)的一部分,。《標(biāo)識(shí)標(biāo)準(zhǔn)》中顯式標(biāo)識(shí)與隱式標(biāo)識(shí)的有機(jī)結(jié)合,、綜合運(yùn)用,，使得通過(guò)技術(shù)檢測(cè)機(jī)制識(shí)別人工智能生成合成內(nèi)容成為可能,，并在一定程度上具有確立主體行為性質(zhì)的初步證據(jù)效力。
2.協(xié)同性,、融貫性：多部門(mén)監(jiān)管統(tǒng)籌協(xié)調(diào),，多制度銜接資源整合
在人工智能標(biāo)識(shí)監(jiān)管執(zhí)法中，厘清相關(guān)主管部門(mén)管理職責(zé),，明確標(biāo)識(shí)違規(guī)行為法律責(zé)任,，強(qiáng)化標(biāo)識(shí)管理與算法備案、安全評(píng)估等制度的銜接和程序協(xié)調(diào)至關(guān)重要,?！稑?biāo)識(shí)辦法》規(guī)定，服務(wù)提供者在履行算法備案,、安全評(píng)估等手續(xù)時(shí),，應(yīng)當(dāng)按照本辦法提供生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料，并加強(qiáng)標(biāo)識(shí)信息共享,?！稑?biāo)識(shí)辦法》明確，違反本辦法規(guī)定的,，由網(wǎng)信,、電信、公安,、廣播電視等有關(guān)主管部門(mén)依據(jù)職責(zé),，按照有關(guān)法律、行政法規(guī),、部門(mén)規(guī)章的規(guī)定予以處理,。
3.全流程、精細(xì)化：產(chǎn)業(yè)生態(tài)鏈治理,，科學(xué)設(shè)定上下游主體義務(wù)
《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》從網(wǎng)絡(luò)信息服務(wù)提供者這一整體視角切入，進(jìn)一步明晰適用標(biāo)識(shí)義務(wù)的主體,。通過(guò)深入審視各主體在人工智能生態(tài)體系中的角色,、定位、行為模式以及影響程度,，精準(zhǔn)區(qū)分為生成合成內(nèi)容服務(wù)提供者,、內(nèi)容傳播服務(wù)提供者這兩大類主體。同時(shí),，針對(duì)其他關(guān)鍵參與方,，如互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)主體的責(zé)任范疇等，也進(jìn)行明確規(guī)定,，基本實(shí)現(xiàn)對(duì)生成合成內(nèi)容上下游主體的全覆蓋,。將行為主體作為抓手進(jìn)行識(shí)別和義務(wù)分配,，法律的追責(zé)機(jī)制和后果承擔(dān)方得以落實(shí)。此外,，《標(biāo)識(shí)辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量,，也表明在立法思路上對(duì)當(dāng)前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵(lì)傾向，可理解為早期確立的平臺(tái)避風(fēng)港原則在新時(shí)代背景下的創(chuàng)新性發(fā)展,。
三,、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制度意義
從制度構(gòu)建角度審視，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的制度化進(jìn)程,，本質(zhì)是將人工智能標(biāo)識(shí)產(chǎn)業(yè)實(shí)踐經(jīng)驗(yàn)升維為有約束力的治理范式,。依托“立法確認(rèn)-標(biāo)準(zhǔn)轉(zhuǎn)化-產(chǎn)業(yè)傳導(dǎo)”機(jī)制，我國(guó)構(gòu)建起從技術(shù)共識(shí)邁向法律秩序的進(jìn)階之路,。這一過(guò)程契合我國(guó)人工智能立法秉持的總體思路,，即靈活運(yùn)用既有規(guī)則，鼓勵(lì)行業(yè)產(chǎn)業(yè)先行開(kāi)展試點(diǎn)探索,，同時(shí)針對(duì)痛點(diǎn),、難點(diǎn)問(wèn)題精準(zhǔn)發(fā)力，靶向施策,，其產(chǎn)生的影響也將輻射至全球人工智能治理的理念層面以及標(biāo)準(zhǔn)實(shí)踐領(lǐng)域,。
從規(guī)范協(xié)同角度審視，人工智能標(biāo)識(shí)治理體系呈現(xiàn)“規(guī)則+技術(shù)”雙輪驅(qū)動(dòng)特征,，覆蓋從內(nèi)容生產(chǎn)到傳播的全鏈條治理,。《標(biāo)識(shí)辦法》側(cè)重構(gòu)建“責(zé)任鏈閉環(huán)”,，通過(guò)主體資質(zhì)審查,、過(guò)程性義務(wù)設(shè)定等形成行為約束?！稑?biāo)識(shí)標(biāo)準(zhǔn)》聚焦“技術(shù)錨點(diǎn)”建設(shè),，針對(duì)關(guān)鍵技術(shù)要件確立具備可驗(yàn)證性的實(shí)施基準(zhǔn)。我國(guó)《中華人民共和國(guó)標(biāo)準(zhǔn)化法》規(guī)定,，對(duì)保障人身健康和生命財(cái)產(chǎn)安全,、國(guó)家安全、生態(tài)環(huán)境安全以及滿足經(jīng)濟(jì)社會(huì)管理基本需要的技術(shù)要求,，應(yīng)當(dāng)制定強(qiáng)制性國(guó)家標(biāo)準(zhǔn),。將生成合成內(nèi)容標(biāo)識(shí)的最低要求上升為國(guó)家強(qiáng)制性標(biāo)準(zhǔn)，不僅是對(duì)《標(biāo)識(shí)辦法》的具體落地,，更是表明在社會(huì)應(yīng)用全過(guò)程中,，人工智能標(biāo)識(shí)及活動(dòng)已與人身健康和生命財(cái)產(chǎn)安全、國(guó)家安全等緊密相連,。
從技術(shù)治理效能角度審視,，人工智能標(biāo)識(shí)制度并非顛覆人工智能既有的生產(chǎn)環(huán)境,，而是致力于在現(xiàn)有生產(chǎn)基礎(chǔ)之上，提升人類對(duì)相關(guān)內(nèi)容的辨識(shí)度以及機(jī)械處理的準(zhǔn)確性,?！稑?biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》不僅及時(shí)響應(yīng)了將人工智能的“海量、逼真”輸出納入監(jiān)管視野的緊迫需求,，標(biāo)準(zhǔn)化且有所區(qū)分的顯式,、隱式技術(shù)要求也為權(quán)利記載、算法備案,、數(shù)據(jù)溯源,、執(zhí)法協(xié)助、安全評(píng)估等工作,，提供具有普適性的,、可量化度量與評(píng)價(jià)的操作方法及實(shí)用工具，同時(shí)通過(guò)建立“生成即標(biāo)識(shí)”的技術(shù)規(guī)范推動(dòng)產(chǎn)業(yè)內(nèi)生合規(guī),，實(shí)現(xiàn)安全和發(fā)展之間的動(dòng)態(tài)平衡,。這一制度體系也切實(shí)回應(yīng)在人機(jī)互動(dòng)、人機(jī)融合的新一輪技術(shù)跨越式發(fā)展中,，人類對(duì)真實(shí)與虛擬進(jìn)行辨別,，從而形成行為、決策依據(jù)的基本需求,。
四,、《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》的未來(lái)展望
可以預(yù)見(jiàn)，我國(guó)人工智能安全執(zhí)法將延續(xù)重點(diǎn)事項(xiàng)監(jiān)管,、促進(jìn)產(chǎn)業(yè)有序發(fā)展的方向,。伴隨標(biāo)識(shí)管理與算法備案、安全評(píng)估等機(jī)制逐步實(shí)現(xiàn)有機(jī)銜接,，生成合成內(nèi)容標(biāo)識(shí)合規(guī)有望成為相關(guān)部門(mén)開(kāi)展人工智能監(jiān)督檢查,、專項(xiàng)行動(dòng)的重點(diǎn)關(guān)注領(lǐng)域。在此進(jìn)程中,，一系列深層次問(wèn)題亟待審慎思考與妥善解決——如何平衡發(fā)展與安全,、創(chuàng)新與責(zé)任、公益與私益等多元目標(biāo)的內(nèi)在張力,，怎樣達(dá)成不同執(zhí)法部門(mén)、不同層級(jí),、不同地域執(zhí)法的一致性,、協(xié)調(diào)性，又該通過(guò)何種路徑提升執(zhí)法的專業(yè)化,、精細(xì)化,、智慧化水平,，從而培育出安全、開(kāi)放,、公平,、符合國(guó)情的人工智能產(chǎn)業(yè)生態(tài)環(huán)境。這些都是標(biāo)識(shí)管理中需要深入探究的重要課題,。
此外,，“人的因素”應(yīng)融入人工智能標(biāo)識(shí)管理的全過(guò)程，著重提升公眾對(duì)于信息內(nèi)容真實(shí)性,、來(lái)源可追溯性的批判性評(píng)估能力,，無(wú)疑是重中之重。積極培育公眾人工智能素養(yǎng),，確保人工智能技術(shù)成果普惠共享,，這也是應(yīng)有之義。（作者：金波,，公安部第三研究所副所長(zhǎng)）
來(lái)源：中國(guó)網(wǎng)信網(wǎng)