2024年9月14日，為規(guī)范人工智能生成合成內(nèi)容標(biāo)識(shí)，維護(hù)國(guó)家安全和社會(huì)公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》以及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法（征求意見稿）》，公開征求公眾意見，邁出了完善我國(guó)人工智能治理制度的重要一步。

一、問(wèn)題導(dǎo)向，破解人工智能生成合成內(nèi)容新需求新風(fēng)險(xiǎn)

立足于生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，《辦法》以問(wèn)題為導(dǎo)向，通過(guò)系統(tǒng)性、創(chuàng)新性制度設(shè)計(jì)，全面回應(yīng)了對(duì)人工智能生成合成內(nèi)容標(biāo)識(shí)的要求。

一是先行提出生成合成內(nèi)容標(biāo)識(shí)的中國(guó)方案。針對(duì)人工智能內(nèi)容生成合成帶來(lái)的顛覆性風(fēng)險(xiǎn)挑戰(zhàn)，國(guó)際層面也在不斷探索內(nèi)容標(biāo)識(shí)方法和路徑。歐盟2024年8月正式生效的《人工智能法案》規(guī)定了要確保人工智能生成合成內(nèi)容的透明度義務(wù)，要求平臺(tái)添加強(qiáng)制性水印。美國(guó)加州2024年8月發(fā)布《數(shù)字內(nèi)容溯源標(biāo)識(shí)法案》，要求在人工智能生成物中嵌入可溯源數(shù)據(jù)，以確保內(nèi)容來(lái)源的透明度。國(guó)際電信聯(lián)盟2024年7月發(fā)布《檢測(cè)深度偽造和生成式人工智能：人工智能水印和多媒體真實(shí)性標(biāo)準(zhǔn)研討會(huì)的報(bào)告》，包括內(nèi)容標(biāo)識(shí)在內(nèi)，初步探討深度合成內(nèi)容檢測(cè)的標(biāo)準(zhǔn)協(xié)作安排?！掇k法》根植于我國(guó)發(fā)展實(shí)踐，立足長(zhǎng)遠(yuǎn)、著眼前瞻、行動(dòng)快速，率先通過(guò)標(biāo)準(zhǔn)完善補(bǔ)充生成式人工智能綜合治理機(jī)制，有力支撐了科技向善的治理理念，為世界貢獻(xiàn)發(fā)展與安全并行的人工智能治理中國(guó)方案。

二是著力加強(qiáng)服務(wù)商生成合成內(nèi)容標(biāo)識(shí)的規(guī)范性。隨著人工智能生成合成內(nèi)容工具的普及化和可及化發(fā)展，技術(shù)應(yīng)用的門檻較之前大大降低。早在2022年中央網(wǎng)信辦等就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱《規(guī)定》），明確指出深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。但《規(guī)定》主要明確了需要添加標(biāo)識(shí)的情況，對(duì)于添加標(biāo)識(shí)的位置、字型和表達(dá)并未做出具體要求，因此各類企業(yè)在實(shí)施過(guò)程中出現(xiàn)了文本內(nèi)容顯式標(biāo)識(shí)不明顯、難察覺，音頻、視頻等內(nèi)容顯式標(biāo)識(shí)未插入、淺提示，隱式標(biāo)識(shí)少信息、難校驗(yàn)等問(wèn)題，對(duì)于落實(shí)監(jiān)管提出了挑戰(zhàn)。出臺(tái)《辦法》，是進(jìn)一步推進(jìn)生成合成內(nèi)容標(biāo)識(shí)工作的必要舉措，對(duì)規(guī)范互聯(lián)網(wǎng)信息服務(wù)深度合成管理、解決生成合成內(nèi)容標(biāo)識(shí)突出問(wèn)題、推進(jìn)信息網(wǎng)絡(luò)生態(tài)環(huán)境治理意義重大，影響深遠(yuǎn)。

三是進(jìn)一步完善生成式人工智能監(jiān)管問(wèn)責(zé)體系。生成式人工智能生成合成內(nèi)容涉及多種類型的主體，清晰界定各主體義務(wù)更有利于壓實(shí)主體責(zé)任，便利技術(shù)檢測(cè)實(shí)施，進(jìn)而落實(shí)精準(zhǔn)問(wèn)責(zé)?！掇k法》不僅界定了人工智能生成合成內(nèi)容的基本概念，更針對(duì)服務(wù)提供者、傳播平臺(tái)、應(yīng)用服務(wù)分發(fā)平臺(tái)和用戶分別規(guī)定了具體標(biāo)識(shí)要求，為各相關(guān)主體落實(shí)合規(guī)指明了方向。由此，《辦法》在現(xiàn)行責(zé)任制度作出補(bǔ)充，充分細(xì)化了《規(guī)定》提出的深度合成服務(wù)提供者和技術(shù)支持者行為規(guī)范，為促進(jìn)新技術(shù)新應(yīng)用的規(guī)范發(fā)展提供了有益范例。

二、明確要求，促進(jìn)人工智能生成合成內(nèi)容精細(xì)化治理

人工智能生成合成內(nèi)容不僅包括文本、圖像、音頻、視頻等多種表現(xiàn)形式，更在“元宇宙”等交互式、沉浸式場(chǎng)景中提供了更多實(shí)現(xiàn)方案?！稑?biāo)識(shí)方法》對(duì)于人工智能生成合成內(nèi)容進(jìn)行了全方位覆蓋，并且進(jìn)一步明確了《辦法》要求和具體操作指引。

一是區(qū)分顯式標(biāo)識(shí)和隱式標(biāo)識(shí)規(guī)范要求。為滿足當(dāng)前可感知和不可感知的兩類標(biāo)識(shí)方法需要，《標(biāo)識(shí)方法》清晰闡述了各自的關(guān)鍵要素要求，對(duì)于顯式標(biāo)識(shí)主要圍繞文字要素、位置、字型、顏色、音頻節(jié)奏、視頻像素和交互提示等提出要求，對(duì)于元數(shù)據(jù)和內(nèi)容隱式標(biāo)識(shí)提出生成合成標(biāo)簽要素、服務(wù)提供者要素和內(nèi)容編號(hào)要素等關(guān)鍵指引。

二是列舉顯式標(biāo)識(shí)典型應(yīng)用場(chǎng)景。《標(biāo)識(shí)方法》通過(guò)列舉式的方式對(duì)于顯式標(biāo)識(shí)的應(yīng)用場(chǎng)景做出了進(jìn)一步細(xì)化，在《規(guī)定》中提到的五類顯著標(biāo)識(shí)應(yīng)用場(chǎng)景之外加以補(bǔ)充，包括文生圖片等圖片內(nèi)容生成服務(wù)；音樂(lè)等音頻內(nèi)容生成服務(wù)；文生視頻、圖生視頻等視頻內(nèi)容生成服務(wù)。新列舉的三類典型應(yīng)用場(chǎng)景屬于2022年后迅速發(fā)展起來(lái)的新型生成合成內(nèi)容形式，尤其是ChatGPT、Sora展示出視頻內(nèi)容生成的強(qiáng)大潛能，在《標(biāo)識(shí)方法》囊括此三類典型應(yīng)用場(chǎng)景有利于針對(duì)性、前瞻性開展監(jiān)管，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。

三是規(guī)范元數(shù)據(jù)隱式標(biāo)識(shí)格式要求。此前生成合成內(nèi)容隱式標(biāo)識(shí)方法在不同規(guī)模、不同技術(shù)水平的企業(yè)間應(yīng)用各不相同，標(biāo)識(shí)的標(biāo)簽信息也未有一致，這就導(dǎo)致識(shí)別隱式標(biāo)識(shí)對(duì)于監(jiān)管主體和內(nèi)容平臺(tái)而言面臨挑戰(zhàn)。《標(biāo)識(shí)方法》為解決這一問(wèn)題，對(duì)于隱式標(biāo)識(shí)擴(kuò)展字段關(guān)鍵詞和應(yīng)包括的標(biāo)簽、編號(hào)、預(yù)留字段的值等添加了具體說(shuō)明，為行業(yè)統(tǒng)一、穩(wěn)定、持續(xù)落實(shí)隱式標(biāo)識(shí)要求提供了有效措施。

四是展示顯式和隱式標(biāo)識(shí)各要求對(duì)應(yīng)示例?！稑?biāo)識(shí)方法》以圖片示例的形式對(duì)于各類顯式和隱式標(biāo)識(shí)要求進(jìn)行了展示，有助于企業(yè)直觀了解標(biāo)準(zhǔn)要求，避免因文字表述引發(fā)的模糊和歧義，從而推動(dòng)行業(yè)協(xié)同落實(shí)，提升治理效能。

三、守正創(chuàng)新，兼顧內(nèi)容生成合成服務(wù)管理與技術(shù)創(chuàng)新應(yīng)用

人工智能生成合成技術(shù)應(yīng)在安全的前提下規(guī)范使用、加速發(fā)展，以高水平的治理保障高質(zhì)量發(fā)展。《辦法》及《標(biāo)識(shí)方法》充分考慮“用”和“管”兩側(cè)需求，最大限度減少內(nèi)容標(biāo)識(shí)對(duì)于用戶使用的影響，推動(dòng)企業(yè)自主自愿展示標(biāo)識(shí)。一是提供多種標(biāo)識(shí)方法，適應(yīng)更多產(chǎn)品形態(tài)?！稑?biāo)識(shí)方法》對(duì)于文本內(nèi)容顯式標(biāo)識(shí)創(chuàng)新提出角標(biāo)形式，僅需在內(nèi)容末尾加注角標(biāo)“AI”即可高效滿足要求，對(duì)于音頻內(nèi)容則首次提出音頻節(jié)奏標(biāo)識(shí)，在音頻適當(dāng)位置加入“短長(zhǎng)短短”節(jié)奏的摩斯碼表示即可達(dá)到提示作用。此類標(biāo)識(shí)方法不僅對(duì)于企業(yè)而言便于打造不同產(chǎn)品樣態(tài)，也能保障用戶使用體驗(yàn)和認(rèn)知效果，在實(shí)現(xiàn)監(jiān)管目的的同時(shí)也為技術(shù)發(fā)展提供了有效保障。二是劃分不同主體責(zé)任，精細(xì)化避風(fēng)港原則適用?！掇k法》雖然將標(biāo)識(shí)添加的責(zé)任主要施加于服務(wù)提供者和上傳內(nèi)容的用戶，但未對(duì)傳播平臺(tái)和應(yīng)用分發(fā)平臺(tái)實(shí)施“一刀切”式的避風(fēng)港規(guī)則。《辦法》采取一種更為精細(xì)化的路徑，詳細(xì)規(guī)定傳播平臺(tái)應(yīng)當(dāng)對(duì)文件元數(shù)據(jù)中的擴(kuò)展字段進(jìn)行核驗(yàn)，提示用戶生成合成內(nèi)容信息，并在文件元數(shù)據(jù)中添加傳播要素信息；應(yīng)用服務(wù)分發(fā)平臺(tái)應(yīng)在應(yīng)用程序上架或上線審核前核驗(yàn)服務(wù)提供者是否按要求提供生成合成內(nèi)容標(biāo)識(shí)功能。此舉有助于適當(dāng)調(diào)整服務(wù)提供者、使用者和傳播分發(fā)平臺(tái)的義務(wù)分配，避免相關(guān)平臺(tái)“隱身”于深度合成監(jiān)管體系，從而真正實(shí)現(xiàn)齊抓共管、協(xié)同共治的治理機(jī)制，有效維護(hù)健康向善的信息網(wǎng)絡(luò)生態(tài)環(huán)境。