9月1日起人工智能生成合成內(nèi)容須添加標(biāo)識(shí)

　　近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》（以下簡(jiǎn)稱《標(biāo)識(shí)辦法》），自2025年9月1日起施行。據(jù)悉，《標(biāo)識(shí)辦法》聚焦人工智能“生成合成內(nèi)容標(biāo)識(shí)”關(guān)鍵點(diǎn)，通過(guò)標(biāo)識(shí)提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標(biāo)識(shí)責(zé)任義務(wù)，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，促進(jìn)人工智能在文本對(duì)話、內(nèi)容制作、輔助設(shè)計(jì)等各應(yīng)用場(chǎng)景加快落地，同時(shí)減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風(fēng)險(xiǎn)行為。

　　專家表示，《標(biāo)識(shí)辦法》是對(duì)我國(guó)人工智能算法治理體系的進(jìn)一步完善，著力構(gòu)建開(kāi)放、公正、有效的治理機(jī)制，營(yíng)造公平有序發(fā)展環(huán)境，推動(dòng)人工智能產(chǎn)業(yè)健康有序發(fā)展。

　　近年來(lái)，人工智能技術(shù)快速發(fā)展，為生成合成文字、圖片、音頻、視頻等信息提供了便利工具，海量信息得以快速生成合成并在網(wǎng)絡(luò)平臺(tái)傳播，在促進(jìn)經(jīng)濟(jì)社會(huì)發(fā)展的同時(shí)，也產(chǎn)生了生成合成技術(shù)濫用、虛假信息傳播擴(kuò)散加劇等問(wèn)題。

　　《標(biāo)識(shí)辦法》明確了服務(wù)提供者應(yīng)當(dāng)對(duì)文本、音頻、圖片、視頻、虛擬場(chǎng)景等生成合成內(nèi)容添加顯式標(biāo)識(shí)，在提供生成合成內(nèi)容下載、復(fù)制、導(dǎo)出等功能時(shí)，應(yīng)當(dāng)確保文件中含有滿足要求的顯式標(biāo)識(shí)；應(yīng)當(dāng)在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標(biāo)識(shí)。

　　面向互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)，《標(biāo)識(shí)辦法》明確，互聯(lián)網(wǎng)應(yīng)用程序分發(fā)平臺(tái)在應(yīng)用程序上架或者上線審核時(shí)，應(yīng)當(dāng)要求互聯(lián)網(wǎng)應(yīng)用程序服務(wù)提供者說(shuō)明是否提供人工智能生成合成服務(wù)，并核驗(yàn)其生成合成內(nèi)容標(biāo)識(shí)相關(guān)材料。

　　此外，《標(biāo)識(shí)辦法》強(qiáng)調(diào)，任何組織和個(gè)人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標(biāo)識(shí)，不得為他人實(shí)施上述惡意行為提供工具或者服務(wù)，不得通過(guò)不正當(dāng)標(biāo)識(shí)手段損害他人合法權(quán)益。

　　國(guó)家網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，《標(biāo)識(shí)辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節(jié)的全流程安全管理，力爭(zhēng)打造可信賴的人工智能技術(shù)。

　　國(guó)家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心正高級(jí)工程師張震認(rèn)為，《標(biāo)識(shí)辦法》重點(diǎn)關(guān)注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理，有效銜接已有的備案評(píng)估、風(fēng)險(xiǎn)防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術(shù)安全體系：一是明確了文本、圖像、音頻、視頻等多模態(tài)的標(biāo)識(shí)要求，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺(tái)納入監(jiān)管范疇，實(shí)現(xiàn)從生成到傳播的全鏈條治理；三是明確了隱式標(biāo)識(shí)的技術(shù)實(shí)現(xiàn)方式，通過(guò)元數(shù)據(jù)標(biāo)識(shí)為安全追溯提供了可靠保障。

　　此外，配套《標(biāo)識(shí)辦法》，強(qiáng)制性國(guó)家標(biāo)準(zhǔn)《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識(shí)方法》（以下簡(jiǎn)稱《標(biāo)識(shí)標(biāo)準(zhǔn)》），已由國(guó)家市場(chǎng)監(jiān)督管理總局、國(guó)家標(biāo)準(zhǔn)化管理委員會(huì)正式批準(zhǔn)發(fā)布，2025年9月1日與《標(biāo)識(shí)辦法》同步實(shí)施。

　　中國(guó)工程院院士、浙江大學(xué)教授陳純表示，《標(biāo)識(shí)辦法》和《標(biāo)識(shí)標(biāo)準(zhǔn)》不僅為行業(yè)提供了明確的技術(shù)指導(dǎo)原則，極大地提升了技術(shù)的透明度和可追溯性，為生成式人工智能技術(shù)應(yīng)用劃定了紅線，也為有效溯源和遏制虛假信息傳播提供了技術(shù)抓手。此外，二者通過(guò)細(xì)化生成合成內(nèi)容管理規(guī)則，推動(dòng)了人工智能產(chǎn)業(yè)標(biāo)準(zhǔn)化進(jìn)程，構(gòu)建了一個(gè)更加公平、透明且高效的市場(chǎng)環(huán)境。（記者 郭倩）

　　轉(zhuǎn)自：經(jīng)濟(jì)參考網(wǎng)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀