七部門聯(lián)合發(fā)文——促進生成式人工智能健康發(fā)展和規(guī)范應用

　　近日，國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部、科技部、工業(yè)和信息化部、公安部、廣電總局公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自今年8月15日起施行。

　　國家網(wǎng)信辦有關負責人表示，出臺《辦法》，旨在促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。

　　采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展

　　作為關鍵通用技術，生成式人工智能對人民福祉、經(jīng)濟發(fā)展、國家安全和戰(zhàn)略競爭均具有重要意義。國家網(wǎng)信辦有關負責人說，《辦法》提出國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展。

　　《辦法》第一條開宗明義將“促進生成式人工智能健康發(fā)展和規(guī)范應用”作為目標，第三條進一步闡明：“國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則，采取有效措施鼓勵生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管”。

　　“《辦法》立足于促進生成式人工智能健康發(fā)展和規(guī)范應用，除了在總則中明確了國家堅持發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合的原則外，在‘技術發(fā)展與治理’一章中專門提出了一系列鼓勵措施?！敝袊畔⑼ㄐ叛芯吭赫吲c經(jīng)濟研究所所長辛勇飛說。

　　第五條規(guī)定，鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構(gòu)建應用生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關專業(yè)機構(gòu)等在生成式人工智能技術創(chuàng)新、數(shù)據(jù)資源建設、轉(zhuǎn)化應用、風險防范等方面開展協(xié)作。

　　第六條規(guī)定，鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定。推動生成式人工智能基礎設施和公共訓練數(shù)據(jù)資源平臺建設。促進算力資源協(xié)同共享，提升算力資源利用效能。

　　劃定底線，推動生成式人工智能向上向善

　　生成式人工智能技術的快速發(fā)展，為經(jīng)濟社會發(fā)展帶來新機遇的同時，也產(chǎn)生了傳播虛假信息、侵害個人信息權益、數(shù)據(jù)安全和偏見歧視等問題。對此，國家網(wǎng)信辦有關負責人說：“《辦法》堅持目標導向和問題導向，明確了促進生成式人工智能技術發(fā)展的具體措施，規(guī)定生成式人工智能服務的基本規(guī)范?！?/p>

　　《辦法》對生成式人工智能服務提供者和使用者提出了要求：

　　——應當遵守法律、行政法規(guī)，尊重社會公德和倫理道德。

　　《辦法》在總則中就將該內(nèi)容置于重要地位，明確規(guī)定，堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容。

　　——尊重知識產(chǎn)權和他人合法權益。

　　生成式人工智能在個人信息的處理過程中，可能存在違法收集、使用個人信息等風險；生成式人工智能的訓練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權的作品，也可能給知識產(chǎn)權造成侵害。

　　為防止侵權的發(fā)生，《辦法》第四條規(guī)定，尊重知識產(chǎn)權、商業(yè)道德，保守商業(yè)秘密，不得利用算法、數(shù)據(jù)、平臺等優(yōu)勢，實施壟斷和不正當競爭行為；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。第七條規(guī)定“涉及知識產(chǎn)權的，不得侵害他人依法享有的知識產(chǎn)權”等內(nèi)容。

　　——提高生成內(nèi)容準確性和可靠性。

　　如何保障生成內(nèi)容的真實性，既是產(chǎn)業(yè)界為進一步擴大生成式人工智能商用范圍需要克服的技術難題，也是監(jiān)管部門需要重點考慮的問題。對此，《辦法》規(guī)定：“基于服務類型特點，采取有效措施，提升生成式人工智能服務的透明度，提高生成內(nèi)容的準確性和可靠性?！?/p>

　　——完善處置措施。

　　除了規(guī)定相關實體義務，還需要使生成式人工智能服務提供者完善處置措施，這樣才能讓“紙上”的規(guī)定落到實處。對此，《辦法》明確：“提供者發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓練等措施進行整改，并向有關主管部門報告?！薄疤峁┱邞斀⒔∪对V、舉報機制，設置便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報并反饋處理結(jié)果。”

　　采取更精細化監(jiān)管舉措

　　生成式人工智能具有此前技術不具有的諸多特征。針對其技術特點，《辦法》完善了與創(chuàng)新發(fā)展相適應的科學監(jiān)管方式，促使監(jiān)管部門采取更精細化的管理措施，實現(xiàn)技術創(chuàng)新與監(jiān)管創(chuàng)新的同步演化、協(xié)同共振。

　　辛勇飛介紹，人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機制難以解釋，給人工智能監(jiān)管帶來了一定困難。為此，《辦法》與《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》等現(xiàn)有規(guī)范一脈相承，延續(xù)了此前監(jiān)管手段，同時明確了分類分級監(jiān)管的原則，健全了我國人工智能治理體系。一是明確了安全評估與算法備案要求。為有效應對算法“黑箱”問題，《辦法》明確，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規(guī)定開展安全評估，并按照《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。二是明確了信息披露要求?！掇k法》明確規(guī)定，有關主管部門依據(jù)職責對生成式人工智能服務開展監(jiān)督檢查，提供者應當依法予以配合，按要求對訓練數(shù)據(jù)來源、規(guī)模、類型、標注規(guī)則、算法機制機理等予以說明，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助。

　　針對生成式人工智能的其他技術特點，《辦法》也作出了規(guī)定。例如，第七條即充分考慮到訓練數(shù)據(jù)的海量性和異質(zhì)性，規(guī)定生成式人工智能服務提供者應當依法開展預訓練、優(yōu)化訓練等訓練數(shù)據(jù)處理活動……采取有效措施提高訓練數(shù)據(jù)質(zhì)量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。

　　此外，《辦法》還針對相關產(chǎn)業(yè)特點，鼓勵其發(fā)展。《辦法》規(guī)定：“鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構(gòu)建應用生態(tài)體系”，“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定”等。（記者 金歆）

　　轉(zhuǎn)自：人民日報

　　【版權及免責聲明】凡本網(wǎng)所屬版權作品，轉(zhuǎn)載時須獲得授權并注明來源“中國產(chǎn)業(yè)經(jīng)濟信息網(wǎng)”，違者本網(wǎng)將保留追究其相關法律責任的權力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個人觀點，不代表本網(wǎng)觀點和立場。版權事宜請聯(lián)系：010-65363056。

延伸閱讀