多方協(xié)同發(fā)力遏制“AI謠言”

　　偽造熱點(diǎn)事件、捏造名人言論、炮制偽科普、嫁接虛假證據(jù)……近年來(lái)，隨著AI技術(shù)的快速發(fā)展，利用AI工具合成技術(shù)編造謠言，甚至生成逼近真實(shí)的圖片、音視頻，時(shí)常出現(xiàn)在人們的生活中，讓人難辨真假。此外，還包括利用AI技術(shù)催生的黑灰產(chǎn)，這些行為不僅嚴(yán)重?cái)_亂了公共信息秩序，更對(duì)社會(huì)信任與穩(wěn)定構(gòu)成現(xiàn)實(shí)威脅。

　　人工智能時(shí)代，利用AI造謠日漸多發(fā)。一方面，AI技術(shù)的便捷性和低成本，使得造謠者能夠輕松地生成大量虛假信息，只需輸入相關(guān)關(guān)鍵詞，AI軟件便能自動(dòng)抓取素材生成文本，并配上虛假的圖片，實(shí)現(xiàn)謠言的大規(guī)模生產(chǎn)。另一方面，利用 AI造謠離不開(kāi)利益的誘惑，不法者的造謠動(dòng)機(jī)主要源于牟取互聯(lián)網(wǎng)內(nèi)容平臺(tái)給予創(chuàng)作者的獎(jiǎng)勵(lì)，以及為一些電商平臺(tái)經(jīng)營(yíng)引流等；一些造謠者可以從廣告收入、合同推廣、直播帶貨或其他相關(guān)的商業(yè)活動(dòng)中獲益。

　　針對(duì)利用AI制作發(fā)布謠言、不實(shí)信息等亂象，相關(guān)部門(mén)重拳出擊。自今年4月以來(lái)，中央網(wǎng)信辦開(kāi)展“清朗·整治 AI技術(shù)濫用”專(zhuān)項(xiàng)行動(dòng)，聚焦AI換臉擬聲侵犯公眾權(quán)益、AI內(nèi)容標(biāo)識(shí)缺失誤導(dǎo)公眾等AI技術(shù)濫用亂象，累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)，各項(xiàng)工作取得積極進(jìn)展。

　　然而，AI技術(shù)的迅猛發(fā)展，讓網(wǎng)絡(luò)謠言治理面臨新的挑戰(zhàn)。遏制 AI謠言需要多方協(xié)同發(fā)力，構(gòu)建起涵蓋生成方、傳播方與接收方的全鏈條、全流程治理機(jī)制。

　　網(wǎng)絡(luò)平臺(tái)作為信息傳播的關(guān)鍵樞紐，應(yīng)升級(jí)現(xiàn)有的信息審核體系，借助AI技術(shù)治理 AI謠言，利用實(shí)時(shí)的智能內(nèi)容識(shí)別和過(guò)濾系統(tǒng)，對(duì)文本、圖像、音視頻進(jìn)行自動(dòng)標(biāo)注和風(fēng)險(xiǎn)預(yù)警，在謠言傳播初期實(shí)現(xiàn)技術(shù)級(jí)別的高效攔截；應(yīng)加強(qiáng)對(duì) AI造謠和“水軍”行為的智能識(shí)別機(jī)制研究，進(jìn)一步改革涉及AI內(nèi)容的流量分發(fā)和收益分成機(jī)制，最大限度壓縮通過(guò) AI造謠牟利的空間，同時(shí)完善用戶(hù)實(shí)名認(rèn)證與信用評(píng)價(jià)體系，對(duì)違規(guī)造謠用戶(hù)采取限制功能、封禁賬號(hào)等措施。

　　網(wǎng)絡(luò)不是法外之地，AI也不是“造謠工具”。相關(guān)部門(mén)須加速完善相關(guān)立法，對(duì)模型開(kāi)發(fā)者、服務(wù)運(yùn)營(yíng)商、內(nèi)容發(fā)布者等各方主體設(shè)定明確的審核與合規(guī)義務(wù)。對(duì)因管理不善、審核失職導(dǎo)致謠言傳播的技術(shù)企業(yè)、平臺(tái)方依法追責(zé)，并建立高效、便捷的權(quán)益救濟(jì)和司法響應(yīng)渠道，為受害者提供明確的法律支持，營(yíng)造有力的法律威懾。

　　作為信息接收者，公眾應(yīng)主動(dòng)了解AI技術(shù)的應(yīng)用特點(diǎn)，面對(duì)疑似謠言，在轉(zhuǎn)發(fā)傳播前核實(shí)信息的來(lái)源和真實(shí)性，避免成為謠言的傳播者。發(fā)現(xiàn)疑似 AI謠言或其他虛假信息時(shí)，及時(shí)向平臺(tái)和監(jiān)管部門(mén)舉報(bào)，為凈化網(wǎng)絡(luò)環(huán)境貢獻(xiàn)自己的力量。

　　只有通過(guò)優(yōu)化數(shù)據(jù)治理生態(tài)、健全法律責(zé)任體系、增強(qiáng)公眾識(shí)別能力，才能在源頭上有效遏制AI謠言的制造與流通，為后續(xù)治理環(huán)節(jié)打下堅(jiān)實(shí)基礎(chǔ)，從而推動(dòng)人工智能向上向善、行穩(wěn)致遠(yuǎn)。（記者 陳文麗）

　　轉(zhuǎn)自：中國(guó)商報(bào)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀