直擊3.15 AI“投毒”

　　2026年央視3·15晚會(huì)曝光的AI“投毒”、GEO語(yǔ)料惡意操控亂象，直指人工智能領(lǐng)域的新型灰色產(chǎn)業(yè)鏈:通過(guò)批量制造虛假內(nèi)容、惡意污染訓(xùn)練語(yǔ)料、操控大模型輸出偏向性結(jié)果，誤導(dǎo)公眾認(rèn)知、擾亂市場(chǎng)秩序、侵害消費(fèi)者權(quán)益。

　　這類(lèi)AI濫用行為，本質(zhì)是數(shù)據(jù)污染、算法濫用、信息造假，已經(jīng)成為人工智能行業(yè)發(fā)展路上的突出風(fēng)險(xiǎn)。面對(duì)這一問(wèn)題，必須以責(zé)任、標(biāo)準(zhǔn)與技術(shù)，共同守護(hù)可信、安全、向善的人工智能生態(tài)。

　　堅(jiān)決對(duì)AI“投毒”零容忍

　　AI發(fā)展的根基，是真實(shí)的數(shù)據(jù)、可信的模型、公正的算法。GEO引擎優(yōu)化、語(yǔ)料“投毒”、虛假內(nèi)容批量生成等行為，從源頭破壞AI生態(tài)：污染訓(xùn)練數(shù)據(jù)，讓模型輸出失真；偽造測(cè)評(píng)、虛假背書(shū)，誤導(dǎo)消費(fèi)決策；形成黑色產(chǎn)業(yè)鏈，危害行業(yè)公信力。技術(shù)創(chuàng)新必須守住底線，人工智能必須服務(wù)于公眾利益，堅(jiān)決抵制一切以牟利為目的、破壞行業(yè)生態(tài)的AI濫用行為，主動(dòng)配合監(jiān)管、支持執(zhí)法、推動(dòng)共治。

　　以全鏈路技術(shù)，抵御AI內(nèi)容污染

　　針對(duì)AI“投毒”全鏈條風(fēng)險(xiǎn)，作為網(wǎng)絡(luò)空間安全與社會(huì)治理領(lǐng)域國(guó)家隊(duì)，國(guó)投智能股份構(gòu)建了前防御、事中處置、事后溯源的完整治理體系，從源頭遏制亂象:

　　1. 威脅監(jiān)測(cè)與攔截:從源頭阻斷惡意投喂

　　針對(duì)批量虛假內(nèi)容生成、提示詞攻擊、語(yǔ)料惡意注入等行為，通過(guò)星盾多源威脅檢測(cè)響應(yīng)平臺(tái)，以全域可視、智能研判、極速響應(yīng)的核心能力，有效抵御GEO灰色產(chǎn)業(yè)鏈的“數(shù)據(jù)投毒”。

　　2. 深度內(nèi)容鑒真:辨別真?zhèn)?，守住真?shí)底線

　　面向文本、圖像、音視頻等深度合成內(nèi)容，通過(guò)多算法融合鑒真能力，快速識(shí)別AI生成虛假信息、偽造測(cè)評(píng)、虛假宣傳，為公眾、企業(yè)與監(jiān)管機(jī)構(gòu)提供客觀、可信的內(nèi)容核驗(yàn)?zāi)芰Α?/p>

　　3. 數(shù)據(jù)全生命周期治理:保證數(shù)據(jù)干凈合規(guī)

　　從數(shù)據(jù)采集、語(yǔ)料清洗、分類(lèi)分級(jí)、安全脫敏到使用審計(jì)，建立嚴(yán)格的數(shù)據(jù)治理機(jī)制，確保訓(xùn)練語(yǔ)料來(lái)源可查、真實(shí)合規(guī)、干凈無(wú)毒，從底層保障AI模型可信可靠。

　　4. 電子取證與溯源:讓違規(guī)行為可查可究

　　依托全場(chǎng)景電子數(shù)據(jù)取證與溯源能力，精準(zhǔn)定位虛假信息的發(fā)布源頭、傳播路徑、操作主體，固定完整證據(jù)鏈，支撐監(jiān)管執(zhí)法與行業(yè)整治，讓AI“投毒”無(wú)處遁形。

　　共筑可信AI，共建清朗數(shù)字生態(tài)

　　人工智能走到今天，安全與可信已是行業(yè)共識(shí)。我們呼吁:堅(jiān)守技術(shù)向善底線，拒絕為流量、利益濫用AI、污染數(shù)據(jù);強(qiáng)化企業(yè)主體責(zé)任，加強(qiáng)內(nèi)容審核、語(yǔ)料管控、模型安全評(píng)估;加快標(biāo)準(zhǔn)與規(guī)則建設(shè)，完善AI安全、深度合成、數(shù)據(jù)治理相關(guān)規(guī)范;推動(dòng)社會(huì)共治，政企協(xié)同、行業(yè)聯(lián)動(dòng)、公眾監(jiān)督，共同打擊AI亂象。

　　3·15是警示，更是行業(yè)升級(jí)的契機(jī)。以技術(shù)守安全，以責(zé)任護(hù)生態(tài)，讓人工智能真正安全、可信、向善，服務(wù)于高質(zhì)量發(fā)展與民生福祉。

　　轉(zhuǎn)自：同花順

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來(lái)源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀