三維天地牽頭研制神經(jīng)網(wǎng)絡(luò)可解釋評(píng)估標(biāo)準(zhǔn)，破解AI"黑箱"難題

　　12月1日，人工智能領(lǐng)域標(biāo)準(zhǔn)化工作取得重要進(jìn)展，中國電子學(xué)會(huì)正式發(fā)布《神經(jīng)網(wǎng)絡(luò)關(guān)鍵特性可解釋評(píng)估要求》團(tuán)體標(biāo)準(zhǔn)。該標(biāo)準(zhǔn)由北京三維天地科技股份有限公司牽頭，聯(lián)合大連理工大學(xué)、工業(yè)和信息化部電子第五研究所、清華大學(xué)等權(quán)威機(jī)構(gòu)共同研制，將于2026年1月1日起正式實(shí)施。此舉標(biāo)志著我國在神經(jīng)網(wǎng)絡(luò)可解釋性評(píng)估領(lǐng)域建立了首個(gè)系統(tǒng)性規(guī)范，填補(bǔ)了國內(nèi)外相關(guān)標(biāo)準(zhǔn)的空白。

　　隨著神經(jīng)網(wǎng)絡(luò)，特別是大模型的深度應(yīng)用，其運(yùn)行效率、抗干擾能力不足以及普遍存在的“黑箱”問題，日益成為制約人工智能技術(shù)在工業(yè)生產(chǎn)、自動(dòng)駕駛、醫(yī)學(xué)診斷等關(guān)鍵復(fù)雜場(chǎng)景中可靠落地與廣泛推廣的瓶頸。提升神經(jīng)網(wǎng)絡(luò)的可解釋性、可靠性與適用性，已成為推動(dòng)人工智能高質(zhì)量發(fā)展、落實(shí)國家相關(guān)戰(zhàn)略部署的核心攻關(guān)方向。

　　《神經(jīng)網(wǎng)絡(luò)關(guān)鍵特性可解釋評(píng)估要求》標(biāo)準(zhǔn)應(yīng)運(yùn)而生，旨在系統(tǒng)性地解決上述挑戰(zhàn)。標(biāo)準(zhǔn)聚焦于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)冗余性、抗噪聲干擾性及預(yù)測(cè)可靠性等關(guān)鍵性能，首次提出了一套可解釋的評(píng)估框架。該標(biāo)準(zhǔn)詳細(xì)規(guī)定了評(píng)估方法、輸入要求、操作流程、量化指標(biāo)、性能等級(jí)劃分及實(shí)施規(guī)范，為客觀、公平、可靠地衡量神經(jīng)網(wǎng)絡(luò)核心性能提供了統(tǒng)一標(biāo)尺。

　　業(yè)內(nèi)專家指出，盡管網(wǎng)絡(luò)剪枝、魯棒性評(píng)估等技術(shù)已廣泛研究，但現(xiàn)有方法多缺乏可解釋性，評(píng)估結(jié)果往往停留于概括性判斷，難以保障客觀公平，也無法靈活適配多樣化任務(wù)場(chǎng)景，其可信度與實(shí)用性因此受限。新標(biāo)準(zhǔn)基于可解釋性理論，致力于構(gòu)建一套多等級(jí)、全客觀、可解釋的關(guān)鍵性能評(píng)估體系，有望實(shí)現(xiàn)對(duì)神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)、訓(xùn)練、部署到維護(hù)的全生命周期關(guān)鍵性能進(jìn)行實(shí)時(shí)檢測(cè)與評(píng)估，為產(chǎn)業(yè)健康發(fā)展注入標(biāo)準(zhǔn)動(dòng)能。

　　評(píng)審專家一致認(rèn)為，該標(biāo)準(zhǔn)提出的評(píng)估方法和技術(shù)手段具有顯著創(chuàng)新性，達(dá)到了國際先進(jìn)水平。它的發(fā)布與實(shí)施，不僅將直接助力提升人工智能產(chǎn)品的可靠性與透明度，增強(qiáng)用戶信任，更將為我國人工智能技術(shù)創(chuàng)新和產(chǎn)業(yè)生態(tài)的規(guī)范化、高質(zhì)量發(fā)展提供至關(guān)重要的基礎(chǔ)支撐。

　　轉(zhuǎn)自：千龍網(wǎng)

　　【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品，轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”，違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊，僅代表作者個(gè)人觀點(diǎn)，不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系：010-65363056。

延伸閱讀