2025年7月22日,由中國(guó)信息通信研究院主辦的第十二屆可信云大會(huì)在北京召開。會(huì)上,國(guó)內(nèi)首個(gè)《面向LLM應(yīng)用的可觀測(cè)性能力要求》標(biāo)準(zhǔn)正式發(fā)布。該標(biāo)準(zhǔn)由中國(guó)信通院聯(lián)合業(yè)內(nèi)29家頭部單位共同制定,基調(diào)聽云作為重要參編單位之一,全程參與了標(biāo)準(zhǔn)的設(shè)計(jì)、討論與落地工作。
這一標(biāo)準(zhǔn)的發(fā)布,標(biāo)志著國(guó)內(nèi)在大模型可觀測(cè)性領(lǐng)域邁出了從“實(shí)踐分散”到“能力標(biāo)準(zhǔn)化”的關(guān)鍵一步。

構(gòu)建生成式AI的可觀測(cè)性基線
行業(yè)首個(gè)權(quán)威標(biāo)準(zhǔn)發(fā)布
隨著生成式 AI 技術(shù)的加速應(yīng)用,LLM(大語(yǔ)言模型)在智能對(duì)話、RAG 檢索增強(qiáng)生成、Agent 智能體等場(chǎng)景中表現(xiàn)出巨大潛力。與此同時(shí),圍繞 LLM 應(yīng)用部署的可觀測(cè)性建設(shè)也面臨前所未有的挑戰(zhàn):
● 模型鏈路深、依賴復(fù)雜
● 推理響應(yīng)存在不確定性
● 用戶體驗(yàn)難以量化評(píng)估
● 架構(gòu)層次多樣,監(jiān)控顆粒度模糊
標(biāo)準(zhǔn)的發(fā)布,正是為了解決上述痛點(diǎn),建立一套“可量化、可評(píng)估、可落地”的觀測(cè)能力分級(jí)體系,指導(dǎo)企業(yè)在 AI 時(shí)代構(gòu)建穩(wěn)健的系統(tǒng)運(yùn)行與質(zhì)量保障能力。

基調(diào)聽云參與標(biāo)準(zhǔn)制定
貢獻(xiàn)平臺(tái)經(jīng)驗(yàn)與評(píng)估實(shí)踐
作為長(zhǎng)期深耕智能觀測(cè)領(lǐng)域的技術(shù)提供方,基調(diào)聽云憑借在鏈路追蹤、性能評(píng)估、Token 分析、響應(yīng)延遲追溯等方面的平臺(tái)能力,積極參與本次標(biāo)準(zhǔn)制定全過程,并為多個(gè)關(guān)鍵指標(biāo)體系的設(shè)計(jì)提供了實(shí)踐支撐。
助力大模型可觀測(cè)體系
走向標(biāo)準(zhǔn)化與工程落地
本次標(biāo)準(zhǔn)以數(shù)據(jù)為主線,提出了從數(shù)據(jù)采集、模型構(gòu)建、存儲(chǔ)治理到實(shí)際應(yīng)用的四大模塊化結(jié)構(gòu),并細(xì)化指標(biāo)至基礎(chǔ)設(shè)施層、中間件層、模型層、服務(wù)層和應(yīng)用層。其目標(biāo)不僅是“規(guī)范現(xiàn)有”,更是“引導(dǎo)未來”。
基調(diào)聽云將持續(xù)與中國(guó)信通院等權(quán)威機(jī)構(gòu)保持緊密合作,共同推動(dòng)生成式AI應(yīng)用的系統(tǒng)可視化、可解釋化、可評(píng)估化,構(gòu)建面向未來的大模型可觀測(cè)基礎(chǔ)能力。我們也將繼續(xù)依托“觀云智能可觀測(cè)性平臺(tái)”,打磨面向 AI 應(yīng)用場(chǎng)景的鏈路觀測(cè)、性能診斷與行為分析能力,助力企業(yè)更穩(wěn)、更快、更可控地落地 AIGC 生產(chǎn)體系。
轉(zhuǎn)自:中國(guó)財(cái)富網(wǎng)
【版權(quán)及免責(zé)聲明】凡本網(wǎng)所屬版權(quán)作品,轉(zhuǎn)載時(shí)須獲得授權(quán)并注明來源“中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)”,違者本網(wǎng)將保留追究其相關(guān)法律責(zé)任的權(quán)力。凡轉(zhuǎn)載文章及企業(yè)宣傳資訊,僅代表作者個(gè)人觀點(diǎn),不代表本網(wǎng)觀點(diǎn)和立場(chǎng)。版權(quán)事宜請(qǐng)聯(lián)系:010-65363056。
延伸閱讀

版權(quán)所有:中國(guó)產(chǎn)業(yè)經(jīng)濟(jì)信息網(wǎng)京ICP備11041399號(hào)-2京公網(wǎng)安備11010502035964