2025年7月22日，由中國信息通信研究院主辦的第十二屆可信云大會(huì)在北京召開。會(huì)上，國內(nèi)首個(gè)《面向LLM應(yīng)用的可觀測(cè)性能力要求》標(biāo)準(zhǔn)正式發(fā)布。該標(biāo)準(zhǔn)由中國信通院聯(lián)合業(yè)內(nèi)29家頭部單位共同制定，基調(diào)聽云作為重要參編單位之一，全程參與了標(biāo)準(zhǔn)的設(shè)計(jì)、討論與落地工作。

這一標(biāo)準(zhǔn)的發(fā)布，標(biāo)志著國內(nèi)在大模型可觀測(cè)性領(lǐng)域邁出了從“實(shí)踐分散”到“能力標(biāo)準(zhǔn)化”的關(guān)鍵一步。

構(gòu)建生成式AI的可觀測(cè)性基線

行業(yè)首個(gè)權(quán)威標(biāo)準(zhǔn)發(fā)布

隨著生成式 AI 技術(shù)的加速應(yīng)用，LLM（大語言模型）在智能對(duì)話、RAG 檢索增強(qiáng)生成、Agent 智能體等場(chǎng)景中表現(xiàn)出巨大潛力。與此同時(shí)，圍繞 LLM 應(yīng)用部署的可觀測(cè)性建設(shè)也面臨前所未有的挑戰(zhàn)：

● 模型鏈路深、依賴復(fù)雜

● 推理響應(yīng)存在不確定性

● 用戶體驗(yàn)難以量化評(píng)估

● 架構(gòu)層次多樣，監(jiān)控顆粒度模糊

標(biāo)準(zhǔn)的發(fā)布，正是為了解決上述痛點(diǎn)，建立一套“可量化、可評(píng)估、可落地”的觀測(cè)能力分級(jí)體系，指導(dǎo)企業(yè)在 AI 時(shí)代構(gòu)建穩(wěn)健的系統(tǒng)運(yùn)行與質(zhì)量保障能力。

基調(diào)聽云參與標(biāo)準(zhǔn)制定

貢獻(xiàn)平臺(tái)經(jīng)驗(yàn)與評(píng)估實(shí)踐

作為長(zhǎng)期深耕智能觀測(cè)領(lǐng)域的技術(shù)提供方，基調(diào)聽云憑借在鏈路追蹤、性能評(píng)估、Token 分析、響應(yīng)延遲追溯等方面的平臺(tái)能力，積極參與本次標(biāo)準(zhǔn)制定全過程，并為多個(gè)關(guān)鍵指標(biāo)體系的設(shè)計(jì)提供了實(shí)踐支撐。

助力大模型可觀測(cè)體系

走向標(biāo)準(zhǔn)化與工程落地

本次標(biāo)準(zhǔn)以數(shù)據(jù)為主線，提出了從數(shù)據(jù)采集、模型構(gòu)建、存儲(chǔ)治理到實(shí)際應(yīng)用的四大模塊化結(jié)構(gòu)，并細(xì)化指標(biāo)至基礎(chǔ)設(shè)施層、中間件層、模型層、服務(wù)層和應(yīng)用層。其目標(biāo)不僅是“規(guī)范現(xiàn)有”，更是“引導(dǎo)未來”。

基調(diào)聽云將持續(xù)與中國信通院等權(quán)威機(jī)構(gòu)保持緊密合作，共同推動(dòng)生成式AI應(yīng)用的系統(tǒng)可視化、可解釋化、可評(píng)估化，構(gòu)建面向未來的大模型可觀測(cè)基礎(chǔ)能力。我們也將繼續(xù)依托“觀云智能可觀測(cè)性平臺(tái)”，打磨面向 AI 應(yīng)用場(chǎng)景的鏈路觀測(cè)、性能診斷與行為分析能力，助力企業(yè)更穩(wěn)、更快、更可控地落地 AIGC 生產(chǎn)體系。

免責(zé)聲明：市場(chǎng)有風(fēng)險(xiǎn)，選擇需謹(jǐn)慎！此文僅供參考，不作買賣依據(jù)。

關(guān)鍵詞：