化工儀器網(wǎng)手機(jī)版
移動(dòng)端訪問更便捷
今日焦點(diǎn) Today's Focus
查看更多+-
儀器聚焦丨熱點(diǎn)重點(diǎn)大盤點(diǎn) 儀器行業(yè)本周要點(diǎn)速遞（2025年第23期）
儀器行業(yè)本周要點(diǎn)速遞（7月14-7月18日）。[詳細(xì)]
最新產(chǎn)品 Latest productS
查看更多+
全球首個(gè)AI智能體安全測(cè)試標(biāo)準(zhǔn)發(fā)布
2025年07月15日 14:40:24
來源：化工儀器網(wǎng) 點(diǎn)擊量：1703
AI STR系列新標(biāo)準(zhǔn)《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》正式發(fā)布，目前，部分標(biāo)準(zhǔn)的測(cè)評(píng)與認(rèn)證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。
日前，世界數(shù)字科學(xué)院(WDTA)在聯(lián)合國(guó)日內(nèi)瓦總部正式發(fā)布AI STR系列新標(biāo)準(zhǔn)《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》。該標(biāo)準(zhǔn)由螞蟻集團(tuán)、清華大學(xué)、中國(guó)電信牽頭，聯(lián)合普華永道、新加坡南洋理工大學(xué)、美國(guó)圣路易斯華盛頓大學(xué)等二十余家國(guó)內(nèi)外機(jī)構(gòu)、企業(yè)及高校共同編制，為全球首個(gè)單智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)。
在科技飛速發(fā)展的時(shí)代背景下，人工智能(AI)已成為推動(dòng)社會(huì)進(jìn)步的重要力量。然而，隨著AI技術(shù)的廣泛應(yīng)用，其安全性問題也日益凸顯，成為全球關(guān)注的焦點(diǎn)。
最新調(diào)研顯示，超過70%的智能體從業(yè)者擔(dān)憂AI幻覺與錯(cuò)誤決策、數(shù)據(jù)泄露等問題，因?yàn)锳I生成的內(nèi)容往往包含事實(shí)錯(cuò)誤，或者對(duì)指令產(chǎn)生誤解，其中超半數(shù)受訪者表示，所在企業(yè)尚未設(shè)立明確的智能體安全負(fù)責(zé)人。
據(jù)了解，該標(biāo)準(zhǔn)針對(duì)智能體跨越“語言墻”所帶來的“行為”風(fēng)險(xiǎn)，首次將輸入輸出、大模型、RAG(檢索增強(qiáng)生成)、記憶和工具五個(gè)關(guān)鍵鏈路與運(yùn)行環(huán)境對(duì)應(yīng)起來，構(gòu)建了全鏈路風(fēng)險(xiǎn)分析框架。同時(shí)細(xì)分了智能體風(fēng)險(xiǎn)類型，完善并創(chuàng)新提出了模型檢測(cè)、網(wǎng)絡(luò)通信分析和工具模糊測(cè)試等測(cè)試方法，彌補(bǔ)了智能體安全測(cè)試技術(shù)標(biāo)準(zhǔn)的空白。
值得注意的是，與其他國(guó)際標(biāo)準(zhǔn)不同，AI STR(人工智能安全、可信和負(fù)責(zé)任)不僅關(guān)注風(fēng)險(xiǎn)識(shí)別和風(fēng)險(xiǎn)分級(jí)，更提供全流程管理方案，即從數(shù)據(jù)治理到模型落地，配套具體測(cè)試工具和認(rèn)證流程，助力企業(yè)提升AI應(yīng)用的安全性與可信度。
AI STR系列新標(biāo)準(zhǔn)《AI智能體運(yùn)行安全測(cè)試標(biāo)準(zhǔn)》的發(fā)布，為AI技術(shù)的安全應(yīng)用提供了有力保障，將對(duì)AI行業(yè)的高質(zhì)量發(fā)展產(chǎn)生深遠(yuǎn)的影響。未來在這一標(biāo)準(zhǔn)的指引下，AI技術(shù)能夠更加穩(wěn)健地發(fā)展，為各行各業(yè)創(chuàng)造更多可能。目前，部分標(biāo)準(zhǔn)的測(cè)評(píng)與認(rèn)證已在金融、醫(yī)療等領(lǐng)域落地應(yīng)用。
素材來源：科技日?qǐng)?bào)
相關(guān)閱讀 Related Reading
查看更多+-
儀器聚焦丨熱點(diǎn)重點(diǎn)大盤點(diǎn) 儀器行業(yè)本周要點(diǎn)速遞（2025年第23期）
儀器行業(yè)本周要點(diǎn)速遞（7月14-7月18日）。2025-07-19 10:00:00 -
我國(guó)團(tuán)隊(duì)揭示太陽活動(dòng)對(duì)我國(guó)氣候變化影響
近日，國(guó)家衛(wèi)星氣象中心與中國(guó)科學(xué)院大氣研究所研究員組成的合作團(tuán)隊(duì)發(fā)表了新的研究成果，其中揭示太陽11年周期活動(dòng)對(duì)我國(guó)夏季降水影響。2025-07-18 15:27:44 -
市場(chǎng)監(jiān)管總局就檢驗(yàn)檢測(cè)從業(yè)人員監(jiān)管新規(guī)征求意見
市場(chǎng)監(jiān)管總局研究起草《檢驗(yàn)檢測(cè)從業(yè)人員監(jiān)督管理辦法(試行)(征求意見稿)》(以下簡(jiǎn)稱《辦法》)，面向市場(chǎng)監(jiān)管系統(tǒng)征求意見。2025-07-18 11:30:29 -
預(yù)算160萬元 廣西大學(xué)采購寬頻介電響應(yīng)測(cè)試儀
廣西大學(xué)發(fā)布“原位共聚焦顯微拉曼光譜儀、電子顯微鏡原位測(cè)量系統(tǒng)、寬頻介電響應(yīng)測(cè)試儀等4套設(shè)備采購(重)”項(xiàng)目，采購寬頻介電響應(yīng)測(cè)試...2025-07-18 11:20:10 -
山西發(fā)布科技重大專項(xiàng)計(jì)劃“揭榜掛帥”項(xiàng)目張榜通知
日前，山西省科技廳張榜公布了2025年度山西省科技重大專項(xiàng)計(jì)劃“揭榜掛帥”（第一批）項(xiàng)目，共14項(xiàng)，其中企業(yè)重大技術(shù)攻關(guān)類12項(xiàng)、...2025-07-18 11:01:51 -
湖北開展“數(shù)學(xué)和應(yīng)用研究”等重點(diǎn)專項(xiàng)推薦申報(bào)工作
日前，湖北省科技廳開展“數(shù)學(xué)和應(yīng)用研究”等重點(diǎn)專項(xiàng)推薦申報(bào)工作，并發(fā)布《省科技廳關(guān)于推薦申報(bào)國(guó)家重點(diǎn)研發(fā)計(jì)劃“數(shù)學(xué)和應(yīng)用研究”等重...2025-07-18 10:24:08
版權(quán)與免責(zé)聲明
- ①凡本網(wǎng)注明“來源：化工儀器網(wǎng)”的所有作品，均為浙江興旺寶明通網(wǎng)絡(luò)有限公司-化工儀器網(wǎng)合法擁有版權(quán)或有權(quán)使用的作品，未經(jīng)本網(wǎng)授權(quán)不得轉(zhuǎn)載、摘編或利用其他方式使用上述作品。已經(jīng)本網(wǎng)授權(quán)使用作品的，應(yīng)在授權(quán)范圍內(nèi)使用，并注明“來源：化工儀器網(wǎng)”。違反上述聲明者，本網(wǎng)將追究其相關(guān)法律責(zé)任。
- ②本網(wǎng)轉(zhuǎn)載并注明自其他來源（非化工儀器網(wǎng)）的作品，目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)，不承擔(dān)此類作品侵權(quán)行為的直接責(zé)任及連帶責(zé)任。其他媒體、網(wǎng)站或個(gè)人從本網(wǎng)轉(zhuǎn)載時(shí)，必須保留本網(wǎng)注明的作品第一來源，并自負(fù)版權(quán)等法律責(zé)任。
- ③如涉及作品內(nèi)容、版權(quán)等問題，請(qǐng)?jiān)谧髌钒l(fā)表之日起一周內(nèi)與本網(wǎng)聯(lián)系，否則視為放棄相關(guān)權(quán)利。
