IBM發(fā)布業(yè)界首個(gè)AI智能體治理與安全軟件
全新的集成解決方案確保企業(yè)以安全、負(fù)責(zé)任的方式應(yīng)用 AI智能體及其他生成式AI技術(shù)。
借助以上工具，企業(yè)可以對(duì)智能體執(zhí)行"紅隊(duì)測(cè)試"和審計(jì)，并檢測(cè)"影子智能體"等安全威脅。
北京 2025年6月23日 /美通社/ -- 隨著越來越多的企業(yè)開始推動(dòng)AI 智能體的規(guī)模應(yīng)用，IBM 于近日推出業(yè)內(nèi)首款整合了AI 安全與 AI 治理、并提供企業(yè)風(fēng)險(xiǎn)態(tài)勢(shì)統(tǒng)一視圖的軟件。
IBM發(fā)布業(yè)界首個(gè)AI智能體治理與安全軟件
該產(chǎn)品的新功能增強(qiáng)并集成了 watsonx.governance 和 Guardium AI Security的能力，旨在幫助客戶以安全且負(fù)責(zé)任的方式，實(shí)現(xiàn)AI技術(shù)（包括智能體）的規(guī)模應(yīng)用。watsonx.governance 是 IBM 的端到端 AI 治理工具，Guardium AI Security軟件則用于保護(hù) AI 模型、數(shù)據(jù)和應(yīng)用的安全。
IBM 數(shù)據(jù)和 AI業(yè)務(wù)總經(jīng)理 Ritika Gunnar 表示："AI 智能體有能力重塑企業(yè)的生產(chǎn)力，但其優(yōu)勢(shì)也會(huì)帶來挑戰(zhàn)。如果這些自主的系統(tǒng)得不到妥善的治理或保護(hù)，可能會(huì)帶來嚴(yán)重的后果。"
本次發(fā)布的新產(chǎn)品包括：
AI智能體安全的集成和自動(dòng)化
IBM 不斷增強(qiáng) IBM Guardium AI Security 與 watsonx.governance 的集成，為企業(yè)提供業(yè)內(nèi)首發(fā)的統(tǒng)一解決方案，可同時(shí)管理與 AI 用例相關(guān)的安全風(fēng)險(xiǎn)和治理風(fēng)險(xiǎn)。該集成支持用戶根據(jù) 12 種不同框架（包括《歐盟人工智能法案》和 ISO 42001）驗(yàn)證其合規(guī)標(biāo)準(zhǔn)的流程。
IBM 還與 AllTrue.ai 合作為 Guardium AI Security 打造新功能，包括能夠檢測(cè)云環(huán)境、代碼庫和嵌入式系統(tǒng)中新的 AI 用例，以及為去中心化的 AI 生態(tài)提供全面的可視性與保護(hù)。一旦發(fā)現(xiàn)安全隱患，IBM Guardium AI Security 可自動(dòng)觸發(fā) watsonx.governance 中相應(yīng)的治理流程。
IBM Guardium AI Security 的更新還包括自動(dòng)化的"紅隊(duì)測(cè)試"功能，旨在幫助企業(yè)檢測(cè)和修復(fù) AI 用例中的漏洞和錯(cuò)誤配置。為了消除代碼注入、敏感數(shù)據(jù)暴露和數(shù)據(jù)泄露等風(fēng)險(xiǎn)，該功能可幫助用戶量身定制安全策略，同時(shí)對(duì)輸入和輸出提示進(jìn)行分析。上述功能已在 IBM Guardium AI Security正式上線，它們與 watsonx.governance 的集成將在今年晚些時(shí)候陸續(xù)推出。
IBM 安全和Runtime產(chǎn)品副總裁 Suja Viswesan表示："AI 的未來取決于我們?nèi)绾未_保其安全。安全能力的構(gòu)建應(yīng)該從AI應(yīng)用的第一步就開始，這對(duì)于企業(yè)保護(hù)數(shù)據(jù)安全、滿足合規(guī)要求以及建立持久信任至關(guān)重要。"
IDC 安全與信任團(tuán)隊(duì)研究總監(jiān) Jennifer Glenn表示："企業(yè)安全團(tuán)隊(duì)面臨的最大挑戰(zhàn)之一，就是將安全事件與違規(guī)行為轉(zhuǎn)變成可量化的業(yè)務(wù)風(fēng)險(xiǎn)，AI 和AI智能體的快速引用進(jìn)一步加劇了這一挑戰(zhàn)。將 AI 治理與 AI 安全統(tǒng)一起來，為企業(yè)提供必要的背景信息，這將幫助他們輕松發(fā)現(xiàn)風(fēng)險(xiǎn)并確定優(yōu)先級(jí)，更直觀地看到忽略風(fēng)險(xiǎn)可能帶來的嚴(yán)重后果。"
IBM Guardium AI Security
增強(qiáng)的 AI智能體評(píng)估和全生命周期治理
IBM watsonx.governance可監(jiān)控和管理 AI 智能體從開發(fā)到部署的整個(gè)生命周期，并直接在智能體中構(gòu)建評(píng)估節(jié)點(diǎn)，監(jiān)控回答相關(guān)性、上下文相關(guān)性和忠誠度等指標(biāo)，并幫助用戶找出表現(xiàn)不佳的根因。智能體上線的風(fēng)險(xiǎn)評(píng)估、智能體審計(jì)跟蹤和智能體工具目錄等新功能，預(yù)計(jì)將于 6 月 27 日推出。
即刻可用的合規(guī)能力
IBM watsonx.governance Compliance Accelerators 預(yù)置了全球各地的部分法規(guī)、標(biāo)準(zhǔn)和框架，幫助用戶了解相關(guān)義務(wù)，從而調(diào)整自己的 AI 用例。這些內(nèi)容涵蓋了《歐盟人工智能法案》、美聯(lián)儲(chǔ) SR 11-7 文件以及紐約市第 144 號(hào)地方法律等重要法規(guī)，以及 ISO/IEC 42001 等全球標(biāo)準(zhǔn)和 NIST AI RMF 等框架。watsonx.governance Compliance Accelerators 已作為watsonx.governance的附加組件正式上線。
為了向 AWS（亞馬遜云科技）客戶提供更多價(jià)值和便利，watsonx.governance 已支持在印度的 AWS 數(shù)據(jù)中心使用，包含增強(qiáng)的模型監(jiān)控功能。
此次推出的新功能和集成工具為企業(yè)提供了制勝AI智能體時(shí)代所需的全面治理和安全能力。這些創(chuàng)新成果還與 IBM 更廣泛的watsonx AI 解決方案聯(lián)動(dòng)，幫助企業(yè)以負(fù)責(zé)任和安全的方式加速生成式 AI的規(guī)模應(yīng)用。
關(guān)于 IBM 未來方向和意向的聲明可能會(huì)隨時(shí)更改或撤銷，恕不另行通知，僅代表目標(biāo)和目的。
