微軟與各行業組織共同啟動人工智能透明度計劃以加強企業對人工智能模型和代理的信任
華盛頓州雷德蒙德訊 — 11月17日,2026日 — 組織機構可以觀察到許多與AI模型相關的活動,但他們通常無法重建請求與結果之間發生的過程,這使得獨立驗證模型行為變得困難。週二在微軟Ignite活動上,微軟董事長兼執行長薩提亞·納德拉宣布微軟在使AI更安全方面承諾的下一個階段:AI透明度計劃,這是一項與客戶和合作夥伴合作的共同努力,以在模型和供應商之間建立一個共同的開放性安全與治理方法。該計劃體現了一個簡單的原則:更大的AI自主性需要更大的透明度。
“為了讓安全控制措施有效,每個組織都需要對模型本身有更高的透明度,”微軟安全執行副總裁海耶特·加洛特(Hayete Gallot)表示。“通過這項工作,我們將為所有模型帶來更多的透明度。這是讓控制措施更聰明、更強大的關鍵一步,使我們能夠更好地進行責任追究和可追溯性。”
企業正在將AI模型與數據、工具、憑證和基礎設施相連接,使代理可以在每一步都無需人類批准的情況下採取行動。現有的控制措施可以觀察AI模型周圍的大部分活動,但它們無法看到模型內部發生了什麼,也無法獨立驗證它們對自身行為的描述。這限制了組織理解代理行為背後的上下文的能力。這種證據上的空白會帶來安全、合規、審計和責任風險。安全團隊需要一種新的信任架構,以應對日益強大的AI代理所帶來的日益增長的內部風險。
“隨著AI代理逐步深入整合到企業運作中,安全團隊需要明確的視覺化來了解這些代理正在訪問什麼、他們正在執行什麼操作,以及這些操作如何被驗證,” Adobe 首席安全官 Aanchal Gupta 表示。“在整個產業中建立一個共同的AI透明度方法是至關重要的,這有助於加強信任,並幫助組織在保持安全性和責任的同時,有信心地進行創新。”
從原則到實踐
該計劃包含三個部分。首先,微軟將擴大其參與國家標準技術研究院(NIST)的SI代理標準計劃,並利用其研究成果,開發開放的行業標準,以提高人工智能的透明度、安全性和治理能力。其次,微軟正在與超過40家組織合作,包括埃森哲(Accenture)、Adobe、畢馬威(KPMG)、美國運通(Mastercard)和沃爾沃汽車(Volvo Cars),以幫助制定開放的標準,確保人工智能系統在設計時具有可追責性、可獨立驗證性和安全性,無論是哪種模型或供應商。
第三,微軟將此項工作納入微軟AI、微軟工程中心和微軟Copilot,使客戶能夠使用產生的證據與其安全性和合規工具一起使用,無論這些工具來自微軟或其他供應商。
「我們的客戶希望透過AI更快地前進,他們不應該在創新與安全性之間做出選擇,」KPMG國際全球首席資訊安全官約翰·以色列(John Israel)表示。「對AI的信任需要透明度、可解釋性以及負責任的監督。我們很驕傲能與微軟合作推動AI透明度計劃,以幫助建立開放的行業標準,讓組織獲得必要的可見性和控制權,從而大規模地負責任地部署AI。」
明確的責任
擁有資料、工具和憑證訪問權的代理程式會帶來特權內部人員的風險,但卻以機器的速度和規模運作,因此獨立監督至關重要。
責任仍然由組織承擔。當發生重要事件時,領導者需要向客戶、員工、董事會、審計師和監管機構負責。將責任歸咎於AI並不是解決方案,「信任模型」也不是一種控制手段。
該計劃設計用於在各種模型和供應商之間運作,包括封閉權重和開放權重模型,因此開發團隊可以更換或更新推動其代理的模型,而不會影響IT和安全團隊安全治理它們的能力,也不會影響合規團隊審計其行為的能力。
“當組織邁向AI重構的下一步時,他們需要一個堅實的信譽和信心基礎來作為起點,”安永全球網絡安全主管哈普里特·西杜(Harpreet Sidhu)表示。“微軟這樣的倡議,以開放且由產業推動的方式來推動AI透明度,可以幫助我們確保AI模型並為其設置控制與治理。安永為能與微軟及其他該領域的領導者合作而感到自豪。”
查看、驗證、控制
微軟認為每個組織都應該能夠查看AI系統所訪問和執行的內容,獨立驗證其行為,並控制其被允許執行的內容。
參與其中
對此計畫感興趣並希望參與塑造或跟進其進展的組織,可以透過 aka.ms/learnmoreAItransparency 了解更多資訊並進行註冊。
跟進微軟 Ignite 的新聞,微軟與業界領袖將分享見解,說明組織如何有信心地管理 AI 模型和代理。更多資訊請見微軟安全部落格。
如需更多信息,請僅聯繫:
微軟媒體關係部門,微軟我們傳播,(425) 638-7777,[email protected]
編輯注意:如需更多資訊、新聞及微軟的觀點,請訪問微軟資訊來源 https://news.microsoft.com/source。網址、電話號碼及職稱在出版時正確,但可能已變更。如需進一步協助,記者和分析師可聯繫微軟快速反應小組或其他適當的聯絡人,請見 https://news.microsoft.com/microsoft-public-relations-contacts。