近日2天前发布于:2026/11/18 02:20(北京时间)

Microsoft Source

微軟與各行業組織共同啟動人工智能透明度計劃以加強企業對人工智能模型和代理的信任

華盛頓州雷德蒙德訊 — 11月17日,2026日 — 組織機構可以觀察到許多與AI模型相關的活動,但他們通常無法重建請求與結果之間發生的過程,這使得獨立驗證模型行為變得困難。週二在微軟Ignite活動上,微軟董事長兼執行長薩提亞·納德拉宣布微軟在使AI更安全方面承諾的下一個階段:AI透明度計劃,這是一項與客戶和合作夥伴合作的共同努力,以在模型和供應商之間建立一個共同的開放性安全與治理方法。該計劃體現了一個簡單的原則:更大的AI自主性需要更大的透明度。

“為了讓安全控制措施有效,每個組織都需要對模型本身有更高的透明度,”微軟安全執行副總裁海耶特·加洛特(Hayete Gallot)表示。“通過這項工作,我們將為所有模型帶來更多的透明度。這是讓控制措施更聰明、更強大的關鍵一步,使我們能夠更好地進行責任追究和可追溯性。”

企業正在將AI模型與數據、工具、憑證和基礎設施相連接,使代理可以在每一步都無需人類批准的情況下採取行動。現有的控制措施可以觀察AI模型周圍的大部分活動,但它們無法看到模型內部發生了什麼,也無法獨立驗證它們對自身行為的描述。這限制了組織理解代理行為背後的上下文的能力。這種證據上的空白會帶來安全、合規、審計和責任風險。安全團隊需要一種新的信任架構,以應對日益強大的AI代理所帶來的日益增長的內部風險。

“隨著AI代理逐步深入整合到企業運作中,安全團隊需要明確的視覺化來了解這些代理正在訪問什麼、他們正在執行什麼操作,以及這些操作如何被驗證,” Adobe 首席安全官 Aanchal Gupta 表示。“在整個產業中建立一個共同的AI透明度方法是至關重要的,這有助於加強信任,並幫助組織在保持安全性和責任的同時,有信心地進行創新。”

從原則到實踐

該計劃包含三個部分。首先,微軟將擴大其參與國家標準技術研究院(NIST)的SI代理標準計劃,並利用其研究成果,開發開放的行業標準,以提高人工智能的透明度、安全性和治理能力。其次,微軟正在與超過40家組織合作,包括埃森哲(Accenture)、Adobe、畢馬威(KPMG)、美國運通(Mastercard)和沃爾沃汽車(Volvo Cars),以幫助制定開放的標準,確保人工智能系統在設計時具有可追責性、可獨立驗證性和安全性,無論是哪種模型或供應商。

第三,微軟將此項工作納入微軟AI、微軟工程中心和微軟Copilot,使客戶能夠使用產生的證據與其安全性和合規工具一起使用,無論這些工具來自微軟或其他供應商。

「我們的客戶希望透過AI更快地前進,他們不應該在創新與安全性之間做出選擇,」KPMG國際全球首席資訊安全官約翰·以色列(John Israel)表示。「對AI的信任需要透明度、可解釋性以及負責任的監督。我們很驕傲能與微軟合作推動AI透明度計劃,以幫助建立開放的行業標準,讓組織獲得必要的可見性和控制權,從而大規模地負責任地部署AI。」

明確的責任

擁有資料、工具和憑證訪問權的代理程式會帶來特權內部人員的風險,但卻以機器的速度和規模運作,因此獨立監督至關重要。

責任仍然由組織承擔。當發生重要事件時,領導者需要向客戶、員工、董事會、審計師和監管機構負責。將責任歸咎於AI並不是解決方案,「信任模型」也不是一種控制手段。

該計劃設計用於在各種模型和供應商之間運作,包括封閉權重和開放權重模型,因此開發團隊可以更換或更新推動其代理的模型,而不會影響IT和安全團隊安全治理它們的能力,也不會影響合規團隊審計其行為的能力。

“當組織邁向AI重構的下一步時,他們需要一個堅實的信譽和信心基礎來作為起點,”安永全球網絡安全主管哈普里特·西杜(Harpreet Sidhu)表示。“微軟這樣的倡議,以開放且由產業推動的方式來推動AI透明度,可以幫助我們確保AI模型並為其設置控制與治理。安永為能與微軟及其他該領域的領導者合作而感到自豪。”

查看、驗證、控制

微軟認為每個組織都應該能夠查看AI系統所訪問和執行的內容,獨立驗證其行為,並控制其被允許執行的內容。

參與其中

對此計畫感興趣並希望參與塑造或跟進其進展的組織,可以透過 aka.ms/learnmoreAItransparency 了解更多資訊並進行註冊。

跟進微軟 Ignite 的新聞,微軟與業界領袖將分享見解,說明組織如何有信心地管理 AI 模型和代理。更多資訊請見微軟安全部落格。

如需更多信息,請僅聯繫:

微軟媒體關係部門,微軟我們傳播,(425) 638-7777,[email protected]

編輯注意:如需更多資訊、新聞及微軟的觀點,請訪問微軟資訊來源 https://news.microsoft.com/source。網址、電話號碼及職稱在出版時正確,但可能已變更。如需進一步協助,記者和分析師可聯繫微軟快速反應小組或其他適當的聯絡人,請見 https://news.microsoft.com/microsoft-public-relations-contacts。

更多內容

更多新聞標題

  1. 今日8小时前Meta新推出的Muse Charm裝置可能耗資$300
  2. 今日12小时前Google 給 Gemini 賦予使用你的 Mac 的能力
  3. 今日12小时前報導指出,Meta 的 AI 代理 Muse 正在混淆對話並洩露私人資料
  4. 今日14小时前Apple TV 成为 F1 ACADEMY™ 美国新主场,这一系列为全女性赛车赛事
  5. 今日14小时前英國政府被迫公佈秘密蘋果後門命令
  6. 近日1天前微軟執行長薩提亞·納德拉解釋為何要求60K員工辭職
  7. 近日1天前微軟執行長薩提亞·納德拉在黃仁勳離職後仍對英偉達保持信心
  8. 近日1天前Nvidia因未提交常規的SEC報告而製造了一段奇怪的疑雲
  9. 近日1天前帕默·拉基認為中國「對詹森離開感到高興」,因此他希望被革職的Nvidia首席執行官復職
  10. 近日1天前Google的AI功能在搜尋中獲得獨有的隱身模式
  11. 近日1天前微軟與英特爾深化合作以提供差異化的微軟Azure基礎設施
  12. 近日1天前見證2026應用商店獎最終入圍者
  13. 近日2天前Nvidia表示其開放式人工智能策略在賈森·黃離職後仍保持不變
  14. 近日2天前Nvidia表示它不計畫重新任命黃仁勳為首席執行官
  15. 近日2天前亞馬遜和谷歌將在該公司上市後共同擁有近30%的Anthropic股份
  16. 近日2天前美國證券交易委員會據報導正在調查英偉達,當時黃仁勳離職
  17. 近日2天前谷歌加入科技中斷趨勢,宣佈它不會出現中斷
  18. 近日2天前谷歌扩大Gemini任务的访问权限,可帮助进行电话和购物
  19. 近日2天前蘋果服務,包括iCloud、應用商店和Apple Music,遭遇中斷
  20. 近日2天前Google 将保留 Gemini 聊天记录 2 个月,而非 72 小时,即使关闭历史记录
  21. 近日2天前微軟和Salesforce宣布推出Copilotforce,將可信的客戶背景與行動帶入微軟的人工智能體驗中
  22. 近日2天前F1® 拉斯维加斯大奖赛™ 本周末在 Apple TV 上直播
  23. 近日2天前賈森·霍華德表示,如果被允許重返英偉達首席執行官職位,他將感到「榮幸」
  24. 近日2天前Meta推出Direct,一款獨立的Instagram即時通訊應用程式
  25. 近日2天前英偉達在黃仁勳離職後的首項重大行動針對國家安全
  26. 近日2天前Apple Podcasts 將 Baby,這是凱克·帕默的 2026 年度節目
  27. 近日2天前NVIDIA 董事會成立國家安全與出口管制監督委員會
  28. 本周3天前Nvidia應該在星期二回答的所有問題——但可能不會回答
  29. 本周3天前蘋果揭示新的麥金塔安全控制措施,隨著人工智能代理引發隱私風險
  30. 本周3天前蘋果為iPhone雙機加入「面部解鎖」功能,但並非Face ID
  31. 本周3天前特朗普表示,前Nvidia首席執行官黃仁勳與一名被指為中國間諜的女子有婚外情,並未威脅到國家安全
  32. 本周3天前由AMD支援的Lux超級電腦在橡樹嶺向科學用戶開放,成為能源部基因組計畫的第一座人工智慧工廠
  33. 本周3天前特斯拉全力投入Cybercab,即將擴建柏林 Gigafactory 費用為€3B
  34. 本周3天前山姆·艾爾特曼談及英偉達無 Jens Huan 時:業界將「沒問題」
  35. 本周3天前Instagram 現在允許創作者在短視頻和動態貼文中添加亞馬遜聯盟鏈接
  36. 本周3天前NVIDIA 宣布與 IBM 和費米國家加速器實驗室合作推出量子-經典協同設計平台,並實現錯誤校正突破以推進實用量子計算
  37. 本周3天前NVIDIA擴展Vera CPU平台以加速科學發現
  38. 本周3天前NVIDIA 引入科學用Nemotron以代理加速發現
  39. 本周3天前Google 地圖現在可以根據每個停靠點的即時資訊來規劃行程細節
  40. 本周3天前AMD 完成收購 World Labs
  41. 本周4天前蘋果推出新應用程式研究人們如何使用人工智慧進行健康管理
  42. 本周4天前蘋果啟動研究計畫探索人工智能在醫療領域的應用
  43. 本周5天前Nvidia的安全團隊在哪裡?
  44. 本周5天前伊隆·馬斯克,其他科技高管簽署請願書呼籲英偉達恢復黃仁勳職位
  45. 本周5天前特斯拉開放Cybercab預訂「僅限個人使用」,並有地理限制及每月費用為$299
  46. 本周5天前亚洲政府回应英伟达CEO黄仁勋离职
  47. 本周6天前亞馬遜新推出的Kindle Colorsoft是一款高價的高檔電子閱讀器
  48. 本周6天前出口禁令限制的Nvidia芯片是中国最强大AI模型的背后——糟糕了,Jensen!
  49. 本周6天前苹果 HomeView 今日上线
  50. 本周6天前微軟最新電子郵件中斷事件演變為全球雲端危機
  51. 本周6天前以色列風險投資家看到Nvidia混亂中的挑戰者機會
  52. 往期7天前民主黨啟動對英偉達的調查,對黃仁勳與特朗普的「陰謀」發出嚴厲信函
  53. 往期7天前Meta提交8-K当前报告
  54. 往期7天前英特爾與RadixArk合作推動在英特爾平台上的開放AI推理進步
  55. 往期7天前谷歌最新搜尋升級承諾為您最複雜的問題提供更好的答案
  56. 往期7天前微軟Outlook電郵服務遭遇新停機事件
  57. 往期7天前賈森·黃的離職使Nvidia對開源的支持受到質疑
  58. 往期7天前賈森·黃被剔除出Nvidia可能對AI產業造成的五種損害
  59. 往期7天前特朗普提出蘋果董事長蒂姆·庫克作為黃仁勳的繼任人選
  60. 往期7天前賈森·霍華德離開Nvidia — 他的臨時接替者科萊特·克雷絲是誰?
  61. 往期7天前Nvidia的賈森·黃辭職,晶片製造商任命財務長科萊特·克雷絲為臨時CEO
  62. 往期7天前NVIDIA 宣佈執行長人選更替
  63. 往期8天前Nvidia股價下跌,據報導董事會準備罷免執行長黃仁勳
  64. 往期8天前賈森·霍華德被控與另一名英偉達高管有婚外情
  65. 往期8天前Meta失去其長期負責基礎設施的高層主管
  66. 往期8天前Nvidia的危機讓公司治理專家們紛紛準備好爆米花
  67. 往期9天前微軟商業雲定價的年度貨幣調整
  68. 往期9天前8-K - 當前報告
  69. 往期9天前OpenAI 推出新的企業簡介,使 ChatGPT 只是稍微更像 Google
  70. 往期9天前像素標記,谷歌針對安卓設備的 $30 回應 Apple 的 AirTag,現已上市
  71. 往期9天前俄亥俄州立大學與微軟宣布五年戰略合作夥伴關係以加速臨床護理、教育和研究方面的創新
  72. 往期9天前英偉達執行長黃仁勳與 alleged 中國間諜的醜聞:時間軸
  73. 往期9天前Apple TV 推出新的手语解说功能
  74. 往期9天前Apple TV 將手語解說設為內建的輔助功能
  75. 往期9天前谷歌擴展其人工智慧硬體組合,推出兩款新專用晶片
  76. 往期9天前Meta的AI代理Muse登陸Apple Watch和Android Wear OS
  77. 往期9天前Meta的AI代理Muse登上Apple Watch
  78. 往期9天前Adobe 將 AI 代理與新創意工具帶入 Photoshop、Premiere 與 Firefly
  79. 往期9天前在挑戰谷歌安卓系統後,其共同創辦人將目標轉向了為人工智能時代的Windows系統
  80. 往期9天前IBM 和微軟宣布推出新的人工智能代理平台,專為產業特定轉型而設計
  81. 往期10天前一名做空者在醜聞爆發前六個月就指出英偉達執行長與疑似中國間諜的關係
  82. 往期10天前對Nvidia的訴訟競賽正酣
  83. 往期10天前Meta釋出Muse Ember,一個用於代理執行的新輕量級模型
  84. 往期10天前北方信託與微軟前線公司合作,透過人工智慧改變客戶入會流程
  85. 往期10天前Meta将Instagram的AI年龄预测技术推广至全球
  86. 往期10天前AMD EPYC 在 AI 基礎上擴大其領導地位
  87. 往期10天前特斯拉擴展機器人計程車服務至聖安東尼奧
  88. 往期11天前NVIDIA、Rebellions 和 SK 電信宣布合作以通過 NVIDIA NVLink 融合推進主權 AI 基礎設施
  89. 往期11天前致我們的公司
  90. 往期11天前Nvidia表示正在調查執行長賈森·黃與可能的中國間諜之間的關係
  91. 往期12天前Megaspeed 管理層被招募對Nvidia 首席执行官進行間諜活動,根據美國情報備忘錄
  92. 往期12天前亞馬遜新推出的基礎版Kindle證明你不需要所有花哨的功能
  93. 往期13天前克魯索將陷入困境的懷俄明數據中心項目出售給谷歌
  94. 往期13天前蘋果表示,雙人應用程式即將推出
  95. 往期13天前Meta 引入 Spaces,一種與你的 Muse 代理合作的新方式
  96. 往期13天前在封鎖Muse之後,亞馬遜現在允許用戶透過文字訊息傳送給Alexa來幫助他們購物
  97. 往期13天前特斯拉将在2027年停止生产Cybertruck
  98. 往期14天前Meta、谷歌和TikTok起诉加州总检察长,针对青少年社交媒体法律
  99. 往期14天前Meta提交8-K当前报告
  100. 往期22天前英特尔财报:收入增长21%,数据中心增速创15年最高
  101. 往期22天前闪迪财报:数据中心收入环比增长61%,同时宣布1拆8
  102. 往期22天前亚马逊财报:AWS增速升至39.3%,但资本开支达到2200亿美元
  103. 往期23天前微软最新财报:Azure增长48%,云业务仍是核心发动机
  104. 往期24天前NVIDIA与Oracle扩大AI基础设施合作:重点不只是GPU
  105. 往期30天前Meta收入增长26%,但自由现金流转负:钱投向了哪里?