近日2天前发布于:2026/11/18 02:20(北京时间)

Microsoft Source

微软与各行业组织发起人工智能透明度计划,以增强企业对人工智能模型和代理的信任

华盛顿雷德蒙德 — 11月 17,2026 — 组织可以观察到许多与AI模型相关的活动,但它们通常无法重建请求和结果之间的过程,这使得独立验证模型行为变得困难。在微软Ignite活动期间

周二,微软董事长兼首席执行官萨提亚·纳德拉宣布了微软致力于使人工智能更安全的下一个阶段:人工智能透明度计划,这是与客户和合作伙伴合作的一项举措,旨在建立一个共同的、开放的安全方法,

跨模型和供应商的治理。这项倡议体现了这样一个简单原则:更大的人工智能自主权需要更大的透明度。

“为了使安全控制措施有效,每个组织都需要对模型本身有更高的透明度,”微软安全执行副总裁海耶特·加洛特表示,“通过这项工作,我们将为所有模型带来更多的透明度。这是至关重要的。

在使管控更加智能和有力方面迈出了重要一步,使我们能够更好地提供问责和可追溯性信息。

企业正在将AI模型连接到数据、工具、凭证和基础设施,使代理能够在每一步都无需人工批准即可采取行动。现有的控制措施可以观察AI模型周围的大部分活动,但他们无法看到……

让他们自己或独立核实他们对自己行为的描述。这限制了组织了解代理行为背后背景的能力。这种证据缺口带来了安全、合规、审计和问责风险。安全团队需要一个

新的信任架构,以应对日益强大的人工智能代理所带来的不断增长的内部风险。

“随着AI代理逐渐更深入地融入企业运营,安全团队需要清楚地了解这些代理访问了什么、它们采取了哪些行动,以及如何验证这些行动,”Aanchal Gupta(安查尔·古普塔)表示,她是A公司的首席安全官。

dobe。“在整个行业范围内建立共同的AI透明度方法对于增强信任、帮助组织在保持安全和问责制的同时自信地进行创新至关重要。”

从原则到实践

该倡议包含三个部分。首先,微软将扩大其在国家标准与技术研究院(NIST)的SI代理标准倡议中的参与度,并利用其研究成果,制定开放的、行业通用的人工智能透明度和安全标准,

治理。其次,微软正在与包括埃森哲、Adobe、毕马威、万事达和沃尔沃汽车在内的超过40家机构合作,以帮助制定可问责、可独立验证且设计时即确保安全的AI系统开放标准,re

无论型号或供应商如何。

第三,微软将把这项工作纳入微软AI、微软创新工坊和微软Copilot,使客户能够将其产生的证据与其安全和合规工具一起使用,无论这些工具是来自微软还是其他供应商。

“我们的客户希望借助人工智能更快地前进,他们不应该在创新与安全之间做出选择,”毕马威国际全球首席信息安全官约翰·以色列(John Israel)表示。“对人工智能的信任需要透明度、可解释性以及负责任的监管,”

视野。我们很自豪能与微软合作开展人工智能透明度计划,以帮助建立开放的行业标准,使组织能够获得所需的可见性和控制权,从而负责任地大规模部署人工智能。”

明确的责任追究

拥有访问数据、工具和凭证的人员具有特权内部人员的风险特征,但他们的操作速度和规模如同机器一般,因此独立监督至关重要。

责任仍然由组织承担。当发生重要事件时,领导者要对客户、员工、董事会、审计师和监管机构负责。指责人工智能并不是解决办法,“相信模型”也不是一种控制手段。

该举措旨在跨模型和供应商运行,包括封闭式和开放式权重模型,因此开发团队可以更换或更新为其代理提供支持的模型,而不会影响IT和安全团队对其安全治理的能力。

合规团队对其行为进行审计的能力。

“当组织迈出人工智能转型的下一步时,他们需要一个牢固的信任和信心基础作为起点,”埃森哲全球网络安全负责人哈普里特·西杜表示。“微软发起的这类倡议,旨在采取开放、行业驱动的方式,”

一种有助于我们保护人工智能模型并为其配备控制和治理措施的AI透明度方法。埃森哲很自豪能与微软及其他该领域的领导者合作。”

查看、验证、控制

微软认为,每个组织都应该能够看到AI系统访问和执行的操作,独立验证其行为,并控制其被允许执行的操作。

参与进来

有兴趣参与塑造该倡议或关注其进展的组织可以访问 aka.ms/learnmoreAItransparency 了解更多信息并注册。

从微软 Ignite 新闻中了解相关信息,微软和行业领袖将分享见解,阐述组织如何有信心地管理人工智能模型和代理。更多内容请访问微软安全博客。

如需更多信息,请仅按:

微软媒体关系,微软的We. 通讯,(425) 638-7777,[email protected]

编辑注意:如需了解更多关于微软的信息、新闻和观点,请访问微软官网:https://news.microsoft.com/source。网页链接、电话号码和标题在发布时是正确的,但可能已发生变化。如需更多帮助,

如需进一步信息,记者和分析人士可联系微软快速响应团队或其他在 https://news.microsoft.com/microsoft-public-relations-contacts 上列出的适当联系人。

更多内容

更多新闻标题

  1. 今日8小时前Meta新款Muse Charm设备可能售价300美元
  2. 今日12小时前谷歌赋予Gemini使用你的Mac的能力
  3. 今日12小时前Meta的人工智能代理Muse混淆对话并泄露隐私数据,报告称
  4. 今日14小时前Apple TV 成为 F1 ACADEMY™ 美国新主场,这一系列为全女性赛车赛事
  5. 今日14小时前英国政府被迫披露秘密的苹果后门指令
  6. 近日1天前微软CEO萨提亚·纳德拉解释为何要求6万名员工离职
  7. 近日1天前微软CEO萨提亚·纳德拉在黄仁勋离职后仍对英伟达保持信心
  8. 近日1天前英伟达未提交常规的证券交易委员会报告,引发了一些奇怪的猜测
  9. 近日1天前帕默·拉基认为中国“对詹森离职感到高兴”,因此他希望被解雇的英伟达CEO重返岗位
  10. 近日1天前谷歌搜索中的AI功能获得独立的隐私模式
  11. 近日1天前微软与英特尔深化合作,打造差异化Azure基础设施
  12. 近日1天前2026 年 App Store 奖项入围者名单公布
  13. 近日2天前Nvidia表示,杰森·黄离职后其开源AI战略依然保持不变
  14. 近日2天前英伟达表示无意再次任命黄仁勋为首席执行官
  15. 近日2天前亚马逊和谷歌将在Anthropic上市后共同拥有近30%的股份
  16. 近日2天前美国证券交易委员会正在调查英伟达,正值黄仁勋离职之际
  17. 近日2天前谷歌加入科技中断趋势,宣布自己没有出现中断
  18. 近日2天前谷歌扩大Gemini任务的访问权限,可帮助进行电话和购物
  19. 近日2天前包括iCloud、App Store和Apple Music在内的苹果服务出现故障
  20. 近日2天前Google 将保留 Gemini 聊天记录 2 个月,而非 72 小时,即使关闭历史记录
  21. 近日2天前微软和Salesforce宣布推出Copilotforce,将可信赖的客户背景和操作融入微软人工智能体验中
  22. 近日2天前F1® 拉斯维加斯大奖赛™ 本周末在 Apple TV 上直播
  23. 近日2天前黄仁勋表示,如果被允许再次担任英伟达首席执行官,他将感到“荣幸”。
  24. 近日2天前Meta推出Direct,一款独立的Instagram消息应用
  25. 近日2天前黄仁勋离职后英伟达的首次重大举措针对国家安全
  26. 近日2天前苹果播客将《Baby, This Is Keke Palmer》评为2026年度最佳节目
  27. 近日2天前NVIDIA董事会成立国家安全与出口管制监督委员会
  28. 本周3天前周二Nvidia应回答的所有问题——但可能不会回答
  29. 本周3天前苹果揭示新的Mac安全控制措施,随着AI代理引发隐私风险
  30. 本周3天前苹果为iPhone双机添加“面部解锁”,但不是Face ID
  31. 本周3天前特朗普称前英伟达CEO黄仁勋与一名涉嫌中国间谍的女子有婚外情并未威胁国家安全
  32. 本周3天前由AMD提供算力的Lux超级计算机在橡树岭向科研用户开放,成为能源部“起源”任务的第一个人工智能工厂
  33. 本周3天前特斯拉全力投入Cybercab,柏林超级工厂即将扩建30亿欧元
  34. 本周3天前山姆·奥特曼谈没有杰森·黄的英伟达:行业会“没事”
  35. 本周3天前Instagram现在允许创作者在短视频和动态中添加亚马逊联盟链接
  36. 本周3天前NVIDIA宣布与IBM和费米国家加速器实验室合作,推出量子-经典协同设计平台,并取得纠错突破以推动实用量子计算的发展
  37. 本周3天前NVIDIA扩展Vera CPU平台以加速科学发现
  38. 本周3天前NVIDIA推出Nemotron for Science,以智能代理加速科学发现
  39. 本周3天前Google Maps 现可根据每个站点的实时信息生成旅行行程
  40. 本周3天前AMD完成对World Labs的收购
  41. 本周4天前苹果推出新应用研究人们如何使用人工智能进行健康监测
  42. 本周4天前苹果启动研究项目,探索人工智能在健康领域的应用
  43. 本周5天前Nvidia的安全团队在哪里?
  44. 本周5天前埃隆·马斯克等科技高管签署请愿书,呼吁英伟达恢复黄仁勋的职位
  45. 本周5天前特斯拉开放Cybercab个人使用预订单,有地理限制并收取每月299美元费用
  46. 本周5天前亚洲政府回应英伟达CEO黄仁勋离职
  47. 本周6天前亚马逊全新 Kindle Colorsoft 是一款高端电子阅读器,价格也相当高端
  48. 本周6天前出口禁令限制的Nvidia芯片是中国最强大AI模型的背后——糟糕了,Jensen!
  49. 本周6天前苹果 HomeView 今日上线
  50. 本周6天前微软最新电子邮件中断演变为全球性的云计算危机
  51. 本周6天前以色列风投看好英伟达动荡中的挑战者机会
  52. 往期7天前民主党启动对英伟达的调查,就黄仁勋与特朗普的“计划”发出严厉信函
  53. 往期7天前Meta提交8-K当前报告
  54. 往期7天前英特尔与RadixArk合作,推动在英特尔平台上的开放AI推理发展
  55. 往期7天前谷歌最新搜索升级承诺为您更复杂的问题提供更好的答案
  56. 往期7天前微软Outlook邮箱遭遇新故障
  57. 往期7天前黄仁勋离职使Nvidia对开源的支持受到质疑
  58. 往期7天前黄仁勋被踢出英伟达的五种方式可能损害人工智能行业
  59. 往期7天前特朗普暗示苹果董事长蒂姆·库克可能接替黄仁勋
  60. 往期7天前黄仁勋已离开英伟达——他的临时接替者科莱特·克雷丝是谁?
  61. 往期7天前英伟达黄仁勋辞职,芯片制造商任命首席财务官科莱特·克雷斯为临时CEO
  62. 往期7天前NVIDIA 宣布首席执行官更替
  63. 往期8天前英伟达股价下跌,据称董事会准备罢免CEO黄仁勋
  64. 往期8天前黄仁勋被指控另有婚外情——对象是英伟达高管
  65. 往期8天前Meta正在失去其长期负责基础设施的高管
  66. 往期8天前英伟达的危机让公司治理专家们纷纷准备看戏
  67. 往期9天前年度货币调整微软商业云定价
  68. 往期9天前文件
  69. 往期9天前OpenAI推出新的企业资料,使ChatGPT更接近谷歌
  70. 往期9天前Pixel Tag 是谷歌针对苹果 AirTag 的 30 美元安卓兼容解决方案,现已上市
  71. 往期9天前俄亥俄州立大学与微软宣布建立五年战略合作伙伴关系,以加速临床护理、教育和研究领域的创新
  72. 往期9天前黄仁勋与所谓中国间谍的丑闻:时间线
  73. 往期9天前Apple TV 推出新的手语解说功能
  74. 往期9天前Apple TV 将手语翻译设为内置辅助功能
  75. 往期9天前谷歌扩大其人工智能硬件产品组合,推出两款新专用芯片
  76. 往期9天前Meta的AI助手Muse登陆Apple Watch和安卓穿戴系统
  77. 往期9天前Meta的AI助手Muse登陆Apple Watch
  78. 往期9天前Adobe将AI代理和新创意工具带到Photoshop、Premiere和Firefly中
  79. 往期9天前在与谷歌安卓系统竞争后,其联合创始人将目标对准了为人工智能时代而生的Windows系统
  80. 往期9天前IBM和微软宣布推出全新人工智能代理平台,旨在推动行业特定转型
  81. 往期10天前做空者在丑闻爆发前六个月就指出英伟达CEO与疑似中国间谍的关联
  82. 往期10天前竞相起诉英伟达
  83. 往期10天前Meta发布Muse Ember,一款用于代理执行的新轻量级模型
  84. 往期10天前北方信托与微软前沿公司合作,通过人工智能改造客户开户流程
  85. 往期10天前Meta将Instagram的AI年龄预测技术推广至全球
  86. 往期10天前AMD EPYC 在人工智能基础领域扩大其领导地位
  87. 往期10天前特斯拉扩展机器人出租车服务至圣安东尼奥
  88. 往期11天前NVIDIA、反叛与SK电信宣布合作,借助NVIDIA NVLink Fusion推进自主AI基础设施
  89. 往期11天前致我们的公司
  90. 往期11天前英伟达表示正在调查CEO黄仁勋与可能的中国间谍之间的关系
  91. 往期12天前超级速度公司高管被招募刺探英伟达CEO,据美国情报备忘录显示
  92. 往期12天前亚马逊新款基础版Kindle证明你不需要所有花哨的功能
  93. 往期13天前Crusoe将陷入困境的怀俄明州数据中心项目出售给谷歌
  94. 往期13天前苹果称双人应用即将推出
  95. 往期13天前Meta推出Spaces,一种与你的Muse代理协作的新方式
  96. 往期13天前在封锁Muse后,亚马逊现在允许用户通过短信联系Alexa帮助他们购物
  97. 往期13天前特斯拉将在2027年停止生产Cybertruck
  98. 往期14天前Meta、谷歌和TikTok起诉加州总检察长,针对青少年社交媒体法律
  99. 往期14天前Meta提交8-K当前报告
  100. 往期22天前英特尔财报:收入增长21%,数据中心增速创15年最高
  101. 往期22天前闪迪财报:数据中心收入环比增长61%,同时宣布1拆8
  102. 往期22天前亚马逊财报:AWS增速升至39.3%,但资本开支达到2200亿美元
  103. 往期23天前微软最新财报:Azure增长48%,云业务仍是核心发动机
  104. 往期24天前NVIDIA与Oracle扩大AI基础设施合作:重点不只是GPU
  105. 往期30天前Meta收入增长26%,但自由现金流转负:钱投向了哪里?