微软与各行业组织发起人工智能透明度计划,以增强企业对人工智能模型和代理的信任
华盛顿雷德蒙德 — 11月 17,2026 — 组织可以观察到许多与AI模型相关的活动,但它们通常无法重建请求和结果之间的过程,这使得独立验证模型行为变得困难。在微软Ignite活动期间
周二,微软董事长兼首席执行官萨提亚·纳德拉宣布了微软致力于使人工智能更安全的下一个阶段:人工智能透明度计划,这是与客户和合作伙伴合作的一项举措,旨在建立一个共同的、开放的安全方法,
跨模型和供应商的治理。这项倡议体现了这样一个简单原则:更大的人工智能自主权需要更大的透明度。
“为了使安全控制措施有效,每个组织都需要对模型本身有更高的透明度,”微软安全执行副总裁海耶特·加洛特表示,“通过这项工作,我们将为所有模型带来更多的透明度。这是至关重要的。
在使管控更加智能和有力方面迈出了重要一步,使我们能够更好地提供问责和可追溯性信息。
企业正在将AI模型连接到数据、工具、凭证和基础设施,使代理能够在每一步都无需人工批准即可采取行动。现有的控制措施可以观察AI模型周围的大部分活动,但他们无法看到……
让他们自己或独立核实他们对自己行为的描述。这限制了组织了解代理行为背后背景的能力。这种证据缺口带来了安全、合规、审计和问责风险。安全团队需要一个
新的信任架构,以应对日益强大的人工智能代理所带来的不断增长的内部风险。
“随着AI代理逐渐更深入地融入企业运营,安全团队需要清楚地了解这些代理访问了什么、它们采取了哪些行动,以及如何验证这些行动,”Aanchal Gupta(安查尔·古普塔)表示,她是A公司的首席安全官。
dobe。“在整个行业范围内建立共同的AI透明度方法对于增强信任、帮助组织在保持安全和问责制的同时自信地进行创新至关重要。”
从原则到实践
该倡议包含三个部分。首先,微软将扩大其在国家标准与技术研究院(NIST)的SI代理标准倡议中的参与度,并利用其研究成果,制定开放的、行业通用的人工智能透明度和安全标准,
治理。其次,微软正在与包括埃森哲、Adobe、毕马威、万事达和沃尔沃汽车在内的超过40家机构合作,以帮助制定可问责、可独立验证且设计时即确保安全的AI系统开放标准,re
无论型号或供应商如何。
第三,微软将把这项工作纳入微软AI、微软创新工坊和微软Copilot,使客户能够将其产生的证据与其安全和合规工具一起使用,无论这些工具是来自微软还是其他供应商。
“我们的客户希望借助人工智能更快地前进,他们不应该在创新与安全之间做出选择,”毕马威国际全球首席信息安全官约翰·以色列(John Israel)表示。“对人工智能的信任需要透明度、可解释性以及负责任的监管,”
视野。我们很自豪能与微软合作开展人工智能透明度计划,以帮助建立开放的行业标准,使组织能够获得所需的可见性和控制权,从而负责任地大规模部署人工智能。”
明确的责任追究
拥有访问数据、工具和凭证的人员具有特权内部人员的风险特征,但他们的操作速度和规模如同机器一般,因此独立监督至关重要。
责任仍然由组织承担。当发生重要事件时,领导者要对客户、员工、董事会、审计师和监管机构负责。指责人工智能并不是解决办法,“相信模型”也不是一种控制手段。
该举措旨在跨模型和供应商运行,包括封闭式和开放式权重模型,因此开发团队可以更换或更新为其代理提供支持的模型,而不会影响IT和安全团队对其安全治理的能力。
合规团队对其行为进行审计的能力。
“当组织迈出人工智能转型的下一步时,他们需要一个牢固的信任和信心基础作为起点,”埃森哲全球网络安全负责人哈普里特·西杜表示。“微软发起的这类倡议,旨在采取开放、行业驱动的方式,”
一种有助于我们保护人工智能模型并为其配备控制和治理措施的AI透明度方法。埃森哲很自豪能与微软及其他该领域的领导者合作。”
查看、验证、控制
微软认为,每个组织都应该能够看到AI系统访问和执行的操作,独立验证其行为,并控制其被允许执行的操作。
参与进来
有兴趣参与塑造该倡议或关注其进展的组织可以访问 aka.ms/learnmoreAItransparency 了解更多信息并注册。
从微软 Ignite 新闻中了解相关信息,微软和行业领袖将分享见解,阐述组织如何有信心地管理人工智能模型和代理。更多内容请访问微软安全博客。
如需更多信息,请仅按:
微软媒体关系,微软的We. 通讯,(425) 638-7777,[email protected]
编辑注意:如需了解更多关于微软的信息、新闻和观点,请访问微软官网:https://news.microsoft.com/source。网页链接、电话号码和标题在发布时是正确的,但可能已发生变化。如需更多帮助,
如需进一步信息,记者和分析人士可联系微软快速响应团队或其他在 https://news.microsoft.com/microsoft-public-relations-contacts 上列出的适当联系人。