Microsoft y organizaciones de diversos sectores lanzan la Iniciativa de Transparencia en IA para fortalecer la confianza empresarial en los modelos y agentes de IA
REDMOND, Washington — 1 de noviembre de 17, 2026 — Las organizaciones pueden observar gran parte de la actividad alrededor de los modelos de IA, pero a menudo no pueden reconstruir lo que sucedió entre una solicitud y un resultado, lo que hace difícil verificar independientemente el comportamiento del modelo. En Microsoft Ignite el martes, el presidente y CEO de Microsoft, Satya Nadella, anunció la próxima fase del compromiso de Microsoft para hacer la IA más segura: la Iniciativa de Transparencia en IA, un esfuerzo conjunto con clientes y socios para establecer un enfoque común y abierto para la seguridad y la gobernanza a través de modelos y proveedores. La iniciativa refleja un principio simple: mayor autonomía de la IA requiere mayor transparencia.
"Para que los controles de seguridad sean efectivos, cada organización necesita una mayor transparencia sobre el modelo en sí mismo", dijo Hayete Gallot, Vicepresidenta Ejecutiva de Seguridad de Microsoft. "Con este trabajo, traeremos más transparencia a todos los modelos. Este es un paso crucial para hacer que el contención sea más inteligente y más fuerte, permitiéndonos informar mejor la responsabilidad y la trazabilidad."
Las empresas están conectando modelos de inteligencia artificial a datos, herramientas, credenciales e infraestructura, permitiendo a los agentes tomar acciones sin aprobación humana en cada paso. Los controles existentes pueden observar gran parte de la actividad alrededor de los modelos de inteligencia artificial, pero no pueden ver lo que ocurre dentro de ellos ni verificar independientemente sus relatos sobre su propio comportamiento. Esto limita la capacidad de las organizaciones para comprender el contexto detrás de las acciones de un agente. Esta brecha en la evidencia crea riesgos de seguridad, cumplimiento, auditoría y responsabilidad. Los equipos de seguridad necesitan una nueva arquitectura de confianza para abordar los crecientes riesgos internos provocados por agentes de inteligencia artificial cada vez más capaces.
"Cuando los agentes de IA se integran cada vez más en las operaciones empresariales, los equipos de seguridad necesitan una visibilidad clara sobre lo que esos agentes están accediendo, qué acciones están realizando y cómo esas acciones pueden verificarse", dijo Aanchal Gupta, Directora de Seguridad, Adobe. "Construir un enfoque común para la transparencia de la IA a nivel de la industria es esencial para fortalecer la confianza y ayudar a las organizaciones a innovar con seguridad, manteniendo al mismo tiempo la seguridad y la responsabilidad".
De los principios a la práctica
La iniciativa tiene tres partes. Primero, Microsoft ampliará su participación en la Iniciativa de Estándares de Agentes SI del Instituto Nacional de Estándares y Tecnología y utilizará sus investigaciones para desarrollar estándares abiertos, a nivel de toda la industria, para la transparencia, seguridad y gobernanza de la inteligencia artificial. Segundo, Microsoft colabora con más de 40 organizaciones, incluyendo a Accenture, Adobe, KPMG, Mastercard y Volvo Cars, para ayudar a desarrollar estándares abiertos para sistemas de inteligencia artificial que sean responsables, verificables de forma independiente y seguros por diseño, independientemente del modelo o proveedor.
Tercero, Microsoft integrará este trabajo en Microsoft AI, Microsoft Foundry y Microsoft Copilot, permitiendo a los clientes utilizar la evidencia resultante con sus herramientas de seguridad y cumplimiento, ya sean de Microsoft u otros proveedores.
"Nuestros clientes quieren avanzar más rápido con la inteligencia artificial, y no deberían tener que elegir entre innovación y seguridad", dijo John Israel, Director Global de Seguridad de la Información de KPMG Internacional. "La confianza en la inteligencia artificial requiere transparencia, explicabilidad y supervisión responsable. Estamos orgullosos de trabajar con Microsoft en la Iniciativa de Transparencia de la Inteligencia Artificial para ayudar a establecer estándares abiertos, a nivel de toda la industria, que brinden a las organizaciones la visibilidad y el control que necesitan para implementar la inteligencia artificial de manera responsable a gran escala".
Clara responsabilidad
Los agentes con acceso a datos, herramientas y credenciales tienen un perfil de riesgo de un usuario privilegiado, pero operan a velocidad y escala de máquina, lo que hace esencial la supervisión independiente.
La responsabilidad recae en la organización. Cuando ocurre algo importante, los líderes responden a clientes, empleados, consejos, auditores y reguladores. Culpar al IA no es una solución, y "confía en el modelo" no es un control.
La iniciativa está diseñada para funcionar entre modelos y proveedores, incluyendo modelos de pesos cerrados y abiertos, de modo que los equipos de desarrolladores puedan cambiar o actualizar los modelos que impulsan sus agentes sin comprometer la capacidad de los equipos de TI y seguridad para gobernarlos de forma segura o la capacidad de los equipos de cumplimiento para auditar sus acciones.
"Cuando las organizaciones dan el siguiente paso en sus reinversiones en inteligencia artificial, necesitan una base sólida de confianza y seguridad para construir sobre ella", dijo Harpreet Sidhu, líder mundial de ciberseguridad de Accenture. "Iniciativas como esta de Microsoft para adoptar un enfoque abierto y impulsado por la industria en cuanto a transparencia de la inteligencia artificial pueden ayudar mientras protegemos los modelos de inteligencia artificial y les incorporamos controles y gobernanza. Accenture se siente orgullosa de colaborar con Microsoft y otros líderes en este ámbito".
Ver, verificar, controlar
Microsoft cree que cada organización debe poder ver qué accede y hace un sistema de inteligencia artificial, verificar sus acciones de forma independiente y controlar lo que está permitido que haga.
Únete
Las organizaciones interesadas en ayudar a definir la iniciativa o seguir su avance pueden obtener más información y registrarse en aka.ms/learnmoreAItransparency.
Sigue las noticias de Microsoft Ignite, donde Microsoft y líderes de la industria compartirán perspectivas sobre cómo las organizaciones pueden gestionar modelos y agentes de inteligencia artificial con confianza. Más información está disponible en el blog de seguridad de Microsoft.
Para más información, pulse solamente:
Relaciones Públicas de Microsoft, We. Comunicaciones para Microsoft, (425) 638-7777, [email protected]
Nota a los editores: Para más información, noticias y perspectivas de Microsoft, por favor visite Microsoft Source en https://news.microsoft.com/source. Los enlaces web, números de teléfono y títulos estaban correctos en el momento de la publicación, pero pueden haber cambiado. Para asistencia adicional, los periodistas y analistas pueden contactar al equipo de respuesta rápida de Microsoft u otros contactos adecuados listados en https://news.microsoft.com/microsoft-public-relations-contacts.