Microsoft und Organisationen aus verschiedenen Branchen starten das AI Transparency Initiative, um das Vertrauen der Unternehmen in KI-Modelle und -Agenten zu stärken
REDMOND, Washington — Nov. 17, 2026 — Organisationen können viel der Aktivitäten um KI-Modelle beobachten, aber sie können oft nicht rekonstruieren, was zwischen einer Anfrage und einem Ergebnis passiert ist, was es schwierig macht, das Verhalten des Modells unabhängig zu überprüfen. Bei Microsoft Ignite am Dienstag kündigte Microsoft-Vorsitzender und CEO Satya Nadella die nächste Phase des Engagements von Microsoft, KI sicherer zu machen, an: die AI Transparency Initiative, eine Zusammenarbeit mit Kunden und Partnern, um einen gemeinsamen, offenen Ansatz für Sicherheit und Governance über Modelle und Anbieter hinweg zu etablieren. Die Initiative spiegelt ein simples Prinzip wider: Größere KI-Autonomie erfordert größere Transparenz.
„Damit Sicherheitskontrollen wirksam sind, benötigt jede Organisation eine größere Transparenz bezüglich des Modells selbst“, sagte Hayete Gallot, Executive Vice President, Microsoft Security. „Mit dieser Arbeit bringen wir mehr Transparenz für alle Modelle. Dies ist ein entscheidender Schritt, um die Kontrolle intelligenter und stärker zu machen, und ermöglicht es uns, die Verantwortlichkeit und Nachverfolgbarkeit besser zu informieren.“
Unternehmen verbinden KI-Modelle mit Daten, Tools, Anmeldeinformationen und Infrastruktur, wodurch Agenten Aktionen ohne menschliche Zustimmung an jedem Schritt durchführen können. Bestehende Kontrollen können viel der Aktivitäten um KI-Modelle beobachten, aber sie können nicht sehen, was innerhalb der Modelle geschieht oder ihre Berichte über ihr eigenes Verhalten unabhängig überprüfen. Dies begrenzt die Fähigkeit von Organisationen, den Kontext hinter den Handlungen eines Agents zu verstehen. Dieser Beweisdefizit birgt Sicherheits-, Compliance-, Audit- und Verantwortlichkeitsrisiken. Sicherheitsteams benötigen eine neue Vertrauensarchitektur, um die wachsenden Risiken durch zunehmend leistungsstarke AI-Agenten zu bewältigen.
„Wenn KI-Agenten tiefer in die Unternehmensoperationen integriert werden, benötigen Sicherheitsteams klare Sichtbarkeit darüber, was diese Agenten zugreifen, welche Aktionen sie durchführen und wie diese Aktionen überprüft werden können“, sagte Aanchal Gupta, Chief Security Officer bei Adobe. „Es ist entscheidend, einen gemeinsamen Ansatz für die KI-Transparenz in der Branche zu entwickeln, um das Vertrauen zu stärken und Organisationen dabei zu unterstützen, mit Vertrauen zu innovieren, während Sicherheit und Verantwortlichkeit gewahrt bleiben.“
Von Prinzipien zur Praxis
Die Initiative besteht aus drei Teilen. Zunächst wird Microsoft seine Beteiligung an der SI Agent Standards Initiative des National Institute of Standards and Technology ausweiten und auf seine Forschung zurückgreifen, um offene, branchenweit geltende Standards für die Transparenz, Sicherheit und Governance von KI zu entwickeln. Zweitens kooperiert Microsoft mit mehr als 40 Organisationen, darunter Accenture, Adobe, KPMG, Mastercard und Volvo Cars, um offene Standards für KI-Systeme zu entwickeln, die verantwortlich, unabhängig überprüfbar und sicher im Design sind, unabhängig vom Modell oder Anbieter.
Drittens wird Microsoft diese Arbeit in Microsoft AI, Microsoft Foundry und Microsoft Copilot integrieren, wodurch Kunden die resultierenden Beweise mit ihren Sicherheits- und Compliance-Tools verwenden können, sei es von Microsoft oder anderen Anbietern.
„Unsere Kunden möchten schneller mit KI arbeiten, und sie sollten nicht zwischen Innovation und Sicherheit wählen müssen“, sagte John Israel, Global Chief Information Security Officer bei KPMG International. „Vertrauen in KI erfordert Transparenz, Erklärbarkeit und verantwortungsvolle Aufsicht. Wir sind stolz darauf, mit Microsoft an der KI-Transparenzinitiative zu arbeiten, um offene, branchenweit geltende Standards zu etablieren, die Organisationen die Sichtbarkeit und Kontrolle geben, die sie benötigen, um KI verantwortungsbewusst im großen Maßstab einzusetzen.“
Klare Verantwortlichkeit
Agenten, die Zugriff auf Daten, Tools und Anmeldeinformationen haben, tragen das Risikoprofil eines privilegierten Mitarbeiters, aber sie arbeiten mit Maschinen-Geschwindigkeit und -Skalierung, wodurch unabhängige Aufsicht unerlässlich ist.
Die Verantwortung bleibt bei der Organisation. Wenn etwas Folgenreiches geschieht, müssen Führungskräfte gegenüber Kunden, Mitarbeitern, Aufsichtsräten, Prüfern und Aufsichtsbehörden Rechenschaft ablegen. Die Schuld auf die KI zu schieben, ist keine Lösung, und „vertraue dem Modell“ ist kein Kontrollmechanismus.
Die Initiative ist so gestaltet, dass sie über Modelle und Anbieter hinweg funktioniert, einschließlich geschlossener und offener Gewichtsmodelle, sodass Entwicklerteams die Modelle, die ihre Agenten betreiben, ändern oder aktualisieren können, ohne die Fähigkeit der IT- und Sicherheitsteams zu beeinträchtigen, sie sicher zu verwalten, oder die Fähigkeit der Compliance-Teams, ihre Handlungen zu prüfen.
„Wenn Organisationen den nächsten Schritt in ihrer AI-Reinvention unternehmen, benötigen sie eine solide Grundlage aus Vertrauen und Sicherheit, um darauf aufzubauen“, sagte Harpreet Sidhu, globaler Leiter für Cybersecurity bei Accenture. „Initiativen wie diese von Microsoft, einen offenen, branchengetriebenen Ansatz für die Transparenz von KI zu verfolgen, können uns dabei helfen, KI-Modelle zu sichern und sie mit Kontrollen und Governance auszustatten. Accenture ist stolz darauf, mit Microsoft und anderen Führungskräften in diesem Bereich zusammenzuarbeiten.“
Siehe, überprüfe, steuere
Microsoft ist der Ansicht, dass jede Organisation in der Lage sein sollte, zu sehen, was KI-Systeme zugreifen und tun, ihre Aktionen unabhängig zu überprüfen und zu steuern, was sie erlaubt zu tun.
Beteilige dich
Organisationen, die daran interessiert sind, die Initiative zu gestalten oder deren Fortschritt zu verfolgen, können mehr erfahren und sich unter aka.ms/learnmoreAItransparency anmelden.
Verfolgen Sie die Nachrichten von Microsoft Ignite, bei dem Microsoft und Branchenführer Einblicke teilen werden, wie Organisationen KI-Modelle und -Agenten mit Vertrauen verwalten können. Weitere Informationen finden Sie auf dem Microsoft Security Blog.
Für weitere Informationen klicken Sie nur:
Microsoft Media Relations, We. Communications for Microsoft, (425) 638-7777, [email protected]
Hinweis an die Redakteure: Für weitere Informationen, Nachrichten und Perspektiven von Microsoft besuchen Sie Microsoft Source unter https://news.microsoft.com/source. Web-Links, Telefonnummern und Titel waren zum Zeitpunkt der Veröffentlichung korrekt, können sich jedoch geändert haben. Für weitere Unterstützung können Journalisten und Analysten sich an das Rapid Response Team von Microsoft oder andere geeignete Kontakte unter https://news.microsoft.com/microsoft-public-relations-contacts wenden.