마이크로소프트 및 다양한 산업 분야의 기관들이 AI 투명성 이니셔티브를 출범하여 AI 모델 및 에이전트에 대한 기업 신뢰를 강화한다
레드먼드, 워싱턴 — 11월 17, 2026 — 조직들은 인공지능 모델 주변의 많은 활동을 관찰할 수 있지만, 요청과 결과 사이에 무엇이 발생했는지를 재구성하는 것은 자주 불가능하여 모델 행동을 독립적으로 검증하는 데 어려움을 겪습니다. 화요일에 마이크로소프트 아이그나이트에서 마이크로소프트 회장이자 최고경영자(Satya Nadella)는 인공지능을 더 안전하게 만들기 위한 마이크로소프트의 약속의 다음 단계를 발표했습니다. AI 투명성 이니셔티브(AI Transparency Initiative)는 모델과 공급자 전반에 걸쳐 보안 및 거버넌스를 위한 공통적이고 개방적인 접근 방식을 수립하기 위한 고객 및 파트너와의 협력적 노력입니다. 이 이니셔티브는 단순한 원칙을 반영합니다. 더 큰 인공지능 자율성은 더 큰 투명성을 요구합니다.
"보안 통제가 효과적이기 위해서는 모든 조직이 모델 자체에 대한 더 많은 투명성을 가져야 합니다,"라고 마이크로소프트 보안의 최고 부사장인 하이테 갈롯은 말했습니다. "이 작업을 통해 모든 모델에 더 많은 투명성을 제공할 것입니다. 이는 더 지능적이고 강력한 통제를 만들기 위한 중요한 단계이며, 책임성과 추적 가능성을 더 잘 알릴 수 있게 해줍니다."
기업들은 인공지능 모델을 데이터, 도구, 자격 증명 및 인프라에 연결하여, 에이전트가 모든 단계에서 인간의 승인 없이도 행동을 수행할 수 있도록 합니다. 기존의 통제 수단은 인공지능 모델 주변의 많은 활동을 관찰할 수 있지만, 모델 내부에서 발생하는 일이나 자체 행동에 대한 보고서를 독립적으로 검증할 수는 없습니다. 이는 조직이 에이전트의 행동 뒤에 있는 맥락을 이해하는 능력을 제한합니다. 이러한 증거의 공백은 보안, 준수, 감사 및 책임성 위험을 초래합니다. 보안 팀은 점점 더 능력이 향상된 인공지능 에이전트가 초래하는 증가하는 내부자 위험을 해결하기 위한 새로운 신뢰 아키텍처가 필요합니다.
"AI 에이전트가 기업 운영에 더 깊이 통합됨에 따라 보안 팀은 이러한 에이전트가 무엇에 액세스하고 있는지, 어떤 조치를 취하고 있는지, 그리고 이러한 조치가 어떻게 검증되는지를 명확하게 파악해야 합니다."라고 어도비의 최고 보안 책임자인 아ANCHAL GUPTA는 말했다. "산업 전반에 걸쳐 AI 투명성을 위한 공통된 접근 방식을 구축하는 것은 신뢰를 강화하고, 보안과 책임을 유지하면서 조직이 자신감을 가지고 혁신할 수 있도록 하는 데 필수적입니다."
원칙에서 실천으로
이 이니셔티브는 세 가지 부분으로 구성되어 있습니다. 첫째, 마이크로소프트는 국가표준기술연구소(NIST)의 SI 에이전트 표준 이니셔티브에 참여를 확대하고, 연구를 활용하여 AI 투명성, 보안 및 거버넌스를 위한 개방형 산업 표준을 개발할 것입니다. 둘째, 마이크로소프트는 액센트처, 어도비, KPMG, 마스터카드 및 볼보카스를 포함한 40개 이상의 기관들과 협력하여, 모델이나 공급업체에 관계없이 책임을 지고, 독립적으로 검증 가능하며 설계 시 안전한 AI 시스템을 위한 개방형 표준을 개발하는 데 도움을 줄 것입니다.
세 번째로, 마이크로소프트는 이 작업을 마이크로소프트 AI, 마이크로소프트 포드리 및 마이크로소프트 코파일럿에 통합하여, 마이크로소프트 또는 다른 공급업체에서 제공하는 보안 및 준수 도구와 함께 결과 증거를 사용할 수 있도록 할 예정입니다.
"우리 고객들은 인공지능을 통해 더 빠르게 움직이고 싶어 하며, 혁신과 안전 사이에서 선택을 할 필요는 없습니다."라고 KPMG 국제의 글로벌 정보보안 책임자인 존 이스라엘은 말했다. "인공지능에 대한 신뢰는 투명성, 설명 가능성 및 책임 있는 감독을 필요로 합니다. 우리는 AI 투명성 이니셔티브를 통해 Microsoft와 협력하여 조직이 대규모로 인공지능을 책임 있게 배포하기 위해 필요한 가시성과 통제력을 제공하는 개방적이고 산업 전반의 표준을 수립하는 데 자랑스럽게 기여하고 있습니다."
명확한 책임
데이터, 도구 및 자격 증명에 액세스할 수 있는 에이전트는 특권 내부자와 같은 위험 프로필을 가지고 있지만, 기계 속도와 규모로 작동하기 때문에 독립적인 감독이 필수적입니다.
책임은 조직에 남아 있다. 중요한 일이 발생할 때, 리더들은 고객, 직원, 이사회, 감사인 및 규제 기관에게 책임을 지게 된다. 인공지능을 탓하는 것은 답이 아니며, "모델을 신뢰하라"는 통제 수단도 아니다.
이 이니셔티브는 닫힌 모델과 열린 가중치 모델을 포함하여 모델과 공급업체를 넘나들며 작동하도록 설계되어, 개발자 팀이 에이전트를 구동하는 모델을 변경하거나 업데이트할 수 있지만, IT 및 보안 팀이 이를 안전하게 감독할 수 있는 능력이나 준수 팀이 그들의 행동을 감사할 수 있는 능력을 손상시키지 않는다.
"기관들이 인공지능 재구성의 다음 단계로 나아갈 때, 그들은 신뢰와 확신의 견고한 기반을 바탕으로 해야 합니다."라고 액센추어의 글로벌 사이버보안 담당자인 하르프레트 시두가 말했다. "마이크로소프트가 인공지능 투명성을 위해 개방적이고 산업 주도적인 접근법을 취하는 이러한 이니셔티브는 우리가 인공지능 모델을 보호하고 통제 및 거버넌스를 적용하는 데 도움이 될 수 있습니다. 액센추어는 이 분야의 다른 리더들과 함께 마이크로소프트와 파트너십을 맺는 것을 자랑스럽게 생각합니다."
보기, 확인, 통제
마이크로소프트는 모든 기관이 인공지능 시스템이 액세스하고 수행하는 내용을 확인하고, 자체적으로 그 행동을 검증하며, 허용된 내용을 통제할 수 있어야 한다고 믿습니다.
참여하기
참여를 원하거나 이 이니셔티브의 진행 상황을 지켜보려는 조직은 aka.ms/learnmoreAItransparency에서 더 많은 정보를 얻고 등록할 수 있습니다.
Microsoft Ignite에서 Microsoft 및 업계 리더들이 조직이 AI 모델과 에이전트를 확신을 가지고 관리하는 방법에 대한 통찰을 공유할 예정입니다. 자세한 내용은 Microsoft Security 블로그에서 확인할 수 있습니다.
자세한 정보를 원하시면 다음을 누르십시오:
Microsoft 미디어 관계, Microsoft We. 커뮤니케이션, (425) 638-7777, [email protected]
편집자 주: Microsoft에 대한 추가 정보, 뉴스 및 관점을 원하시면 https://news.microsoft.com/source의 Microsoft Source를 방문하십시오. 웹 링크, 전화 번호 및 직책은 출판 시점에 정확했지만 변경되었을 수 있습니다. 추가 지원이 필요한 기자 및 분석가는 https://news.microsoft.com/microsoft-public-relations-contacts에 나열된 Microsoft의 빠른 대응 팀 또는 기타 적절한 연락처에 연락할 수 있습니다.