사티아 나델라 "AI 에이전트에 7가지 보호장치 필요"…기업 도입 급증

마이크로소프트 최고경영자(CEO) 사티아 나델라는 기업들이 AI 에이전트를 사람 직원과 마찬가지로 공식 신원, 권한 시스템, 감사 추적(audit trail)을 갖춘 존재로 다뤄야 한다고 강조했다.

자율적 AI 에이전트를 도입하려는 기업들이 경쟁적으로 나서는 가운데, 업계는 점점 커지는 거버넌스 공백에 직면하고 있다. 나델라 CEO는 "조직들이 에이전트를 관리할 수 있는 속도보다 더 빠르게 배포하고 있다"며 "신원 배지, 제한된 접근 권한, 로그를 모니터링하는 관리자 없이는 신입 직원을 운영하게 두지 않을 것이라면, 에이전트에게도 그렇게 해선 안 된다"고 말했다.

마이크로소프트는 이번 주 OS 수준의 샌드박스인 '마이크로소프트 실행 컨테이너(Microsoft Execution Containers, MXC)'를 발표했다. 이 시스템은 커널 수준에서 에이전트 경계를 강제한다. 각 에이전트에는 마이크로소프트 Entra 기반의 로컬 또는 클라우드 프로비저닝 신원이 부여되며, 모든 행동은 해당 신원에 귀속되고 IT 관리자는 에이전트가 접근할 수 있는 파일, 디렉터리, 네트워크 리소스를 정확히 지정할 수 있다. 마이크로소프트는 빌드(Build) 개발자 콘퍼런스에서 오픈AI, 엔비디아, 마누스(Manus), 누스 리서치(Nous Research)가 이미 이 플랫폼 위에서 개발을 진행 중이라고 밝혔다.

이 문제의 중요성은 매우 크다. 가트너(Gartner)의 연구 부사장 데니스 쉬(Dennis Xu)는 이번 주 고자율성 AI 에이전트의 보안은 "해결되지 않은 과제"라며, 탈옥(jailbreak)과 프롬프트 인젝션 공격을 완전히 예방하는 것은 여전히 불가능하다고 말했다. 보안 업체 아키리스(Akeyless)의 설문조사에 따르면 응답 기업의 84%가 자사의 AI 에이전트가 민감 데이터에 접근 가능하다고 답했으며, 67%는 에이전트가 접근해선 안 되는 데이터에 이미 접근한 적이 있다고 응답했다.

마이크로소프트가 추적하는 7가지 고장 유형

마이크로소프트는 별도로 '에이전틱 AI 시스템의 고장 유형 분류 체계(Taxonomy of Failure Modes in Agentic AI Systems)'를 업데이트하며 7가지 새로운 위험 범주를 추가했다. 여기에는 악성 코드가 아닌 자연어를 통해 에이전트 행동이 영향을 받을 수 있는 '에이전틱 공급망 손상(Agentic Supply Chain Compromise)', 적대적 명령이 합법적 작업과 일치하는 것처럼 보이면서 에이전트의 최종 목표를 전환시키는 '목표 하이재킹(Goal Hijacking)', 그래픽 인터페이스를 통해 작동하는 에이전트가 적대적 콘텐츠에 의해 조작될 수 있는 '컴퓨터 사용 에이전트 시각 공격(Computer Use Agent Visual Attack)' 등이 포함된다. 마이크로소프트는 보안팀에 모든 배포 에이전트에 대한 소프트웨어 자재 명세서(BOM)를 생성하고, 에이전트 신원을 암호학적으로 검증하며, 새로운 고장 유형을 레드팀(red-team) 대응 매트릭스에 추가할 것을 권고했다.

OS 수준 규제의 중요성

마이크로소프트의 접근 방식은 애플의 폐쇄형 생태계(walled-garden) 모델이나 구글의 클라우드 우선 전략과 달리 신뢰 계층을 운영체제(OS) 수준에 위치시킨다는 점에서 차별화된다. 윈도우 자체에 격리 기능을 내장함으로써 개발자가 어떤 에이전트, 모델, 프레임워크를 선택하든 보안을 보장할 수 있다. 마이크로소프트 디펜더(Microsoft Defender), Entra, 인튠(Intune), 퍼뷰(Purview)와 통합되는 '에이전트 365(Agent 365)'는 7월 프리뷰 버전으로 출시되며, IT 관리자가 에이전트 격리를 중앙에서 관리하면서도 개발자는 자신의 워크로드에 필요한 격리 수준을 선택할 수 있게 해준다. 마이크로소프트 윈도우 및 디바이스 부문 사장 파반 다불루리(Pavan Davuluri)는 MXC가 도입하는 보안, 격리, 통제라는 기본 요소가 AI 에이전트를 상업적으로 실행 가능하게 만드는 데 필수적이라고 말했다.

투자자 입장에서 이번 거버넌스 강화 움직임은 명확한 경쟁 구도를 만들어낸다. 마이크로소프트는 윈도우를 기업 AI 에이전트 배포를 위한 신뢰할 수 있는 플랫폼으로 포지셔닝하며, 결국에는 자사의 애저(Azure) 클라우드와 보안 제품 도입을 촉진할 수 있다. 경쟁사인 알파벳의 구글과 아마존은 이에 대응할 OS 수준의 격리 기능 개발 압박을 받고 있다. 마이크로소프트 주가는 AI에 대한 낙관론에 힘입어 올해 18% 상승했으며, 선행 주가수익비율(PER)은 32배에서 거래되고 있다. 분석가들은 진정한 시험대는 올해 하반기 기업들이 실제 프로덕션 네트워크에서 에이전트를 본격적으로 배포하기 시작할 때가 될 것이라고 말한다.

본 기사는 정보 제공 목적으로만 작성되었으며 투자 조언을 구성하지 않습니다.