Puntos clave:
El director ejecutivo de Microsoft, Satya Nadella, dijo que las empresas deben tratar a los agentes de IA como empleados humanos, con identidades formales, sistemas de permisos y pistas de auditoría.
Las empresas que se apresuran a implementar agentes de IA autónomos deben tratarlos como empleados humanos, con identidades formales, sistemas de permisos y pistas de auditoría, afirmó el director ejecutivo de Microsoft, Satya Nadella, mientras la industria enfrenta una creciente brecha de gobernanza.
"Las organizaciones están implementando agentes más rápido de lo que pueden gobernarlos", dijo Nadella en una entrevista. "Si no dejarías que un nuevo empleado opere sin una credencial de identidad, acceso restringido y un supervisor que revise los registros, tampoco deberías permitírselo a un agente".
Microsoft presentó esta semana Microsoft Execution Containers, o MXC, un sandbox a nivel de sistema operativo que impone límites a los agentes a nivel del kernel. El sistema asigna a cada agente una identidad local o aprovisionada en la nube respaldada por Microsoft Entra, atribuye cada acción a esa identidad y permite a los administradores de TI declarar exactamente qué archivos, directorios y recursos de red puede acceder un agente. OpenAI, Nvidia, Manus y Nous Research ya están desarrollando sobre la plataforma, dijo Microsoft en su conferencia de desarrolladores Build.
Lo que está en juego es alto. Dennis Xu, vicepresidente de investigación de Gartner, dijo esta semana que asegurar agentes de IA de alta autonomía es "un desafío abierto", ya que los jailbreaks y los ataques de inyección de indicaciones siguen siendo imposibles de prevenir por completo. Una encuesta del proveedor de seguridad Akeyless encontró que el 84% de las organizaciones afirmó que sus agentes de IA pueden acceder a datos sensibles, y el 67% cree que los agentes ya han accedido a datos que no deberían.
Microsoft actualizó por separado su Taxonomía de Modos de Fallo en Sistemas de IA Agencial, agregando siete nuevas categorías de riesgo. Estas incluyen Compromiso de la Cadena de Suministro Agencial, donde el comportamiento del agente puede verse afectado por lenguaje natural en lugar de código malicioso; Secuestro de Objetivos, donde instrucciones adversarias parecen alineadas con tareas legítimas mientras redirigen el objetivo terminal del agente; y Ataque Visual a Agentes de Uso Informático, donde los agentes que operan a través de interfaces gráficas pueden ser manipulados por contenido adversario. La compañía recomendó a los equipos de seguridad generar una lista de materiales de software para cada agente implementado, verificar la identidad del agente criptográficamente y agregar los nuevos modos de fallo a las matrices de cobertura de los equipos rojos.
El enfoque de Microsoft difiere del modelo de jardín amurallado de Apple y la estrategia centrada en la nube de Google al ubicar la capa de confianza a nivel del sistema operativo. Al incorporar el confinamiento en el propio Windows, la empresa garantiza que las garantías de seguridad se mantengan independientemente del agente, modelo o marco que elija un desarrollador. La integración Agent 365 con Microsoft Defender, Entra, Intune y Purview —que llegará en vista previa en julio— permite a los administradores de TI gestionar el confinamiento de agentes de forma centralizada, mientras que los desarrolladores eligen el nivel de aislamiento que exige su carga de trabajo. Pavan Davuluri, vicepresidente ejecutivo de Microsoft para Windows y Dispositivos, dijo que las primitivas que introduce MXC —seguridad, confinamiento, aislamiento y control del usuario— son esenciales para hacer que los agentes de IA sean comercialmente viables.
Para los inversores, el impulso de la gobernanza crea una dinámica competitiva clara. Microsoft está posicionando a Windows como la plataforma de confianza para la implementación empresarial de agentes de IA, lo que potencialmente impulsa la adopción de su nube Azure y sus productos de seguridad. Los rivales, incluyendo Alphabet, matriz de Google, y Amazon, enfrentan presión para desarrollar un confinamiento equivalente a nivel de sistema operativo. Las acciones de Microsoft han subido un 18% este año, en parte por el optimismo en torno a la IA, y cotizan a 32 veces las ganancias futuras. La verdadera prueba, según los analistas, llegará cuando las empresas comiencen a implementar agentes a gran escala en redes de producción a finales de este año.
Este artículo es solo para fines informativos y no constituye asesoramiento de inversión.
