El 19 de junio de 2026, la señal importante no es otro chatbot más fluido. Google DeepMind llevó la conversación a los sistemas reales: cuando un agente puede usar herramientas, ejecutar tareas y tocar entornos internos, la seguridad no puede depender solo de que el modelo esté alineado.

Qué pasó

Google DeepMind publicó AI Control Roadmap, un marco de defensa por capas para agentes avanzados. Mantiene alineación, sandboxing, seguridad de endpoint y resistencia a prompt injection, pero añade control de sistema: tratar a los agentes internos como actores que pueden fallar o excederse, conceder permisos gradualmente y supervisar razonamiento y acciones.

Por qué importa

El riesgo de un agente no es solo una respuesta incorrecta. Importa qué datos puede ver, qué APIs puede llamar, qué archivos puede escribir y qué procesos puede activar. La seguridad tiene que vivir también en la capa de despliegue: límites, verificación, observabilidad y defensa por capas.

Para builders

La primera pregunta no es solo qué puede hacer el agente, sino cuándo puede actuar, hasta dónde puede llegar, quién toma el control si falla y si el historial se puede revisar. Los buenos productos con agentes necesitan permisos, logs, replay, aprobaciones, rollback y monitoreo.

Fuentes

Google DeepMind: https://deepmind.google/blog/securing-the-future-of-ai-agents/ | Axios: https://www.axios.com/2026/06/18/google-deepmind-prepares-for-rogue-ai-agents | OpenAI: https://openai.com/index/chatgpt-enterprise-spend-controls/