Tu equipo puede construir en días lo que antes tomaba semanas, y eso incluye introducir vulnerabilidades que antes tardaban semanas en aparecer. La velocidad de la construcción dirigida por IA es real, pero los nuevos vectores de ataque que introduce son igual de reales.
Prompt injection: el ataque que no ves venir
La inyección de prompt ocurre cuando input controlado por un usuario externo modifica las instrucciones que recibe el modelo. Si tu aplicación toma texto del usuario y lo concatena directamente en un system prompt, un atacante puede redirigir el comportamiento del modelo. La mitigación: separar arquitectónicamente las instrucciones del sistema del contenido del usuario.
Data leakage y exposición de contexto
Escenarios comunes: un agente que recibe documentos confidenciales y cuya respuesta es visible para otros usuarios; un sistema RAG que recupera fragmentos a los que el usuario no debería tener acceso; logs de requests al modelo que contienen PII. El DM debe auditar qué información entra al contexto del modelo en cada flujo.
«El modelo no sabe qué es confidencial. Solo sabe qué está en su contexto. La responsabilidad de esa frontera es del equipo que lo despliega.» — Delivery Master, SFD
Supply chain del modelo y dependencias de IA
Las librerías de agentes — LangChain, LlamaIndex, CrewAI — tienen historial de vulnerabilidades que se parchean en versiones menores sin mucho ruido. La práctica mínima: fijar versiones de todas las dependencias de IA, revisar changelogs de seguridad antes de actualizar y no usar modelos open-source sin revisión de procedencia cuando el feature procesa datos sensibles.
Lo que el DM debe revisar en código generado
El DM debe hacer una revisión de seguridad específica en: manejo de secretos (el modelo tiende a hardcodear valores de ejemplo), validación de inputs antes de que lleguen al modelo, manejo de errores que podría exponer información del sistema y permisos de los agentes autónomos. Deployar rápido sin revisar la seguridad no es FAST Delivery: es deuda de seguridad que se paga con intereses.