La IA en el lado de la defensa: qué aporta y qué no sustituye
Lo esencial, en breve
- La IA no es un escudo, es un amplificador. Acelera los procesos buenos y acelera también el desorden.
- Las ganancias reales se concentran en cinco usos: filtrar phishing, detectar desviaciones, resumir incidentes, revisar código y generar escenarios de concienciación.
- Los riesgos dominantes son la confianza ciega, la mala configuración, los datos sensibles enviados a un servicio inadecuado y una responsabilidad que nadie asume.
- Mantén el principio human-in-the-loop: la IA propone, señala y prioriza; una persona decide.
- Un asistente que lee tus registros se convierte él mismo en superficie de exposición. La prompt injection indirecta apunta también a la defensa, no solo a los productos de consumo.
- El art. 32.1.d) del RGPD exige un proceso de verificación, evaluación y valoración regulares de la eficacia de las medidas. Una medida que se apoya en un modelo no es una excepción.
- Este artículo es la cara defensiva de la IA como herramienta de ataque. Los dos describen la misma herramienta desde los dos lados de la mesa.
Hemos contado en otro sitio cómo un atacante se sirve de un modelo generativo: para redactar un correo creíble en español de empresa, para clonar una voz, para ordenar información pública antes de una llamada, para entender deprisa un código que no ha escrito. Este texto es la otra mitad. La misma herramienta, dada la vuelta.
Los dos están pensados para leerse juntos. La IA como herramienta de ataque explica qué le sale barato a quien ataca. Este explica qué se vuelve posible para quien defiende y qué no. Si solo te quedas con una frase de los dos: la IA no mueve el equilibrio, sube el ritmo en los dos lados.
Este artículo es informativo y no constituye asesoramiento jurídico. Haxoris es un proveedor europeo de seguridad ofensiva: no expedimos certificaciones ni dictámenes de conformidad. Última verificación de las referencias normativas citadas: 12 de septiembre de 2026.
Por qué tu equipo de seguridad necesita ayuda
Una organización actual genera un volumen de señales que nadie lee entero: correo entrante, autenticaciones, eventos de cloud, tráfico de red, registros de aplicación, puestos de trabajo, permisos, intentos de acceso fallidos y alertas de las herramientas de seguridad.
Una pyme ya produce miles de eventos al día; una gran organización, millones. El problema no es la falta de datos: es su cantidad. Ahí es donde la IA sirve para algo, porque encuentra patrones, desviaciones y relaciones que nadie tiene tiempo de buscar.
La ganancia no es que la máquina haga lo que un analista no sabe hacer. La ganancia es que hace la primera criba, para que un perfil escaso se gaste en lo que importa. En España, donde el talento de seguridad operativa se lo disputan pocas empresas y donde buena parte del tejido industrial no tiene SOC propio ni guardia permanente, ese ahorro de tiempo no es una comodidad: muchas veces es la condición para que exista detección.
La IA para filtrar el phishing
El phishing es el terreno donde una defensa con IA se nota antes. Un filtro moderno ya no busca solo enlaces catalogados como maliciosos. Analiza la lengua del mensaje, la reputación del remitente, el parecido del dominio con uno legítimo, el tipo de adjunto, el comportamiento real detrás de un enlace y decenas de señales más.
Así, un filtro apoyado en un modelo puede marcar un mensaje que no lleva ningún código malicioso conocido y que, aun así, no encaja: crea una urgencia anormal, pide credenciales o una transferencia, usa un enlace cuyo destino real no coincide con el texto, o se hace pasar por comunicación interna.
Ningún filtro lo para todo. La defensa que funciona junta la técnica con personas que saben reaccionar. El filtro reduce el volumen; tu plantilla tiene que reconocer lo que pasa igualmente. Eso es justo lo que mide una simulación de phishing: no la calidad del filtro, sino la reacción de la organización ante lo que el filtro ha dejado pasar.
Sobre lo que la IA cambia de verdad en la redacción de estos mensajes, y sobre las señales que siguen sirviendo, lee qué es el phishing con IA y cómo detectarlo.
Los resultados de una simulación de phishing se entregan de forma agregada. Nadie queda identificado ni sancionado individualmente: una simulación evalúa medidas organizativas, no a quien está delante del teclado. En España hay que informar previamente a la plantilla y contar con la representación legal de los trabajadores en los términos del art. 64.5 del Estatuto de los Trabajadores y del art. 87.3 de la LOPDGDD. Lo desarrollamos en simulación de phishing y derechos de los trabajadores.
La IA para la monitorización de seguridad
Monitorizar es saber qué está pasando dentro de tus sistemas. La IA sirve ahí para hacer aflorar un comportamiento inhabitual y sostener la detección.
Algunos ejemplos que se entienden solos:
- alguien inicia sesión desde un país que nunca había usado,
- una cuenta empieza a descargar un volumen de datos fuera de lo normal,
- una persona intenta entrar en sistemas que no abre jamás,
- un equipo se comunica con un dominio sospechoso,
- se acumulan autenticaciones fallidas de madrugada,
- una cuenta de administración hace cambios que nadie esperaba.
Por separado, ninguno de esos eventos prueba un incidente. La IA sabe enlazar varias señales débiles y enseñar que el conjunto no se sostiene. En la práctica esto se articula con un SIEM, un EDR y las herramientas de seguridad de tus entornos cloud.
Una precisión útil para tus conversaciones con un fabricante: lo que en un producto de detección se llama «IA» son dos cosas muy distintas. Por un lado, modelos estadísticos de anomalía, presentes desde hace años y bastante fiables cuando están bien calibrados sobre tu entorno. Por otro, un asistente generativo que resume y explica. El primero detecta, el segundo cuenta. Confundirlos lleva a comprar uno creyendo que se contrata el otro.
Si estás dentro del ámbito del Esquema Nacional de Seguridad (Real Decreto 311/2022), conviene recordar que monitorizar no es opcional: el Anexo II impone medidas como op.exp.8 «Registro de la actividad» y op.mon.1 «Detección de intrusión». Un producto con IA puede ayudarte a cumplirlas, pero no las sustituye, y quien audite va a pedir evidencia del control, no del fabricante.
La IA durante un incidente
Cuando salta un incidente, el tiempo cuenta. El equipo tiene que entender qué ha pasado, a quién afecta, qué sistemas están implicados y qué acción hay que lanzar.
Un modelo puede resumir una secuencia de eventos, proponer pasos, ordenar prioridades y preparar un punto corto para quien decide. En la lectura de registros y alertas el ahorro de tiempo es real.
Un resumen generado se parece a esto: «La cuenta quedó comprometida. Un inicio de sesión desde una ubicación inhabitual precedió a la creación de una regla de reenvío de correo, seguida de un intento de acceso a documentos compartidos».
Es tiempo ganado. No es una conclusión. La verificación humana sigue siendo imprescindible, y lo es más porque lo que viene después está sujeto a plazos. Si hay datos personales de por medio, el art. 33 del RGPD obliga a notificar la violación de seguridad a la AEPD sin dilación indebida y, a más tardar, en 72 horas desde que se tuvo constancia de ella; cuando el riesgo para los derechos y libertades es alto, el art. 34 añade la comunicación a las personas afectadas. Para apoyo técnico durante la respuesta, el CSIRT de referencia del sector privado en España es INCIBE-CERT.
Sobre NIS2, un apunte y seguimos: la Directiva (UE) 2022/2555 no está transpuesta en España a fecha de este artículo, así que sus plazos de notificación todavía no son una obligación exigible aquí, y lo explicamos en NIS2 en España: qué obliga hoy y qué no. Lo que sí se aplica ya, sin esperar a ninguna ley española, es el Reglamento de Ejecución (UE) 2024/2690 para determinadas entidades digitales —proveedores de servicios en la nube, de centros de datos, de servicios gestionados y de servicios de seguridad gestionados, entre otras—, cuyo anexo exige una política de pruebas de seguridad y un procedimiento documentado para tratar las vulnerabilidades.
En cualquier caso, un resumen generado por un modelo ayuda a llegar a plazo. Nunca decide la notificación.
La IA para encontrar vulnerabilidades en el código
La IA también ayuda al equipo de desarrollo. Relee código, señala patrones de riesgo, propone una implementación más segura y explica un problema en un idioma que entiende alguien que no es especialista en seguridad.
Sirve porque el perfil es escaso y porque quien programa trabaja contra una fecha, y ahí la seguridad se percibe enseguida como un freno. Una debilidad detectada mientras se escribe el código cuesta mucho menos que la misma debilidad corregida después de un incidente.
Esto no exime de ninguna etapa. La revisión de código, las pruebas, unas reglas explícitas y una responsabilidad asignada con nombre siguen haciendo falta. Y no sustituye a un test de intrusión —pruebas de penetración, en la terminología del ENS y de los pliegos públicos—: un asistente lee código, pero no encadena tres debilidades medianas para construir un camino de ataque completo dentro de tu entorno real. La diferencia entre una herramienta que lista y una persona que explota está en análisis de vulnerabilidades o pentest.
La IA para la concienciación de tu plantilla
Una buena concienciación en ciberseguridad no es una presentación anual que todo el mundo aguanta. La IA ayuda a producir escenarios realistas pero inofensivos y, sobre todo, a diferenciarlos.
Una empresa puede preparar mensajes simulados por función: una factura de proveedor para administración, una candidatura con adjunto trampa para recursos humanos, un pedido urgente para el equipo comercial. Así se practica con situaciones que se parecen al trabajo real y no con un ejemplo genérico traducido del inglés. La misma lógica vale para los escenarios de ingeniería social por teléfono o por SMS, y para la estafa del CEO con deepfake de voz, que apunta directamente a tus procedimientos de pago.
Dónde están los límites de la IA
Un modelo no es infalible. Pierde el contexto, clasifica una actividad normal como incidente o infravalora un riesgo real.
Los riesgos principales de una defensa que se apoya en la IA son:
- la confianza ciega en una recomendación,
- una herramienta mal configurada, calibrada sobre un entorno que no es el tuyo,
- la falta de supervisión humana,
- datos sensibles enviados a un servicio inadecuado,
- los falsos positivos, que acaban apagando la atención,
- una responsabilidad que nadie asume en el momento de decidir.
La regla cabe en una frase: la IA propone y asiste, las personas deciden.
| Tarea | Lo que la IA hace bien | Lo que sigue siendo humano |
|---|---|---|
| Filtrado de phishing | Bajar el volumen y marcar patrones sospechosos | Juzgar lo que pasa el filtro, avisar y escalar |
| Monitorización | Encontrar desviaciones y relaciones en grandes volúmenes | Definir qué es normal en esta organización |
| Respuesta a incidentes | Resumir, priorizar y reconstruir la cronología | Decidir el bloqueo, la notificación y la comunicación |
| Revisión de código | Señalar y explicar patrones de riesgo | Lógica de negocio, encadenamiento de fallos y escenarios de abuso |
| Concienciación | Generar escenarios por función | Tono, contexto y seguimiento con cada área |
Tu herramienta defensiva también es un objetivo
Es el punto que se olvida en los artículos de tendencias. En cuanto un asistente lee tus registros, tus tiques o tu correo entrante para resumirlo, quien ataca dispone de un canal de escritura hacia ese modelo.
Una línea de registro, un asunto de correo o un campo de formulario pueden llevar instrucciones dirigidas no a una persona, sino al modelo que las va a leer. Es lo que se llama prompt injection indirecta. Un atacante puede intentar que se minimice una alerta, que se produzca un resumen engañoso o —en una arquitectura de agentes con herramientas— que se dispare una acción que ningún analista ha pedido.
Las preguntas para tu proveedor o para tu equipo son concretas. ¿Qué datos entran en el modelo? ¿Qué acciones puede lanzar el sistema sin validación previa? ¿Qué ocurre si una entrada es hostil? Eso es exactamente el objeto de un pentesting de integraciones LLM y de nuestro servicio de pentesting de IA y LLM.
Qué le pide el RGPD a una medida que se apoya en la IA
En cuanto un filtro, una regla de detección o un proceso de respuesta se apoya en un modelo, ese modelo pasa a ser una de tus medidas de seguridad. Y una medida hay que poder demostrarla.
El art. 32.1.d) del RGPD exige, cuando proceda, «un proceso de verificación, evaluación y valoración regulares de la eficacia de las medidas técnicas y organizativas para garantizar la seguridad del tratamiento». Un modelo es justo el tipo de medida que se degrada sin que nadie toque nada: el fabricante lo actualiza, cambian los datos de entrenamiento, quien ataca ajusta su redacción. Lo que el año pasado paraba la mayoría de los mensajes fraudulentos puede que ya no lo pare.
Dos puntos más merecen atención. El RGPD acota en su art. 22 las decisiones basadas únicamente en el tratamiento automatizado que producen efectos jurídicos o afectan significativamente a una persona: bloquear de forma automática la cuenta de alguien de tu plantilla no es una decisión menor. Y mandar registros a un servicio de IA alojado fuera de la Unión Europea abre una cuestión de transferencia internacional del capítulo V del RGPD, mejor resuelta antes del despliegue que durante una inspección.
El Reglamento (UE) 2024/1689 de inteligencia artificial añade, para los sistemas clasificados de alto riesgo, una exigencia de supervisión humana en su art. 14. La clasificación depende del uso, así que conviene calificar el tuyo en lugar de darlo por supuesto. La AEPD, por su parte, ha publicado orientaciones sobre tratamientos que incorporan inteligencia artificial: van dirigidas al diseño, pero fijan el marco que tu equipo tiene que sostener, esto es, una finalidad definida, una base jurídica y minimización de datos.
Probar de forma periódica no es, por tanto, un trámite. Es la única manera de saber si tu defensa con IA sigue haciendo lo que crees que hace.
El contraataque automático no es una opción
Hay una tentación que aparece siempre que la respuesta se automatiza: dejar que la herramienta actúe hacia fuera. Sondear la infraestructura desde la que llega el ataque, tumbar un servidor de mando y control, recuperar los ficheros de donde han acabado. En España eso no es defensa: es delito.
El art. 197 bis del Código Penal castiga el acceso no autorizado a un sistema de información ajeno y la interceptación de transmisiones no públicas; el art. 264 y siguientes castigan el daño a datos y programas y la obstaculización de sistemas ajenos. Haber sido atacado antes no convierte esas conductas en lícitas, y una acción automatizada no reparte la responsabilidad: responde quien la puso en marcha.
De ahí una regla de diseño que vale la pena escribir en la política de uso: la frontera de cualquier respuesta automática es tu propio perímetro. Todo lo que lo cruce necesita el permiso por escrito de quien sea titular del sistema, con un alcance delimitado y una ventana de ejecución acordada. Es, literalmente, lo que separa un test de intrusión de un delito informático.
Qué conviene implantar
1. Define qué datos pueden entrar en una herramienta de IA.
La información sensible no pinta nada en un servicio público elegido al azar por alguien con prisa.
2. Escribe reglas de uso.
Tu equipo tiene que saber qué está permitido y qué no. Una política de uso de medios digitales que no dice nada sobre la IA está hoy incompleta.
3. Usa la IA donde reduce riesgo de verdad.
Filtrado de phishing, monitorización, resumen de incidentes, revisión de código y automatización de las tareas repetitivas del SOC.
4. Mantén la supervisión humana.
Sobre todo en incidentes, en el bloqueo de cuentas y en cualquier decisión con efecto sobre la actividad o sobre una persona.
5. Mide resultados.
Comprueba que la IA reduce el número de incidentes y el tiempo de tratamiento, y no solo el número de alertas que se muestran.
6. Conserva las medidas clásicas.
Autenticación multifactor, copias de seguridad probadas, actualizaciones, mínimo privilegio y zero trust siguen siendo la base. Ningún modelo compensa su ausencia.
7. Prueba de forma periódica.
Un test de intrusión o un análisis de vulnerabilidades enseña si la defensa aguanta en condiciones reales. En Haxoris la reverificación va incluida en el precio, dentro de los 90 días siguientes a la entrega del informe: aplicadas tus correcciones, volvemos a comprobar los hallazgos sin coste añadido.
La IA no sustituye a una cultura de seguridad
Puedes tener herramientas excelentes. Si nadie se atreve a avisar de un correo dudoso, si las transferencias se aprueban en desorden y si las cuentas no llevan autenticación multifactor, la IA no te va a salvar.
La ciberseguridad sigue siendo una combinación de personas, procesos y técnica. La IA pertenece a la técnica; hay que conectarla al proceso y hacerla comprensible para las personas. Una herramienta que tu equipo no sabe interrogar produce alertas que no lee nadie.
La IA no es un piloto automático
El error habitual consiste en creer que un modelo resolverá el asunto por su cuenta. La seguridad pide contexto: qué sistemas son críticos, quién tiene acceso a qué, qué comportamiento es normal aquí y no en otra parte, y qué excepción resulta aceptable.
Por eso importa el principio human-in-the-loop. La IA recomienda, avisa, clasifica o explica. Una persona confirma, descarta o añade el contexto que faltaba. Sobre cómo organizar ese trabajo en el día a día, lee IA generativa para analistas de seguridad.
En resumen
La inteligencia artificial va a ocupar un sitio cada vez mayor en la defensa. Filtra phishing, detecta desviaciones, analiza incidentes, ayuda a encontrar vulnerabilidades y hace la concienciación más realista.
No es un escudo mágico. Es un amplificador. Si tus procesos de seguridad son sólidos, la IA los vuelve más rápidos. Si están desordenados, acelera el desorden.
El enfoque razonable cabe en una línea: sírvete de la IA, pero no la dejes decidir sola. Trátala como una asistente, no como un piloto automático, y comprueba —igual que compruebas el resto de tu dispositivo— que aguanta frente a alguien que de verdad busca rodearla. Eso es exactamente lo que hacemos: solicita tu presupuesto y acotamos el alcance contigo.
