L’IA du côté de la défense : ce qu’elle apporte, et ce qu’elle ne remplace pas
·L’essentiel en bref
- L’IA n’est pas un bouclier, c’est un amplificateur. Elle accélère de bons processus ; elle accélère aussi le désordre.
- Les gains réels sont concentrés sur cinq usages : filtrage du phishing, détection d’anomalies, synthèse d’incident, revue de code et scénarios de sensibilisation.
- Les risques dominants sont la confiance aveugle, le mauvais paramétrage, les données sensibles envoyées vers un service inadapté et la responsabilité floue.
- Gardez le principe human-in-the-loop : l’IA propose, signale et hiérarchise ; une personne décide.
- Un assistant qui lit vos journaux devient lui-même une surface d’attaque. La prompt injection indirecte vise la défense, pas seulement les produits grand public.
- L’article 32 du RGPD impose une procédure pour tester et évaluer régulièrement l’efficacité des mesures de sécurité. Une mesure qui repose sur un modèle ne fait pas exception.
- Cet article est le pendant défensif de L’IA du côté de l’attaquant. Les deux décrivent le même outil, vu des deux côtés de la même table.
Nous avons décrit ailleurs comment un attaquant se sert d’un modèle génératif : pour rédiger un message crédible en français, pour cloner une voix, pour trier des informations publiques avant un appel, pour comprendre plus vite un code qu’il n’a pas écrit. Cet article est le second volet. Le même outil, retourné.
Les deux textes sont faits pour être lus ensemble. L’IA du côté de l’attaquant explique ce qui devient moins cher pour celui qui attaque. Celui-ci explique ce qui devient possible pour celui qui défend — et ce qui ne le devient pas. Si vous ne deviez retenir qu’une phrase des deux : l’IA ne déplace pas l’équilibre, elle augmente la cadence des deux côtés.
Cet article est informatif et ne constitue pas un conseil juridique. Haxoris est un prestataire européen de sécurité offensive ; nous ne délivrons aucune certification et aucun avis de conformité. Dernière vérification des références juridiques citées : 11 septembre 2026.
Pourquoi vos équipes ont besoin d’aide
Une organisation moderne produit un volume de signaux que personne ne lit intégralement : messages entrants, authentifications, événements cloud, flux réseau, journaux applicatifs, postes de travail, droits d’accès, tentatives de connexion échouées, alertes d’outils de sécurité.
Une PME génère déjà des milliers d’événements par jour ; une grande organisation en produit des millions. Le problème n’est pas l’absence de données : c’est leur volume. C’est exactement là que l’IA sert à quelque chose, parce qu’elle trouve des motifs, des écarts et des liens que personne n’a le temps de chercher.
Le gain n’est donc pas que la machine ferait ce qu’un analyste ne sait pas faire. Le gain, c’est qu’elle fait le premier tri, pour que des compétences rares soient dépensées sur ce qui compte. En France, où les profils de sécurité opérationnelle sont difficiles à recruter et où beaucoup d’ETI n’ont ni SOC interne ni astreinte, cette économie de temps n’est pas un confort : c’est souvent la condition pour qu’une détection existe.
L’IA pour filtrer le phishing
Le phishing (hameçonnage) est le terrain où une défense outillée par l’IA rend service le plus vite. Un filtre moderne ne cherche plus seulement des liens déjà connus comme malveillants. Il analyse la langue du message, la réputation de l’expéditeur, la ressemblance du domaine avec un domaine légitime, le type de pièce jointe, le comportement réel derrière un lien, et des dizaines d’autres signaux.
Un filtre outillé par un modèle peut ainsi marquer un message qui ne contient aucun code malveillant connu et qui, pourtant, ne va pas : il crée une urgence anormale, demande des identifiants ou un virement, utilise un lien dont la destination réelle diffère, ou se fait passer pour une communication interne.
Aucun filtre n’arrête tout. La défense qui fonctionne associe la technique et des personnes qui savent réagir. Le filtre réduit le volume ; vos collaborateurs doivent reconnaître ce qui passe quand même. C’est précisément ce que mesure une simulation de phishing : non pas la qualité du filtre, mais la réaction de l’organisation à ce que le filtre a laissé passer.
Sur ce que l’IA change concrètement dans l’écriture des messages, et sur les signaux qui restent exploitables, voyez reconnaître un phishing généré par IA.
Les résultats d’une simulation de phishing sont restitués de façon agrégée. Aucun collaborateur n’est identifié ni sanctionné individuellement. Une simulation évalue les mesures organisationnelles, pas la personne derrière le clavier. En France, elle suppose l’information préalable des salariés et, à partir de cinquante salariés, la consultation du comité social et économique.
L’IA pour la supervision de sécurité
La supervision consiste à savoir ce qui se passe dans vos systèmes. L’IA y sert à faire ressortir un comportement inhabituel et à soutenir la détection.
Quelques exemples parlants :
- un utilisateur se connecte depuis un pays qu’il n’a jamais utilisé,
- un compte se met à télécharger un volume de données inhabituel,
- un collaborateur tente d’accéder à des systèmes qu’il n’ouvre jamais,
- un équipement communique avec un domaine suspect,
- de nombreuses authentifications échouent la nuit,
- un compte d’administration effectue des modifications inattendues.
Pris isolément, aucun de ces événements ne prouve un incident. L’IA sait relier plusieurs signaux faibles et montrer que l’ensemble ne tient pas debout. En pratique, cela s’articule avec un SIEM, un EDR et les outils de sécurité de vos environnements cloud.
Une précision utile pour vos échanges avec un éditeur : ce que l’on appelle « IA » dans un produit de détection recouvre deux choses très différentes. D’un côté, des modèles statistiques d’anomalie, présents depuis des années et plutôt fiables quand ils sont correctement calibrés sur votre environnement. De l’autre, un assistant génératif qui résume et explique. Le premier détecte, le second raconte. Les confondre conduit à acheter l’un en croyant obtenir l’autre.
L’IA pendant un incident
Quand un incident survient, le temps compte. L’équipe doit comprendre ce qui s’est passé, qui est touché, quels systèmes sont concernés et quelle action engager.
Un modèle peut résumer une suite d’événements, proposer des étapes, hiérarchiser des priorités et préparer un point court pour ceux qui décident. Sur la lecture de journaux et d’alertes, le gain de temps est réel.
Une synthèse générée ressemble à ceci : « Le compte a été compromis. Une authentification depuis une localisation inhabituelle a précédé la création d’une règle de transfert de messagerie, suivie d’une tentative d’accès à des documents partagés. »
C’est du temps gagné. Ce n’est pas une conclusion. La vérification humaine reste indispensable, et elle l’est d’autant plus que la suite est contrainte par des délais. Lorsque des données personnelles sont concernées, le RGPD prévoit une notification à la CNIL dans les 72 heures après la prise de connaissance de la violation. La directive (UE) 2022/2555 (NIS 2) prévoit de son côté, à son article 23, une alerte précoce sous 24 heures, une notification sous 72 heures et un rapport final sous un mois auprès du CSIRT compétent.
Attention à la manière de lire cette seconde échéance. À ce jour, la directive n’est pas transposée en droit français : le projet de loi relatif à la résilience des infrastructures critiques et au renforcement de la cybersécurité reste en examen parlementaire. Ces délais sont donc ceux du texte européen, pas encore ceux d’une obligation française opposable. Construisez votre procédure sur ce que le RGPD exige déjà, et faites en sorte qu’elle soit prête à absorber la suite.
Dans tous les cas, une synthèse produite par un modèle aide à tenir un délai. Elle ne décide jamais de la notification.
L’IA pour trouver des vulnérabilités dans le code
L’IA aide aussi les équipes de développement. Elle relit du code, signale des motifs risqués, propose une implémentation plus sûre et explique un problème dans une langue compréhensible par quelqu’un qui n’est pas spécialiste de la sécurité.
C’est utile parce que les compétences sont rares et que les développeurs travaillent sous contrainte de délai, où la sécurité est vite perçue comme un frein. Une faiblesse repérée pendant l’écriture coûte beaucoup moins cher qu’une faiblesse corrigée après un incident.
Cela ne dispense d’aucune étape. La revue de code, les tests, des règles explicites et une responsabilité clairement attribuée restent nécessaires. Et cela ne remplace pas un test d’intrusion : un assistant lit du code, il ne compose pas plusieurs faiblesses moyennes pour en faire un chemin d’attaque complet dans votre environnement réel. La différence entre un outil qui liste et un humain qui exploite est expliquée dans scan de vulnérabilités ou test d’intrusion.
L’IA pour la sensibilisation de vos collaborateurs
Une bonne sensibilisation à la cybersécurité n’est pas une présentation annuelle que tout le monde subit. L’IA aide à produire des scénarios réalistes mais sans danger, et surtout à les différencier.
Une entreprise peut préparer des messages simulés par métier : un scénario de facture fournisseur pour la comptabilité, un scénario de candidature piégée pour les ressources humaines, un scénario de commande urgente pour les équipes commerciales. Les collaborateurs s’exercent sur des situations qui ressemblent à leur travail, et non sur un exemple générique traduit de l’anglais. La même logique s’applique aux scénarios d’ingénierie sociale par téléphone ou par SMS, et à l’« arnaque au président », qui vise directement vos procédures de virement.
Là où l’IA atteint ses limites
Un modèle n’est pas infaillible. Il perd le contexte, classe une activité normale en incident, ou sous-estime un risque réel.
Les principaux risques d’une défense qui s’appuie sur l’IA sont :
- la confiance aveugle dans une recommandation,
- un outil mal paramétré, calibré sur un environnement qui n’est pas le vôtre,
- l’absence de contrôle humain,
- des données sensibles envoyées vers un service inadapté,
- les faux positifs, qui finissent par éteindre l’attention,
- une responsabilité que personne n’assume au moment de décider.
La règle tient en une phrase : l’IA propose et assiste, les personnes décident.
| Tâche | Ce que l’IA fait bien | Ce qui reste humain |
|---|---|---|
| Filtrage du phishing | Réduire le volume, marquer des motifs suspects | Juger ce qui passe, signaler, escalader |
| Supervision | Trouver des écarts et des liens dans de grands volumes | Définir ce qui est normal dans votre organisation |
| Réponse à incident | Résumer, hiérarchiser, reconstituer une chronologie | Décider du blocage, de la notification, de la communication |
| Revue de code | Signaler et expliquer des motifs risqués | Logique métier, enchaînements de failles, scénarios d’abus |
| Sensibilisation | Générer des scénarios par métier | Ton, contexte et suivi auprès des équipes |
Votre outil défensif est lui-même une cible
C’est le point que les articles de tendance oublient. Dès qu’un assistant lit vos journaux, vos tickets ou vos messages entrants pour les résumer, l’attaquant dispose d’un canal d’écriture vers ce modèle.
Une ligne de journal, un objet de courriel ou un champ de formulaire peuvent contenir des instructions destinées non pas à un humain, mais au modèle qui les lira. C’est ce que l’on appelle la prompt injection indirecte. Un attaquant peut chercher à faire minimiser une alerte, à faire produire une synthèse trompeuse, ou — dans une architecture agentique disposant d’outils — à déclencher une action qu’aucun analyste n’a demandée.
Les questions à poser à votre éditeur ou à votre équipe sont concrètes : quelles données entrent dans le modèle ? Quelles actions le système peut-il déclencher sans validation ? Que se passe-t-il si une entrée est hostile ? Ces questions relèvent exactement d’un test d’intrusion des intégrations LLM, et c’est l’objet de notre pentest LLM et sécurité de l’IA.
Ce que le RGPD attend d’une mesure qui repose sur l’IA
Dès qu’un filtre, une règle de détection ou un processus de réponse s’appuie sur un modèle, ce modèle devient une de vos mesures de sécurité. Et une mesure doit être démontrable.
L’article 32, paragraphe 1, point d), du RGPD demande, lorsque c’est approprié, « une procédure visant à tester, à analyser et à évaluer régulièrement l’efficacité des mesures techniques et organisationnelles pour assurer la sécurité du traitement ». Un modèle est précisément le type de mesure qui se dégrade sans que personne n’intervienne : le modèle est mis à jour, les données d’entraînement changent, les attaquants ajustent leurs formulations. Ce qui arrêtait l’essentiel des messages frauduleux l’an dernier ne le fait peut-être plus.
Deux autres points méritent votre attention. Le RGPD encadre les décisions fondées sur le seul traitement automatisé qui produisent des effets juridiques ou affectent significativement une personne : un blocage automatique du compte d’un salarié n’est pas une décision anodine. Et l’envoi de journaux vers un service d’IA hébergé hors de l’Union européenne soulève une question de transfert au titre du chapitre V du RGPD — une question qu’il vaut mieux traiter avant le déploiement qu’au moment d’un contrôle.
Le règlement (UE) 2024/1689 sur l’intelligence artificielle ajoute, pour les systèmes classés à haut risque, une exigence de contrôle humain. La qualification dépend de l’usage : faites qualifier le vôtre plutôt que de le supposer. La CNIL, de son côté, a publié des recommandations sur le développement des systèmes d’IA ; elles visent la conception, mais elles posent le cadre que vos équipes doivent tenir, à savoir une finalité définie, une base légale et une minimisation des données.
Tester périodiquement n’est donc pas une formalité administrative. C’est la seule manière de savoir si votre défense outillée par l’IA fait encore ce que vous croyez.
Ce qu’il faut mettre en place
1. Définissez quelles données peuvent entrer dans un outil d’IA.
Des informations sensibles n’ont rien à faire dans un service public choisi au hasard par un collaborateur pressé.
2. Écrivez des règles d’usage.
Vos équipes doivent savoir ce qui est autorisé et ce qui ne l’est pas. Une charte informatique qui ne dit rien de l’IA est aujourd’hui incomplète.
3. Utilisez l’IA là où elle réduit réellement le risque.
Filtrage du phishing, supervision, synthèse d’incident, revue de code, automatisation des tâches répétitives du SOC.
4. Maintenez un contrôle humain.
En particulier sur les incidents, le blocage de comptes et toute décision qui a un effet sur l’activité ou sur une personne.
5. Mesurez les résultats.
Vérifiez que l’IA réduit le nombre d’incidents et le délai de traitement, et pas seulement le nombre d’alertes affichées.
6. Gardez les mesures classiques.
Authentification multifacteur, sauvegardes testées, mises à jour, moindre privilège et zero trust restent le socle. Aucun modèle ne compense leur absence.
7. Testez périodiquement.
Un test d’intrusion ou un audit de vulnérabilités montre si la défense tient en conditions réelles. Chez Haxoris, le contre-audit est inclus dans le prix : après vos correctifs, nous revérifions les points remontés, sans surcoût.
L’IA ne remplace pas une culture de sécurité
Vous pouvez disposer d’excellents outils. Si personne n’ose signaler un message douteux, si les virements sont validés dans le désordre et si les comptes n’ont pas d’authentification multifacteur, l’IA ne vous sauvera pas.
La cybersécurité reste une combinaison de personnes, de processus et de technique. L’IA appartient à la technique ; elle doit être reliée au processus et comprise par les personnes. Un outil que vos équipes ne savent pas interroger produit des alertes que personne ne lit.
L’IA n’est pas un pilote automatique
L’erreur courante consiste à croire qu’un modèle réglera le sujet tout seul. La sécurité demande du contexte : quels systèmes sont critiques, qui a accès à quoi, quel comportement est normal ici et pas ailleurs, et ce qui constitue une exception acceptable.
C’est pour cela que le principe human-in-the-loop compte. L’IA recommande, alerte, classe ou explique. Une personne confirme, écarte, ou ajoute le contexte qui manquait. Sur la manière d’organiser concrètement ce travail au quotidien, voyez l’IA générative au service des analystes.
En résumé
L’intelligence artificielle va tenir une place croissante dans la défense. Elle filtre du phishing, repère des écarts, analyse des incidents, aide à trouver des vulnérabilités et rend la sensibilisation plus réaliste.
Ce n’est pas un bouclier magique. C’est un amplificateur. Si vos processus de sécurité sont solides, l’IA les rend plus rapides. S’ils sont désordonnés, elle accélère le désordre.
L’approche raisonnable tient en une ligne : servez-vous de l’IA, mais ne la laissez pas décider seule. Traitez-la comme une assistante, pas comme un pilote automatique — et vérifiez, comme le reste de votre dispositif, qu’elle résiste à quelqu’un qui cherche vraiment à la contourner. C’est exactement ce que nous faisons : demandez un devis et nous cadrons le périmètre avec vous.
