Quel regard porte SecOps sur l'IA ?

Avec les nouvelles technologies, il est facile de s’enthousiasmer. Vous vous souvenez sûrement de la première fois que vous avez utilisé un grand modèle de langage (LLM), un navigateur web, ou de cette idée incroyable que vos données résident dans un « cloud ». Cependant, chaque innovation rassemble une équipe de professionnels de la sécurité qui trouve comment vous permettre de les utiliser en toute sécurité. On se laisse parfois emporter par les gros titres et les promesses de l’IA, souvent nombreuses, mais en définissant le rôle que F5 jouera dans la sécurité de l’IA, nous avons choisi de prendre du recul pour savoir comment la communauté de la sécurité perçoit l’IA.

Parce que nous sommes obsédés par nos clients ici chez F5, nous avons analysé chaque commentaire lié à l'IA de l'année écoulée (juillet 2024 - juin 2025) parmi les principaux utilisateurs de la plus grande communauté de professionnels de la sécurité sur Internet, r/cybersecurity de Reddit . Nous avons classé chaque commentaire et chaque utilisateur dans des catégories de sentiments et extrait les points faibles exprimés ou sous-jacents pour chacun.

La sécurité des données domine souvent la discussion, mais vous devez aussi accorder une grande importance à l'observabilité et à la détection des anomalies, qui restent des priorités majeures en IA pour SecOps. Alors que les fournisseurs mettent en avant ce que l’IA peut apporter aux processus de sécurité, vous devez chercher un équilibre indispensable : « Les agents de sécurité basés sur l’IA ont leurs limites, et il faut toujours un humain dans la boucle. » Un analyste a raconté comment l’IA lui a permis d’automatiser le triage L1 des alertes EDR, réduisant le temps moyen de résolution de 45 minutes à moins de deux, mais il a ajouté : « ce progrès ne s’est pas fait sans des garde-fous stricts, encore et encore. » La demande est claire : vous devez assurer une visibilité et une traçabilité permanentes des interactions avec l’IA, automatiser les tâches répétitives, tout en réservant les décisions stratégiques à l’humain. 

12 % supplémentaires des points sensibles ont identifié le comportement des modèles et la qualité de leurs résultats comme un risque de sécurité. Les principales préoccupations portaient sur les hallucinations, les lacunes de précision et les sorties nuisibles, mais ce qui prime, c’est l’escalade de privilèges : l’IA accédant à des données ou exécutant des tâches sans en avoir l’autorisation. C’est pourquoi SecOps réclame des garde-fous concrets : une modération du contenu adaptée au risque métier, une cohérence des politiques et des permissions claires pour les modèles et agents.

En lisant entre les lignes, et parfois même à mots ouverts, vous remarquerez que les équipes de sécurité attendent des fournisseurs un niveau d’exigence supérieur :

• Priorisez la sécurité des données : Protection contre la perte de données (DLP) pour l’application des politiques d’IA et les contrôles d’accès basés sur le principe du moindre privilège.
• Aucun « lavage d’IA » : Prouvez vos capacités en sécurité et conformité avec des faits concrets, pas des promesses illusoires.
• Assurez-vous que l'observabilité soit prête pour l'audit et pleinement exploitable : Simplifiez et rendez efficace l'intégration aux flux SIEM/SOAR existants tout en garantissant une visibilité complète sur chaque interaction.
• Flexibilité pour les personnes impliquées : Concevez en tenant compte des priorités d’impact, pas seulement de la rapidité.
• Résilience face aux attaques ciblées : La surface d’attaque de l’IA évolue constamment, et vous devez faire évoluer vos solutions au rythme des nouvelles menaces.
• Simplifiez la gestion des politiques.  Respectez les politiques d'entreprise et les cadres réglementaires sans effort manuel.