Du chaos à la cohésion : maîtriser la prolifération numérique et les risques liés à l’IA

F5 Newsroom Staff

La prolifération numérique n’est pas un phénomène nouveau. De nombreuses organisations, probablement la plupart, y ont été confrontées au fil de leur croissance. Les équipes et les services ajoutent des applications, des outils et des solutions conçus pour des besoins spécifiques sans en informer le service informatique, et ces outils ne s’intègrent pas efficacement aux systèmes existants. Il arrive que les équipes informatiques déploient des applications dont certaines fonctions font double emploi, tandis que d’autres restent inutilisées. Certaines applications finissent parfois par ne plus être utilisées et deviennent des applications zombies au sein du système : pas tout à fait mortes, mais jamais mises à jour ni supprimées, et truffées de vulnérabilités. Et parfois, ce ne sont ni l’organisation ni ses équipes qui sont en cause, mais le contexte global. L’avènement du cloud pour le calcul, le stockage, la collaboration et bien d’autres usages, suivi de la pandémie de Covid, du basculement massif vers le télétravail et de la gouvernance désordonnée des systèmes durant cette période chaotique, a indéniablement contribué à l’explosion de la prolifération numérique dans toutes les organisations, en particulier dans le domaine de la sécurité.

À première vue, le déploiement de plusieurs outils au sein de l’infrastructure de cybersécurité d’une organisation peut sembler constituer une approche rationnelle, prudente et exhaustive. Toutefois, la multiplication d’outils et de solutions de sécurité distincts au sein d’une infrastructure peut engendrer des difficultés et des risques importants, notamment :

• Des solutions qui fonctionnent de manière isolée, sans pouvoir communiquer ni partager d’informations entre elles et qui, par conséquent, ne permettent pas d’obtenir une vue d’ensemble de la posture de sécurité de l’organisation. Cette fragmentation entrave la mise en corrélation et l’analyse des événements et alertes de sécurité, ce qui entraîne des retards dans la réponse aux incidents, complexifie la gestion des incidents de sécurité et peut conduire à ce que certaines menaces passent inaperçues.
• Le manque d’intégration et de visibilité complique la surveillance et le contrôle des flux de données, créant ainsi des angles morts dans lesquels des données sensibles peuvent fuiter ou être consultées sans autorisation appropriée.
• La redondance, qui entraîne des mesures de sécurité contradictoires ou incohérentes, un gaspillage des ressources, une complexité accrue ainsi que des difficultés à assurer la maintenance et la mise à jour des systèmes de sécurité.
• Des outils et/ou protocoles d’autorisation incohérents, susceptibles d’accorder par inadvertance l’accès à des données critiques à des personnes non autorisées.

Un examen minutieux suivi d’une consolidation sans concession afin de rationaliser l’infrastructure de sécurité constitue clairement une voie à suivre. Mais même cette approche comporte des écueils : lorsqu’une nouvelle technologie, telle que l’intelligence artificielle générative (GenAI), est introduite dans l’écosystème numérique d’une organisation, aucun élément du dispositif de sécurité existant ne peut être utile. Les risques liés au déploiement à l’échelle d’une organisation d’un modèle de GenAI ou d’un grand modèle de langage (LLM), sans aucune mesure de sécurité en place, sont bien documentés : perte involontaire de propriété intellectuelle ou de données exclusives, confidentielles ou sensibles en raison de requêtes mal formulées ; introduction de code défectueux, voire malveillant, par le biais de réponses de LLM que les employés ne sont pas en mesure d’évaluer ; diffusion involontaire d’informations fausses ou inexactes tirées de la réponse d’un LLM, mais non vérifiées ; et tant d’autres encore.

Il n’est pas surprenant que de nouveaux risques nécessitent de nouvelles mesures. Ces mesures émergentes devraient comprendre, au minimum, des solutions techniques, un cadre de gouvernance et des efforts continus, tels que :

• Des outils d’analyse spécialisés pour assurer la modération et le filtrage du contenu des requêtes saisies et des réponses du modèle, afin d’identifier et de bloquer celles qui contiennent du contenu malveillant ou autrement inapproprié
• Des lignes directrices éthiques qui garantissent que les interactions des utilisateurs avec le modèle sont conformes aux valeurs et aux normes de l’organisation
• Fonctionnalités de vérification des faits permettant de contrôler les informations et de signaler les inexactitudes ou les fausses informations avant leur intégration dans les contenus de l’entreprise
• Indépendance vis-à-vis des modèles afin d’éviter la dépendance à un fournisseur et les problèmes liés aux limitations des prestataires
• Une visibilité complète sur l’ensemble du système afin que le personnel de sécurité puisse voir ce qui se passe en temps réel
• Un ensemble complet de politiques et de procédures régissant l’utilisation éthique et responsable des modèles afin de garantir la transparence, la responsabilisation et le respect des exigences de l’entreprise, du secteur ou de la réglementation
• Des contrôles d’accès basés sur les rôles ou sur des politiques afin de garantir que seul le personnel autorisé puisse accéder aux modèles, aux données et aux fonctionnalités dont il a besoin pour exercer ses fonctions
• Fonctionnalités permettant de suivre et d’auditer les interactions des utilisateurs avec les contenus afin d’identifier les vulnérabilités, d’évaluer les risques et de mettre en œuvre les mesures de protection appropriées.

Plus important encore, ces mesures doivent pouvoir être adaptées aux besoins spécifiques, au profil de risque et à l’environnement réglementaire de chaque organisation. Les solutions F5 de sécurité de l’IA à l’exécution, indépendantes des modèles, offrent des fonctionnalités de sécurité complètes au sein d’une solution unique, facile à installer et à utiliser, pour les organisations qui emploient des modèles d’IA, quels qu’en soient le nombre ou le type : grands modèles de langage (LLM), modèles multimodaux, génération augmentée par récupération (RAG), modèles affinés, internes, externes, privés ou open source. Les solutions F5 assurent une observabilité complète de l’ensemble du système, permettant aux administrateurs de visualiser chaque modèle et son activité.

F5 met en place de solides garde-fous afin de se protéger contre les menaces courantes comme émergentes. Par exemple, des contrôles d’accès fondés sur des politiques limitent l’accès aux modèles aux personnes et aux groupes désignés par les administrateurs, tout en permettant à ces derniers de définir des limites de débit afin de surveiller et de réguler l’utilisation des modèles et de prévenir les attaques par déni de service (DoS) visant les modèles. Des outils d’analyse personnalisables examinent les contenus entrants et sortants afin de garantir que les données personnelles ou d’entreprise confidentielles ne quittent pas l’organisation et qu’aucun contenu malveillant, suspect ou autrement inacceptable n’y pénètre. D’autres outils d’analyse examinent les invites d’IA afin de détecter les contenus qui, sans être préjudiciables à l’entreprise, ne correspondent pas à ses valeurs ou ne sont pas conformes aux usages professionnels. 

Toutes les requêtes et réponses sont analysées par les scanners, puis expurgées, bloquées ou approuvées selon les seuils définis par l’organisation. Toutes les interactions effectuées sur la plateforme sont également enregistrées afin de permettre aux administrateurs de les examiner et de garantir leur auditabilité et leur traçabilité. Notre bot indépendant des modèles s’intègre parfaitement aux outils de travail tels que Slack et Microsoft Teams, permettant aux utilisateurs d’accéder à tous les modèles disponibles directement depuis ces outils. Il offre ainsi une sécurité renforcée et des performances sans compromis, tout en stimulant la productivité, la communication et l’innovation. Cette solution unique constitue une base solide pour adopter une approche proactive et globale de la sécurité, capable d’atténuer efficacement les risques liés au déploiement de modèles d’IA générative. Cliquez ici pour en savoir plus sur nos solutions de sécurisation et d’exploitation de l’IA générative à l’exécution.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff