Au cours des deux dernières années, nous avons vu des centaines de millions de personnes adopter les technologies d’IA. De ChatGPT à Gemini, ces outils se sont intégrés au quotidien professionnel de nombreuses personnes, dont moi-même. En tant qu’ingénieur, j’ai pu constater directement les gains de productivité significatifs qu’apporte l’utilisation des grands modèles de langage (LLM) pour des tâches telles que la prise en main de nouvelles bibliothèques, le déchiffrage de déclarations TypeScript complexes et la synthèse des bonnes pratiques relatives à diverses technologies.
Même si StackOverflow me manque énormément, je ne peux m’empêcher d’apprécier le fait d’avoir désormais un assistant enthousiaste et bienveillant qui semble toujours m’orienter dans la bonne direction, quelles que soient les imperfections ou ambiguïtés de mes questions ou demandes. Les grands modèles de langage (LLM) semblent respecter comme par magie la règle fondamentale qui consiste à commencer par tenter de répondre à la question posée, avant d’ajouter des commentaires ou des pistes supplémentaires.
Le défi de l’adoption de l’IA
Chez F5 Workforce AI Security, anciennement SurepathAI, comme dans d’autres entreprises à la pointe de la technologie, nous avons profondément intégré l’IA à différents processus de travail. Nous souhaitons réellement mieux comprendre ce que l’IA fait correctement, ce qu’elle fait mal et les erreurs qu’elle affirme avec assurance. Cependant, de nombreuses entreprises commencent tout juste à réfléchir à la portée et à l’impact potentiels de l’IA au sein de leurs propres réseaux. Les professionnels de l’informatique et les responsables savent que les employés utilisent ces outils, mais ignorent lesquels sont réellement utilisés. En bref, ils manquent d’une visibilité concrète sur les éléments suivants :
- Qui utilise l’IA, à quelle fréquence et pour quelles tâches
- Quelles informations ils partagent avec quels LLM
- Les risques potentiels que présentent ces interactions
Approches courantes qui échouent
Face aux préoccupations suscitées par ce type particulier de fuite de données, de nombreuses entreprises commencent généralement par rédiger une note invitant aimablement leurs employés à faire attention aux informations qu’ils transmettent aux LLM, en précisant, sous forme de listes à puces bien intentionnées, quelles informations sont considérées comme sensibles, relèvent de la propriété intellectuelle ou ne doivent tout simplement pas être partagées.
À l’autre extrémité du spectre, certaines entreprises redoutent le caractère opaque de l’IA et décident d’adopter d’emblée une politique de tolérance zéro interdisant strictement toute utilisation.
Ces deux approches échouent faute d’une réelle visibilité sur les pratiques d’utilisation. Sans données télémétriques concrètes, impossible de savoir si les employés respectent les directives ni de mesurer l’impact sur la productivité. Souvent, les employés ignorent ou comprennent mal ces directives, estimant parfois que les avantages l’emportent sur les risques perçus. Le caractère apparemment privé des interactions avec l’IA aggrave le problème, car les utilisateurs peuvent communiquer des informations sensibles sans en avoir conscience. Il est tout simplement trop facile d’envoyer des données personnelles ou confidentielles en ayant le sentiment que cela ne présente que peu, voire aucun risque.
Pourquoi la visibilité est importante
Plutôt que d’adopter une approche trop laxiste ou trop stricte, améliorer la visibilité sur l’utilisation de l’IA permet aux entreprises de prendre des décisions éclairées et applicables. Cette visibilité est essentielle, car elle vous permet de :
- Évaluez les risques en identifiant les services d’IA utilisés par les différents employés et services de votre entreprise
- Générez des profils de risque combinant la définition des employés et des groupes avec le contenu, l’action et l’intention des tâches
- Identifier et localiser les fuites potentielles de données sensibles et de propriété intellectuelle
- Obtenez des informations sur les gains de productivité en recensant les cas d’usage bénéfiques et les possibilités d’adoption à plus grande échelle
- Affinez les politiques en fonction des habitudes d’utilisation réelles
Chez F5 Workforce AI Security, anciennement SurepathAI, nous procédons comme suit :
- S’intégrer de manière transparente à votre réseau d’entreprise
- Fournir des informations détaillées sur l’utilisation de l’IA au sein de votre organisation
- Identifier les services, les utilisateurs et les départements spécifiques qui utilisent l’IA
- Analyser l’intention, le contenu et les risques de chaque tâche
- Génération de profils de risque fiables basés sur votre utilisation réelle et sur notre catalogue de centaines de grands modèles de langage (LLM) et de services d’IA accessibles au public
Vers la visibilité et au-delà
Un rapide coup d’œil à notre catalogue public de services révèle que 6 services sur 10 utilisent les données des utilisateurs pour entraîner leurs modèles, notamment ChatGPT et Gemini, et que 4 sur 10 autorisent une utilisation sans modération, ce qui signifie qu’ils ne disposent d’aucun garde-fou intégré empêchant le modèle de répondre lorsqu’il reçoit une requête considérée comme dangereuse ou malveillante.
Il ne fait aucun doute que l’élaboration d’une politique d’utilisation acceptable de l’IA constitue une excellente première étape. À mesure que vous investissez et améliorez votre visibilité, vous pouvez renforcer davantage votre posture de sécurité en prenant des décisions éclairées concernant :
- Quels services d’IA autoriser ou bloquer, pour quels employés et quels services
- Quels types de données sensibles, de tâches et d’intentions associer à des niveaux de risque
- Comment réagir lorsque vous détectez des interactions potentiellement risquées
C’est là qu’intervient F5 Workforce AI Security, anciennement appelée SurepathAI. En seulement 20 minutes environ, nous pouvons connecter votre réseau d’entreprise à notre plateforme afin de vous donner immédiatement une vue d’ensemble de l’utilisation de l’IA au sein de votre entreprise. Vous pourrez voir quels services sont utilisés, par qui, et même connaître le contenu de ces interactions. Nous vous permettons de recueillir des informations précieuses sans perturber les processus de travail ni les accès de vos collaborateurs. C’est une méthode non intrusive pour comprendre votre environnement actuel en matière d’IA et les risques potentiels.
Opportunité globale face au risque
Quelle que soit votre position dans le débat « Si vous ne pouvez pas le mesurer, vous ne pouvez pas le gérer », il ne fait aucun doute que bloquer l’accès à l’IA entraîne un coût d’opportunité élevé, tandis que demander à vos collaborateurs de gérer eux-mêmes leurs interactions avec l’IA est inefficace et chronophage.
Commencez par assurer la visibilité, et la politique suivra naturellement.
À propos de l’auteur

Articles de blog associés

IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.

Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.

Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.

Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.

Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.

Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.