Pris isolément, sans mesures de protection ni protocoles de sécurité supplémentaires pour l’IA, le déploiement de modèles d’IA générative, en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable.
Mais la manière précise dont votre organisation doit franchir cette étape majeure dans l’univers de l’IA générative nécessite une planification minutieuse. Il serait peut-être préférable, sur le plan organisationnel, d’accéder au modèle par l’intermédiaire d’un fournisseur, selon le modèle du logiciel en tant que service (SaaS), afin d’éviter tout problème de configuration ou d’installation. Il pourrait également être plus judicieux de déployer le modèle dans le cloud privé de votre organisation ou sur son réseau (sur site), afin de lui permettre de contrôler la configuration et la gestion des API.
Cette série de trois articles de blog répondra à la question « Comment ? » : comment votre organisation doit-elle déployer les LLM à l’échelle de l’entreprise afin de maximiser le retour sur investissement ? Chaque article présentera les avantages et les inconvénients d’un modèle de déploiement courant, afin de vous permettre de l’évaluer au regard de la structure organisationnelle et commerciale de votre entreprise, ainsi que de ses besoins métier spécifiques.
Définition des API
Une interface de programmation d’application (API) est, par essence, une connexion numérique entre deux appareils qui leur permet d’échanger des informations. Le logiciel d’une API comprend des définitions qui déterminent les informations transmises entre les appareils (par exemple, l’appareil client qui envoie la requête et l’appareil serveur qui renvoie la réponse), ainsi que des protocoles définissant la manière dont ces informations doivent être transmises (par exemple, l’URL ou le point de terminaison de l’appareil destinataire, ainsi que la syntaxe, la formulation ou le langage que la requête et la réponse doivent utiliser). Cela permet notamment aux utilisateurs finaux de se connecter à des applications pour acheter des articles sur un site web, de réserver un trajet avec chauffeur ou, dans le cas d’un grand modèle de langage (LLM), de soumettre une requête et de recevoir une réponse, sans avoir à comprendre comment ni pourquoi le système fonctionne. Les API peuvent être surveillées et sécurisées, de sorte que les données présentes sur l’appareil du client ne sont jamais entièrement exposées à l’appareil serveur.
Définition du déploiement sur site
Un système sur site signifie que l’application, en l’occurrence le LLM, est installée sur l’infrastructure de l’organisation (serveurs) et qu’elle est accessible à tous les utilisateurs ayant accès au réseau de l’organisation et à l’application. Certains systèmes sur site sont isolés ou « déconnectés » de tout accès ouvert à Internet, bien qu’ils puissent être connectés par des moyens sécurisés.
Avantages
Sécurité des données et conformité : L’hébergement de grands modèles de langage (LLM) sur vos propres serveurs vous garantit un contrôle total sur vos données et sur les protocoles de sécurité qui les protègent contre les menaces internes comme externes. Cela est particulièrement crucial pour les organisations soumises à des réglementations strictes en matière de protection des données, notamment dans les secteurs de la santé ou de la finance.
Personnalisation et contrôle : Avec une installation sur site, vous pouvez personnaliser le ou les LLM afin de les adapter aux tâches spécialisées, aux exigences et aux autres besoins de votre organisation, ainsi que configurer et gérer les API.
Faible latence : Les LLM déployés sur site offrent souvent une latence plus faible, ce qui est essentiel pour certaines applications en temps réel, telles que la traduction instantanée, l’analyse en temps réel ou les opérations de service client reposant sur des chatbots.
Intégration des données : L’intégration du ou des LLM aux bases de données et aux systèmes internes existants peut s’effectuer sans préoccupations liées à la sûreté et à la sécurité lors du transfert des données.
Maîtrise et prévisibilité des coûts : La mise en place initiale d’une solution sur site peut être coûteuse, mais l’absence de frais récurrents liés à des tiers, à des abonnements ou à l’hébergement — susceptibles d’augmenter — ainsi que de problèmes de dépendance vis-à-vis d’un fournisseur peut rendre cette solution plus économique à long terme. Avec un modèle sur site, l’automatisation des tâches et l’ajustement fin du modèle à d’autres usages sont plus simples, ce qui permet d’accroître le nombre de tâches contribuant aussi bien à la réduction des coûts qu’à la génération de revenus.
Inconvénients
Coût initial élevé : La mise en place du matériel et des logiciels nécessaires en local, notamment l’aménagement d’un espace physique sécurisé et d’une alimentation électrique adaptée pour un LLM sur site, peut être coûteuse et chronophage.
Exigences en matière de maintenance : Une solution sur site nécessite une maintenance continue et implique des coûts d’exploitation, notamment pour les réparations matérielles, les mises à jour logicielles et les mesures de sécurité, ce qui peut mobiliser des ressources considérables.
Complexité et évolutivité : La mise à l’échelle des LLM sur site peut être complexe et coûteuse, nécessitant souvent l’achat de matériel supplémentaire et des interruptions de service pour effectuer les mises à niveau, car l’augmentation ou la réduction de la capacité ne peut pas se faire à la demande.
Accessibilité limitée : Les solutions sur site peuvent ne pas être facilement accessibles, ou ne pas l’être de manière sécurisée, depuis différents endroits, et peuvent nécessiter des réseaux privés virtuels (VPN) ou d’autres canaux sécurisés pour l’accès à distance. Les défaillances des systèmes locaux, dues par exemple à des événements météorologiques ou à d’autres problèmes, peuvent compromettre la connectivité, à moins que l’organisation n’ait prévu et maintenu des dispositifs de redondance essentiels.
Conclusion
Les avantages du déploiement sur site d’un LLM à l’échelle de votre entreprise doivent être évalués en tenant soigneusement compte des ressources financières et techniques de votre organisation, de ses besoins métier, ainsi que de ses contraintes de sécurité ou autres contraintes opérationnelles.
À propos de l’auteur
Articles de blog associés
F5 rejoint le projet PQC du NIST pour contribuer à l’élaboration de normes résistantes aux attaques quantiques
En rejoignant le consortium du projet « Migration to PQC » du NIST, F5 contribue à élaborer des recommandations pratiques pour un monde résistant aux menaces quantiques.
La dernière version de F5 Distributed Cloud Bot Defense offre des fonctionnalités et des améliorations de nouvelle génération
Les mises à jour de la console de F5 Distributed Cloud Bot Defense améliorent la gestion des menaces automatisées et l’intégration dans des cadres de sécurité plus larges.
La nouvelle surface de risque liée à l’IA : invisible, autonome et déjà à l’intérieur
James White, vice-président de l’ingénierie chez F5 À mi-parcours de l’année 2025, le moment est bien choisi pour dresser un état des lieux de l’adoption de l’IA en entreprise et de la sécurité de l’IA. L’utilisation de l’IA générative est désormais la norme dans les entreprises De manière générale, les entreprises possèdent au moins une compréhension élémentaire de l’IA générative. Elles savent ce qu’elle est et où elle peut […]
Évaluation des LLM : renforcer la confiance grâce à la notation de sécurité
À mesure que l’adoption de l’IA s’accélère dans les entreprises, l’évaluation des LLM ne porte plus uniquement sur leurs performances, mais aussi sur la confiance qu’ils inspirent. Les équipes de sécurité doivent évaluer non seulement les performances d’un modèle, mais aussi la sûreté de son comportement. Pourtant, la plupart des cadres d’évaluation se concentrent sur des critères de précision, laissant les facteurs de sécurité et de risque dans le flou ou sans mesure.
Évaluer le niveau de préparation de votre organisation à la sécurité de l’IA
Dans un paysage de l’intelligence artificielle (IA) en constante évolution, il est non seulement important, mais impératif de savoir si votre organisation est prête à instaurer et à soutenir une culture de la sécurité de l’IA. À mesure que les technologies d’IA progressent, elles font émerger une multitude de nouveaux défis de sécurité qui, pour être gérés efficacement, exigent une approche réfléchie, globale et proactive […]
Déployer des LLM en entreprise : via une API dans un cloud privé
Pris isolément, sans mesures de protection spécialisées ni protocoles de sécurité en place, le déploiement de modèles d’IA générative (GenAI), en particulier de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très rentable. La manière précise dont votre organisation doit franchir ce grand pas dans l’univers de la GenAI nécessite une planification mûrement réfléchie. Peut-être serait-il […]