Déployer des LLM en entreprise : le framework SaaS

F5 Newsroom Staff

Le déploiement de modèles d’intelligence artificielle générative (IA générative), notamment de grands modèles de langage (LLM), à l’échelle de l’entreprise représente pour toute organisation une opportunité à haut risque, mais potentiellement très avantageuse, surtout en l’absence de mesures de protection supplémentaires ou de protocoles de sécurité de l’IA. La manière précise dont votre organisation doit franchir cette étape majeure dans l’univers de l’IA générative nécessite une planification rigoureuse.

Il serait peut-être judicieux pour votre organisation d’accéder au modèle d’IA par l’intermédiaire d’un fournisseur, selon le modèle du logiciel en tant que service (SaaS), afin d’éviter tout problème de configuration ou d’installation. Il pourrait également être préférable de déployer le modèle dans le cloud privé de votre organisation ou sur votre propre système, afin de lui permettre de contrôler la configuration et la gestion des API.

Cette série de trois articles de blog répondra à la question « Comment ? » : comment votre organisation doit-elle déployer les LLM à l’échelle de l’entreprise afin de maximiser le retour sur investissement ? Chaque article présentera les avantages et les inconvénients d’un modèle de déploiement courant, afin de vous permettre de l’évaluer au regard de la structure organisationnelle et commerciale de votre entreprise, ainsi que de ses besoins métier spécifiques. 

Définition du SaaS

Le modèle SaaS, ou logiciel à la demande, est sans doute la méthode la plus simple pour déployer des LLM du point de vue de votre équipe informatique, car le logiciel est mis à la disposition des utilisateurs via Internet. Le fournisseur prend en charge l’essentiel du travail et assure la maintenance du matériel, du modèle, du code qui exécute le modèle et des données utilisées par celui-ci. Bien que le déploiement d’un LLM selon le modèle SaaS puisse sembler être une excellente idée à tous égards, ce n’est pas la meilleure option pour toutes les organisations. Voici cinq avantages majeurs et cinq inconvénients importants à prendre en compte lorsque vous envisagez une approche de déploiement SaaS pour votre organisation.

Avantages

Déploiement rapide pour une réduction du délai de rentabilisation : Les solutions SaaS peuvent être mises en place et rendues opérationnelles rapidement et facilement, car l’application est déjà installée, configurée et disponible dans le cloud. Le déploiement d’un LLM sous forme de solution SaaS permet d’intégrer le modèle aux activités d’une organisation sans nécessiter d’infrastructure nouvelle ou modifiée.

Efficacité financière et opérationnelle : En règle générale, les LLM ne nécessitent pas d’importantes dépenses d’investissement initiales, car ils reposent sur un abonnement et ne requièrent aucun matériel ni logiciel spécifique, ce qui permet d’optimiser la gestion des ressources. Les mises à jour du système et certains aspects de la sécurité sont pris en charge par le fournisseur de services.

Facilement évolutifs et intégrables : Les LLM proposés sous forme de solutions SaaS permettent aux organisations de s’adapter à la demande des utilisateurs sans investissement supplémentaire important. Les formules d’abonnement flexibles sont courantes, et la gamme de plug-ins permettant une intégration aux capacités existantes des organisations ne cesse de s’élargir.

Favorise l’accessibilité et la collaboration : Les utilisateurs peuvent accéder au LLM depuis n’importe quel navigateur web, sur tout appareil connecté à Internet et où qu’ils se trouvent, dès lors qu’ils disposent d’une connexion Internet. Cela permet une collaboration continue entre les équipes et les différents fuseaux horaires. Certains LLM offrent aux utilisateurs un accès limité ou complet à leur historique de recherche afin de pouvoir le consulter facilement.

Facile à utiliser avec peu ou pas de formation : La plupart des LLM disposent d’une interface utilisateur semblable à celle d’un moteur de recherche, qui est donc très familière aux utilisateurs. Certains fournisseurs permettent aux utilisateurs de sélectionner la version du LLM qu’ils souhaitent utiliser en fonction de leurs besoins. Par ailleurs, certains LLM sont « conversationnels » et peuvent fournir du contenu en lien avec la requête précédente, tandis que d’autres traitent chaque requête comme une invite indépendante.

Inconvénients

Confidentialité et sécurité des données : L’utilisation de grands modèles de langage (LLM) pour des tâches sensibles peut exposer votre organisation à des risques de perte de données et d’atteinte à la vie privée. Le contenu envoyé aux LLM dans les requêtes peut être traité et conservé par le fournisseur, sans aucune garantie de protection contre une utilisation abusive ou une diffusion ultérieure.

Personnalisation et contrôles limités : Les LLM sont une technologie émergente et ont donc été conçus pour répondre aux besoins d’un très large éventail d’utilisateurs. Leur capacité à proposer des interactions personnalisées en fonction des besoins ou des préférences de l’organisation est donc encore en cours de développement. Les contrôles de sécurité ou les restrictions d’utilisation que les organisations pourraient souhaiter mettre en place, comme l’interdiction de certains contenus — par exemple, les noms de projets ou le code source dans les invites — ne sont pas encore disponibles, ce qui accroît l’exposition de l’organisation aux risques.

Augmentation des coûts : Bien que le modèle SaaS ne nécessite généralement pas d’investissement initial important, les frais d’abonnement peuvent augmenter au fil du temps en raison de hausses tarifaires ou de l’ajout d’utilisateurs au système, ce qui réduit la rentabilité à long terme. 

Latence et performances : Il n’est pas rare que les applications SaaS soient plus lentes que les applications locales. La latence doit donc faire l’objet d’une attention particulière, notamment pour les utilisations en temps réel des grands modèles de langage (LLM), telles que les services clients conversationnels ou les applications de traduction automatique. 

Connectivité : Ce point est aussi fondamental que crucial. Comme pour toute solution basée sur Internet, les performances fiables d’un LLM ne peuvent être assurées que si la connectivité du fournisseur de services est stable et suffisamment robuste pour résister aux ralentissements ou aux pannes.

Conclusion

Pour déterminer si les avantages du déploiement d’un LLM à l’échelle de votre entreprise dans le cadre d’une solution SaaS l’emportent sur les inconvénients, il convient d’examiner attentivement les ressources financières et techniques de votre organisation, ses besoins métier, ainsi que ses contraintes de sécurité ou autres contraintes opérationnelles.

À propos de l’auteur

F5 Newsroom Staff

Autres articles de F5 Newsroom Staff