Cet article de blog est le sixième d’une série consacrée à la fourniture de données pour l’IA.
Les pipelines d’intelligence artificielle ne s’arrêtent pas lorsque les données parviennent à un modèle. À bien des égards, c’est là que commence le travail le plus difficile.
Une fois les données ingérées, transformées et mises à disposition pour l’entraînement ou l’inférence, les organisations doivent encore les intégrer à des applications d’IA destinées aux utilisateurs, aux partenaires et aux systèmes, à grande échelle. Ces applications permettent désormais d’améliorer considérablement l’expérience client, d’automatiser les workflows et d’éclairer les décisions en temps réel. Par conséquent, la disponibilité, les performances, la sécurité et la gouvernance restent des préoccupations majeures en matière de mise à disposition des applications.
Pour fournir des applications d’IA fiables, il ne suffit pas de disposer des modèles ou des infrastructures les plus récents et les plus performants. Il faut également une couche de contrôle capable de gérer intelligemment le trafic lié à l’IA, de protéger les ressources limitées et de s’adapter à des environnements extrêmement dynamiques.
C’est là que le contrôleur de mise à disposition d’applications (ADC) continue de jouer un rôle central
Pourquoi la mise à disposition des applications d’IA est différente
Les applications traditionnelles traitent généralement des requêtes prévisibles et de courte durée. Les applications d’IA se comportent très différemment. Au fil de mes voyages à travers le monde et de mes échanges avec de nombreuses personnes ayant développé des applications d’IA, j’ai relevé plusieurs points communs dans ces conversations.
Le trafic lié à l’IA est souvent irrégulier, avec des pics soudains. Les requêtes peuvent contenir des prompts volumineux et beaucoup de contexte. Les réponses peuvent être diffusées en continu plutôt que renvoyées en une seule fois. Une même requête peut solliciter plusieurs services, notamment des systèmes de recherche d’informations, des services d’embedding et des outils en aval. En arrière-plan, les charges de travail d’inférence mobilisent des ressources coûteuses et limitées en capacité, telles que les GPU.
Les applications d’IA introduisent également une nouvelle notion de session. Les données de session ne sont plus conservées sur un serveur unique ; elles se trouvent désormais dans le contexte transmis avec la requête et la réponse. Si cela allège la charge des serveurs d’inférence, cela implique aussi d’intégrer une intelligence considérable à la couche de mise à disposition des applications. L’ADC fait désormais partie intégrante de l’application.
Les défaillances des systèmes d’IA sont elles aussi rarement totales. Un cluster d’inférence peut être opérationnel, mais certains de ses nœuds peuvent être surchargés. Un service de récupération de données peut répondre lentement. Une région donnée peut être saturée tandis que les autres continuent de fonctionner normalement. Sans mécanismes intelligents de gestion de la distribution, ces défaillances partielles dégradent rapidement l’expérience utilisateur et font grimper les coûts.
À grande échelle, la mise à disposition d’applications d’IA devient un enjeu systémique, et non plus seulement un enjeu de réseau.
L’ADC comme plan de contrôle des applications d’IA
Un ADC fournit un plan de contrôle centralisé qui s’intercale entre les clients et les services d’IA. Au lieu de se contenter d’acheminer le trafic, il régit activement la manière dont les applications d’IA sont utilisées.
Les plateformes telles que F5 BIG-IP gèrent le trafic lié à l’IA dans les environnements hybrides et cloud natifs, en appliquant les politiques de manière cohérente tout en s’adaptant en temps réel à l’évolution des conditions. F5 BIG-IP est à la fois un ADC et un composant central de la F5 Application Delivery and Security Platform.
Dans l’architecture de référence de F5 pour l’IA, BIG-IP sert de point d’entrée aux applications d’IA. Il gère l’accès aux points de terminaison des modèles, aux services de récupération et aux API connexes, en veillant à ce que le trafic soit acheminé efficacement, sécurisé de manière appropriée et surveillé en continu.
Gestion intelligente du trafic pour les charges de travail d’IA
La mise à disposition d’applications d’IA impose de nouvelles exigences en matière de gestion du trafic. Un simple équilibrage de charge à tour de rôle ne suffit plus. (Nous expliquons pourquoi le stockage pour l’IA nécessite une nouvelle approche de l’équilibrage de charge dans ce précédent article de blog de la série.)
Les contrôleurs de mise à disposition d’applications (ADC) permettent d’orienter intelligemment les requêtes en fonction de l’état des systèmes back-end, de leur proximité géographique, de leur capacité et de règles sémantiques. Les requêtes peuvent être acheminées vers des versions de modèles, des pools d’inférence ou des régions spécifiques, ce qui permet aux équipes d’introduire de nouveaux modèles en toute sécurité au moyen de déploiements canary ou progressifs. Lorsqu’un système back-end se dégrade, le trafic peut être redirigé automatiquement sans attendre une panne complète.
Cette approche est essentielle lorsque les ressources backend sont rares et coûteuses. Au lieu de surdimensionner les ressources GPU pour absorber les pics de charge, les entreprises peuvent utiliser des mécanismes de contrôle au niveau des ADC afin de lisser le trafic, de détourner les requêtes des nœuds surchargés et de préserver la stabilité globale du système.
Sécurité et gouvernance au point d’entrée de l’IA
Chaque point de terminaison d’une application d’IA reste un point de terminaison applicatif, souvent particulièrement attrayant pour les cybercriminels.
À mesure que l’adoption de l’IA progresse, de nouvelles formes d’abus se développent également. Les attaques visant à épuiser les ressources financières, la collecte automatisée de données, l’inondation de prompts et l’accès non autorisé à des modèles premium deviennent des préoccupations courantes. Ces risques ne peuvent pas être traités uniquement au sein du modèle lui-même.
Les contrôleurs de mise à disposition d’applications (ADC) constituent un point d’application naturel des contrôles de sécurité et de gouvernance. L’authentification, l’autorisation, la limitation du débit, la protection des API et celle des modèles peuvent toutes être mises en œuvre de manière cohérente avant que le trafic n’atteigne les services d’IA. Cela réduit les risques tout en préservant la flexibilité des équipes applicatives.
Point important, les ADC peuvent constituer un emplacement idéal pour intégrer les objectifs de gouvernance. Les organisations peuvent appliquer des quotas au niveau des locataires, donner la priorité aux charges de travail critiques et aligner l’utilisation de l’IA sur les politiques et les contraintes budgétaires, sans avoir à réécrire les applications ni à réentraîner les modèles.
Optimisation des performances pour l’IA interactive
À mesure que l’IA devient plus interactive, ses performances deviennent perceptibles par les utilisateurs.
Les pics de latence, les réponses bloquées et les interruptions de flux entament immédiatement la confiance. Les ADC contribuent à optimiser les performances en gérant les connexions persistantes, en déchargeant le traitement TLS et en prenant efficacement en charge les protocoles de streaming. Ils peuvent détecter rapidement la saturation des systèmes back-end et réacheminer le trafic avant que les utilisateurs ne constatent une dégradation.
En dissociant les problématiques de diffusion de la logique applicative, les équipes peuvent ajuster dynamiquement les performances à mesure que les charges de travail évoluent.
Découverte de services et intégration à Kubernetes
La plupart des applications d’IA s’exécutent sur Kubernetes, où les services s’adaptent dynamiquement à la charge et où les points de terminaison changent fréquemment.
Les contrôleurs de mise à disposition d’applications (ADC) s’intègrent à Kubernetes pour détecter automatiquement les services, suivre les événements de mise à l’échelle en temps réel et acheminer le trafic vers les pods ou services appropriés à mesure qu’ils apparaissent et disparaissent. Kubernetes propose des mécanismes permettant d’exploiter l’intelligence d’inférence, dont F5 tire parti. Grâce à cette intégration, F5 peut étendre des politiques cohérentes de mise à disposition et de sécurité au-delà du cluster, dans des environnements hybrides et multicloud.
Pour les charges de travail d’IA, ce plan de contrôle externe est particulièrement précieux. Il dissocie la gestion du trafic et l’application des politiques des clusters individuels, permettant ainsi une visibilité et une gouvernance centralisées, même lorsque les services d’IA évoluent rapidement et de manière indépendante.
Pourquoi choisir F5 pour la mise à disposition d’applications d’IA
F5 réunit la gestion du trafic, la sécurité et l’observabilité au sein d’une plateforme unique et éprouvée. Pour les applications d’IA, cela se traduit par des performances prévisibles, une protection renforcée des précieuses ressources back-end et une gouvernance cohérente dans tous les environnements.
En intervenant au niveau de la couche de diffusion, F5 permet aux entreprises de déployer l’IA à grande échelle en toute sécurité, sans freiner l’innovation. Les équipes peuvent adopter de nouveaux modèles, prendre en charge de nouveaux cas d’usage et étendre leurs activités à plusieurs clouds, tout en gardant la maîtrise des coûts, des risques et de la fiabilité. (En savoir plus sur F5 et son rôle dans la diffusion des applications d’IA).
Du carburant raffiné à une livraison fiable
Précédemment, dans notre série consacrée à la fourniture de données pour l’IA, nous avons comparé le parcours de l’IA à l’extraction au sein d’un oléoduc, où l’ingestion, la transformation et la livraison permettaient de préparer le carburant. Les données étaient extraites, raffinées et prêtes à l’emploi.
La mise à disposition des applications d’IA constitue la dernière étape de ce parcours. C’est le réseau de distribution qui garantit que le carburant raffiné parvient effectivement aux moteurs, de manière sûre, efficace et à grande échelle. Les pompes, les vannes, les systèmes de comptage et la surveillance sont tout aussi importants que la capacité de raffinage.
Les contrôleurs de mise à disposition des applications fournissent cette couche de contrôle pour l’IA. Ils régulent les flux, préviennent les surcharges, appliquent les politiques et maintiennent les niveaux de service à mesure que la demande augmente. Sans eux, même les modèles les plus avancés peinent à générer une valeur métier constante.
À grande échelle, la réussite de l’IA ne dépend pas seulement des capacités des modèles, mais aussi de la fiabilité avec laquelle celles-ci sont mises à disposition.
F5 fournit et sécurise les applications d’IA partout
Pour en savoir plus sur nos solutions de distribution de données pour l’IA, consultez notre page consacrée aux solutions de distribution de données et d’infrastructure pour l’IA .
L’engagement de F5 en faveur de l’IA ne se limite pas à la fourniture de données. Découvrez comment F5 sécurise et fournit des applications d’IA partout.
N’hésitez pas à consulter les autres articles de blog de notre série consacrée à la mise à disposition des données pour l’IA :
Alimenter le pipeline de données d’IA avec F5 et un stockage compatible S3
Optimiser l’IA en éliminant les goulots d’étranglement dans les charges de travail modernes
Suivi des pipelines de données d’IA, de l’ingestion à la livraison
Pourquoi le stockage dédié à l’IA exige une nouvelle approche de l’équilibrage de charge
Bonnes pratiques pour optimiser l’infrastructure d’IA à grande échelle
Sécurisez votre pipeline de données d’IA sans ralentir vos pipelines
À propos de l’auteur
Articles de blog associés
IA et cybersécurité
Découvrez comment l’IA et la cybersécurité fonctionnent de concert. Découvrez comment l’IA et le machine learning (ML) permettent à votre entreprise de rester sécurisée, efficace et prête à innover avec F5.
Suivre le rythme de l’innovation de pointe ne suffit pas à faire avancer l’entreprise : se préparer à la réglementation de l’IA
À mesure que la réglementation de l’IA évolue, réfléchissez aux mesures de protection que vous pouvez mettre en place dès maintenant.
Les contrôleurs de mise à disposition d’applications reviennent au cœur des priorités stratégiques
L’IA rebat les cartes de la livraison d’applications. Nirav Shah de F5 revient sur la nouvelle étude de Gartner® consacrée aux ADC et explique ce qu’elle implique pour les décisions des entreprises en matière d’infrastructure.
Ce que nos clients nous disent sur l’IA, le multicloud hybride et la sécurité des applications
Le nouveau vice-président senior du marketing produit de F5 explique les pressions liées à l’IA auxquelles sont confrontés les dirigeants d’entreprise et ce dont ils ont besoin pour renforcer leur organisation.
Cinq niveaux de cyberrésilience antifragile transforment les pratiques en résultats
Découvrez comment cinq niveaux de résilience antifragile transforment les perturbations en comportements adaptatifs qui limitent les défaillances et renforcent l’architecture multicloud hybride.
Optimiser les pipelines d’IA en éliminant les goulets d’étranglement dans les charges de travail modernes
À mesure que les charges de travail d’IA montent en puissance, les entreprises constatent des ralentissements provenant du pipeline de données en amont qui alimente le modèle d’IA. Voici comment F5 BIG-IP peut les aider.