Mise à disposition et sécurité des applications d’IA : s’orienter dans l’architecture moderne de l’IA

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Au cours du premier semestre de cette année, les modèles de déploiement de l’inférence et une nouvelle architecture d’applications d’IA ont commencé à se standardiser, offrant ainsi une meilleure visibilité sur leurs répercussions futures, qu’il s’agisse du réseau, de la mise à disposition des applications ou de la sécurité. Les résultats de nos récentes recherches consacrées à l’IA nous confortent dans l’idée que l’inférence sera déployée à la fois sur site et dans le cloud (modèle autogéré), mais aussi utilisée par l’intermédiaire des offres des fournisseurs de cloud (modèle hébergé dans le cloud) et sous forme de service (modèle d’inférence en tant que service).

Cependant, l’architecture émergente de l’IA repose largement sur la génération augmentée par récupération (RAG), qui intègre des sources de données (graphes de connaissances et bases de données vectorielles) à l’architecture applicative. Les études indiquent que « 70 % des entreprises qui exploitent l’IA générative utilisent des outils et des bases de données vectorielles pour enrichir les modèles de base ». (Databricks, 2024)

Ce modèle architectural a quatre conséquences.

1. Augmente le nombre de charges de travail d’applications modernes dans l’entreprise.
2. Augmente considérablement le nombre d’API nécessitant une sécurisation.
3. Accroît l’importance stratégique du chemin de données Est-Ouest pour les technologies de mise à disposition et de sécurité des applications.
4. Introduit une nouvelle couche dans les architectures applicatives : la couche d’inférence. Il s’agit de la couche « modèle » mentionnée dans les premières piles technologiques d’IA. Toutefois, lors de l’exploitation d’applications d’IA, il est utile de distinguer un modèle en cours d’entraînement (processus de développement) d’un modèle en exploitation (processus d’exécution).

Il est important de noter que 90 % des défis auxquels les organisations sont confrontées en matière d’architecture d’IA ne sont pas nouveaux. Les changements nécessaires pour répondre aux attentes en matière de visibilité, de limitation du débit, de routage, etc. viennent compléter progressivement les capacités existantes dont disposent déjà la plupart des entreprises.

Parmi toutes les fonctionnalités nécessaires au déploiement et à la sécurisation des applications d’IA, j’estime que seules 10 % sont entièrement nouvelles, et que la quasi-totalité d’entre elles concerne les prompts et la nature non structurée du trafic des applications d’IA. Ce sont ces 10 % qui donnent naissance à de nouveaux services applicatifs, tels que la sécurisation, la gestion et l’optimisation des prompts, ainsi qu’à des fonctions liées à la sécurité des données. F5 a déjà démontré son engagement à répondre à ces besoins grâce à des partenariats avec Portkey et Prompt Security.

C’est également là que l’on voit apparaître les passerelles d’IA. La définition d’une passerelle d’IA et les fonctionnalités qu’elle apporte sur le marché varient selon le fournisseur de la « solution », mais, à l’instar des passerelles d’API, les passerelles d’IA tendent à réunir les fonctionnalités de sécurité et de routage des applications au sein d’un point de contrôle unique et stratégique pour les entreprises. Là encore, toutefois, les fonctionnalités de la « solution » sont principalement de nouvelles fonctionnalités complémentaires propres au trafic d’IA, les autres étant déjà existantes.

Ce qui est vraiment intéressant, à mes yeux, c’est le nouveau niveau, car c’est là que les fonctionnalités nouvelles et existantes de mise à disposition et de sécurisation des applications seront nécessaires.

En fait, l’introduction d’une nouvelle couche entraîne l’émergence d’une nouvelle architecture de centre de données dotée d’une infrastructure capable de fournir les ressources de calcul, de stockage et de réseau nécessaires pour exécuter l’inférence d’IA à grande échelle. C’est au sein de cette couche qu’apparaissent des concepts tels que les fabrics réseau pour l’IA, les usines d’IA ou quel que soit le nom que nous finirons par leur donner. Indépendamment de leur appellation, cette nouvelle architecture d’infrastructure permet notamment d’exploiter les architectures d’infrastructure existantes sur de nouveaux systèmes matériels. Il s’agit du point nº 4 dans le joli schéma fourni.

Mais de nouvelles capacités sont également nécessaires au niveau du point nº 2. Bien que la passerelle soit ici un chemin de données nord-sud assez classique, avec un besoin évident de mise à l’échelle, de sécurisation et de routage du trafic API (certes, cette API est destinée à l’inférence, mais cela reste une API), nous verrons probablement apparaître à ce stade de nouveaux algorithmes d’équilibrage de charge — ou, à tout le moins, de nouveaux critères de décision intégrés aux algorithmes existants.

Par exemple, le nombre de jetons et les fenêtres de contexte sont particulièrement importants pour comprendre les performances et la charge qu’une requête donnée impose au système destinataire, sans parler de l’incidence du nombre de jetons sur les coûts. Il est donc tout à fait logique de penser que ces variables pourraient être prises en compte dans toute décision d’équilibrage de charge ou de routage du trafic prise au point nº 2.

Le point n° 4 est peut-être le plus intéressant, car il nous ramène à l’époque où le matériel était mis à contribution pour décharger les serveurs des tâches réseau. Oui, c’est le retour de l’approche architecturale « laisser les serveurs servir ». Dans le monde moderne, cela signifie utiliser les DPU comme un système global sur lequel peuvent être déployés la fourniture et la sécurité des applications, afin de laisser le processeur du serveur d’inférence se consacrer, justement, à l’inférence. C’est un modèle que nous avons déjà vu et qui permettra de résoudre efficacement les éventuels problèmes de mise à l’échelle (et donc de performances) des services d’inférence.

L’impact de l’architecture de l’IA sur la fourniture et la sécurité des applications est à la fois banal et considérable. Banal, car les défis restent globalement les mêmes. Considérable, car elle introduit dans l’architecture des points supplémentaires où les organisations peuvent relever ces défis de manière stratégique.

La manière dont le secteur répondra à ces enjeux, aussi bien ordinaires que majeurs, façonnera l’avenir de la mise à disposition et de la sécurité des applications.

À propos de l’auteur

Lori Mac VittieIngénieur émérite et évangéliste en chef | F5

Lori MacVittie est ingénieure émérite et évangéliste en chef au sein du bureau du directeur technique de F5. Elle possède une expertise approfondie dans la fourniture d’applications, les stratégies d’automatisation et les infrastructures. Elle est réputée pour sa capacité à rendre la complexité intelligible, qu’elle définisse des garde-fous pour les agents d’IA, analyse des architectures multicloud fragiles ou explore les limites des systèmes évolutifs. Elle cumule plus de trente ans d’expérience dans le secteur, couvrant le développement d’applications, l’architecture informatique ainsi que l’exploitation des réseaux et des systèmes. Avant de rejoindre F5, elle a été rédactrice spécialisée dans les technologies et a reçu plusieurs distinctions. MacVittie est titulaire d’un master en informatique et est une autrice prolifique dont les publications couvrent la sécurité, le cloud et l’architecture d’entreprise. Elle est également une passionnée de jeux de société et de jeux vidéo, et assume pleinement ses avis bien tranchés sur le fromage.

Autres articles de Lori Mac Vittie