Découvrez comment un fournisseur mondial de services cloud améliore la diffusion des données grâce à F5

Hunter SmitResponsable senior du marketing produit | F5

Le stockage objet a été conçu comme une solution abordable et durable pour stocker des données, et non comme le service le plus sollicité du centre de données. Jusqu’à l’avènement de l’IA, cette distinction importait peu, car les flux qui le sollicitaient — sauvegardes, archives, contenus multimédias et ressources applicatives, par exemple — étaient peu exigeants. Puis sont arrivées les charges de travail liées à l’entraînement et à l’ajustement fin des modèles, ainsi qu’à la génération augmentée par récupération (RAG), et les schémas de lecture/écriture sont passés d’un accès occasionnel à une saturation continue.

Ce changement pose un problème économique. Votre cluster de GPU est probablement l’actif le plus coûteux de votre infrastructure, et il ne produit rien tant qu’il attend des données. Chaque ralentissement dans le circuit de stockage se répercute sur du matériel dont le coût horaire dépasse celui de presque tous vos autres systèmes, ce qui signifie que les rôles se sont inversés. La couche de diffusion située devant votre stockage détermine désormais la rentabilité de vos ressources de calcul les plus coûteuses, et ce circuit n’est plus un simple rouage technique, mais un produit à part entière.

Comment un opérateur de stockage hyperscale a réagi

L’un des clients de F5, un fournisseur mondial de services cloud, exploite un service de stockage objet compatible S3 dans plusieurs dizaines de centres de données. Ce service constitue le principal référentiel des données non structurées de ses clients et sert de plus en plus à alimenter leurs pipelines d’entraînement de modèles. Chaque opération de lecture et d’écriture passe par une couche d’équilibrage de charge avant même d’atteindre un nœud d’indexation ou de stockage. Or, cette couche, reposant sur des appliances Citrix NetScaler, était devenue le principal goulet d’étranglement.

Les exigences n’avaient rien d’inhabituel. Elles étaient ordinaires, mais les contraintes économiques liées à leur mise en œuvre à une telle échelle les rendaient particulièrement difficiles à satisfaire. Le fournisseur devait assurer la terminaison et le rechiffrement TLS à pleine vitesse, effectuer un routage de couche 7 en fonction du nom du compartiment S3 et appliquer de manière cohérente des limites de débit sur l’ensemble d’un cluster actif-actif, avec à la fois des limites globales au niveau du service et des limites ciblées par compartiment, afin que la tâche d’ingestion d’un locataire ne puisse pas accaparer les ressources au détriment de tous les autres. Il lui fallait également assurer un équilibrage global de la charge des serveurs entre les différents sites et prendre en charge la norme FIPS pour les locataires soumis à des exigences réglementaires. En définitive, l’équité entre locataires relève d’une politique au niveau de la couche de distribution, car lorsque le trafic atteint les nœuds de stockage, le mal est déjà fait.

Le fournisseur a remplacé son parc vieillissant de contrôleurs de mise à disposition d’applications (ADC) par F5 BIG-IP déployé sur F5 rSeries. Le trafic TLS est déchiffré puis rechiffré à la vitesse de la ligne. Les requêtes sont acheminées au niveau de la couche 7 en fonction du nom du compartiment S3, et la stratégie au niveau du compartiment est désormais définie à un seul endroit au lieu d’être reproduite sur l’ensemble du parc. Les limites de débit sont définies une seule fois et appliquées uniformément à l’ensemble du cluster, plutôt que réglées manuellement sur chaque équipement. L’équilibrage global de la charge des serveurs répartit le trafic entre les différents sites, tandis que les locataires soumis à des exigences réglementaires conservent la couverture FIPS.

Le matériel a évolué tout autant que la mise en œuvre des politiques. La nouvelle infrastructure occupe 80 % d’espace physique en moins, offre un débit nominal 2,4 fois supérieur, consomme environ cinq fois moins d’énergie par gigabit nominal et compte 222 appareils de moins à corriger, certifier et dépanner. Les marges de capacité s’obtiennent généralement au prix des deux ressources dont un centre de données manque le plus : les watts et les unités de rack. Ici, elles s’accompagnent d’une réduction de ces deux ressources, si bien que la capacité ainsi libérée constitue une option plutôt qu’un achat. Dans une installation où la capacité d’IA s’acquiert en puissance électrique et en espace, le fournisseur dispose désormais de davantage de l’un comme de l’autre, sans avoir décidé à l’avance de l’usage qu’il en fera.

C’est ce que F5 entend par « fourniture de données pour l’IA ». Le chemin entre le stockage et le calcul constitue une frontière, et l’insertion d’un point de contrôle à cet endroit permet de faire respecter les exigences en matière d’accessibilité, de politiques et de résilience de la fourniture. Il s’agit de considérer ce chemin comme un ensemble de plans de contrôle et de données conçus avec leurs propres exigences de performances, de sécurité et de gouvernance, plutôt que comme un élément ajouté après coup à la baie de stockage.

Pourquoi est-ce important, même si vous n’entraînez jamais de modèle ?

Dans la situation de ce client, presque rien n’est propre au machine learning ou à l’entraînement de modèles de pointe, et c’est précisément là tout l’intérêt. Comme S3 repose sur HTTP, tout le savoir-faire développé par F5 en trente ans pour le trafic web — de la répartition intelligente de la charge tenant compte de l’état de santé et de l’inspection des protocoles au déchargement du chiffrement et à la limitation du débit par locataire — s’applique directement au stockage objet dès lors qu’un proxy performant est placé en amont. Le même point d’entrée qui assure la stabilité et l’utilisation optimale d’un pipeline d’entraînement permet également de garantir des fenêtres de sauvegarde prévisibles et des requêtes analytiques régulières, tout en empêchant une application trop gourmande de dégrader le stockage pour tous les autres utilisateurs. La distribution des données pour l’IA est la charge de travail qui a fini par rendre ce point d’entrée incontournable.

Trois questions à poser à la personne responsable de votre stockage

Lorsque vous évaluez la stratégie de stockage de votre propre organisation, voici trois questions à prendre en compte :

1. Lorsqu’un nœud de stockage se dégrade, quel mécanisme redirige le trafic, et à quelle vitesse ? Si la réponse est que le client effectue une nouvelle tentative, vous ne disposez pas d’une couche de diffusion, mais d’une architecture de diffusion fondée sur l’espoir.
2. Pouvez-vous limiter le débit d’un seul locataire ou bucket sans intervenir sur le cluster de stockage lui-même ? Si ce n’est pas possible, votre politique d’équité n’est qu’une suggestion.
3. Quelle part de votre budget de renouvellement du stockage repose sur l’hypothèse que le point d’entrée restera inchangé ? Ce fournisseur a constaté que le véritable levier se trouvait dans la couche de diffusion, et non dans le stockage sous-jacent.

Ce qu’il faut retenir, c’est que la capacité et l’acheminement relèvent de décisions distinctes. La capacité s’achète. L’acheminement se conçoit. À mesure que les pipelines de données deviennent les charges de travail dont votre entreprise dépend le plus, les équipes qui prennent de l’avance sont celles qui accordent au chemin d’accès au stockage la même rigueur que celle qu’elles ont toujours appliquée au stockage lui-même.

L’engagement de F5 en faveur de l’IA ne s’arrête pas là : découvrez comment F5 sécurise et fournit des applications d’IA partout.

À propos de l’auteur

Hunter SmitResponsable senior du marketing produit | F5

Hunter Smit est directeur principal du marketing produit pour les solutions et la stratégie chez F5. Il dirige le marketing des solutions pour l’ensemble du portefeuille de F5, notamment dans les domaines de l’infrastructure d’IA et de la sécurité des applications, et pilote l’entrée de F5 sur le marché émergent de la fourniture de données pour l’IA. Hunter est membre du conseil consultatif de l’École de commerce de l’université Whitworth et a enseigné le marketing produit en tant que chargé de cours vacataire. Il est titulaire d’un MBA et d’un Bachelor of Business Administration en management de l’université Whitworth.

Autres articles de Hunter Smit