Construisez l’usine d’IA pour laquelle votre réseau a été conçu
Les fournisseurs de services disposent des centres de données, de l’alimentation électrique, de la fibre optique et des relations avec les entreprises dont une usine d’IA a besoin. F5 fournit la couche de mise à disposition et de sécurité sur une infrastructure Kubernetes de classe opérateur.
Les opérateurs commencent par ce qui manque à toute usine d’IA
Une usine d’IA a besoin d’énergie, de bâtiments, de fibre optique, d’une présence locale et de clients qui font confiance à l’opérateur pour gérer leurs données. Les opérateurs télécoms disposent de tous ces atouts, ainsi que de décennies d’expérience dans l’exploitation de réseaux mutualisés. Ce qui leur manque, c’est la couche qui transforme des baies de GPU en un service que les entreprises sont prêtes à acheter : isolation des locataires, routage des requêtes d’inférence et protection du périmètre. F5 leur apporte cette couche avec la F5 Application Delivery and Security Platform.
Vendez de la capacité GPU aux entreprises locataires
Isolation, trafic entrant et sortant et politique de pare-feu propres à chaque locataire sur des nœuds GPU partagés.
Acheminez les requêtes d’inférence vers les GPU disponibles
Routage adapté à l’inférence, basé sur les signaux de service en temps réel, au sein de chaque site.
Réutilisez l’infrastructure en périphérie que vous exploitez déjà
Le matériel BIG-IP et les fonctions cloud-native au niveau de l’interface N6 protègent également les services d’IA.
Basé sur Kubernetes de qualité opérateur
Développé en collaboration avec les plus grands opérateurs télécoms américains et éprouvé au sein de leurs infrastructures pour des déploiements Kubernetes à grande échelle.
F5 aide les entreprises à déployer l’IA en production
Comment F5 aide les fournisseurs de services à monétiser l’IA
GPU en tant que service (GPUaaS)
PRODUIT
Isolation réseau des tenants et politiques propres à chaque tenant à la périphérie du cluster.
PRODUIT
Implémentation de l’API Gateway pour le trafic applicatif au sein des clusters des locataires.
PRODUIT
BIG-IP Next for Kubernetes déployé sur les DPU NVIDIA BlueField
Application des règles d’isolation des locataires sur le DPU, avec réaffectation des cœurs de l’hôte à la capacité commercialisable en mode DPU.
PRODUIT
BIG-IP eBPF Observabilité pour les applications cloud-native
Visibilité en temps réel du trafic des charges de travail des locataires sur Kubernetes.
Inférence en périphérie du réseau
PRODUIT
Routage tenant compte de l’inférence et isolation des locataires sur les sites en périphérie.
PRODUIT
Pare-feu cloud natif, CGNAT, DNS et gestion des politiques pour le trafic N6 sur une même plateforme.
PRODUIT
BIG-IP Next for Kubernetes déployé sur des DPU NVIDIA BlueField
Le même chemin de données déchargé sur le DPU dans les sites soumis à des contraintes d’espace et d’alimentation électrique.
PRODUIT
Protection par pare-feu cloud-native en périphérie pour le trafic des abonnés et de l’IA.
Protégez les services d’IA à grande échelle
PRODUIT
Protection contre les attaques DDoS pour les services d’IA et les API d’inférence.
PRODUIT
BIG-IP Advanced Firewall Manager
Protection par pare-feu réseau de classe opérateur en périphérie de l’usine.
Une IA souveraine pour votre marché
PRODUIT
Domaines de routage par locataire, politique de trafic sortant et journaux de pare-feu par locataire.
PRODUIT
Équilibrage de charge et basculement entre les points de terminaison de stockage S3 situés dans le pays.
PRODUIT
Tests adversariaux des modèles, applications et agents avant leur mise en production.
PRODUIT
Équilibrage global de la charge des serveurs qui dirige les utilisateurs vers des sites situés dans leur pays.
PRODUIT
Protection des prompts et des réponses à l’exécution dans les applications d’IA des locataires.
Ressources
Architectures de référence
ARCHITECTURE DE RÉFÉRENCE
Découvrez l’architecture de référence pour l’IA
ARCHITECTURE DE RÉFÉRENCE
Mise en réseau commune à NVIDIA Cloud Partner et F5 BIG-IP Next for Kubernetes
Présentations des solutions
PRÉSENTATION DE LA SOLUTION
Propulser les services GPUaaS et d’inférence d’IA avec F5 et NVIDIA
PRÉSENTATION DE LA SOLUTION
F5 et NVIDIA optimisent l’AI-RAN, le N6-LAN distribué et la sécurité de l’IA en périphérie
Livres blancs
Questions fréquentes
Les opérateurs télécoms disposent déjà des ressources nécessaires à une usine d’IA : des centres de données, de l’énergie, de la fibre optique, une présence locale, des relations avec les autorités de régulation et des décennies d’expérience dans l’exploitation de réseaux mutualisés à grande échelle. Une usine d’IA leur permet de commercialiser de la capacité GPU, des services Kubernetes managés et des services d’inférence auprès des entreprises et des organismes publics qu’ils accompagnent déjà, souvent en tant qu’alternative souveraine aux fournisseurs mondiaux, et de déployer l’inférence au plus près des abonnés, en périphérie du réseau.
Une usine d’IA ressemble plus qu’il n’y paraît aux plateformes Kubernetes déjà en production. Il s’agit d’un environnement Kubernetes doté de GPU, qui nécessite les mêmes mécanismes d’isolation des locataires, de contrôle des flux entrants et sortants, de pare-feu et d’observabilité qu’un cœur de réseau 5G ou une plateforme edge, auxquels s’ajoutent un routage adapté à l’inférence et des contrôles pour les risques propres à l’IA. BIG-IP Next for Kubernetes fournit la couche réseau dans les deux cas, ce qui permet à l’équipe qui exploite la plateforme réseau d’exploiter également la plateforme d’IA.
Oui, les services d’IA et les fonctions réseau peuvent s’exécuter sur un même site en périphérie. Les fonctions réseau cloud-native de F5 dédiées au pare-feu, au CGNAT, au DNS et à la gestion des politiques s’exécutent sur Kubernetes en périphérie, tandis que BIG-IP Next for Kubernetes assure l’isolation des tenants et le routage des requêtes d’inférence sur la même plateforme, sur les processeurs des hôtes ou sur des DPU NVIDIA BlueField. Chacun reste dans le périmètre de son propre tenant : les charges de travail d’IA et les fonctions réseau partagent ainsi un même site, sans qu’un incident affectant les unes se répercute sur les autres.
Non, les DPU NVIDIA BlueField ne sont pas forcément nécessaires. BIG-IP Next for Kubernetes s’exécute sur les processeurs standard de l’hôte. Les DPU BlueField déchargent l’hôte du traitement du trafic réseau et appliquent les politiques en dehors du système d’exploitation de l’hôte, ce qui est particulièrement important sur les sites en périphérie où l’espace, l’énergie et les cœurs de processeur de l’hôte sont limités. Les résultats de performances mesurés en mode DPU ne sont pas automatiquement transposables aux déploiements sur hôte.
F5 complète les logiciels de calcul accéléré, de fabric réseau et de mise à disposition de modèles dans les architectures de référence des usines d’IA, sans en remplacer aucun composant. BIG-IP Next for Kubernetes est validé dans le cadre de la conception validée NVIDIA Enterprise AI Factory et documenté dans l’architecture de référence NVIDIA Cloud Partner pour les fonctions réseau communes. Les services de périphérie et de données F5 s’exécutent sur le logiciel BIG-IP ainsi que sur les plateformes VELOS et rSeries.