Passerelle AI F5

Prenez le contrôle centralisé de la plateforme de livraison et de sécurité applicative F5 pour superviser, sécuriser et optimiser l’usage de l’IA tout en maîtrisant les coûts et en appliquant les politiques dans des environnements distribués et multi-LLM.

Routage des modèles d’IA et protection des données

AI Gateway utilise une architecture portable fondée sur des microservices pour déployer facilement des applications d’IA dans tout environnement Kubernetes.

Propulsez vos applications d’IA en toute confiance grâce à la plateforme F5 de livraison et de sécurité des applications (ADSP) avec F5 AI Gateway. Garantissez une sécurité, une évolutivité et un contrôle incomparables pour vos processus d’IA. F5 inspecte et sécurise les requêtes et réponses en temps réel, empêchant la fuite de données et maximisant les performances. Avec une observabilité avancée, une gouvernance stricte et des contrôles personnalisables, vous bénéficiez d’une exploitation d’IA sécurisée, conforme et optimisée à grande échelle.

  • Cloud public
    Surveillez et protégez en toute sécurité les workloads applicatifs SLM et LLM dans des environnements évolutifs gérés par les principaux fournisseurs de cloud comme Azure, AWS et Google Cloud Platform, pour garantir flexibilité et déploiement facile sur les hyperscalers.
  • Sur site
    Optimisez la sécurité et les performances des charges de travail des applications SLM et LLM hébergées directement sur l’infrastructure physique ou dans les centres de données, pour un contrôle total et une conformité stricte aux politiques de votre organisation.
  • Cloud privé
    Renforcez l’observabilité et la protection des charges de travail SLM et LLM dans les environnements de cloud privé ou les centres de colocation, en fournissant des ressources dédiées et des configurations adaptées pour une sécurité renforcée et une cohérence opérationnelle.

Routage des modèles IA et sécurité des données

Conçu pour l’ère de la sécurité avec l’IA

Routage et observabilité

F5 AI Gateway optimise le routage et la visibilité grâce à un routage basé sur des modèles contextuels, améliorant les réponses et simplifiant le développement. Grâce à son intégration avec OpenTelemetry, vous bénéficiez d’une visibilité totale sur les transactions, et l’export des logs vers les outils SIEM et SOAR garantit votre conformité. En facilitant le routage et en fournissant des insights exploitables, il accélère vos cycles d’itération, renforce l’efficacité et facilite la montée en charge de vos applications d’IA.

 

entrées et sorties protégées

Sécurisez vos entrées et sorties

F5 AI Gateway garantit des interactions sécurisées avec l'IA en protégeant en temps réel contre les attaques par injection de requêtes et la divulgation de données sensibles. Vous bénéficiez d’une authentification solide, d’une autorisation rigoureuse et d’un contrôle d’accès basé sur les rôles (RBAC) pour assurer conformité et gouvernance. La communication mTLS sécurisée protège le trafic IA, tandis que les mises à jour dynamiques des garde-fous et processeurs s’adaptent aux menaces nouvelles, assurant une sécurité, une fiabilité et une résilience renforcées.

Déploiement et opérations à l’échelle

F5 AI Gateway facilite le déploiement évolutif et les opérations en vous permettant de déployer rapidement sur toute infrastructure. Avec une gestion intégrée du trafic et des contrôles de sécurité solides, nous vous garantissons une évolutivité sécurisée pour répondre à des besoins commerciaux en constante évolution. Des intégrations Kubernetes flexibles, des outils d'automatisation avancés et la prise en charge des principaux modèles d'IA optimisent les performances, accélèrent les itérations et s'adaptent à la croissance des usages d'IA tout en assurant fiabilité et conformité.

détection et prévention de la fuite de données

Détection et prévention des fuites de données

F5 AI Gateway détecte et prévient efficacement les fuites de données en analysant prompts et réponses en temps réel, en identifiant et en réduisant les risques pour des données sensibles comme les informations personnelles identifiables et les informations de santé protégées. Nous appliquons des politiques qui enregistrent, masquent ou bloquent le contenu pour garantir votre conformité aux normes OWASP. L’intégration fluide avec SIEM et SOAR vous assure une réponse rapide aux incidents et des audits rigoureux, protégeant vos modèles d’IA contre toute fuite de données, qu’elle soit malveillante ou accidentelle.

Un pilier clé pour renforcer vos déploiements d'IA

Diagramme de passerelle IA

AI Gateway assure la sécurité et l'observabilité du LLM en tant que composant clé de la solution de livraison et de sécurisation de l'IA, intégrée à F5 ADSP.

La sécurité LLM joue un rôle essentiel pour superviser et protéger les échanges entre les applications frontales, l'inférence de modèle et les services en aval, en vous garantissant visibilité, routage sécurisé et résilience opérationnelle tout au long des workflows LLM.

Découvrir les solutions d'IA

Capacités de base

Observez, détectez et réduisez les risques liés aux applications d’IA tout en assurant la gouvernance des données grâce à l’identification et à la correction automatiques des messages entrants et des réponses sortantes.

Nous inspectons tout le trafic entrant et sortant des modèles AI LLM et SLM pour réduire efficacement les risques.

Identifiez et protégez les données personnelles identifiables de vos clients ainsi que les données sensibles de votre entreprise contre l’exfiltration.

Renforcez l’authentification, l’autorisation, le RBAC et la gestion des identifiants, tout en exportant les journaux d’audit pour assurer la conformité.   

Connectez-vous et orientez le trafic vers OpenAI, Anthropic, Ollama et les services HTTP en amont sans aucune interruption.

Utilisez le SDK Python pour créer des politiques adaptées à l’inspection du trafic selon vos besoins organisationnels.

Nous exportons automatiquement les données OpenTelemetry vers les systèmes SIEM/SOAR pour assurer la visibilité des métriques et des traces.

Vous dirigez les requêtes vers des modèles à coût élevé ou faible selon leur origine, leur contenu et leur contexte.

Vous orientez les requêtes d’IA vers le modèle idéal selon le coût ou le cas d’usage, optimisant ainsi l’efficacité et la scalabilité.

Support de la plateforme et intégrations

AI Gateway s’intègre aux plateformes de cloud public, aux modèles d’IA majeurs et aux outils d’observabilité pour vous offrir une gouvernance évolutive, une sécurité renforcée et une visibilité fluide.

Compatibilité avec les clouds publics

Déployez AI Gateway sur les principales plateformes de cloud public pour garantir un accès évolutif aux applications d’IA.

Support des modèles d’IA

AI Gateway s’intègre aux principales plateformes d'IA et aux grands modèles linguistiques, vous garantissant des interactions applicatives sécurisées et un support fluide des services SLM et LLM.

Intégrations pour l’observabilité

AI Gateway utilise OpenTelemetry pour renforcer la visibilité et la conformité, tout en s’intégrant parfaitement aux principaux outils SIEM et SOAR afin de gérer vos incidents avec efficacité.

Ressources