Comprendre les indicateurs de performance des ADC
Introduction
Les services de distribution d’applications sont essentiels au bon fonctionnement des applications. Qu’ils apportent évolutivité, fiabilité ou sécurité, la plupart des applications s’appuient sur un ou plusieurs de ces services. Les contrôleurs de distribution d’applications (ADC) occupent donc une place centrale dans la plupart des architectures applicatives, cloud et de centres de données.
Dans de nombreux environnements, notamment les infrastructures de cloud privé, le matériel ADC dédié reste la plateforme privilégiée pour fournir des services de distribution d’applications. En effet, une plateforme dédiée intègre des ressources maîtrisées, stables et homogènes. Une appliance dédiée, conçue spécifiquement à cet effet, peut fournir de manière constante les performances et la fiabilité requises par les charges de travail applicatives les plus exigeantes, car elle ne présente aucune variation au niveau de l’hyperviseur, des logiciels ou de la plateforme de calcul sous-jacente. Elle bénéficie également de composants matériels spécialisés qui déchargent le processeur de certaines tâches.
Mais que signifie réellement le terme « performance » ? En général, les fournisseurs d’ADC publient quatre grands types d’indicateurs pour démontrer les performances de leurs solutions :
- Requêtes par seconde (RPS)
- Connexions par seconde (CPS)
- Transactions par seconde (TPS)
- Débit (souvent mesuré en gigabits par seconde, Gbit/s)
Les fabricants fournissent des fiches techniques détaillées qui répertorient ces caractéristiques de la plateforme, ainsi que d’autres, notamment sous forme de tableaux indiquant les débits, le nombre de transactions SSL ou de connexions simultanées. Pour choisir la plateforme adaptée, il est essentiel d’interpréter ces chiffres et leur pertinence au regard de la charge de travail d’une application, et de comprendre les limites et les goulets d’étranglement potentiels d’un système. Apprendre à interpréter les fiches techniques des fournisseurs et à comprendre les indicateurs pertinents pour vos applications peut vous aider à mieux choisir les plateformes adaptées à votre entreprise.
À quoi sert un ADC ?
Un contrôleur de distribution d’applications (ADC) est un composant d’infrastructure qui fait office de proxy applicatif et fournit des services de distribution d’applications tels que la gestion du trafic, l’équilibrage de charge, le déchiffrement SSL, la sécurité de la couche applicative et le contrôle d’accès aux applications. Les appareils et services clients se connectent à l’ADC, qui établit une connexion distincte avec l’application ou réutilise une connexion existante. C’est dans cet espace logique que l’ADC intercale les services de distribution d’applications.
Pour comprendre la charge de travail d’un ADC, il est utile d’examiner une connexion TCP et une requête au niveau de la couche applicative. L’ADC doit exécuter des tâches à plusieurs niveaux de la pile TCP et effectuer diverses opérations pour fournir des services applicatifs au trafic des applications. (Voir la figure 1.) Cela peut compliquer l’interprétation des indicateurs de performance fournis par les fournisseurs d’ADC. Pour déterminer quels indicateurs sont pertinents, il est essentiel d’identifier au préalable le type de charge de travail.

Il existe de nombreux types d’applications et, par conséquent, de nombreuses charges de travail différentes pour les ADC. Bien que la plupart des déploiements en production combinent plusieurs charges de travail, l’impact et les besoins de chacune déterminent les composants d’un ADC qui seront les plus sollicités. Même au sein des composants, les besoins varient selon les charges de travail. Certaines peuvent être plus sensibles à la latence, d’autres à la gigue ; certaines sont sensibles aux limites de débit, tandis que d’autres dépendent davantage de la disponibilité.
Voici les charges de travail les plus courantes, ainsi que les indicateurs clés qui leur sont associés :
- Actuellement, la charge de travail la plus courante, utilisée par les sites web et de nombreuses applications mobiles, est celle des applications web HTTP transactionnelles, qui utilisent souvent SSL et TLS. Les indicateurs les plus importants pour cette charge de travail sont l’ensemble des indicateurs SSL : RPS, TPS et débit, ainsi que les RPS et CPS de couche 7.
- Le DNS est une autre charge de travail courante, utilisée dans la quasi-totalité des échanges sur Internet. Il est fréquemment sollicité, génère un faible volume de trafic et utilise généralement UDP plutôt que TCP. Par conséquent, les indicateurs les plus importants sont les débits des couches 3 et 4.
- L’API REST, dont l’utilisation se développe rapidement, est un mode de communication courant avec les services via une API. Elle est donc souvent utilisée pour les communications de machine à machine. Comme l’API REST repose sur HTTP, les indicateurs clés sont les mêmes que pour HTTP (tous les indicateurs SSL) : RPS, TPS et débit, ainsi que RPS et CPS de couche 7.
- MQTT est un protocole de messagerie émergent aux multiples usages, dont l’utilisation se développe rapidement dans les communications de l’Internet des objets (IoT). Comme l’API REST, MQTT est principalement utilisé dans les applications de communication de machine à machine. Les principaux indicateurs de performance de MQTT sont le nombre de connexions par seconde (CPS) de couche 4 et le débit.
- Diameter remplace le protocole d’authentification RADIUS, fonctionne au niveau de la couche 4 et maintient les connexions TCP ouvertes pendant de longues périodes. Ses principaux indicateurs sont le nombre de connexions par seconde (CPS) de couche 4 et la robustesse de la table des connexions de couche 4.
- Les protocoles de transactions financières tels que FIX, SAIL et OUCH sont sensibles à la latence tant au niveau de la couche 4 que de la couche 7. Leurs indicateurs clés sont donc les CPS de couche 4, ainsi que les RPS et les CPS de couche 7.
- La technologie WebSockets est un ajout relativement récent aux types de charges de travail. Elle permet au serveur d’initier une communication avec le client via une connexion persistante de couche 4 et de couche 7. Les indicateurs clés sont les CPS de couche 4, les RPS et CPS de couche 7, ainsi que la robustesse des tables de connexions de couche 4 et de couche 7.
- Les charges de travail de journalisation et d’alerte fonctionnent toutes au niveau de la couche 4 et certaines s’appuient sur l’API REST, qui fonctionne au niveau de la couche 7. Par conséquent, le nombre de connexions par seconde (CPS) en couche 4 constitue un indicateur clé, de même que le nombre de requêtes par seconde (RPS) et de connexions par seconde (CPS) en couche 7 pour celles qui s’appuient sur l’API REST.
La composition des charges de travail continue d’évoluer et de nouvelles charges de travail sont constamment introduites, chacune ayant ses propres indicateurs ADC critiques, définis en fonction de ses opérations principales.

Indicateurs de performance et comment les interpréter
Le débit de tout équipement réseau dépend de la latence, c’est-à-dire du délai induit par le traitement du trafic réseau. La vitesse de la lumière impose à elle seule une latence minimale aux signaux électriques qui circulent dans les fils de cuivre ou aux signaux optiques qui traversent la fibre optique. Cependant, au-delà du simple acheminement des données sur un câble ou une fibre, un ADC effectue plusieurs opérations sur le trafic réseau. Les capacités maximales d’un ADC sont déterminées par la somme des latences des opérations exécutées en série, c’est-à-dire celles qui ne sont pas effectuées en parallèle. Heureusement, de nombreuses opérations sont réalisées en parallèle, mais le temps nécessaire à leur exécution reste une contrainte pour le débit global. L’un des objectifs des concepteurs d’ADC est de réduire ces latences au minimum afin de maximiser le débit.
Évaluer les performances d’un ADC donné et déterminer s’il convient à un déploiement particulier peut s’avérer complexe. Les fournisseurs d’équipements réseau publient des indicateurs issus de tests conçus pour maximiser un indicateur précis au détriment des autres. Cette approche vise à fournir un chiffre exploitable pour orienter les choix d’architecture et les décisions, mais les fournisseurs savent que les chiffres publiés ne peuvent pas tous être atteints simultanément. Prenons une analogie automobile : Toyota annonce que son modèle Camry 2017 de base développe 178 chevaux et parcourt 33 miles par gallon sur autoroute. Pourtant, il serait déraisonnable de s’attendre à ce que la voiture développe ses 178 chevaux — avec l’accélérateur au plancher à 6 000 tr/min — tout en parcourant 33 miles par gallon. De la même manière, les fournisseurs d’équipements réseau présentent chaque indicateur de performance dans les conditions les plus favorables à celui-ci. En règle générale, bon nombre des performances publiées ne peuvent pas être reproduites simultanément.
Relations entre les indicateurs de performance et les couches OSI
Certaines des métriques publiées peuvent s’appliquer à différents niveaux de traitement. Par exemple, le nombre de requêtes par seconde peut correspondre à des valeurs de traitement au niveau de la couche 2 (L2) ou de la couche 7 (L7) du modèle OSI. En revanche, les TPS ne font souvent référence qu’à la négociation des clés SSL, tandis que le nombre de requêtes par seconde au niveau de la couche 7 concerne les requêtes cryptographiques ultérieures utilisant une session SSL établie. Chaque charge de travail sollicite différemment les divers composants de traitement de l’ADC. Un autre point essentiel à retenir concernant les métriques publiées pour les ADC est que les limites de performance varient selon la charge de travail.

Chaque couche réseau du modèle OSI possède plusieurs indicateurs couramment publiés. Par exemple, les indicateurs de la couche 4 sont souvent exprimés en connexions par seconde, tandis que d’autres mesurent le débit de cette couche. Les couches 5 et 6 du modèle OSI ne correspondent pas directement à la pile IP, mais des services tels que SSL/TLS et la compression peuvent être considérés comme relevant de ces couches. Comme indiqué précédemment, les tests associés à chacun de ces indicateurs sont souvent réalisés avec un trafic conçu pour solliciter spécifiquement la capacité mesurée et ne reflètent pas les charges de trafic réelles. Par exemple, le nombre maximal de transactions SSL par seconde (TPS) sera obtenu lors d’un test utilisant une charge utile SSL de longueur nulle, de sorte que l’ADC ne consacre aucun temps de traitement au déchiffrement des données SSL. Si cette méthode est pertinente pour déterminer uniquement les performances du matériel SSL, aucune application en production n’envoie de charges utiles de longueur nulle. De même, le débit de la couche 2 sera testé sans activation de SSL ni traitement de couche 7, car ces fonctions ralentissent l’ADC, alors qu’elles sont utilisées dans de nombreux déploiements en production. La plupart des indicateurs de performance des ADC sont testés isolément, mais la plupart des environnements de production utilisent une combinaison de fonctionnalités de l’ADC, chaque indicateur sollicitant différents composants ou combinaisons de composants. Les composants concernés peuvent notamment inclure le processeur (CPU), la carte d’interface réseau (NIC), les circuits intégrés spécifiques à une application (ASIC) et les réseaux de portes programmables sur site (FPGA). Lorsqu’un ADC ne dispose pas d’un composant particulier, le processeur est utilisé à sa place.

La métrique des paquets indique le nombre de paquets par seconde que l’ADC peut traiter. Les composants les plus sollicités par ce traitement varient selon la couche. Par exemple, le traitement des paquets de couche 2 sollicite principalement la carte d’interface réseau (NIC), tandis que le traitement des paquets de couche 4 sollicite principalement le FPGA. Pour toutes les couches, la métrique de débit correspond au débit total disponible en gigabits par seconde, tandis que la métrique des connexions mesure le nombre de connexions pouvant être établies par seconde au niveau de la couche concernée. Par exemple, la métrique des connexions de couche 4 mesure le nombre de connexions TCP pouvant être établies par seconde.
Indicateurs de traitement SSL
Le traitement SSL a ceci de particulier que les sessions sont établies et gérées sur plusieurs connexions. Une connexion peut établir une session SSL (ce que l’on appelle une transaction), tandis que les connexions suivantes peuvent réutiliser une session SSL (ce que l’on appelle une requête). Les indicateurs relatifs aux transactions et aux requêtes sont donc présentés séparément. Les transactions SSL prennent beaucoup plus de temps que les requêtes SSL ultérieures ; le facteur limitant en matière de débit est donc souvent l’indicateur relatif aux transactions. Une fois qu’une session SSL est établie et qu’une requête ultérieure est effectuée, les données utiles doivent être chiffrées ou déchiffrées. L’ASIC cryptographique assure le chiffrement et le déchiffrement ; les performances sont mesurées par l’indicateur de débit.
Il est souvent utile de compresser les données utiles. La compression est effectuée par l’ASIC de compression et se mesure également en débit.
Traitement de la couche applicative
Enfin, la couche 7 présente une particularité : compte tenu de la complexité et de la diversité des options de gestion du trafic disponibles, tous les traitements de cette couche sont effectués par le processeur. La persistance par cookie est une fonctionnalité courante de la couche 7 qui associe chaque session utilisateur à un serveur précis du pool et qui est assurée par le processeur. La métrique des requêtes de couche 7 correspond au nombre de requêtes de couche 7 que l’ADC peut traiter par seconde. De même, la métrique du débit de couche 7 correspond au débit total pouvant être atteint au niveau de cette couche.
Enfin, toute couche devant conserver l’état des connexions nécessite que l’ADC maintienne une table de connexions. Les tables de connexions sont couramment utilisées pour les connexions TCP de couche 4, les sessions SSL et les sessions HTTP de couche 7. Les protocoles utilisant des connexions de longue durée peuvent saturer la table de connexions d’un ADC ou la mettre à rude épreuve.
Chaque indicateur permet d’évaluer un aspect précis des performances. Comprendre les différentes opérations effectuées à chaque couche, ainsi que les composants concernés par ces opérations, facilite l’évaluation des indicateurs de performance de l’ADC pour un déploiement donné.
Matériel spécialisé et performances
Un processeur (CPU) peut assurer l’ensemble des fonctionnalités d’un ADC. De fait, de nombreux fournisseurs de matériel ADC proposent une version exclusivement logicielle. Cela est possible parce qu’un processeur est le type de matériel le plus polyvalent qui soit, capable d’exécuter presque toutes les tâches de traitement des données.
Confier l’ensemble des fonctionnalités d’un ADC à un CPU présente toutefois des limites. Parmi les trois principaux types de matériel utilisés pour traiter le trafic réseau — CPU, ASIC et FPGA —, le CPU est le plus lent et sans doute le plus coûteux, car il nécessite de la mémoire et des contrôleurs mémoire. Les deux autres types de matériel utilisés pour traiter le trafic réseau sont l’ASIC et le FPGA. Un ASIC est conçu pour exécuter une tâche spécifique, d’où son nom de circuit intégré à application spécifique. Aucun autre type de matériel n’est plus rapide qu’un ASIC pour exécuter une tâche, mais ses capacités se limitent à celles prévues lors de la conception de la puce. Si une application a besoin de fonctionnalités que l’ASIC ne propose pas, elle doit alors utiliser un CPU et exécuter les tâches de manière logicielle.
Si un CPU est flexible mais lent, et un ASIC rigide mais rapide, une troisième technologie se situe entre les deux : le FPGA. Un FPGA est plus lent qu’un ASIC, mais beaucoup plus rapide qu’un CPU, et il peut être programmé pour effectuer des tâches que ses concepteurs n’avaient pas envisagées.

Un ADC bien conçu exploite pleinement les capacités de chaque type de matériel : il confie les tâches courantes et simples aux composants ASIC, exécute les tâches plus complexes sur les composants FPGA et réserve les tâches les plus complexes et les moins fréquentes au CPU. Une grande partie de l’ingéniosité technique d’un ADC réside dans la coordination des différents types de composants afin de traiter les diverses charges de travail le plus efficacement possible.
La tâche de loin la plus fréquente dans un ADC est le traitement des paquets au niveau des interfaces réseau. Une carte réseau (NIC) standard du commerce est optimisée soit pour un volume élevé de trafic entrant (par exemple, sur un ordinateur de bureau ou un autre terminal utilisateur), soit pour un volume élevé de trafic sortant (par exemple, sur un serveur). La particularité d’un ADC est qu’il nécessite une carte réseau optimisée pour un débit maximal dans les deux sens. Aucune carte réseau du commerce n’a été conçue pour offrir un débit maximal dans les deux sens. Le traitement des paquets dans un ADC étant fréquent et relativement simple, il se prête particulièrement bien à une implémentation sur ASIC. Dans les environnements ADC en cluster, un ASIC de désagrégation (DAG) fait office de répartiteur de charge en amont, garantissant que les mêmes sessions client et serveur transitent toujours par le même nœud du cluster. L’utilisation d’un DAG dans un environnement en cluster facilite la mise à l’échelle horizontale des appliances ADC pour répondre aux besoins du trafic. Dans un ADC correctement conçu, l’ensemble du traitement et de la commutation des paquets de couche 2 peut être effectué par des circuits ASIC spécialisés.
Les tâches de traitement des couches 3 et 4 sont plus complexes et se prêtent donc bien à l’utilisation d’un FPGA. Un FPGA peut assurer des fonctions de routage ainsi que des protections de type pare-feu et contre les attaques par déni de service distribué (DDoS), notamment grâce aux cookies TCP SYN. L’utilisation d’un FPGA à ce niveau permet d’assurer le traitement et la protection de couche 4, garantissant ainsi que le trafic destiné à un traitement ultérieur a été correctement assemblé et filtré.
Les opérations de chiffrement et de compression, notamment celles liées à SSL ou TLS, ainsi que les nouvelles fonctionnalités introduites par HTTP/2, constituent un autre domaine d’application du matériel dédié. Un ASIC spécialisé est souvent utilisé pour les traitements cryptographiques, notamment la négociation des clés SSL, très gourmande en calculs avec les algorithmes de chiffrement modernes tels que Diffie-Hellman sur courbes elliptiques (ECDHE). Une fois la négociation des clés SSL effectuée, le chiffrement et le déchiffrement en masse des requêtes suivantes peuvent également être pris en charge par un ASIC. De même, la compression et la décompression à l’aide d’algorithmes courants peuvent être effectuées par un ASIC. L’utilisation de composants ASIC dédiés permet d’accélérer les opérations de chiffrement et de compression.
Tout traitement du trafic réseau qui n’est pas pris en charge par les ASIC et les FPGA doit être effectué par le processeur. Bien que plus lent que les ASIC et les FPGA, le processeur est le composant le plus polyvalent de l’ADC. Il assure également des tâches sans rapport avec le traitement réseau, comme la gestion de l’interface graphique et d’autres fonctions de configuration, la gestion des interruptions d’entrée/sortie, voire le traitement des requêtes d’accès au disque. Comme la charge du processeur peut varier en fonction de la latence et qu’il constitue le dernier recours matériel pour traiter le trafic réseau, les ADC sont délibérément conçus pour lui confier le moins possible de traitements du trafic et en déléguer un maximum aux ASIC et aux FPGA, plus rapides.
Conclusion
Il peut être difficile de déterminer les performances réelles à partir des indicateurs publiés par les fournisseurs. Bien que complexe, la compréhension des interactions entre les différents types de charges de travail, les ressources qu’elles consomment et les capacités d’une plateforme matérielle peut vous aider à faire le meilleur choix d’achat pour votre organisation.
Les fiches techniques publiées et les autres ressources disponibles facilitent le choix de la plateforme adaptée, mais il est également important de s’appuyer directement sur l’expérience et l’expertise du fournisseur chaque fois que possible. Les principaux fournisseurs disposent d’une expertise approfondie pour associer les charges de travail aux plateformes appropriées, une expertise qui devrait être facilement accessible aux clients.
En combinant une bonne compréhension des caractéristiques du trafic de vos applications et des capacités de votre plateforme avec l’expertise de votre fournisseur, vous réduirez les risques et les coûts potentiels liés au sous-dimensionnement ou au surdimensionnement de votre plateforme.
PUBLIÉ LE 28 MARS 2017
