Comment gérer les pics de trafic soudains et la surcharge des serveurs

NGINX | 14 juillet 2021

Pour de nombreux détaillants, la pandémie de COVID‑19 a changé les lieux et les habitudes d’achat de leurs clients pour les fêtes. Ne pouvant plus se rendre dans les magasins physiques, les consommateurs se sont tournés plus que jamais vers les détaillants en ligne, faisant bondir les ventes du e-commerce à 189 milliards de dollars en 2020, soit une hausse de 33 % par rapport à 2019. À moins de six mois des achats de fin d’année, nous vous présentons plusieurs façons de tirer parti de NGINX et de vous préparer à de soudains pics de trafic.

Étape 1 : évaluez votre position par rapport à la concurrence

Avant de modifier votre infrastructure, il est utile de déterminer dans quelle mesure vous devez optimiser vos performances pendant la « Cyber Season » pour prospérer, et pas seulement survivre. Commencez par recueillir des données sur les performances des sites web concurrents. Le temps de chargement d’une page est probablement l’indicateur le plus important : de nombreux utilisateurs impatients quittent un site s’il ne se charge pas en moins de trois secondes. Il existe de nombreux outils pour mesurer le temps de chargement, dont beaucoup sont gratuits. Pour commencer, vous pouvez consulter une récente analyse de Geekflare portant sur 11 outils de test.

Envisagez de mesurer le temps de chargement des pages suivantes :

  • Page d’accueil
  • Résultats de recherche de produits
  • Détails de la page produit
  • Page de confirmation après avoir cliqué sur le bouton « Acheter »

Tester les pages clés d’une demi-douzaine de concurrents ainsi que celles de votre propre site ne prend que quelques heures. (Veillez à vider le cache de votre navigateur en utilisant Maj+Actualiser avant de mesurer les temps de téléchargement.) Une fois les résultats en main, voici ce que vous devez faire :

  • Évaluez les performances globales. Combien de temps prend l’ensemble du processus (visite, recherche et achat) sur les différents sites ?
  • Identifiez les points forts et les points faibles. Repérez les domaines précis dans lesquels les performances de votre site sont supérieures, compétitives ou en retrait.
  • Relevez les différences en matière de fonctionnalités. Comment vos concurrents enrichissent-ils l’expérience d’achat grâce à des fonctionnalités supplémentaires ? Que propose votre site pour offrir une expérience utilisateur qui se démarque ?
  • Élaborez un plan. Si vous êtes nettement à la traîne par rapport à vos concurrents dans un ou plusieurs domaines liés aux performances du site, cherchez à atteindre leurs temps de réponse moyens ; si vous êtes déjà compétitif, efforcez-vous de devenir numéro 1.

Étape 2 : utilisez NGINX, comme les sites web les plus fréquentés au monde

Plus tôt cette année, NGINX est devenu le serveur web n° 1 sur Internet. Nous sommes honorés que tant de sites nous fassent confiance pour diffuser leurs sites web et leurs applications, et nous espérons que vous en ferez autant. Mais NGINX est bien plus qu’un simple serveur web. C’est une solution logicielle tout-en-un qui fait office de proxy inverse, de répartiteur de charge, de cache et de passerelle API.

L’un des principaux avantages de NGINX réside dans sa capacité à optimiser le flux de trafic vers votre site. Imaginez NGINX comme un portier qui gère l’affluence à l’entrée de votre magasin. Il organise calmement la file d’attente et laisse entrer chaque client (requête HTTP), transformant la cohue sur le trottoir en un défilé fluide et ordonné à l’intérieur du magasin. Les clients sont dirigés vers l’emplacement précis des articles figurant sur leur liste de souhaits, ce qui garantit une répartition uniforme du trafic et une utilisation équilibrée de toutes les ressources.

Pour ce faire, NGINX utilise principalement deux techniques prêtes à l’emploi :

  • Déchargement HTTP à l’aide de connexions persistantes, afin de mettre en mémoire tampon les requêtes HTTP qui arrivent lentement et de ne les transmettre aux serveurs backend que lorsqu’elles sont prêtes. Les transactions s’effectuent beaucoup plus rapidement lorsqu’elles proviennent de NGINX (sur le réseau local rapide) que lorsqu’elles proviennent d’un client distant.
  • Répartition de charge avancée avec plusieurs algorithmes au choix, afin d’optimiser la distribution du trafic et d’utiliser les ressources des serveurs aussi efficacement que possible.

En plus d’optimiser le flux de trafic, voici quatre autres façons de tirer parti de NGINX pour optimiser votre site et éviter la surcharge des serveurs lors d’un pic de trafic.

Poursuivez votre lecture pour en savoir plus sur :

Améliorer les temps de réponse des pages web grâce à la mise en cache

Le click-and-collect, la commande en ligne avec retrait en magasin et même les options de paiement proposées aux clients augmentent les chances de réussite d’une transaction en ligne. La mise en cache du contenu avec NGINX produit un effet similaire sur le trafic web. NGINX stocke automatiquement chaque fichier envoyé aux clients et répond aux requêtes ultérieures portant sur un fichier donné directement depuis le cache. La mise en cache permet non seulement de fournir plus rapidement les réponses aux utilisateurs, mais aussi de réduire la charge sur vos serveurs en amont, qui n’ont ainsi pas à retraiter sans cesse les mêmes requêtes depuis le début. Selon votre application, la mise en cache du contenu peut diviser le volume du trafic interne par un facteur pouvant atteindre 100, réduisant ainsi la capacité matérielle nécessaire au fonctionnement de votre application.

Pour en savoir plus sur la mise en cache et consulter des exemples de configuration, reportez-vous aux articles « Mettre en cache et en microcache le contenu de votre site » et « Guide de la mise en cache avec NGINX et NGINX Plus » sur notre blog.

Gérer le trafic des visiteurs à l’aide de contrôles des connexions, du débit et de la bande passante

Aux heures de pointe, le portier de votre magasin peut être amené à limiter le nombre de clients qui entrent. Cette mesure peut être motivée par des raisons de sécurité (pour éviter une trop forte affluence) ou par la volonté d’accorder un traitement préférentiel aux clients privilégiés (horaires réservés aux VIP, promotions sur invitation uniquement, etc.). Les applications Web doivent prendre des mesures similaires. Vous pouvez éviter la surcharge des serveurs en limitant le trafic entrant sur votre site, afin que les clients puissent accéder rapidement aux ressources dont ils ont besoin. NGINX (et, dans les environnements de conteneurs, NGINX Ingress Controller) proposent différentes méthodes pour limiter le trafic entrant, notamment :

  • Limites de concurrence – Limitez le nombre de requêtes simultanées transmises à chaque serveur afin de l’adapter au nombre limité de threads de travail ou de processus disponibles sur chacun d’eux
  • Limites de débit des requêtes – Appliquez une limite par seconde ou par minute aux requêtes de chaque client afin d’éviter toute surcharge du serveur pour des services tels qu’une passerelle de paiement ou une recherche complexe (pour plus de détails, consultez l’article « Limitation du débit avec NGINX et NGINX Plus » sur notre blog)
  • Limites de bande passante – Contrôlez la quantité de données qu’un client peut télécharger sur chaque connexion

Vous pouvez, si nécessaire, faire la distinction entre différents types de clients. Il se peut, par exemple, que la zone de livraison de votre boutique ne s’étende pas à l’Asie, ou que vous souhaitiez donner la priorité aux utilisateurs ayant des articles dans leur panier. Vous pouvez exploiter les cookies, les données de géolocalisation et d’autres paramètres pour contrôler la manière dont NGINX applique les limites de trafic.

Évitez la surcharge des serveurs grâce à la mise à l’échelle élastique

Les pics de trafic peuvent facilement entraîner une surcharge des serveurs si vous ne disposez pas d’une infrastructure adéquate. L’architecture légère et événementielle de NGINX optimise les performances de diffusion des applications avec l’infrastructure dont vous disposez déjà. Nos guides de dimensionnement pour NGINX Ingress Controller et pour NGINX Plus sur des serveurs physiques et dans des environnements virtualisés vous aident à déterminer précisément les dépenses d’exploitation correspondant aux performances et à la capacité de montée en charge que vous prévoyez.

Il existe d’autres fonctionnalités de NGINX que les équipes DevOps peuvent exploiter pour adapter efficacement leur capacité aux pics de trafic :

  • Déployez NGINX et vos applications dans des environnements cloud. NGINX est disponible sur les marketplaces des principaux environnements cloud tels que AWS, Google Cloud Platform et Microsoft Azure. Chaque fournisseur de cloud prend en charge l’autoscaling afin d’ajuster le nombre d’instances d’application en fonction de l’évolution de la demande. Pour plus d’informations, consultez la documentation sur l’autoscaling d’AWS, de GCP et d’Azure.
  • Déployez des conteneurs dans un environnement Kubernetes. NGINX Ingress Controller et NGINX Service Mesh intègrent plusieurs fonctionnalités qui renforcent la résilience des applications Kubernetes. Vous pouvez mettre à l’échelle horizontalement les pods de votre application en fonction de la demande des utilisateurs, sans quasiment aucune latence supplémentaire pour les utilisateurs en temps réel.
  • Utilisez l’API NGINX Plus pour adapter dynamiquement le nombre de serveurs backend dont la charge est répartie par NGINX Plus.

Protégez les données de vos clients grâce à une sécurité intégrée

La sécurisation des transactions est une exigence fondamentale pour tout site web, en particulier pour les commerçants en ligne qui traitent des informations de carte bancaire. Comme l’ont appris à leurs dépens des enseignes telles que Target, une violation de données peut ternir l’image de marque et entraîner des poursuites judiciaires. Target a remédié à sa violation de données de 2014 en apportant des améliorations qui ont renforcé la visibilité et la sécurité. Démarquez-vous de la concurrence en proposant l’une des expériences d’achat les plus sécurisées du marché grâce à la mise en œuvre des éléments suivants :

Vous êtes maintenant prêt

En équipant dès maintenant vos sites web de nos solutions de niveau entreprise, vous avez l’assurance d’être prêt à affronter tout ce que la saison des achats de fin d’année 2021 vous réserve, en magasin comme en ligne !

Des essais gratuits de 30 jours sont disponibles pour toutes nos solutions commerciales :

Ou commencez avec des solutions gratuites et open source :

Ce blog comprend des contributions d’Owen Garrett et de Floyd Smith.


Partager
Mots-clés : Black Friday, Tech, F5 NGINX, 2021

Articles de blog associés

Tendances actuelles des technologies cloud natives, de l’ingénierie de plateforme et de l’IA
NGINX | 13/10/2025

Tendances actuelles des technologies cloud natives, de l’ingénierie de plateforme et de l’IA

Découvrez les principaux enseignements tirés des réponses à l’enquête annuelle F5 NGINX sur les dernières tendances en matière de technologies cloud natives, de sécurité, d’ingénierie de plateforme et d’IA.

Quels contrôleurs Ingress NGINX sont affectés par les vulnérabilités CVE-2022-4886, CVE-2023-5043 et CVE-2023-5044 ?
NGINX | 03/11/2023

Quels contrôleurs Ingress NGINX sont affectés par les vulnérabilités CVE-2022-4886, CVE-2023-5043 et CVE-2023-5044 ?

Lorsque de nouvelles CVE sont signalées, il est facile de ne plus savoir si elles concernent un outil de contrôleur Ingress NGINX particulier, car il existe plusieurs projets. Cet article présente les CVE et explique comment distinguer les différents projets de contrôleurs Ingress afin de dissiper toute confusion.

Votre API est-elle en temps réel ? Testez sa latence avec l’outil rtapi de NGINX
NGINX | 11/03/2020

Votre API est-elle en temps réel ? Testez sa latence avec l’outil rtapi de NGINX

Votre API répond-elle aux requêtes en moins de 30 ms ? Si ce n’est pas le cas, il ne s’agit pas d’une API en temps réel offrant la faible latence exigée par la grande majorité des organisations. Mesurez la latence de votre API avec l’outil rtapi de NGINX et découvrez comment NGINX peut l’aider à offrir une réactivité en temps réel.

Un testeur d’expressions régulières pour NGINX et NGINX Plus
NGINX | 11/06/2019

Un testeur d’expressions régulières pour NGINX et NGINX Plus

Le testeur d’expressions régulières (regex) pour NGINX et NGINX Plus vous évite de tâtonner en vous indiquant si une expression régulière utilisée dans un bloc location ou map correspond aux valeurs comme prévu. Il génère la configuration appropriée et affiche les valeurs des groupes de capture.

Caches partagés avec les clusters de cache NGINX Plus, partie 1
NGINX | 24/01/2017

Caches partagés avec les clusters de cache NGINX Plus, partie 1

Optimisez la capacité de votre cache web en le répartissant entre plusieurs serveurs de cache web NGINX ou NGINX Plus. Découvrez comment procéder dans cet article.

Introduction aux microservices
NGINX | 19/05/2015

Introduction aux microservices

Les microservices suscitent actuellement beaucoup d’intérêt. Cet article de blog est le premier d’une série de sept consacrée à la conception, au développement et au déploiement de microservices.