Livraison d’applications en libre-service chez Comcast : une histoire d’adoption, de DevOps et des défis liés aux services à forte croissance

Christopher Litsinger, directeur des plateformes d’applications cloud chez Comcast

En 2015, une petite équipe d’ingénieurs débrouillards s’est lancée dans le remplacement d’une passerelle commerciale de gestion des API par une solution interne basée sur NGINX, avant de transformer le système en plateforme en libre-service. Un an plus tard, ils en sont ressortis quelque peu échaudés, mais triomphants, après avoir migré de manière transparente des centaines de services existants vers la nouvelle plateforme. Les temps de latence avaient diminué et les éloges fusaient : « L’ancien 50e percentile est le nouveau 99e ! », se réjouissaient les clients.

Ces améliorations ont entraîné une croissance imprévue. En deux ans, le nombre de services hébergés a plus que doublé. Des centres de données ont été ouverts, puis fermés. Des milliers de nouveaux identifiants ont été ajoutés au système. Le taux de transactions, qui culminait autrefois à 2 000 requêtes par seconde, est passé à 33 000. Dans sa hâte de ne plus payer pour une solution commerciale, la petite équipe DevOps avait pris la décision stratégique de reporter la mise en place du libre-service. Elle n’avait désormais d’autre choix que de donner la priorité aux tâches manuelles nécessaires pour ajouter des services et des identifiants, tout en poursuivant le développement du libre-service, avant de finir par le proposer à ses utilisateurs.

Lors de sa session à la NGINX Conf 2018, Christopher revient sur le déroulement des événements, examine les décisions qui ont été prises et présente les enseignements tirés des difficultés rencontrées par son équipe.