Sentient.io démocratise l’IA grâce aux services F5 Distributed Cloud

Sentient.io, fournisseur de plateformes d’IA et de données basé à Singapour, démocratise l’accès à l’IA pour les entreprises de toutes tailles. Les services F5 Distributed Cloud ont contribué à rationaliser les opérations dispersées de Sentient.io, réduisant ainsi les coûts d’exploitation tout en permettant le traitement de l’IA en temps réel à la périphérie du réseau.

Défi commercial

Le parcours de Sentient.io en tant qu’innovateur dans le domaine de l’IA a été couronné d’un succès remarquable. Dans le cadre de sa vision visant à doter différents secteurs de solutions d’IA transformatrices, Sentient.io cherche à fournir des informations en temps réel qui favorisent une prise de décision efficace. Les solutions d’IA de l’entreprise révolutionnent les secteurs d’activité et permettent aux entreprises de libérer le pouvoir transformateur de l’IA. Sentient Marketplace, la place de marché de l’entreprise, est un pôle de services d’IA innovants qui permet aux entreprises d’intégrer facilement l’IA à leurs processus de travail existants. Sentient Marketplace permet aux clients des pays de l’ASEAN et du Japon d’exploiter la puissance de l’IA.

Cependant, la croissance rapide et l’élargissement de la clientèle ont engendré plusieurs défis complexes, notamment la complexité des environnements multicloud et les limites du traitement cloud natif traditionnel. Les solutions propres à chaque fournisseur de cloud présentent des difficultés intrinsèques lorsqu’elles sont utilisées dans des environnements faisant appel à plusieurs fournisseurs. Chacun propose, par exemple, sa propre distribution Kubernetes (GKE ou AKS), ce qui peut s’avérer difficile à gérer pour les organisations qui doivent exploiter ces plateformes dans leurs environnements cloud respectifs.

À ces difficultés s’ajoutait la lourdeur du processus de déploiement des modèles d’IA sur les sites des clients. L’approche manuelle, qui consistait à télécharger les modèles, à configurer des environnements Kubernetes sur site pour chaque site périphérique et à gérer manuellement les mises à jour, était non seulement chronophage, mais aussi source d’erreurs, entraînant des retards et des déploiements de modèles incohérents. En outre, la synchronisation des nouveaux modèles depuis la plateforme centrale Sentient Marketplace vers les sites des clients reposait sur un processus très manuel, ce qui accentuait les inefficacités opérationnelles sur l’ensemble de ces sites.

À mesure que les applications d’IA de Sentient.io gagnaient en popularité auprès des clients, l’entreprise a pris conscience des difficultés liées à l’exploitation et au déploiement de ces services dans des environnements distribués — sur site, dans le cloud public et dans le cloud privé. Cela a allongé le délai de rentabilisation de ses offres, tout en augmentant la complexité opérationnelle et en entraînant un manque de cohérence dans l’orchestration des workflows et les politiques de sécurité. En outre, l’entreprise ne trouvait aucune solution capable de fonctionner sur n’importe quel cloud afin de déployer et de fournir ses applications d’IA de manière sécurisée.

Solutions

Consciente de la nécessité d’adopter une approche plus simple et plus efficace, Sentient.io s’est associé à F5 et s’appuie sur les services F5 Distributed Cloud pour proposer des solutions d’IA « en tant que service » clés en main et de niveau entreprise à des clients issus de divers secteurs, afin de leur permettre d’exploiter toute la puissance de l’IA au service de leur activité.

F5 Distributed Cloud App Stack est le service essentiel qu’ils ont activé sur la plateforme afin de permettre le traitement des données en temps réel à la périphérie. Distributed Cloud App Stack permet de fournir les données d’inférence localisées au plus près de l’application, réduisant ainsi la dépendance aux connexions Internet ou mobiles pour leur récupération.

Distributed Cloud App Stack a unifié leur environnement applicatif, supprimant la nécessité de gérer plusieurs distributions Kubernetes et rationalisant le déploiement et la gestion des principaux services d’IA. Cette simplification a permis de nombreuses améliorations opérationnelles et a donné à Sentient.io la possibilité de déployer facilement et plus efficacement des modèles d’IA auprès de n’importe quel fournisseur de cloud.

« Grâce à F5 Distributed Cloud App Stack, notre façon de fournir une infrastructure d’IA à nos clients a été transformée », déclare Christopher Yeo, PDG de Sentient.io. « Le traitement des données en périphérie a permis d’obtenir des informations en temps réel, donnant à nos clients les moyens de prendre instantanément des décisions éclairées, quels que soient le volume des données ou l’endroit où ils se trouvent. Cette évolution a révolutionné notre activité et nous a placés à l’avant-garde de l’innovation en matière d’IA. »

À l’avenir, Sentient.io envisage également d’explorer les services F5 Distributed Cloud afin de sécuriser ses solutions de LLM. « Notre expérience avec F5 nous a donné la confiance nécessaire pour envisager F5 Distributed Cloud Web Application and API Protection (WAAP), afin de sécuriser nos services de LLM de manière globale et d’atténuer les menaces liées aux LLM, telles que les dénis de service et la divulgation d’informations sensibles », explique Yeo.

Grâce à F5, Sentient.io permet aux entreprises à la recherche de solutions innovantes d’IA/ML d’accélérer la création de valeur.

Résultats

Plateforme PaaS unifiée

F5 Distributed Cloud Services a supprimé la nécessité de gérer plusieurs environnements cloud, simplifiant ainsi les opérations et améliorant l’efficacité. Sentient.io a ainsi pu déployer des modèles d’IA auprès de plusieurs fournisseurs de cloud avec davantage d’agilité et d’évolutivité.

Des informations en temps réel à la périphérie

La solution a rationalisé les opérations de Sentient, réduisant la latence et permettant le traitement de l’IA en temps réel à la périphérie du réseau. L’exécution de l’inférence à la périphérie élimine les contraintes de réseau et de bande passante liées à la situation géographique et garantit la transmission immédiate des résultats d’inférence aux applications en temps réel. Cette évolution du déploiement des modèles a permis à Sentient.io de fournir à ses clients des applications d’IA hautement performantes, tout en accélérant la création de valeur.

Distributed Cloud App Stack intègre des capacités GPU, ce qui évite à Sentient de devoir déployer des ressources GPU supplémentaires sur chaque site d’inférence.

Réduction des coûts et renforcement de la sécurité

En rationalisant leurs opérations sur la plateforme Distributed Cloud, ils ont pu optimiser l’allocation des ressources et réduire les coûts opérationnels globaux. L’intégration native et la prise en charge de la sécurité des applications et des API sur la plateforme ont permis de protéger toutes les applications d’inférence.

Cette collaboration a également permis de réaliser d’importantes économies. La gestion de plusieurs plateformes cloud nécessitait des équipes dédiées et mobilisait des ressources considérables. Grâce aux services F5 Distributed Cloud, Sentient a simplifié ses opérations et réduit ses coûts en optimisant les ressources et en simplifiant la gestion des applications, libérant ainsi des ressources pour des initiatives stratégiques.

Yeo explique : « Voilà ce qu’il faut retenir de F5 Distributed Cloud Services : ce n’est pas seulement une solution extrêmement performante pour l’IA, c’est aussi notre arme secrète pour sécuriser les données. Tout repose sur la confiance. Avec F5, Sentient.io ne se contente pas d’innover : l’entreprise garantit également une protection sans faille de la confidentialité et de l’intégrité des données. »

Voir tous les témoignages clients