GPU como serviço: o catalisador do crescimento da IA na ASEAN, oportunidades e desafios

Chin LimDiretor sênior para a ASEAN, F5

À medida que a inteligência artificial (IA) continua avançando, a demanda por hardware de alto desempenho cresce vertiginosamente. As organizações enfrentam cada vez mais dificuldades para acompanhar a capacidade computacional necessária para executar modelos e cargas de trabalho complexos de IA. É nesse cenário que entra a GPU como Serviço (GPUaaS).

Ao oferecer acesso sob demanda, pela nuvem, a poderosas unidades de processamento gráfico (GPUs), a GPUaaS está transformando a forma como as empresas abordam a infraestrutura de IA. Ela elimina a necessidade de investimentos dispendiosos em hardware, permite um escalonamento contínuo e integra-se facilmente aos serviços de nuvem existentes — tudo isso simplificando as operações. Mas como exatamente a GPUaaS funciona e por que está se tornando a solução preferida das organizações orientadas por IA?

Desbloqueando o potencial da IA na ASEAN

Na Associação das Nações do Sudeste Asiático (ASEAN), o mercado de GPUaaS está se expandindo à medida que mais participantes entram nesse segmento para enfrentar desafios regionais específicos. Um dos principais fatores que impulsionam esse crescimento é o idioma. Os grandes modelos de linguagem (LLMs) de código aberto são treinados predominantemente em inglês e muitas vezes têm dificuldade para lidar com idiomas locais ricos em nuances culturais. Por isso, as organizações precisam retreinar ou fazer o ajuste fino desses modelos com dados locais para garantir respostas mais precisas e relevantes nos idiomas nativos.

Ao mesmo tempo, os benefícios do uso de GPUaaS estão ajudando a impulsionar sua adoção. A escalabilidade permite que os usuários ajustem facilmente os recursos de GPU de acordo com as necessidades do projeto. Já a elasticidade, por meio de um modelo de pagamento conforme o uso, permite que as organizações reduzam as despesas gerais, pagando apenas pelo que utilizam. A GPUaaS também oferece acesso imediato a tecnologias de ponta, facilitando a rápida criação de protótipos e implantação, o que aumenta a flexibilidade e reduz o tempo de lançamento no mercado.

Outra consideração importante é a gravidade, a residência e a soberania dos dados. A gravidade dos dados refere-se à tendência de os dados atraírem aplicações e serviços para o local onde estão armazenados, a fim de melhorar o desempenho e a eficiência. Em muitos casos, os dados precisam permanecer em locais específicos devido a regulamentações de residência e soberania, o que significa que os provedores de GPUaaS precisam estar localizados próximos às suas bases de usuários. A IA soberana, que enfatiza a capacidade de uma nação desenvolver IA usando sua própria infraestrutura, seus dados e seus recursos, também desempenha um papel significativo na demanda por GPUaaS localizada.

Por fim, o custo e a oferta limitada de GPUs por parte dos provedores de serviços em nuvem (CSPs) na ASEAN são fatores a serem considerados na adoção de GPUaaS. De acordo com um relatório recente da Dell, as implantações locais de IA podem gerar uma economia de até 75% em comparação com soluções baseadas em CSPs. A GPUaaS oferece uma alternativa econômica, permitindo que as organizações acessem GPUs de alto desempenho sem precisar fazer um investimento inicial significativo em hardware, o que a torna uma opção atraente para quem busca ampliar seus recursos de IA na região.

Equilibrando os benefícios e os riscos da GPUaaS

Embora os benefícios da GPUaaS contribuam para sua ampla adoção, eles também trazem uma série de preocupações. Uma questão importante é a segurança dos dados, pois os dados transmitidos de e para as GPUs podem estar vulneráveis à interceptação ou ao acesso não autorizado. Além disso, o processamento de dados em GPUs remotas pode exigir a adequação a diferentes regulamentações de proteção de dados e requisitos de conformidade. Outra preocupação é o desempenho, já que a dependência da Internet ou de conectividade privada, bem como as oscilações no desempenho das GPUs, pode afetar a velocidade e a capacidade de resposta das aplicações. A GPUaaS depende de conexões estáveis e de alta velocidade, muitas vezes priorizando redes privadas em vez da Internet pública para garantir o desempenho ideal.

Como a F5 pode ajudar?

A F5 oferece serviços inovadores de rede, otimização de tráfego e segurança baseados em SaaS multinuvem para nuvens públicas e privadas, incluindo provedores de GPUaaS, por meio de um único console.

Ao criar uma sobreposição de malha criptografada sobre qualquer rede, as organizações podem se conectar a um provedor de GPUaaS (fábrica de IA) para realizar inferência, incorporação ou treinamento de IA. Com a segmentação completa da rede e das aplicações, toda a conectividade da sobreposição é privada e segura, implementada sobre uma infraestrutura de rede existente. Além disso, a malha criptografada da F5 enfrenta os desafios de resiliência digital ao monitorar, detectar, otimizar e direcionar dinamicamente o tráfego para os componentes de IA íntegros, garantindo que suas aplicações de IA estejam sempre ativas e disponíveis.

Veja abaixo um exemplo de implantação de geração aumentada por recuperação (RAG) com um LLM, utilizando uma fábrica de IA de um provedor de GPUaaS. Como os dados são transportados com segurança pela malha segura e criptografada, não há preocupação com dados em trânsito; além disso, nenhum dado fica armazenado no provedor de GPUaaS. Os dados do corpus de uma organização permanecem armazenados no local original, sem qualquer alteração. Essa arquitetura também permite que a inferência de IA seja realizada na borda para aplicações sensíveis à latência (em uma nuvem pública ou até mesmo em filiais).

Se o aplicativo de IA (como um chatbot agêntico com RAG) for disponibilizado na Internet, é importante considerar um serviço de proteção de aplicativos web e APIs (WAAP) baseado em rede de nuvem para proteger o aplicativo de IA contra ataques cibernéticos.

Figura 1: Exemplo de implantação de geração aumentada por recuperação (RAG) com LLM, utilizando uma Fábrica de IA de um provedor de GPUaaS

Ao utilizar uma plataforma com um único console de gerenciamento, agora é possível garantir conformidade, observabilidade e controle de todo o tráfego, incluindo APIs que trafegam nos sentidos Norte/Sul e Leste/Oeste pela malha criptografada.

Figura 2: A descoberta de APIs, o gerenciamento da postura e a proteção de APIs são fundamentais para a segurança de LLMs de IA.

Além disso, o tráfego pela Internet pública e pela malha privada criptografada precisa ser observável e controlável pelas equipes de NetOps e SecOps para gerenciar o que é, essencialmente, uma infraestrutura multicloud complexa e heterogênea.

Figura 3: A rede multicloud e a observabilidade são essenciais em uma implantação distribuída de IA, que pode abranger data centers locais, nuvem privada, nuvem pública e edge.

Quer saber mais?

À medida que a adoção da IA se acelera, incorporar resiliência aos sistemas de IA é fundamental para garantir o sucesso a longo prazo. A GPUaaS oferece uma solução escalável e eficiente, mas as organizações precisam lidar com desafios como segurança de dados, variações de desempenho e conformidade regulatória. Ao abordar essas questões e aproveitar a flexibilidade da GPUaaS, as empresas podem se preparar melhor para atender às crescentes demandas das cargas de trabalho impulsionadas por IA.

Se você quiser descobrir como a resiliência da IA pode fortalecer sua organização, visite-nos na próxima conferência GovWare no estande P06, de 15 a 17 de outubro, no Sands Expo and Convention Centre, onde discutiremos essas tendências e soluções em mais detalhes.

Sobre o autor

Chin LimDiretor sênior para a ASEAN, F5

Radicado em Singapura e amplamente conhecido como Chin, ele atua como Diretor Sênior de Vendas Estratégicas da F5 ASEAN, liderando a estratégia de engajamento de clientes na região da ASEAN. Chin possui mais de 25 anos de experiência em desenvolvimento de aplicações e operações de infraestrutura, com foco especial em arquitetura nativa da nuvem, entrega de aplicações modernas baseadas em microsserviços e infraestrutura de borda segura. Antes de ingressar na F5, trabalhou na Borland Software como diretor de Gestão de Vendas de Produtos para a região Ásia-Pacífico, onde gerenciava soluções de gestão do ciclo de vida de aplicações e middleware. Antes da Borland Software, liderou uma equipe de gerentes de soluções e consultores na BEA e ajudou empresas a projetar ambientes de aplicações distribuídas usando as plataformas WebLogic e Tuxedo. Chin é bacharel em Engenharia da Computação com honras de primeira classe pela Universidade de Newcastle, na Austrália.

Mais publicações de Chin Lim