Veja como um provedor global de serviços em nuvem melhora a entrega de dados com a F5

Hunter SmitGerente Sênior de Marketing de Produto | F5

O armazenamento de objetos foi projetado para ser um local acessível e durável para armazenar dados, não para ser o serviço mais sobrecarregado do data center. Até a era da IA, essa distinção não fazia muita diferença, pois o tráfego direcionado a ele — como backups, arquivos, mídias e ativos de aplicações — não era tão exigente. Então, surgiram as cargas de trabalho de treinamento e ajuste fino de modelos e de geração aumentada por recuperação (RAG), e os padrões de leitura e gravação passaram de acessos ocasionais à saturação contínua.

Essa mudança cria um problema econômico. Seu cluster de GPUs provavelmente é o ativo mais caro no balanço da sua infraestrutura e não gera nenhum retorno enquanto espera pelos dados. Cada interrupção no caminho do armazenamento tem seu custo diluído em um hardware cujo custo por hora é maior do que o de quase qualquer outro recurso que você opera, o que significa que as camadas se inverteram. A camada de entrega à frente do armazenamento agora determina o retorno sobre seu recurso computacional mais caro, e esse caminho deixou de ser apenas uma infraestrutura de suporte para se tornar um produto por si só.

O que uma operadora de armazenamento em hiperescala fez a respeito

Um dos clientes da F5, um provedor global de nuvem, opera um serviço de armazenamento de objetos compatível com S3 em dezenas de data centers. O serviço é o principal repositório de dados não estruturados dos clientes e, cada vez mais, a fonte de dados para os pipelines de treinamento de modelos desses clientes. Todas as operações de leitura e gravação passam por uma camada de balanceamento de carga antes mesmo de chegar a um nó de indexação ou armazenamento, e essa camada, baseada em appliances Citrix NetScaler, havia se tornado o gargalo.

Os requisitos não eram incomuns. Eram requisitos comuns, mas que se tornavam extremamente difíceis devido ao custo de atendê-los nessa escala. O provedor precisava encerrar e restabelecer a criptografia TLS à velocidade máxima da conexão, fazer o roteamento na Camada 7 com base no nome do bucket S3 e aplicar limites de taxa de forma consistente em um cluster ativo-ativo, tanto limites globais no nível do serviço quanto limites específicos por bucket, para que a tarefa de ingestão de um locatário não esgotasse os recursos disponíveis para os demais. Também precisava de balanceamento de carga global de servidores entre os sites e suporte a FIPS para locatários sujeitos a regulamentações. No fim das contas, garantir a equidade entre locatários é uma questão de política da camada de entrega, pois, quando o tráfego chega aos nós de armazenamento, o prejuízo já está feito.

O provedor substituiu sua infraestrutura legada de controladores de entrega de aplicações (ADC) por F5 BIG-IP implantado no F5 rSeries. O TLS é encerrado e criptografado novamente à velocidade da linha. As solicitações são roteadas na Camada 7 com base no nome do bucket S3, e a política no nível do bucket agora é definida em um único local, em vez de ser replicada em toda a infraestrutura. Os limites de taxa são definidos uma única vez e aplicados uniformemente em todo o cluster, em vez de serem ajustados manualmente em cada equipamento. O balanceamento de carga global de servidores direciona o tráfego entre os sites, e os tenants regulamentados mantêm a cobertura FIPS.

O hardware mudou tanto quanto a implementação das políticas. A nova infraestrutura ocupa um espaço físico 80% menor, oferece 2,4 vezes a capacidade nominal de processamento, consome cerca de um quinto da energia por gigabit nominal e reduz em 222 o número de dispositivos que precisam de correções, certificação e solução de problemas. Normalmente, a capacidade excedente é obtida à custa dos dois recursos mais escassos em um data center: energia e espaço em racks. Neste caso, ela veio acompanhada de uma redução em ambos, transformando a capacidade recuperada em uma opção, e não em uma aquisição. Em uma instalação onde a capacidade de IA é adquirida em termos de energia e espaço, o provedor agora dispõe de mais de ambos sem ter se comprometido antecipadamente com a forma como irá utilizá-los.

É isso que a F5 chama de entrega de dados para IA. O caminho entre o armazenamento e a computação é uma fronteira, e a inserção de um ponto de controle nesse local permite aplicar requisitos de acessibilidade, políticas e resiliência da entrega. Isso significa tratar esse caminho como planos de controle e de dados projetados com requisitos próprios de desempenho, segurança e governança, em vez de considerá-lo um elemento secundário acoplado ao sistema de armazenamento.

Por que isso é importante mesmo que você nunca treine um modelo

Quase nada na situação desse cliente é específico de aprendizado de máquina ou do treinamento de modelos de fronteira — e esse é justamente o ponto. Como o S3 opera sobre HTTP, todas as práticas que a F5 desenvolveu ao longo de três décadas para o tráfego da Web — desde a distribuição inteligente de carga com reconhecimento de integridade e a inspeção de protocolos até o descarregamento de criptografia e a limitação de tráfego por locatário — passam a se aplicar diretamente ao armazenamento de objetos assim que um proxy robusto é colocado à frente dele. A mesma porta de entrada que mantém um pipeline de treinamento estável e operando em plena capacidade também torna previsíveis as janelas de backup, mantém constantes as consultas analíticas e impede que uma aplicação ruidosa prejudique o armazenamento para todos os demais. A entrega de dados para IA é a carga de trabalho que finalmente tornou impossível ignorar essa porta de entrada.

Três perguntas para quem gerencia seu armazenamento

Ao avaliar a estratégia de armazenamento da sua organização, considere estas três perguntas:

1. Quando um nó de armazenamento apresenta degradação, o que redireciona o tráfego e com que rapidez? Se a resposta for que o cliente tenta novamente, você não tem uma camada de entrega, mas sim uma arquitetura de entrega baseada na esperança.
2. É possível limitar a taxa de um único tenant ou bucket sem mexer no próprio cluster de armazenamento? Se não for possível, sua política de equidade não passa de uma sugestão.
3. Quanto do seu orçamento de renovação de armazenamento parte do pressuposto de que a porta de entrada permanecerá inalterada? Esse provedor descobriu que o maior potencial estava na camada de entrega, e não no armazenamento por trás dela.

A principal conclusão é que capacidade e entrega são decisões distintas. Capacidade é algo que você compra. Entrega é algo que você projeta. À medida que os pipelines de dados se tornam as cargas de trabalho das quais sua empresa mais depende, as equipes que estão saindo na frente são aquelas que tratam o caminho até o armazenamento com o mesmo rigor que sempre aplicaram ao próprio armazenamento.

O foco da F5 em IA não para por aqui — descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.

Sobre o autor

Hunter SmitGerente Sênior de Marketing de Produto | F5

Hunter Smit é gerente sênior de marketing de produtos para soluções e estratégia na F5. Ele lidera o marketing de soluções em todo o portfólio da F5, incluindo infraestrutura de IA e segurança de aplicações, e está conduzindo a entrada da F5 no mercado emergente de entrega de dados para IA. Hunter integra o Conselho Consultivo da Escola de Negócios da Whitworth University e atuou como professor adjunto de marketing de produtos. Ele possui MBA e bacharelado em Administração de Empresas com ênfase em gestão pela Whitworth University.

Mais publicações de Hunter Smit