No verão de 2024, o fundador e CEO da Nvidia, Jensen Huang, afirmou que “um novo tipo de fábrica de IA em data centers produz uma nova commodity: inteligência artificial”. Portanto, vamos pensar na IA como se ela fosse uma commodity física. Essa perspectiva evoca imagens do Complexo River Rouge da Ford — uma personificação da integração vertical e da industrialização. Ferro e borracha entravam por um lado, e automóveis Ford saíam pelo outro. Com docas próprias, 160 quilômetros de ferrovias internas, uma usina elétrica exclusiva e até mesmo suas próprias fábricas integradas de aço, vidro e papel, o Rouge funcionava 24 horas por dia e produzia quase 1,5 milhão de carros por ano.
Da mesma forma, as fábricas de IA atuais e futuras, que atendem a modelos de treinamento e inferência de alto volume e alto desempenho, consomem enormes quantidades de matérias-primas. Mais especificamente, dados: estruturados, não estruturados, vídeos, textos e muito mais. Essas fábricas transformam esses dados em saídas tokenizadas, que podem ser aproveitadas em uma infinidade de aplicações. E, assim como o Complexo Rouge precisava de um controle preciso sobre cada etapa da produção, as cargas de trabalho de IA exigem sistemas robustos de gerenciamento de tráfego para lidar com a ingestão, o processamento e a entrega de dados — em uma palavra: logística. As soluções adequadas de gerenciamento de tráfego permitem que as fábricas de IA obtenham matérias-primas em sua origem e as tornem utilizáveis. Com as ferramentas logísticas certas, as equipes podem garantir um fluxo de dados contínuo, alta taxa de transferência, baixa latência e segurança, como se mantivessem uma linha de montagem operando sem problemas em todas as etapas.
O que toda fábrica de IA precisa
Harvard Business Review descreveu, em 2020, como o Ant Group, afiliado do Alibaba, gera inteligência acionável a partir de sua fábrica de IA para “gerenciar diversos negócios, atendendo a [mais de] dez vezes o número de clientes dos maiores bancos dos EUA — com menos de um décimo do número de funcionários”. A forma como o Ant Group conceitua a criação de uma fábrica de IA é igualmente convincente:
“Quatro componentes são essenciais para toda fábrica. O primeiro é o pipeline de dados, o processo semiautomatizado que coleta, limpa, integra e protege os dados de maneira sistemática, sustentável e escalável. O segundo são os algoritmos, que geram previsões sobre estados ou ações futuras da empresa. O terceiro é uma plataforma de experimentação, na qual hipóteses relacionadas a novos algoritmos são testadas para garantir que suas recomendações estejam produzindo o efeito desejado. O quarto é a infraestrutura, ou seja, os sistemas que incorporam esse processo ao software e o conectam a usuários internos e externos.”
Anteriormente, em nossa série sobre fábricas de IA, a F5 definiu uma fábrica de IA como um enorme investimento em armazenamento, redes e computação para atender a requisitos de treinamento e inferência de alto volume e alto desempenho. É por isso que o primeiro e o quarto componentes da lista do Ant Group são especialmente intrigantes: o desafio de estabelecer os sistemas necessários para gerenciar, com segurança e eficiência, os dados ingeridos pelos modelos de IA coloca em primeiro plano a questão de como as fábricas de IA devem desenvolver a infraestrutura ao seu redor para gerar valor.
O gerenciamento de tráfego para a ingestão de dados de IA é o processo contínuo pelo qual o tráfego de dados de IA, rico em mídia e com bilhões de parâmetros, é gerenciado e transportado para uma fábrica de IA para fins de aprendizado de máquina e treinamento. É nesse ponto que uma solução de gerenciamento de tráfego de alto desempenho entra em ação para levar esse tráfego até a fábrica de IA. Sem uma solução desse tipo, as equipes podem rapidamente se ver obrigadas a reutilizar conexões para manter o fluxo de tráfego ou acabar esbarrando nos limites da infraestrutura de armazenamento — situações que não são ideais para os requisitos de transporte de dados de alta capacidade e baixa latência necessários para que as fábricas de IA operem no ritmo e na escala desejados e otimizados.
Gerenciando o tráfego de dados de IA que circula para, por meio de e entre fábricas de IA.
“As fábricas de IA exigem soluções de gerenciamento de tráfego de alto desempenho para a ingestão de dados de modelos de IA com bilhões — e, em breve, trilhões — de parâmetros.”
Mantendo as fábricas de IA em operação
Mas o ritmo de evolução nesse campo está longe de ficar estagnado. Modelos de IA cada vez mais complexos exigem volumes maiores de dados de entrada em frequências crescentes. Isso cria um desafio de gravidade de dados, pois a localização dos dados na nuvem ou no ambiente local é extremamente importante para um modelo de IA. Uma fábrica de IA projetada para resistir à atração gravitacional das futuras demandas de dados de IA precisa de uma infraestrutura capaz de se expandir para acompanhar a necessidade de obter insights mais rapidamente a partir dos dados recebidos. Em última análise, a infraestrutura da fábrica de IA pode determinar o sucesso e o valor comercial do modelo de IA ao qual dá suporte. Esse rápido crescimento no consumo de mídia avançada pode aumentar significativamente o tráfego de rede e os custos associados quando o processamento é feito por determinados provedores de nuvem. Assim, as empresas que enfrentam essa situação têm um desafio duplo: manter a transferência de dados em alta velocidade necessária para modelos eficientes de aprendizado de IA e gerenciar as complexidades e os custos relacionados à transferência e ao processamento de dados na nuvem.
Avaliar cuidadosamente os quatro tipos de implantação de fábricas de IA descritos no artigo inicial sobre fábricas de IA (IA como serviço, hospedada na nuvem, auto-hospedada ou hospedada na borda) pode ajudar as empresas a gerenciar essas complexidades, eliminando ou reduzindo a dependência da largura de banda da nuvem. O processamento local dos dados não apenas elimina da equação a questão da largura de banda da nuvem, como também proporciona controle total sobre conjuntos de dados de treinamento confidenciais. Isso, por sua vez, facilita o cumprimento de requisitos regulatórios (como GDPR, HIPAA ou PCI DSS), pois as organizações podem controlar como os dados são armazenados, acessados e processados, além de minimizar sua exposição ao manter informações confidenciais dentro da rede segura da organização.
Uma infraestrutura melhor gera mais valor para as fábricas de IA
O tráfego de dados de IA e o tráfego de aplicações interagem de maneira semelhante com o F5 BIG-IP Local Traffic Manager (LTM) e as soluções de última geração de hardware. Isso significa que, assim como na otimização dos fluxos de tráfego de aplicações tradicionais, as equipes podem otimizar seus fluxos de tráfego de dados de IA com ferramentas como o perfil FastL4, aumentando o desempenho e a taxa de transferência dos servidores virtuais. Elas podem aproveitar as otimizações de TCP para ajustar com precisão a forma como os sistemas lidam com conexões TCP, algo essencial para o desempenho da rede. Podem até mesmo implantar o OneConnect do BIG-IP, aumentando a taxa de transferência da rede por meio do gerenciamento eficiente das conexões criadas entre seus sistemas BIG-IP e os membros do pool de back-end. As organizações que buscam uma solução para distribuir o tráfego de dados de IA entre fábricas de IA não precisam procurar muito. Há mais de duas décadas, a F5 desenvolve ferramentas para otimizar o gerenciamento do tráfego de aplicações, o que torna o BIG-IP LTM ideal para lidar com o tráfego de ingestão de dados de IA.
As aplicações de IA são o que há de mais moderno entre as aplicações modernas. Sem uma solução robusta e versátil de gerenciamento de tráfego, os dados úteis ficam parados em campo, e o valor que um modelo de IA poderia extrair deles se perde. Assim como a Rouge tinha suas docas e quilômetros de trilhos ferroviários, as fábricas de IA contam com soluções da F5, como o BIG-IP.
O foco da F5 em IA não para por aqui — descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.
Quer saber mais sobre fábricas de IA? Confira outros artigos da nossa série de posts sobre fábricas de IA:
- O que é uma fábrica de IA? ›
- Geração Aumentada por Recuperação (RAG) para fábricas de IA ›
- Conectando de forma otimizada fontes de dados de borda a fábricas de IA ›
- Escalabilidade e flexibilidade multicloud dão suporte às fábricas de IA ›
- O poder e o significado da DPU NVIDIA BlueField para fábricas de IA ›
- Proteção de APIs para fábricas de IA: o primeiro passo para a segurança da IA ›
- A importância da segmentação de rede para fábricas de IA ›
- As fábricas de IA produzem os mais modernos aplicativos: aplicativos de IA ›
Sobre o autor
Griff Shelley é gerente de marketing de produtos na F5, especializado em soluções de entrega de aplicações baseadas em hardware, software e SaaS. Motivado por conectar tecnologias inovadoras ao sucesso dos clientes, Griff lidera projetos de entrada no mercado nas áreas de entrega global e local de aplicações, serviços em nuvem e infraestrutura de tráfego de dados para IA. Antes de iniciar sua carreira em tecnologia, atuou como orientador acadêmico no ensino superior e formou-se pela Eastern Washington University e pela Auburn University.
Mais publicações de Griff ShelleyPublicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...