Ao longo da série da F5 sobre fábricas de IA, apresentamos e definimos as fábricas de IA, exploramos seus elementos e analisamos como as escolhas relacionadas à entrega e à segurança de aplicações afetam o desempenho. Neste artigo, o quinto da série, exploramos o papel fundamental das redes multinuvem no fornecimento de inferência e no suporte à movimentação de dados para uma fábrica de IA, que a F5 define como um investimento de grande escala em armazenamento, redes e computação para atender a requisitos de treinamento e inferência de alto volume e alto desempenho.
Diagrama da arquitetura de referência de IA da F5 ›
Navegando pela arquitetura distribuída: a localização afeta o desempenho das cargas de trabalho
Os pontos de interconexão distribuídos estão no centro das fábricas de IA e viabilizam a operação da infraestrutura de armazenamento, rede e computação. À medida que as empresas projetam suas fábricas de IA, muitos serviços provavelmente estarão fisicamente localizados no mesmo data center ou nas proximidades. No entanto, alguns serviços podem estar distribuídos geograficamente. Serviços como aplicações de front-end, serviços de inferência e os modelos necessários oferecerão o melhor desempenho se forem projetados para ficar próximos de onde serão utilizados. Além disso, Geração Aumentada por Recuperação (RAG) dados do corpus de conhecimento podem estar envolvidos caso o projeto utilize RAG, mas, por enquanto, vamos nos concentrar no front-end, nos serviços de inferência e na implantação de modelos.
Serviços de inferência e aplicações de front-end
De acordo com a lista do Google de 185 casos reais de uso de IA generativa nas principais organizações do mundo, observamos que muitas dessas empresas dependem de localizações estratégicas para atender às cargas de trabalho de IA de clientes globais. A arquitetura distribuída de uma fábrica de IA deve ser priorizada e cuidadosamente planejada tendo em vista a experiência do usuário final. No relatório State of Application Strategy 2024 da F5, constatou-se que 88% das organizações operam em um modelo de nuvem híbrida. Também foi relatado que 94% dos entrevistados enfrentam desafios relacionados à multinuvem.
Segurança em várias camadas: aprendizados com redes definidas por software (SDNs)
Então, qual é a melhor maneira de viabilizar uma comunicação segura e otimizada entre as fábricas de IA e as instâncias em que a inferência é consumida? A resposta está nas redes. Para entender o motivo, vamos analisar um termo muito usado no setor, mas que passou praticamente despercebido fora do universo dos provedores de serviços: redes definidas por software (SDN), que têm sido fundamentais para a segurança das arquiteturas 3GPP, como 4G e 5G. O sucesso das arquiteturas 3GPP em termos de segurança pode ser atribuído à adoção de um isolamento rigoroso das aplicações.
As SDNs oferecem uma solução poderosa ao implementar princípios de confiança zero nas camadas 2 e 3, segundo os quais o tráfego só pode ser roteado para uma aplicação após ser verificado e processado por uma infraestrutura de roteamento determinístico definida por software. Isso garante que cada componente de uma aplicação possa ser dimensionado de forma independente, tanto local quanto globalmente, para alcançar níveis ideais de desempenho e segurança. Além disso, as SDNs roteiam o tráfego das aplicações por nome, em vez de endereço IP, reduzindo problemas como a sobreposição de endereços IP e permitindo o dimensionamento contínuo de aplicações e soluções de segurança em diferentes regiões e ambientes. O roteamento explícito e o tunelamento nas SDNs também oferecem uma defesa robusta contra possíveis ataques, pois o acesso não autorizado exige tanto a propriedade de recursos dentro da SDN quanto a conformidade com protocolos de comunicação rigorosos.
Grandes operadoras de telecomunicações de nível 1 vêm demonstrando a eficácia desses princípios em larga escala, e faz sentido aplicá-los a cargas de trabalho ainda maiores em redes multinuvem (MCN) para fábricas de IA.
Como proteger a conectividade na escala da IA
Parece fácil, certo? O smartphone no qual você talvez esteja lendo este texto provavelmente tem uma GPU, conectividade 5G e um código de acesso. Isso deveria bastar para garantir a segurança privada, certo? Bem, não exatamente. Por enquanto, analisaremos três pontos. No entanto, saiba que eles são apenas o começo e que outros aspectos serão identificados à medida que você projetar e modelar o cenário de ameaças da sua fábrica de IA.
Primeiro, vamos falar sobre velocidade. Quando a IA generativa ganhou destaque inicialmente com o ChatGPT, no final de 2022, nosso foco eram os dados de texto. No entanto, em 2024, vemos cada vez mais casos de uso envolvendo outras modalidades, como imagens, vídeos, textos e dados combinados no fluxo, além de modelos da camada de aplicação baseados em especializações. Em uma arquitetura distribuída de fábrica de IA, talvez não seja desejável nem viável implantar todos os modelos em todos os lugares. Isso pode depender de fatores como gravidade dos dados, gravidade energética ou requisitos computacionais. É nesse ponto que você pode optar por uma interconexão de rede de alta velocidade para eliminar lacunas e mitigar os problemas de desempenho enfrentados ao afastar serviços dependentes uns dos outros.
Vamos abordar também o roubo de modelos, um dos 10 principais riscos da OWASP para modelos de linguagem de grande escala (LLMs) e aplicativos de IA generativa. Qualquer empresa que pretenda usar a IA generativa para obter vantagem competitiva incorporará sua propriedade intelectual ao sistema. Isso pode ser feito treinando seu próprio modelo com dados corporativos ou realizando o ajuste fino de um modelo. Nesses cenários, assim como ocorre com seus outros sistemas empresariais, sua fábrica de IA gera valor por meio de um modelo que precisa ser protegido. Para evitar o roubo de modelos em uma arquitetura distribuída, é necessário garantir que esse modelo, suas atualizações e as fontes de dados que o aplicativo precisa acessar estejam criptografados e sujeitos a controles de acesso.
Por fim, vamos considerar a negação de serviço do modelo, que também está entre os 10 principais riscos da OWASP para LLMs e aplicações de IA generativa. À medida que aumenta a confiança nas aplicações de IA, cresce também seu uso em sistemas críticos — seja em um sistema que gera uma receita significativa para sua empresa, seja em um sistema essencial à manutenção da vida, como em um cenário de assistência à saúde. O acesso ao front-end e à inferência deve ser projetado de modo que qualquer possível ponto de entrada seja resiliente, controlado e seguro. Esses cenários de acesso podem se aplicar tanto ao acesso do usuário final quanto à comunicação dos serviços de inferência com a fábrica de IA central.
Visibilidade, orquestração e criptografia integradas
As soluções seguras de rede multinuvem oferecem a conectividade, a segurança e a visibilidade necessárias para projetar os aspectos distribuídos da arquitetura de uma fábrica de IA. F5 Distributed Cloud Network Connect atende a todos os requisitos acima e muito mais. O Distributed Could Network Connect também oferece soluções exclusivas de borda do cliente que permitem conectividade universal, seja para executar inferência na nuvem pública, em data centers próprios ou de colocation, ou na borda, usando o hardware de sua preferência. Basta fazer uma implantação simples e rápida para que a borda do cliente estabeleça a conectividade por conta própria.
- Conecte-se com rapidez: F5 Distributed Cloud Services é desenvolvido sobre uma rede global interconectada de alta velocidade, que está entre as redes com maior número de interconexões do mundo. As empresas podem ter a certeza de que suas fábricas de IA incorporam a conectividade mais rápida possível aos seus serviços distribuídos. Distributed Cloud Network Connect permite o provisionamento rápido de sites, possibilitando que as empresas forneçam serviços de IA imediatamente.
- Conecte-se com segurança: O Distributed Cloud Network Connect é seguro por padrão. A conectividade é criptografada e permite controle total sobre o que pode ou não se conectar a uma fábrica de IA e aos serviços distribuídos. Além disso, as bordas do cliente podem ser usadas para habilitar serviços além dos que abordamos até agora, incluindo proteção de aplicações web e APIs (WAAP).
- Conecte-se com visibilidade: O Distributed Cloud Services também oferece um console baseado em SaaS com painéis avançados e repletos de dados, que fornecem insights sobre a integridade da conectividade das aplicações em qualquer parte da rede. Isso permite que as equipes identifiquem proativamente onde podem estar surgindo problemas e os solucionem antes que se agravem.
Projetar sua fábrica de IA não é uma tarefa simples, e as empresas querem aproveitar os benefícios da IA o mais rápido possível, garantindo a máxima segurança. A capacidade de implantar de forma confiável várias funções seguras da sua fábrica de IA permitirá inovar mais rapidamente, além de liberar tempo para se concentrar nos aspectos das fábricas de IA que proporcionam uma verdadeira diferenciação para os negócios e uma vantagem competitiva. Se quiser saber mais sobre redes multinuvem, assista à nossa aula do Brightboard ou conheça o F5 Distributed Cloud Network Connect.
O foco da F5 em IA não para por aqui—descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.
Quer saber mais sobre fábricas de IA? Confira outros artigos da nossa série de posts sobre fábricas de IA:
- O que é uma fábrica de IA? ›
- Geração Aumentada por Recuperação (RAG) para fábricas de IA ›
- Otimize o gerenciamento de tráfego para ingestão de dados em fábricas de IA ›
- Conectando fontes de dados de borda a fábricas de IA de forma otimizada ›
- O poder e o significado da DPU NVIDIA BlueField para fábricas de IA ›
- Proteção de APIs para fábricas de IA: o primeiro passo para a segurança da IA ›
- A importância da segmentação de rede para fábricas de IA ›
- As fábricas de IA produzem os aplicativos mais modernos da atualidade: aplicativos de IA ›
Sobre os autores
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...