Nos últimos meses, a F5 tem abordado em profundidade as fábricas de IA. No início da nossa série, definimos uma fábrica de IA como um investimento de grande porte em armazenamento, redes e computação para atender aos requisitos de treinamento e inferência de alto volume e alto desempenho. Em última análise, as fábricas de IA são uma analogia de como modelos e serviços de IA são criados, aprimorados e implantados. Assim como uma fábrica tradicional transforma matérias-primas em produtos acabados, as fábricas de IA desenvolvem aplicações de IA.
Neste artigo do blog, descreveremos as semelhanças e diferenças entre uma aplicação de IA e uma aplicação moderna, destacando as necessidades de entrega e segurança e analisando essas aplicações modernas de IA no contexto da Arquitetura de Referência de IA da F5.
Evolução das aplicações modernas
Os aplicativos modernos passaram por uma evolução significativa, impulsionada pela necessidade de agilidade, escalabilidade e experiências de usuário aprimoradas. O advento da computação em nuvem marcou um ponto crucial nessa evolução, fornecendo a base para sistemas altamente distribuídos, capazes de escalar com eficiência e operar de forma integrada em vários ambientes. A modernização de aplicativos consiste na evolução para sistemas baseados em APIs, o que levou a arquitetura a se tornar híbrida e multinuvem.
As aplicações de IA ampliam ainda mais a dependência de APIs e consolidam os ambientes híbridos e multicloud como o novo padrão. As tecnologias de conteinerização revolucionaram ainda mais a implantação de aplicações ao possibilitar ambientes de software consistentes e isolados, independentemente da infraestrutura subjacente. Esses avanços não são apenas fundamentais para as aplicações modernas tradicionais, mas também servem como base para as fábricas de IA. A agilidade proporcionada pela computação em nuvem e pela conteinerização é essencial para gerenciar as intensas demandas computacionais do treinamento e da implantação de modelos de IA.
Ferramentas de orquestração como o Kubernetes são essenciais para gerenciar aplicações em contêineres em grande escala. O Kubernetes automatiza a implantação, o dimensionamento e o gerenciamento dessas aplicações. Em fluxos de trabalho de IA, o Kubernetes coordena a implantação de cargas de trabalho de IA em vários sistemas, alocando recursos com eficiência e permitindo o dimensionamento contínuo de modelos de IA.
“Ao começar com estratégias comprovadas de segurança e entrega, as equipes podem construir uma base sólida e enfrentar gradualmente os desafios específicos impostos pelas aplicações de IA.”
Um aspecto crítico desse processo é o MLOps, que aborda os desafios específicos do desenvolvimento, treinamento e operacionalização de modelos de IA. O MLOps oferece suporte à integração e entrega contínuas (CI/CD), garantindo que os modelos de IA sejam continuamente testados, atualizados e implantados. Além disso, a adoção de arquiteturas de microsserviços transformou o desenvolvimento moderno de aplicações ao dividir sistemas monolíticos em serviços menores, que podem ser implantados de forma independente. Essa abordagem acelera a CI/CD, resultando em atualizações de software mais rápidas e confiáveis.
A segurança sempre foi um dos pilares da evolução das aplicações modernas. Com o surgimento de ameaças cibernéticas sofisticadas, as aplicações modernas passaram a incorporar medidas avançadas de segurança, como firewalls de aplicações web (WAF), proteção contra ataques distribuídos de negação de serviço (DDoS) e segurança de APIs. É fundamental distinguir os ataques DDoS de camada 3/4, direcionados às camadas de rede e transporte, dos ataques DoS de camada 7, voltados à camada de aplicação.
À medida que a IA avança, o modelo de ameaças evolui, especialmente no caso de grandes modelos de linguagem (LLMs) acessados por meio de interfaces de processamento de linguagem natural (NLP). Os riscos para os LLMs incluem vulnerabilidades como as destacadas no OWASP Top 10 para aplicações de LLM, entre elas ataques de injeção de prompts e ameaças de extração de dados, além de ataques de negação de serviço (DoS) específicos do modelo. Esses avanços em segurança garantem que as aplicações de IA permaneçam resilientes e seguras, preservando a integridade e a confiabilidade das soluções baseadas em IA diante de ameaças em constante evolução.
Arquitetura de referência de IA da F5
Se você vem acompanhando nossa série sobre fábricas de IA, já exploramos temas como segurança de APIs, segmentação de rede, gerenciamento de tráfego, geração aumentada por recuperação (RAG), e unidades de processamento de dados (DPUs). Vamos dar um passo atrás e discutir como uma fábrica de IA se encaixa na Arquitetura de Referência de IA da F5, como as fábricas de IA produzem aplicações de IA e quais são os requisitos para disponibilizá-las e protegê-las.
Arquitetura de referência de IA da F5
Com base em quase três décadas de experiência ajudando clientes a disponibilizar aplicações de alto desempenho, a F5 desenvolveu uma Arquitetura de Referência de IA que inclui sete componentes básicos (inferência, RAG, gerenciamento de corpus de RAG, ajuste fino, treinamento, integração de serviços externos e desenvolvimento) e quatro tipos de implantação (IA como serviço, hospedada na nuvem, auto-hospedada e hospedada na borda). Para saber mais sobre esses elementos, acesse nosso blog que explica o conceito de fábrica de IA. Como as aplicações de IA são as mais modernas entre as aplicações modernas, conectadas por APIs e extremamente distribuídas, essa arquitetura de referência aborda desafios de desempenho, operações e segurança essenciais para a disponibilização de aplicações de IA.
Dois dos componentes mais comuns das fábricas de IA são o treinamento e a inferência; no entanto, todos os componentes são necessários para criar uma aplicação de IA totalmente funcional. Algumas organizações podem criar uma fábrica de IA para executar as funções necessárias ao treinamento ou à inferência. Outras podem recorrer a terceiros para utilizar serviços de treinamento de modelos ou fornecer infraestrutura para inferência.
Em sua essência, as aplicações de IA são distribuídas e podem ser executadas em plataformas distribuídas de contêineres Kubernetes. Essa é a própria definição de uma aplicação moderna e é daí que vem a nossa frase: “uma aplicação de IA é simplesmente a mais moderna entre as aplicações modernas”. Mas o que isso significa para as empresas que estão criando fábricas de IA? As aplicações de IA precisam dos mesmos serviços de entrega e segurança das aplicações modernas atuais, como entrada no Kubernetes, saída multilocatário, gerenciamento de tráfego baseado em DNS, resiliência e observabilidade. Em termos de segurança, são necessárias proteção contra DDoS, proteção de aplicações web e APIs, além de tecnologias de otimização.
Embora possa parecer surpreendente que nosso foco esteja nos recursos de entrega e segurança comuns tanto às aplicações de IA quanto às aplicações modernas, em vez de se concentrar exclusivamente nas questões de segurança específicas da IA, essa abordagem é intencional. As aplicações de IA de fato introduzem riscos específicos, mas, muitas vezes, os fundamentos da segurança e da entrega de aplicações são deixados de lado em favor de recursos novos e inovadores. Ao abordar primeiro as necessidades comuns de segurança e entrega — o que chamamos de oportunidades mais fáceis de aproveitar —, as organizações podem implementar melhorias imediatas usando sua experiência atual em segurança de aplicações. Embora as aplicações de IA possam envolver novos componentes, elas ainda dependem muito de interações via web e APIs, que estão plenamente dentro das competências das atuais equipes de NetOps e SecOps. Ao começar com estratégias comprovadas de segurança e entrega, as equipes podem criar uma base sólida e enfrentar gradualmente os desafios específicos impostos pelas aplicações de IA.
A Arquitetura de Referência de IA da F5 destaca não apenas os resultados da fábrica de IA, mas também os desafios e riscos envolvidos em tornar a aplicação de IA bem-sucedida em relação aos objetivos de negócios da organização. Para isso, decidimos usar duas listas complementares dos 10 principais riscos e desafios: o OWASP Top 10 para aplicações de LLM e o F5 Application Delivery Top 10. Mapeamos cada componente e interconexão dos blocos de construção e indicamos onde se aplicam o OWASP LLM Top 10 e o F5 Application Delivery Top 10. No caso abaixo, veja um exemplo de inferência de IA.
A arquitetura de referência de IA da F5, destacando o bloco de construção de inferência com o F5 Application Delivery Top 10 e o OWASP LLM Top 10 sobrepostos.
Todos os componentes e pontos de interconexão de uma aplicação de IA se beneficiam das proteções consolidadas de entrega e segurança desenvolvidas para aplicações modernas. Isso não significa que essas proteções convencionais sejam, por si só, suficientes para proteger aplicações de IA. Ao usar essas soluções comprovadas de entrega e segurança como base, as organizações podem aprimorar significativamente a entrega e a postura de segurança de suas aplicações de IA. A partir desse sólido ponto de partida, as equipes podem desenvolver gradualmente competências especializadas e adotar as ferramentas avançadas necessárias para enfrentar os desafios e riscos específicos apresentados pelas aplicações de IA.
No momento, a Arquitetura de Referência de IA da F5 está disponível em versão prévia. A partir do final do próximo mês, os clientes terão a oportunidade de explorar a Arquitetura de Referência de IA completa em uma experiência interativa durante a AppWorld, a principal conferência da F5 sobre segurança e entrega de aplicações.
A F5 oferece suporte a fábricas de IA e aplicações modernas
A F5 é líder em entrega e segurança de aplicações. Soluções como o F5 BIG-IP fornecem serviços essenciais, incluindo balanceamento de carga, gerenciamento de tráfego e segurança. Esses recursos, amplamente conhecidos em aplicações tradicionais, são igualmente essenciais para que as aplicações de IA ofereçam os mais altos níveis de confiabilidade, desempenho e proteção.
Para as empresas que estão construindo fábricas de IA, os recursos da F5 nos quais você confia para entrega e segurança de aplicações são os mesmos necessários para essas fábricas. F5 BIG-IP Local Traffic Manager, em conjunto com hardware desenvolvido especificamente para essa finalidade, como o F5 rSeries e o VELOS, permitem a ingestão de dados de alto desempenho para treinamento e ajuste fino, além de proteger as aplicações de IA contra as ameaças de segurança mais complexas. F5 Distributed Cloud Services possibilitam redes multinuvem seguras e a proteção de aplicações web e APIs. Além disso, a solução recém-anunciada F5 BIG-IP Next for Kubernetes implantado em DPUs NVIDIA BlueField-3 transfere o gerenciamento de tráfego e a segurança da CPU para a DPU em infraestruturas de IA de grande escala, proporcionando mais eficiência, controle e desempenho às aplicações de IA.
Para saber mais sobre como a F5 pode proteger e escalar fábricas de IA, entre em contato com a equipe de contas da F5 hoje mesmo. O foco da F5 em IA não para por aqui — descubra como a F5 protege e disponibiliza aplicações de IA em qualquer lugar.
Tem interesse em saber mais sobre fábricas de IA? Confira outros conteúdos da nossa série de artigos sobre fábricas de IA:
- O que é uma fábrica de IA? ›
- Geração Aumentada por Recuperação (RAG) para fábricas de IA ›
- Otimize o gerenciamento de tráfego para a ingestão de dados em fábricas de IA ›
- Conectando de forma otimizada fontes de dados de borda a fábricas de IA ›
- Escalabilidade e flexibilidade multicloud dão suporte às fábricas de IA ›
- O poder e o significado da DPU NVIDIA BlueField para fábricas de IA ›
- Proteção de APIs para fábricas de IA: o primeiro passo para a segurança da IA ›
- A importância da segmentação de rede para fábricas de IA ›
Sobre os autores
Paul Pindell é arquiteto principal na F5, onde atua na área de Alianças Tecnológicas e supervisiona parcerias técnicas em todo o portfólio de produtos da empresa. Desde 2019, ele também desempenha um papel fundamental em iniciativas de estratégia corporativa, inclusive ajudando a lançar o primeiro projeto de inovação da F5. Paul liderou a equipe multidisciplinar de estratégia de IA da F5, dedicada a definir como os produtos existentes da empresa podem ajudar a proteger e disponibilizar aplicações de IA. Posteriormente, ele ajudou a desenvolver a Arquitetura de Referência de IA da F5, que descreve os principais componentes, desafios, riscos e soluções de parceiros necessários para viabilizar a disponibilização e a segurança de aplicações de IA. Paul participa frequentemente como palestrante principal e em sessões temáticas de eventos do setor, incluindo OPI Summit, OCP Global Summit, Intel InnovatiON, Open Source Summit, Red Hat Tech Exchange e diversas edições da VMworld nos EUA e na região EMEA. Ele também é fundador e mantenedor de projetos de código aberto, preside o Comitê de Divulgação do Open Programmable Infrastructure Project e, anteriormente, liderou as operações de data centers dos Centros de Resposta a Antivírus da Symantec e de laboratórios de testes de software de segurança.
Mais publicações de Paul PindellHunter Smit é gerente sênior de marketing de produtos para soluções e estratégia na F5. Ele lidera o marketing de soluções em todo o portfólio da F5, incluindo infraestrutura de IA e segurança de aplicações, e está conduzindo a entrada da F5 no mercado emergente de entrega de dados para IA. Hunter integra o Conselho Consultivo da Escola de Negócios da Whitworth University e atuou como professor adjunto de marketing de produtos. Ele possui MBA e bacharelado em Administração de Empresas com ênfase em gestão pela Whitworth University.
Mais publicações de Hunter SmitPublicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...