Imagine um mundo em que as tarefas de inferência de IA não apenas sejam executadas com mais rapidez, mas também com mais segurança, exigindo o mínimo de esforço para configuração e manutenção. Parece bom demais para ser verdade? A mais recente solução baseada no Intel OpenVINO torna isso realidade ao integrar a Unidade de Processamento de Infraestrutura (IPU) E2100 “Dayton Peak” da Intel, o F5 NGINX Plus e o Red Hat OpenShift. Trata-se de uma configuração inovadora, desenvolvida para empresas e profissionais de desenvolvimento que buscam escalar cargas de trabalho de IA com segurança e eficiência, simplificando a instalação e a operação.
Vamos analisar a fundo como todas as peças desse quebra-cabeça se encaixam e por que essa integração representa uma verdadeira revolução para a segurança e a escalabilidade da inferência de IA.
1. Transferência de tarefas críticas da infraestrutura de IA para a Intel IPU
Em sua essência, essa configuração foi projetada para potencializar a inferência de IA, transferindo tarefas críticas de infraestrutura para a Intel IPU. Isso permite que o sistema host, que executa o servidor de inferência Intel OpenVINO, dedique seus recursos ao que realmente importa: fornecer resultados de inferência rápidos e precisos. Combinado com o F5 NGINX Plus e com o sistema operacional Enterprise Linux, o OpenShift e o MicroShift da Red Hat, o sistema alcança um equilíbrio único entre desempenho, escalabilidade e segurança.
“Essa configuração inovadora foi desenvolvida para empresas e desenvolvedores que buscam ampliar as cargas de trabalho de IA com segurança e eficiência, simplificando a instalação e a operação.”
Este é o fluxo de trabalho principal: o tráfego criptografado flui do cliente de IA para o NGINX Plus, implantado diretamente na IPU da Intel. O NGINX Plus atua como um proxy de tráfego, descriptografando os dados e encaminhando-os com segurança pelo barramento PCIe até os servidores de inferência Intel OpenVINO hospedados no sistema Dell R760. Em seguida, os resultados são enviados de volta pelo NGINX Plus para serem entregues ao cliente de IA.
2. Principais vantagens arquitetônicas de executar a infraestrutura na Intel IPU
Embora o fluxo de trabalho em si seja atraente, as vantagens arquitetônicas agregam ainda mais valor. Ao transferir as tarefas de infraestrutura para a IPU, a solução oferece benefícios de desempenho e uma divisão clara de responsabilidades para os administradores.
Um benefício crucial da implantação do NGINX Plus na IPU da Intel é a transferência das tarefas de infraestrutura da CPU do sistema host. Atividades como roteamento de tráfego, descriptografia e controle de acesso — que podem consumir muitos recursos — são processadas integralmente na IPU. Isso significa que a CPU do host passa a ter uma quantidade significativamente maior de ciclos disponíveis para se concentrar em cargas de trabalho específicas da aplicação, como executar modelos adicionais de inferência do Intel OpenVINO ou lidar com processos de IA que exigem muitos recursos.
Em cenários reais, isso se traduz em um melhor aproveitamento do seu hardware de servidor caro e de alto desempenho. Em vez de ficar sobrecarregada com tarefas de infraestrutura executadas em segundo plano, a CPU do host pode operar em sua capacidade máxima para as cargas de trabalho mais importantes para você.
Outro benefício exclusivo da solução é a separação entre os serviços de infraestrutura e as cargas de trabalho das aplicações. Ao executar todas as tarefas de infraestrutura — como NGINX Plus, gerenciamento de rede e controle de acesso — na Intel IPU e manter o servidor de inferência Intel OpenVINO no host, criamos uma divisão clara e inequívoca entre as responsabilidades do plano de controle.
O administrador do aplicativo Intel OpenVINO é responsável por gerenciar as cargas de trabalho de inferência, implantar e dimensionar modelos de IA e otimizar o desempenho no nível do aplicativo. Já o administrador de infraestrutura supervisiona o ambiente Intel IPU, gerencia o roteamento, aplica o controle de acesso (por meio de regras FXP) e garante que os serviços de infraestrutura operem de forma segura e eficiente configurando a instância do NGINX Plus.
Essa separação de responsabilidades elimina ambiguidades, fortalece a colaboração organizacional e garante que cada administrador possa se concentrar plenamente em sua respectiva área de especialização.
Em conjunto, esses benefícios tornam esta solução não apenas prática, mas também eficiente para ampliar os fluxos de trabalho de IA empresarial, mantendo a utilização de recursos e a segurança em níveis excelentes.
3. Red Hat OpenShift e MicroShift: impulsionando a automação e a simplificação
Um dos aspectos de destaque desse sistema é a forma como ele utiliza o Red Hat MicroShift e os operadores de DPU do OpenShift para tornar a configuração e o dimensionamento praticamente automáticos. Sinceramente, esse tipo de automação parece mágica quando você o vê em ação. Vou explicar em detalhes:
Há dois clusters. O primeiro é o cluster OpenShift executado no sistema host. Mais especificamente, trata-se de um nó de trabalho do OpenShift executado no Dell R760. O segundo é um cluster MicroShift, implantado nos núcleos Arm da IPU Intel. Essa versão leve do OpenShift oferece a flexibilidade dos contêineres sem a sobrecarga de um ambiente Kubernetes completo.
Esses clusters trabalham em conjunto por meio de operadores de DPU, que realizam nos bastidores as tarefas mais complexas. Eles se comunicam entre si, trocando dados sobre pods e redes ativos. Essa conexão é particularmente importante para o gerenciamento dinâmico das regras de segurança e de tráfego.
Esta é a parte que realmente facilita a vida dos desenvolvedores: a criação dinâmica de regras. Antes, a configuração de regras de FXP (usadas para gerenciar o controle de acesso do tráfego PCIe) exigia trabalho manual e conhecimento de programação em P4. Agora, basta implantar suas cargas de trabalho, e os operadores cuidam de tudo automaticamente:
O operador cria dinamicamente novas regras de FXP sempre que pods de inferência do OpenVINO com as tags apropriadas são implantados. Essas regras de FXP permitem a comunicação pelo barramento PCIe e, à medida que as cargas de trabalho aumentam ou diminuem, o sistema ajusta automaticamente essas regras de acesso, eliminando as incertezas da configuração.
Esse nível de automação permite que qualquer pessoa — de desenvolvedores a administradores de sistemas — se concentre nas cargas de trabalho de IA sem se perder nos detalhes da configuração da infraestrutura.
4. O fluxo de trabalho de inferência de IA em ação
Agora, vamos nos aprofundar em como todo esse sistema funciona para a inferência de IA. Tomemos como exemplo o reconhecimento de espécies animais em imagens usando o kit de ferramentas de implantação de aprendizado profundo Intel OpenVINO. Veja como é o fluxo de trabalho, passo a passo
Primeiro, os dados de imagem criptografados são enviados por um cliente de IA por meio de uma chamada à API GRPCS. O NGINX Plus, executado na IPU da Intel, descriptografa os dados e atua como proxy de tráfego. Em seguida, esse tráfego flui com segurança pelo barramento PCIe até os servidores de inferência Intel OpenVINO hospedados no Dell R760. Os servidores de inferência Intel OpenVINO processam as imagens usando o modelo de IA ResNet para identificar a espécie presente em cada uma delas. Por exemplo, o modelo pode inferir: “Este é um golden retriever” ou “Este é um gato tigrado”. Os resultados são enviados de volta pelo mesmo caminho — passando pelo NGINX Plus e seguindo até o cliente.
O sistema pode ser configurado para atender a vários clientes de IA que processam lotes de imagens simultaneamente. Mesmo com vários clientes executando solicitações de inferência repetidamente, o sistema permanecerá seguro, estável e responsivo.
5. Segurança aprimorada com controle de acesso inteligente
Vamos falar sobre um dos principais benefícios desse sistema: a segurança. A IPU da Intel não apenas processa o tráfego — ela protege ativamente a comunicação entre a infraestrutura e as cargas de trabalho de inferência executadas no host.
Veja como funciona: a IPU usa regras de FXP para controlar o tráfego pela interface PCIe. Somente o tráfego autorizado por essas regras geradas dinamicamente (gerenciadas pelos operadores da DPU) pode passar. Isso garante uma comunicação segura e, ao mesmo tempo, bloqueia o acesso não autorizado ao sistema host. Esse tipo de segurança em camadas ajuda a reduzir riscos, especialmente para empresas que processam dados confidenciais por meio de pipelines de IA.
6. Por que esta solução se destaca
Para mim, a grande vantagem desta solução está na combinação perfeita entre desempenho, automação e segurança. Ao isolar o gerenciamento da infraestrutura na IPU e hospedar as cargas de trabalho de inferência na máquina host, Intel, Red Hat e F5 criaram uma configuração eficiente e segura.
Veja por que essa configuração é revolucionária:
- Configuração simplificada:Esqueça as configurações manuais. Com operadores de DPU e criação dinâmica de regras, o sistema chega o mais perto possível de uma solução plug-and-play.
- Escalabilidade dinâmica:Não importa se você está executando um pod de inferência ou 20, as regras de comunicação e segurança se adaptam automaticamente.
- Segurança aprimorada: A clara separação entre a infraestrutura e as cargas de trabalho, aliada ao controle de acesso no barramento PCIe, cria um limite de segurança robusto.
- Utilização otimizada de recursos: Transferir as tarefas de infraestrutura para a IPU libera a CPU do host para tarefas de computação de alta prioridade.
- Divisão clara de responsabilidades: Os administradores podem se concentrar em suas respectivas áreas — aplicações ou infraestrutura — sem interferir no trabalho uns dos outros.
Um salto à frente para a inferência de IA
Esta solução baseada no Intel OpenVINO integra hardware e software de forma simples e fluida. A IPU E2100 da Intel, o Red Hat OpenShift e o F5 NGINX Plus são um excelente exemplo de como simplificar pipelines complexos de inferência de IA e, ao mesmo tempo, aprimorar a segurança e a escalabilidade.
Seja você desenvolvedor, arquiteto de infraestrutura ou responsável por decisões empresariais, esta solução oferece um modelo prático para gerenciar cargas de trabalho de IA em um ambiente moderno e conteinerizado. Se isso despertou seu interesse, entre em contato com a Intel, a F5 ou a Red Hat para descobrir como essa configuração pode se integrar ao seu fluxo de trabalho.
É empolgante ver como essa tecnologia está evoluindo — e eu, particularmente, mal posso esperar para conhecer a próxima leva de inovações. Para saber mais, assista ao meu vídeo de demonstração no LinkedIn.
Sobre o autor
Paul Pindell é arquiteto principal na F5, onde atua na área de Alianças Tecnológicas e supervisiona parcerias técnicas em todo o portfólio de produtos da empresa. Desde 2019, ele também desempenha um papel fundamental em iniciativas de estratégia corporativa, inclusive ajudando a lançar o primeiro projeto de inovação da F5. Paul liderou a equipe multidisciplinar de estratégia de IA da F5, dedicada a definir como os produtos existentes da empresa podem ajudar a proteger e disponibilizar aplicações de IA. Posteriormente, ele ajudou a desenvolver a Arquitetura de Referência de IA da F5, que descreve os principais componentes, desafios, riscos e soluções de parceiros necessários para viabilizar a disponibilização e a segurança de aplicações de IA. Paul participa frequentemente como palestrante principal e em sessões temáticas de eventos do setor, incluindo OPI Summit, OCP Global Summit, Intel InnovatiON, Open Source Summit, Red Hat Tech Exchange e diversas edições da VMworld nos EUA e na região EMEA. Ele também é fundador e mantenedor de projetos de código aberto, preside o Comitê de Divulgação do Open Programmable Infrastructure Project e, anteriormente, liderou as operações de data centers dos Centros de Resposta a Antivírus da Symantec e de laboratórios de testes de software de segurança.
Mais publicações de Paul PindellPublicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...