Implante, proteja e otimize modelos de IA para aplicações inteligentes com a F5 e a Intel

Sanjay Shitole

Os aplicativos com tecnologia de IA estão se tornando mais comuns e registrando um crescimento significativo no número de usuários. Uma análise dos dados de 2023 constatou que, embora os novos downloads de aplicativos móveis tenham crescido apenas 1% em relação ao ano anterior, os 20 principais aplicativos que integraram IA aos seus conjuntos de recursos apresentaram um crescimento médio de 11%.¹ No entanto, implantar e proteger com facilidade os modelos de IA que viabilizam esses aplicativos pode ser um obstáculo para desenvolvedores e equipes de TI.

Impulsionando aplicativos mais inteligentes com IA

A nova geração de aplicativos inteligentes usa automação por IA com base em dados de entrada — por exemplo, um aplicativo de seguros que monitora condições meteorológicas severas — ou pode usar aprendizado de máquina para adaptar e melhorar a experiência do usuário. A Gartner estima que, até 2026, 30% dos novos aplicativos usarão IA para oferecer interfaces de usuário adaptáveis e personalizadas, em comparação com menos de 5% atualmente.²

No entanto, muitas organizações não têm as competências necessárias para criar ou usar os modelos de IA de que precisam. Segundo uma pesquisa do Fórum Econômico Mundial, os executivos estimam que até 40% de toda a sua força de trabalho talvez precise se requalificar para trabalhar de forma eficaz em conjunto com a IA.³ Em resposta, estão surgindo novas soluções que permitem aos desenvolvedores aproveitar modelos de IA com o mínimo de código.

Os modelos de IA também exigem um poder computacional significativo, o que pode gerar limitações. Embora posicionar os modelos de IA próximos à fonte de entrada reduza a latência da inferência, os locais de borda muitas vezes não dispõem dos recursos necessários para um desempenho aceitável da IA.

Tornando a IA mais acessível

Para facilitar o uso pelos desenvolvedores e otimizar os recursos, a Intel desenvolveu o OpenVINO, um kit de ferramentas de código aberto que acelera a inferência de IA, ocupa menos espaço e adota a abordagem de “escrever uma vez e implantar em qualquer lugar”. Ele permite que os programadores desenvolvam soluções de IA escaláveis e eficientes com relativamente poucas linhas de código. O OpenVINO também pode converter e otimizar modelos de IA para execução em data centers, na nuvem ou na borda.

Embora o OpenVINO torne a IA mais acessível para cenários reais, como a inferência de IA, ele precisa de recursos de segurança e entrega, assim como os aplicativos. Uma implantação do OpenVINO pode consistir em centenas ou milhares de servidores de modelos baseados em contêineres. Para fornecer resultados de inferência de forma confiável a usuários ou aplicativos, é necessário monitorar a integridade dos servidores e gerenciar o tráfego. F5 NGINX Plus pode proteger os servidores de modelos do OpenVINO.

Proteção de modelos de IA com o F5 NGINX Plus

Embora seja possível usar a versão de código aberto do NGINX com o OpenVINO, o uso do NGINX Plus acrescenta recursos valiosos, como alta disponibilidade, verificações ativas de integridade e suporte premiado. O NGINX Plus também oferece balanceamento de carga e terminação SSL para que aplicativos e usuários possam se conectar aos seus servidores de modelos OpenVINO de forma confiável e segura.

Para aumentar a disponibilidade, o NGINX Plus pode ser implantado como um par ativo-passivo. Isso cria uma solução de alta disponibilidade, na qual o servidor primário processa ativamente o tráfego, enquanto o servidor de backup monitora a integridade e assume o controle em caso de problemas. O cache de conteúdo e a terminação SSL melhoram o desempenho, reduzindo a carga nos servidores de modelos do OpenVINO.

As verificações ativas de integridade do NGINX Plus monitoram seus servidores de modelos para garantir que o tráfego seja enviado apenas aos servidores disponíveis. Proteja e valide o tráfego criptografado de entrada usando certificados mTLS e utilize análises e painéis para antecipar ou solucionar problemas com seus servidores. A leveza do NGINX Plus, aliada ao suporte de alto nível para instalação, implantação e depuração, facilita sua adoção para atender às necessidades de suas aplicações baseadas em IA.

Crie aplicativos com IA com confiança

A combinação do NGINX Plus com o OpenVINO facilita a incorporação de IA a aplicativos em qualquer ambiente, de forma segura e consistente. Implante facilmente em data centers, nuvens ou locais de edge computing, mantendo a disponibilidade e o desempenho.

O uso do NGINX Plus com o OpenVINO é apenas parte de uma colaboração contínua entre a F5 e a Intel. Saiba mais sobre essa parceria em f5.com/intel.

Fontes

_{1. Data.ai, Panorama do mercado mobile em 2024, jan. de 2024}

_{2. Gartner, Cresce a demanda por aplicativos inteligentes impulsionados por IA, set. de 2023}

_{3. Fórum Econômico Mundial, Por que precisamos reduzir a lacuna de competências para aproveitar o poder da IA, jan. de 2024}

Sobre o autor

Sanjay Shitole

Mais publicações de Sanjay Shitole