Afinal, como é uma aplicação de IA na prática? Depois de desenvolver algumas, parece um bom momento para analisá-la em suas (muitas) partes — e explorar as implicações operacionais.
Já exploramos anteriormente o que há de semelhante (muita coisa) e de diferente (também muita coisa) nos aplicativos de IA. É bastante simples definir um aplicativo de IA como “um aplicativo que utiliza IA, seja ela preditiva ou generativa”.
Isso é verdade, mas o que isso significa para quem precisa desenvolver, implantar, disponibilizar, proteger e operar esses novos tipos de aplicações?
Para começar, isso significa novas partes móveis. E não apenas serviços de inferência. Há outros componentes novos que estão se tornando adições padrão à arquitetura de aplicações, como bancos de dados vetoriais. Isso também significa uma dependência maior de APIs.
Também é verdade que a maioria desses componentes é conteinerizada. Quando configuro um novo projeto de aplicação de IA, inicio um contêiner executando PostgreSQL para usá-lo como um repositório de dados vetoriais. Isso serve para dar suporte à RAG (geração aumentada por recuperação), que, segundo diversos relatórios do setor, é usada por uma parcela significativa das aplicações de IA (como este da Databricks, por exemplo). Isso porque posso aprimorar um modelo de IA pronto usando os dados que eu quiser, sem precisar fazer o ajuste fino ou treinar um modelo por conta própria. Para um número significativo de casos de uso, essa é a melhor maneira de implementar uma aplicação de IA.
Também posso iniciar um grafo de conhecimento, normalmente executando um banco de dados de grafos em contêiner, como o Neo4J. Os bancos de dados de grafos são particularmente úteis ao trabalhar com dados que se adaptam bem a grafos, como redes sociais, dados de mecanismos de recomendação e detecção de fraudes. Eles também são úteis para mitigar alucinações relacionadas à geração de políticas, como descobrimos no início do ano. A inclusão de um banco de dados de grafos pode adicionar um novo protocolo, o GraphQL, à lista de “novidades que precisam ser protegidas”.
Em seguida, vou decidir qual serviço de inferência quero usar. Tenho algumas opções. Posso usar um serviço de um provedor de nuvem ou IA como serviço (como o ChatGPT), ou posso executar um serviço local. Por exemplo, em meus experimentos mais recentes, usei o Ollama e o phi3 no meu MacBook. Nesse caso, estou executando apenas uma instância do servidor de inferência porque, bem, executar várias consumiria mais recursos do que tenho disponíveis. Em produção, é claro, provavelmente haveria mais instâncias para garantir que o serviço consiga atender à demanda.
Como vou usar o phi3, escolho o phidata como framework para acessar o serviço de inferência. Também já usei o langchain ao utilizar IA como serviço, uma opção popular. A boa notícia é que, do ponto de vista operacional, o framework não é algo que opere fora da própria aplicação principal de IA.
Impacto operacional das aplicações de IA
Eu ainda nem escrevi uma linha de código e já tenho vários componentes em execução, cada um acessado por meio de uma API e executado em seu próprio contêiner. É por isso que partimos do princípio de que uma aplicação de IA é uma aplicação moderna e traz consigo todos os mesmos desafios já conhecidos de entrega, segurança e operação. É também por isso que acreditamos que a implantação de modelos de IA aumentará radicalmente o número de APIs que precisam de entrega e segurança.
As aplicações de IA adicionam mais uma camada a um ambiente que já é complexo, o que, naturalmente, aumenta a complexidade. Isso significa que a arquitetura das aplicações de IA aumentará a carga sobre todas as funções operacionais, da segurança e da SRE à rede. Cada um desses componentes também tem seu próprio perfil de escalabilidade; ou seja, alguns precisarão escalar mais rapidamente do que outros, e a forma como as solicitações são distribuídas variará simplesmente porque a maioria deles utiliza APIs diferentes e, em alguns casos, protocolos distintos.
Além disso, a arquitetura das aplicações de IA será altamente variável internamente. Ou seja, a aplicação de IA que eu desenvolver provavelmente apresentará características e necessidades de tráfego local diferentes da aplicação de IA que você desenvolver. E uma maior heterogeneidade naturalmente implica maior complexidade, pois é o oposto da padronização, que promove a homogeneidade.
Há décadas, a padronização é o meio pelo qual as empresas aceleram a disponibilização de novos recursos no mercado e alcançam maior eficiência operacional, ao mesmo tempo que liberam os recursos humanos necessários para lidar com a variabilidade das arquiteturas de aplicações de IA.
É por isso que vemos alguns serviços compartilhados — especialmente os de segurança de aplicativos e APIs — migrando para a borda, seguindo o modelo de segurança como serviço. Esse conjunto de serviços compartilhados pode não apenas proteger melhor as cargas de trabalho em todos os ambientes (núcleo, nuvem e borda), mas também oferecer um conjunto comum de serviços que possa servir como padrão para aplicações de IA.
Entender a anatomia das aplicações de IA ajudará a determinar não apenas os tipos de serviços de entrega e segurança de aplicações de que você precisa, mas também onde eles são necessários.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.
Como a IA generativa acelera a transformação digital
Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.
Seis capacidades técnicas para acelerar a transformação digital
As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.
Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.
A modernização da TI começa pela infraestrutura
O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.