Há inúmeros estudos sobre a impaciência dos consumidores. Eles abandonam e excluem um aplicativo e reclamam abertamente nas redes sociais se o desempenho dele for ruim. E, para muitos, desempenho ruim significa “levar mais de dois segundos para responder”.
É aí que entra a IA generativa — que, com base na experiência e em testes de desempenho, geralmente leva muito mais do que alguns segundos para responder. Mas, assim como em nossas conversas por mensagem com amigos e familiares, enquanto os chatbots estão “pensando”, somos gentilmente presenteados com um “…” animado para indicar que uma resposta está a caminho.
Por algum motivo, a animação desencadeia uma reação pavloviana quase digital que nos deixa dispostos a esperar. Talvez a explicação esteja na psicologia do antropomorfismo, que tende a nos fazer enxergar com mais simpatia seres não humanos dotados de uma personalidade semelhante à humana. Assim, por percebermos a IA como algo ao menos semelhante a um ser humano, concedemos a ela a mesma compreensão que concederíamos, bem, a uma pessoa.
Seja qual for o motivo de estarmos dispostos a esperar pela experiência do usuário com a IA atual, isso levanta a questão de até onde irá essa tolerância e por quanto tempo. À medida que cada vez mais aplicativos são integrados, aprimorados e dotados de recursos de IA, torna-se cada vez mais importante responder às questões sobre o desempenho aceitável.
Afinal, quanta latência é aceitável para uma experiência do usuário com IA? Faz diferença em que ponto essa latência é introduzida ou ela só é aceitável quando sabemos que há IA generativa envolvida?
Essa é uma área importante a ser analisada, pois sabemos que um dos tabus da segurança de aplicações é a introdução de latência no processo. Embora a inspeção e a avaliação de conteúdo em busca de ameaças conhecidas — injeção de SQL (SQLi), código malicioso, injeção de prompt — inevitavelmente exijam alguma latência, os usuários de serviços de segurança de aplicações não hesitam em descartar qualquer solução que prejudique o desempenho.
Apresento a vocês a prova A: as respostas a uma pergunta sobre esse tema em nossa pesquisa State of Application Strategy 2022, na qual quase 60% dos líderes de TI e de negócios desativariam os controles de segurança em troca de um ganho de desempenho entre 1% e 50%.
É evidente que o desempenho é importante e que a latência é vista como Algo Muito Ruim™. Portanto, a questão passa a ser: quanta latência é aceitável para a experiência do usuário com IA? Os antigos parâmetros de que “a resposta deve levar menos de X segundos” ainda se aplicam? Ou a IA está ampliando esse limite para todos os aplicativos ou apenas para aqueles que são claramente baseados em IA?
E se a nossa paciência for apenas uma reação inicial, em parte devido à novidade da IA generativa, o que faremos quando essa novidade passar?
Se, como indica a tendência atual, a inferência se tornar mais rápida, talvez a questão deixe de ser relevante. Mas, se isso não acontecer, os componentes e serviços que fornecem, protegem e dão suporte à IA precisarão ser ainda mais rápidos para compensar a lentidão da inferência?
É nessa velocidade que o setor está avançando. Temos perguntas que geram mais perguntas e, antes mesmo de obtermos respostas, surgem novas questões. O acúmulo de perguntas sem resposta parece uma fila de chamados em uma empresa onde alguém desconectou um switch central e, em seguida, toda a equipe de TI foi embora.
Sabemos que a entrega de aplicações e a segurança vão mudar por causa da IA, tanto no que diz respeito às necessidades daqueles que desejam usar a IA para aprimorar as operações com clientes e as operações corporativas quanto às necessidades daqueles que desenvolvem soluções para eles. As soluções mais óbvias — gateways de IA, segurança de dados e defesas contra ataques tradicionais, como DDoS — são fáceis de identificar, e já estamos trabalhando nelas. Mas compreender o impacto de longo prazo é uma tarefa muito mais difícil, especialmente quando se trata de desempenho.
Porque a outra realidade é que o hardware só poderá nos levar até certo ponto antes de esbarrarmos em limitações físicas. A partir daí, caberá ao restante do setor descobrir como melhorar o desempenho do que certamente será um componente essencial de todas as empresas.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.
Como a IA generativa acelera a transformação digital
Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.
Seis capacidades técnicas para acelerar a transformação digital
As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.
Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.
A modernização da TI começa pela infraestrutura
O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.