Todo mundo está correndo para explorar a mina de ouro que é a IA generativa. Pelo menos, é o que parece à primeira vista. Hoje em dia, quase não chega à minha caixa de entrada um comunicado à imprensa que não mencione a IA generativa de alguma forma.
Mas, ao analisar mais a fundo, você logo percebe que o maior impacto da IA generativa neste momento está no marketing.
O que estamos vendo agora são pessoas aproveitando as oportunidades mais fáceis. Qualquer recurso que possa ser facilmente “acoplado”, sem exigir muito desenvolvimento ou pesquisa, está sendo colado às pressas e lançado no mercado.
A maioria das empresas — sejam elas de tecnologia, manufatura ou saúde — está adotando uma abordagem mais ponderada. Uma abordagem mais estratégica , se me permitem dizer. E, como este blog é meu, posso dizer.
Os motivos para avaliar com mais rigor como você usa a IA generativa são bem conhecidos, se tomarmos como parâmetro de conscientização uma pesquisa recente da ExtraHop. As maiores preocupações se dividem em duas categorias: confiabilidade e segurança.
No campo da IA generativa, confiabilidade significa precisão e confiança. Preciso poder confiar que as respostas que recebo — sejam elas código, configurações ou conteúdo — sejam precisas e corretas, e não repletas de vieses.
No âmbito da segurança, temos as mesmas preocupações de sempre — e outras mais. Agora, não se trata apenas da exposição de informações de identificação pessoal (PII) de clientes e funcionários, mas também do vazamento de segredos comerciais e propriedade intelectual para o mundo afora.
Como lidar com os riscos da IA generativa
Resolver os desafios de confiabilidade exige muito trabalho, pois isso requer (a) muito treinamento e ajuste fino ou (b) uma abordagem arquitetural na qual a IA generativa seja apenas parte da solução e utilize técnicas avançadas de engenharia de prompts para validar as próprias respostas. Ambas as opções exigem tempo e dinheiro, e é por isso que ainda não vemos soluções de IA generativa moldando os mercados. Isso ainda vai acontecer, mas levará tempo.
O desafio da segurança é, ao mesmo tempo, mais fácil e mais difícil de enfrentar. Resolver o problema da exposição de segredos comerciais ou de propriedade intelectual exige (a) implantar e operar suas próprias instâncias de um LLM — com tudo o que isso implica — ou (b) desenvolver uma arquitetura que contorne o problema. Isso significa desenvolver agentes de GPT que usem os recursos generativos de um LLM como ferramenta, mas não como fonte principal.
Por exemplo, é fácil esquecer que os dados coletados podem ter importância estratégica. O modelo que uso para acompanhar as atividades do mercado pode parecer inofensivo, mas revela muito sobre como a F5 enxerga o mercado e planeja competir nele. Essas informações têm relevância estratégica. Portanto, não é algo que você queira entregar a um LLM público para análise. Some-se a isso o fato de que a IA generativa é péssima — e quero dizer péssima mesmo — para analisar dados tabulares, e este parece ser um caso de uso inadequado.
Mas, ao aproveitar as funções da OpenAI para tirar proveito dos recursos de análise de dados do Python, a ideia deixa de ser ruim. Isso exige tempo e esforço de desenvolvimento, pois é necessário criar um agente GPT em vez de simplesmente entregar os dados à OpenAI para análise, mas resolve tanto o desafio da confiabilidade quanto o da segurança.
No caso de exposição acidental de informações de identificação pessoal (PII) de clientes ou funcionários, já estamos vendo uma solução mais simples: o mascaramento de dados.
Mascaramento de dados para IA generativa
Agora, a mascaramento de dados já vinha ganhando espaço no desenvolvimento, pois permite que os desenvolvedores façam testes com dados reais sem o risco de expor dados confidenciais. Mas essa técnica também pode ser aplicada à IA generativa como forma de evitar a exposição. Já existem diversas bibliotecas e ferramentas de código aberto que facilitam a integração, pois, afinal, a maioria das soluções de IA generativa funciona por meio de APIs, e é fácil interceptar e inspecionar as solicitações feitas a elas em busca de dados confidenciais.
O uso do mascaramento de dados para solucionar preocupações de segurança relacionadas à IA generativa funciona tanto no desenvolvimento quanto na produção, garantindo que dados confidenciais não sejam expostos durante todo o ciclo de vida da aplicação.
É fato que o mascaramento de dados já estava em ascensão antes de a IA generativa surgir e roubar a cena de todas as outras tecnologias. No entanto, é provável que a IA generativa impulsione os recursos de mascaramento de dados tanto no âmbito da entrega e da segurança de aplicações quanto no desenvolvimento de aplicativos.
Veja como as soluções da F5 impulsionam e protegem aplicações baseadas em IA ›
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.
Como a IA generativa acelera a transformação digital
Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.
Seis capacidades técnicas para acelerar a transformação digital
As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.
Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.
A modernização da TI começa pela infraestrutura
O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.