Até pouco tempo atrás, a IA nas empresas era voltada principalmente a ajudar as pessoas a trabalhar mais rápido. Os funcionários usavam copilotos para escrever código, resumir informações, gerar conteúdo e responder a perguntas. Depois, a IA passou a se integrar mais profundamente às empresas, impulsionando assistentes internos e aplicações voltadas para os clientes.
Agora estamos entrando em uma fase fundamentalmente diferente. Os sistemas de IA agêntica não apenas respondem a perguntas. Eles podem navegar na web, recuperar dados, chamar APIs, acionar ferramentas, executar fluxos de trabalho e realizar ações, às vezes com pouca ou nenhuma intervenção humana.
Isso representa um salto extraordinário em capacidade. Também representa uma expansão extraordinária da superfície de ataque, um tema que abordo na minha apresentação, “Protegendo a IA em produção”, no F5 Post-Mythos Security Summit, que a F5 está disponibilizando sob demanda até 31 de outubro.
“A IA está se tornando mais capaz, mais conectada e mais autônoma. A questão não é se isso vai ampliar sua superfície de ataque, mas se sua estratégia de segurança vai acompanhar essa expansão.”
Quando a IA pode agir, o comportamento se torna a superfície de ataque
As aplicações tradicionais são relativamente previsíveis. Ao receberem a mesma entrada nas mesmas condições, geralmente se espera que produzam a mesma saída. As equipes de segurança passaram décadas desenvolvendo formas de proteger a infraestrutura, as aplicações, as APIs, as identidades e os dados envolvidos nessas interações.
A IA muda essa equação porque seu comportamento pode ser não determinístico. Nas aplicações de IA, o próprio comportamento passa a fazer parte da superfície de ataque.
Considere tudo o que está envolvido em uma interação moderna com IA: prompts, modelos, dados corporativos, APIs, sistemas de geração aumentada por recuperação (RAG), ferramentas, agentes e as ações que esses agentes executam. Cada conexão cria mais um ponto em que algo pode dar errado ou em que um invasor pode tentar manipular o sistema.
Os riscos são muitos. A injeção de prompt pode influenciar o comportamento de um sistema de IA, a autonomia excessiva pode permitir que um agente execute ações além do previsto, e servidores inseguros do Model Context Protocol (MCP) e o uso não autorizado de ferramentas podem criar vias adicionais de acesso a sistemas e dados sensíveis. Além disso, fluxos de trabalho de RAG podem ser manipulados, e aplicações de IA podem expor informações sensíveis ou gerar respostas prejudiciais ou inadequadas.
Todos esses riscos se somam aos desafios de segurança que as organizações já enfrentam. À medida que a IA evolui de copilotos para aplicações voltadas ao cliente e agentes autônomos, as organizações mantêm os riscos existentes e acumulam novos.
Uma mudança tecnológica, duas superfícies de ataque em expansão
Este é outro motivo pelo qual esse problema está se tornando tão difícil: as organizações não estão lidando com uma única superfície de ataque de IA.
A primeira é a IA que as pessoas — e, cada vez mais, os agentes — já estão usando. Os serviços de IA de terceiros tornaram modelos e ferramentas poderosos facilmente acessíveis em toda a empresa. Os funcionários são pressionados a usar IA para trabalhar com mais rapidez e eficiência, muitas vezes sem entender quais informações podem estar expondo ou quais riscos um determinado serviço de IA traz.
Simplesmente bloquear a IA não é uma solução realista. As pessoas encontram formas de contornar os bloqueios, e as organizações correm o risco de tornar o uso da IA ainda menos visível para as equipes de segurança e TI.
A segunda superfície de ataque é a IA que as próprias organizações estão desenvolvendo e implantando. Nesse caso, a exposição potencial abrange aplicações, modelos, prompts, agentes, APIs, ferramentas, dados corporativos e as interações entre eles.
Algumas falhas podem ocorrer sem que um invasor sequer entre em cena: uma resposta insegura, informações sensíveis reveladas inadvertidamente ou um agente acionando uma ferramenta que não deveria. Outras são ataques deliberados, concebidos para manipular modelos, contaminar fontes de conhecimento, extrair informações ou levar agentes a executar ações não previstas.
Do ponto de vista de um cliente, de um órgão regulador ou de uma equipe de segurança, as consequências podem parecer muito semelhantes.
A segurança da IA não pode ser o preço a pagar pela inovação em IA
Isso representa um grande desafio para os líderes de segurança. As organizações querem avançar rapidamente com a IA e, cada vez mais, precisam fazer isso. Mas cada novo aplicativo, agente, modelo, ferramenta e conexão de IA pode introduzir riscos que as abordagens tradicionais de segurança não foram projetadas para enfrentar.
Para lidar com essas questões, as organizações precisam de maior visibilidade e controle sobre essas superfícies de ataque de IA em expansão, sem impedir o avanço dos negócios. Elas precisam proteger as interações com IA onde quer que ocorram, lidar tanto com comportamentos acidentais quanto mal-intencionados e aplicar controles adequados sem criar mais um obstáculo à adoção da IA.
Na F5, acreditamos que existe uma maneira de fazer isso. Desenvolvemos uma abordagem para ajudar as organizações a descobrir, testar, governar e proteger a IA, tanto nas aplicações que desenvolvem quanto nas ferramentas de IA usadas por seus colaboradores, oferecendo controles nos pontos em que as interações com a IA realmente ocorrem.
Vou explorar essa abordagem em detalhes no evento virtual F5 Post-Mythos Security Summit, na minha sessão “Sua IA agora é uma superfície de ataque”. Vamos analisar como o cenário de ameaças à IA está mudando, o que as organizações precisam proteger à medida que a IA se torna cada vez mais agêntica e como a F5 pode ajudar as organizações a proteger aplicações de IA, modelos, agentes, ferramentas, APIs e dados sem criar obstáculos à adoção.
A IA está se tornando mais capaz, mais conectada e mais autônoma. A questão não é se isso ampliará sua superfície de ataque, mas se sua estratégia de segurança acompanhará essa expansão.
Junte-se a mim no F5 Post-Mythos Security Summit para saber como assumir o controle da nova superfície de ataque da IA.
Sobre o autor
Publicações relacionadas no blog
IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.
Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.
Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.
Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.
Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.