A inteligência artificial tem o potencial de mudar vidas — e já vem fazendo isso de maneiras profundas. Desde acelerar avanços na medicina e na educação até transformar o trabalho e o cotidiano, a IA está mudando a forma como vivemos e atuamos. Mas, paralelamente a esses avanços, a IA oferece grandes oportunidades aos cibercriminosos.
Hoje, os sistemas de IA são alvos ativos de agentes mal-intencionados que exploram vulnerabilidades por meio do envenenamento de dados, da manipulação de resultados, do roubo não autorizado de modelos via destilação e da exposição de dados privados. Esses riscos não são meramente hipotéticos; são reais, evoluem rapidamente e podem causar prejuízos financeiros devastadores. Os modelos também estão sendo usados para aprimorar significativamente ataques por e-mail e fraudes por SMS e voz, enquanto as deepfakes estão cada vez mais difíceis de detectar, e várias delas já causaram prejuízos de milhões de dólares.
““Para continuar aproveitando os benefícios da IA, as organizações devem tratar sua segurança com a mesma urgência dedicada a redes, bancos de dados e aplicações.””
De acordo com o Relatório do Índice de IA de Stanford de 2025, o número de incidentes de segurança relacionados à IA aumentou 56,4% em 2024, chegando a 233 casos registrados. Não se tratava de meras falhas ou problemas técnicos. Esses incidentes envolveram comprometimentos graves, desde violações de privacidade e amplificação da desinformação até manipulação de algoritmos e falhas que colocaram decisões sensíveis em risco.
Mas, como sempre, uma das nossas métricas favoritas é o tempo de permanência, ou seja, o período entre a violação e sua detecção. O relatório da IBM referente ao primeiro trimestre de 2025 revelou que comprometimentos específicos de IA levam, em média, 290 dias para serem detectados e contidos — muito mais do que a média de 207 dias das violações de dados tradicionais. São quase 10 meses de exposição, dando a esses invasores potencializados por IA tempo de sobra para causar danos graves.
Por que a maioria das empresas não está preparada
Para continuar aproveitando os benefícios da IA, as organizações precisam tratar a segurança dessa tecnologia com a mesma urgência dedicada a redes, bancos de dados e aplicações. No entanto, o atual desequilíbrio entre adoção e proteção revela uma realidade diferente.
Relatório sobre o Estado das Aplicações de IA em 2025 da F5 reforça esse ponto. Apenas 2% das organizações pesquisadas foram consideradas altamente seguras e preparadas para ampliar o uso da IA com segurança. Enquanto isso, 77% enfrentavam sérios desafios relacionados à segurança e à governança da IA.
O relatório também revelou que apenas uma parcela das empresas com nível moderado de preparação implementou medidas de proteção fundamentais. Somente 18% haviam implementado firewalls de IA, e apenas 24% adotavam a rotulagem contínua de dados, um método essencial para detectar comportamentos adversariais. Para agravar o problema, há o uso crescente de IA paralela (Shadow AI): ferramentas de IA não autorizadas ou não aprovadas que criam perigosas lacunas de visibilidade nos ambientes corporativos.
Na corrida para implementar IA e obter vantagem competitiva, muitas organizações estão ampliando inadvertidamente sua superfície de ataque.
O que torna a IA vulnerável
As características únicas da IA a expõem a novas formas de ataque. Algumas das vulnerabilidades mais preocupantes incluem:
- Envenenamento de dados: Os invasores inserem de forma sutil dados corrompidos ou enganosos nos conjuntos de treinamento, comprometendo o comportamento dos modelos de IA. Em 2024, pesquisadores da Universidade do Texas demonstraram como conteúdos maliciosos incorporados a documentos referenciados poderiam influenciar os resultados dos modelos — mesmo após a remoção desses documentos.
- Inversão e extração de modelos: Esses ataques permitem que agentes mal-intencionados reconstruam dados confidenciais de treinamento ou repliquem modelos proprietários. Casos reais incluem a recuperação de imagens de pacientes a partir de sistemas de diagnóstico e a reconstrução de gravações de voz privadas e textos internos a partir de modelos de linguagem.
- Ataques de evasão: Ao fazer alterações mínimas e muitas vezes imperceptíveis nos dados de entrada, os invasores podem induzir modelos de IA a produzir resultados incorretos. Em um exemplo, pesquisadores enganaram o sistema de visão de um veículo autônomo, fazendo-o classificar incorretamente uma placa de parada como uma placa de limite de velocidade por meio da adição de adesivos aparentemente inofensivos.
- Injeção de prompt: Os modelos de linguagem de grande escala (LLMs) são suscetíveis a entradas cuidadosamente elaboradas para manipular seu comportamento. Em um caso, um chatbot baseado no ChatGPT e usado por concessionárias Chevrolet foi induzido a concordar em vender um carro por US$ 1 — um desfecho que expôs riscos tanto à reputação quanto jurídicos.
Essas ameaças não são teóricas. Elas são reais e já estão comprometendo a segurança e a confiabilidade da IA em diversos setores.
Como criar uma estratégia robusta de defesa para IA
Para enfrentar esses desafios, as organizações devem adotar uma estratégia de defesa abrangente que contemple tanto a segurança cibernética em geral quanto os riscos específicos da IA. As cinco etapas a seguir podem ajudar as empresas a proteger seus sistemas de IA:
- Fortaleça a governança de dados
Crie um inventário claro dos ativos de IA — incluindo modelos, APIs e conjuntos de dados de treinamento — e aplique políticas rigorosas de controle de acesso. Os dados são a base da IA, e sua integridade deve ser protegida em todos os níveis. - Teste continuamente
Vá além das revisões de código tradicionais e implemente testes adversariais e exercícios de red teaming. Esses métodos ajudam a identificar vulnerabilidades, como inversão de modelo e injeção de prompts, antes que invasores as explorem. - Adote um design que priorize a privacidade
Incorpore técnicas de criptografia, minimização de dados e privacidade diferencial. Essas abordagens reduzem o risco de exposição de dados confidenciais, mesmo em caso de violação. - Adote uma arquitetura de confiança zero
Aplique a filosofia de “nunca confiar, sempre verificar” em todos os sistemas de IA. Conceda a cada componente e usuário apenas o acesso mínimo necessário e verifique rigorosamente todas as atividades. - Monitore o comportamento da IA em tempo real
Implemente ferramentas e sistemas que detectem anomalias no comportamento do modelo ou nos padrões de entrada. Monitore aspectos como chamadas excessivas à API, prompts suspeitos ou saídas anormais — todos eles podem indicar ameaças ativas.
A abordagem da F5 para a segurança de IA
À medida que mais organizações adotam ambientes híbridos e multinuvem, a F5, por meio de nossa Plataforma de Entrega e Segurança de Aplicações (ADSP), oferece recursos de segurança nativos de IA projetados para proteger a infraestrutura moderna.
Como parte dessa plataforma, F5 AI Gateway oferece proteção contra injeção de prompts e vazamento de dados por meio da inspeção e do roteamento inteligentes de solicitações a LLMs. Soluções avançadas de segurança de APIs — disponíveis por meio do F5 Distributed Cloud API Security e do NGINX App Protect — protegem as APIs contra uso indevido, exfiltração e abuso.
Também parte do F5 ADSP, F5 Distributed Cloud Bot Defense usa aprendizado de máquina para detectar e bloquear ameaças automatizadas, como o preenchimento de credenciais, com o mínimo de falsos positivos. Além disso, as soluções F5 BIG-IP Advanced WAF protegem aplicações e APIs, ao mesmo tempo que transferem as tarefas de segurança das GPUs, melhorando o desempenho em cargas de trabalho com uso intensivo de IA.
Além disso, a Arquitetura de Referência de IA da F5 oferece um modelo para uma infraestrutura de IA segura e confiável em ambientes híbridos e multinuvem. A F5 também colabora com empresas líderes em inovação de IA, incluindo Intel, Red Hat, MinIO e Google Cloud Platform, entre muitas outras, para ajudar os clientes a expandir suas operações com segurança e eficiência.
Considerações finais: IA segura, futuro seguro
A IA está transformando todos os setores em que é aplicada, mas seu potencial traz riscos sem precedentes. À medida que as ameaças se tornam mais sofisticadas, os líderes de segurança precisam agir com urgência e visão de futuro, adotando ferramentas proativas, uma arquitetura mais inteligente e uma proteção orientada por políticas.
A segurança da IA deve ser integrada à própria essência da estratégia empresarial. Com a combinação certa de regulamentação, tecnologia e cultura — fundamentada em estruturas comprovadas, como o AI Risk Management Framework do National Institute of Standards and Technology dos EUA, e apoiada por plataformas como a F5 ADSP —, as organizações podem aproveitar todo o potencial da IA e, ao mesmo tempo, se proteger contra seu lado mais sombrio.
A fronteira da IA chegou. A hora de protegê-la é agora.
Participe do painel de discussão na Black Hat
Se você pretende estar em Las Vegas esta semana para a Black Hat USA 2025, participe de um painel de discussão com Chuck Herrin, CISO de Campo da F5, e outros especialistas durante o AI Summit, no qual eles vão discutir como reforçar as defesas digitais na era da IA.
Além disso, não deixe de visitar nossa página para saber mais sobre as soluções da F5 para entrega e segurança de IA empresarial.
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...