A maioria das organizações não planejou a implementação da IA generativa. Uma equipe colocou um chatbot em funcionamento, outra conectou um modelo aos dados internos e agora há um agente acionando discretamente ferramentas em produção. Em algum momento dessa corrida entre o projeto-piloto e a implantação, a segurança acabou ficando para trás.
É essa lacuna que o white paper da F5, Protegendo a IA generativa: um framework de 30, 60 e 90 dias, busca preencher. Em vez de tratar a segurança de IA como um item a ser marcado em uma lista de compras ou como uma auditoria pontual, nosso framework apresenta um roteiro sequencial de 90 dias que leva as equipes da proteção de uma única aplicação à implementação de um programa para toda a frota e à defesa de agentes autônomos.
Então, como é essa estrutura?
Os primeiros 30 dias são sobre disciplina, não sobre velocidade de implantação
A tentação diante de qualquer nova aplicação de IA generativa é colocá-la em produção. No entanto, nossa estrutura de segurança de IA exige uma abordagem inicial diferente: considerar a seleção do modelo, os testes de red team e o desenvolvimento de mecanismos de proteção como o verdadeiro trabalho dos primeiros 30 dias, e não como obstáculos a serem superados.
Isso significa submeter o modelo puro a testes de red team para estabelecer uma linha de base de segurança, desenvolver a aplicação sobre ele e, em seguida, testar o sistema combinado com uma equipe de red team para verificar se a aplicação o tornou mais ou menos seguro. Também significa criar mecanismos de proteção em quatro categorias distintas — regulamentações existentes, regulamentações específicas para IA, ameaças relacionadas ao caso de uso e descobertas da equipe de red team — para que nada passe despercebido por não se encaixar perfeitamente em uma única categoria.
O resultado dessa primeira fase é um ciclo repetível: quando surgir uma nova ameaça de dia zero, realize novamente o red teaming, corrija as proteções, valide e reimplante.
Do 30º ao 60º dia, um aplicativo protegido se transforma em um programa
Proteger bem uma aplicação é um bom resultado. Proteger 20 aplicações da mesma forma, no mesmo ritmo e com o mesmo nível de auditabilidade é um problema completamente diferente. É nesse ponto que a maioria das organizações fica estagnada.
Nossa estrutura inclui quatro pilares que transformam iniciativas pontuais de segurança em um programa escalável:
- Cadências definidas de red teaming vinculadas ao nível de risco
- Estabeleça um pipeline de patches para mecanismos de proteção que permita implantar (e reverter) atualizações em vários aplicativos simultaneamente
- Crie um processo de resposta a vulnerabilidades de dia zero para toda a frota, com SLAs reais
- Capacite o SOC para que os operadores de segurança possam investigar incidentes de IA com a mesma desenvoltura com que investigam qualquer outra ameaça
Essa segunda fase estará concluída quando a organização puder informar, para cada aplicação de IA, quem é o responsável por ela e quando foi testada pela última vez.
Os dias 60 a 90 trazem um risco fundamentalmente diferente
Agentes autônomos não se limitam a responder a perguntas. Eles operam continuamente, raciocinam sobre planos de várias etapas e realizam ações concretas por meio de ferramentas. Isso significa que o modelo de segurança criado para aplicações de solicitação e resposta não pode ser aplicado diretamente.
A resposta do nosso framework se concentra em duas ideias. Primeiro, a observabilidade precisa ir além do registro de resultados e incluir o registro do raciocínio: cada pensamento, chamada de ferramenta e decisão tomada por um agente deve estar interligada, para que uma análise pós-incidente possa reconstituir não apenas o que aconteceu, mas também como aconteceu. Segundo, quando o raciocínio de um agente se desvia para uma direção arriscada, simplesmente bloquear esse pensamento tende a interromper o agente no meio da tarefa. Em vez disso, o framework propõe a injeção de pensamentos — substituir um pensamento arriscado por outro mais seguro, que mantenha o agente produtivo — combinada com controles no nível das ações, como permissões de ferramentas e etapas de aprovação para ações de alto impacto. A segurança de GenAI não é um marco isolado que se alcança e deixa para trás. É um ritmo operacional que este framework foi desenvolvido para ajudar as equipes de segurança a estabelecer antes que as lacunas em suas implementações de IA se transformem em incidentes.
Leia nosso white paper para conhecer o framework completo de 30, 60 e 90 dias, incluindo os checklists das fases 1 a 3 que sua equipe pode começar a usar imediatamente. Aproveite também para se inscrever em nosso próximo webinar.
Sobre os autores
James White é um engenheiro e líder empresarial de destaque, com quase duas décadas de experiência no setor de software empresarial.
Mais publicações de James WhitePublicações relacionadas no blog
IA agêntica em cibersegurança: promessas e riscos
Saiba por que o uso de IA agêntica na cibersegurança é essencial para combater ameaças impulsionadas por IA e por que os agentes também criam novos riscos para as empresas.
Como os clientes da F5 no setor financeiro lidam com a soberania digital sem desacelerar a inovação
Como é a soberania digital na prática? Dois projetos recentes da F5 com clientes mostram como diferentes empresas estão enfrentando esses desafios.
Soberania operacional: construindo resiliência em um mundo imprevisível
Para muitas organizações, a questão já não se resume apenas a controlar os dados. Trata-se de manter a capacidade de operar, adaptar-se e se recuperar à medida que as leis e as condições evoluem.
Segurança de IA com evidências: o que levaremos ao Gartner SRM
Antes de sua sessão no Gartner SRM, o vice-presidente sênior de Marketing de Produtos da F5 explica como a F5 ajuda as organizações a proteger a IA em três etapas práticas.
Gestão de riscos de IA: como as proteções podem ajudar a mitigá-los
O risco da IA é impulsionado por comportamentos probabilísticos e pela explicabilidade limitada, não apenas por falhas de segurança. Uma gestão eficaz exige controle operacional contínuo.
Lei de IA do Colorado (SB 205): o que as empresas precisam saber antes de 2026
A SB 205 do Colorado, a lei pioneira do estado sobre inteligência artificial, foi sancionada pelo governador Jared Polis em 17 de maio de 2024. O projeto de lei estabelece requisitos para que as empresas que utilizam IA implementem controles destinados a proteger os cidadãos do Colorado.