Os agentes de IA não são apenas modismo: eles já estão em produção e passando por uma fase de crescimento acelerado.
James White, vice-presidente de Engenharia da F5, faz uma observação contundente: se você quiser entender os agentes, não pense em termos de versões de software, mas sim de desenvolvimento humano. Um agente não é uma versão 1.0, mas uma entidade — digital — que tem potencial para ser produtiva, mas também precisa ser desenvolvida.
A curva de maturidade dos agentes
Assim como os seres humanos, os agentes precisam de atenção constante em seus estágios iniciais. Tal qual um recém-nascido que ainda não consegue se alimentar sozinho, eles representam mais uma promessa do que algo útil. Mas os bebês aprendem a se alimentar sozinhos e rapidamente se tornam crianças e adultos. Da mesma forma, com modelos, ferramentas e infraestrutura de segurança melhores, os agentes começam a contribuir de maneira significativa.
Hoje, estamos no momento de “cortar a grama”, quando uma criança começa a assumir tarefas domésticas e a facilitar a vida dos adultos ao seu redor. Agora, os agentes conseguem realizar tarefas específicas de forma independente, seja fazendo pesquisas, programando com o GitHub Copilot, seja fazendo compras online por meio das novas interfaces de agentes do Google. Eles estão crescendo e amadurecendo em conhecimento, especialização e capacidade.
Bem-vindos à era dos recursos não humanos
Essa evolução está impondo uma mudança de mentalidade na segurança empresarial, que é estruturada para proteger sistemas e serviços de TI contra atividades humanas. Assim como os funcionários humanos, os agentes precisarão de controles de acesso e privilégios específicos à medida que transitarem pelo seu ambiente digital.
Como será essa mudança? Pense da seguinte forma: criamos departamentos de recursos humanos para gerenciar colaboradores humanos. Os agentes podem ser considerados recursos não humanos — NHRs — capazes de realizar um trabalho concreto e valioso em organizações do mundo todo.
Os agentes atuais têm um nível de experiência e desempenho equivalente ao de profissionais recém-formados, mas em breve evoluirão para o equivalente a cargos de nível pleno e sênior, com as respectivas responsabilidades. Os requisitos para os recursos não humanos (NHRs) aumentarão: eles custarão mais e precisarão de melhores níveis de acesso e segurança.
Isso significa que as empresas precisarão de:
- Políticas de acesso e permissões para agentes
- Estruturas de acompanhamento de custos e ROI para a implantação de agentes
- Padrões de segurança específicos para o comportamento de agentes e os riscos de movimentação lateral
Por que a segurança também precisa amadurecer
O problema? Não podemos tratar esses agentes como softwares tradicionais. Sua autonomia, capacidade de agir e potencial de colaboração criam uma superfície de ataque fundamentalmente nova.
Fazendo uma analogia com o desenvolvimento humano, você não envolveria um bebê em plástico-bolha de forma tão apertada que ele não pudesse se mexer. No ambiente de trabalho, você não mantém jovens funcionários sob rédea curta ou vigilância. Em vez disso, estabelece limites que lhes permitam crescer com segurança e adquirir experiência.
É exatamente isso que as soluções de segurança em tempo de execução de IA da F5 fazem por aplicativos e agentes de IA. Não desaceleramos os agentes; atuamos como guarda-costas, prontos para intervir quando surgem ameaças.
O que vem a seguir?
À medida que os agentes de IA se tornam mais autônomos, mais integrados e mais capazes, eles deixam de ser “agentes” abstratos e simplesmente passam a fazer parte da equipe. Sabemos disso porque desenvolvemos nossos próprios agentes e os utilizamos em produção. Eles realizam um trabalho valioso como recursos não humanos.
Mas agentes que têm acesso e capacidade precisam de supervisão, controles e visibilidade, assim como qualquer outro recurso. As empresas vencedoras não serão as que criarem os agentes mais rápidos, mas sim as que criarem os mais seguros.
A F5 está protegendo essa nova força de trabalho composta por recursos não humanos. Porque inovação sem proteção não é progresso: é risco.
Sobre o autor
James White é um engenheiro e líder empresarial de destaque, com quase duas décadas de experiência no setor de software empresarial.
Mais publicações de James WhitePublicações relacionadas no blog
Segurança de APIs sem concessões: apresentamos novas opções flexíveis de descoberta com F5 API security
As opções ampliadas de descoberta de APIs da F5 foram desenvolvidas para oferecer o máximo de flexibilidade e atender às organizações onde quer que estejam.
Governe sua IA no presente e antecipe o futuro da sua IA
Aprenda com nosso CISO de campo, Chuck Herrin, como se preparar para o novo desafio de proteger modelos e agentes de IA.
Segurança de IA para a cadeia de suprimentos
As cadeias de suprimentos são cada vez mais impulsionadas pela IA — desde a previsão de demanda e o planejamento logístico até a análise de riscos de fornecedores e a gestão de estoque em tempo real. Essas ferramentas ajudam as empresas a reduzir custos, aumentar a resiliência e se adaptar a disrupções globais. No entanto, elas também criam novos riscos em um vasto ecossistema: nossas soluções de segurança de IA em tempo de execução protegem o setor de Cadeia de Suprimentos […]
Segurança de IA para Recursos Humanos
A IA está revolucionando o RH. As empresas estão implementando copilotos de recrutamento com IA, assistentes de integração, chatbots de suporte aos funcionários e ferramentas de análise da força de trabalho para reduzir custos e melhorar a experiência dos colaboradores. No entanto, as aplicações de RH também apresentam riscos específicos que podem expor as organizações a falhas de conformidade, alegações de viés e danos à reputação: nossas soluções de segurança de IA em tempo de execução protegem o setor de RH com […]
Equilibrando o desempenho da IA e a gestão de recursos
As organizações dependem cada vez mais de ferramentas e iniciativas de IA para impulsionar a inovação e a transformação. Cada avanço incremental na sofisticação das ferramentas de IA torna o equilíbrio entre desempenho e gestão de recursos um desafio maior e mais relevante para as equipes de TI e segurança. No entanto, esse equilíbrio é essencial para maximizar o ROI, garantir a segurança e manter a eficiência em toda a […]
Integração de APIs em IA: a base técnica
A integração de APIs é um canal essencial no ecossistema de IA, por meio do qual diferentes sistemas, plataformas e aplicações interagem. Analisamos as nuances técnicas da integração de APIs em IA, com ênfase em sua importância para aprimorar a eficiência e os recursos dos sistemas de IA. As APIs permitem a troca fluida de dados e funcionalidades entre diferentes soluções de IA […]