Do caos à coesão: como gerenciar a proliferação digital e os riscos da IA

F5 Newsroom Staff

A proliferação digital não é um fenômeno novo. Muitas organizações — provavelmente a maioria — já passaram por isso à medida que cresceram. Grupos e departamentos adicionam aplicativos, ferramentas e soluções desenvolvidos para fins específicos sem informar a equipe de TI, e essas ferramentas não se integram de forma eficaz aos sistemas existentes. Às vezes, as equipes de TI implantam aplicativos que são redundantes em alguns aspectos, enquanto outros recursos não são utilizados. Em outros casos, os aplicativos deixam de ser usados e se tornam zumbis no sistema — não estão exatamente mortos, mas nunca são atualizados nem removidos e ficam repletos de vulnerabilidades. E, às vezes, a questão não se limita à organização ou a seus grupos: o cenário mais amplo também está envolvido. O advento da nuvem para computação, armazenamento, colaboração e muito mais, seguido pela pandemia de Covid, pela mudança radical para o trabalho remoto e pela governança desordenada dos sistemas durante aquele período caótico certamente contribuiu para a proliferação digital explosiva em todas as organizações — especialmente no que diz respeito à segurança.

À primeira vista, a implantação de várias ferramentas em toda a infraestrutura de segurança cibernética de uma organização pode parecer uma abordagem racional, abrangente e avessa a riscos. No entanto, quando ferramentas e soluções de segurança isoladas se proliferam pela infraestrutura, elas podem gerar desafios e riscos significativos, como:

• Soluções que operam de forma isolada, sem conseguir se comunicar ou compartilhar informações entre si e, portanto, sem contribuir para uma visão holística da postura de segurança da organização. Essa fragmentação dificulta a correlação e a análise de eventos e alertas de segurança, causando atrasos na resposta a incidentes, maior complexidade no gerenciamento de incidentes de segurança e possíveis ameaças não detectadas.
• Falta de integração e visibilidade, o que dificulta o monitoramento e o controle dos fluxos de dados, resultando em pontos cegos nos quais dados confidenciais podem vazar ou ser acessados sem a devida autorização.
• Redundância, que resulta em medidas de segurança conflitantes ou inconsistentes, desperdício de recursos, maior complexidade e dificuldades na manutenção e atualização dos sistemas de segurança.
• Ferramentas e/ou protocolos de autorização inconsistentes, que podem conceder inadvertidamente acesso a dados críticos às pessoas erradas.

Uma análise cuidadosa, seguida de uma consolidação implacável para simplificar a infraestrutura de segurança, é claramente um caminho a seguir. Mas até mesmo esse caminho tem suas armadilhas: quando uma nova tecnologia, como a inteligência artificial generativa (GenAI), é introduzida no ecossistema digital de uma organização, nada no aparato de segurança existente pode ajudar. Os riscos de implantar um modelo de GenAI ou um modelo de linguagem de grande escala (LLM) em toda uma organização sem nenhuma medida de segurança são bem documentados: perda não intencional de propriedade intelectual ou de dados proprietários, confidenciais ou sensíveis por meio de consultas mal formuladas; introdução de código defeituoso ou até mesmo malicioso por meio de respostas de LLM que os funcionários não estão preparados para avaliar; disseminação inadvertida de informações falsas ou imprecisas obtidas de uma resposta de LLM, mas não verificadas; e muitos, muitos outros.

Não é de surpreender que novos riscos exijam novas medidas. Essas medidas ainda incipientes devem incluir, no mínimo, algumas soluções técnicas, uma estrutura de governança e iniciativas contínuas, como:

• Scanners especializados para realizar a moderação e a filtragem de conteúdo em prompts de entrada e respostas do modelo, a fim de identificar e bloquear aqueles que contenham conteúdo malicioso ou inadequado
• Diretrizes éticas que alinham as interações dos usuários com o modelo aos valores e padrões da organização
• Recursos de verificação de fatos para validar informações e sinalizar imprecisões ou desinformação antes que sejam incorporadas ao conteúdo da empresa
• Independência de modelo para evitar a dependência de um único fornecedor e problemas relacionados às limitações do provedor
• Visibilidade total em todo o sistema para que a equipe de segurança possa acompanhar o que está acontecendo em tempo real
• Um conjunto abrangente de políticas e procedimentos que regem o uso ético e responsável dos modelos para garantir transparência, prestação de contas e conformidade com os requisitos da empresa, do setor ou dos órgãos reguladores
• Controles de acesso baseados em funções ou políticas para garantir que somente pessoal autorizado tenha acesso aos modelos, dados e recursos necessários para desempenhar suas funções
• Recursos para monitorar e auditar as interações de usuários e com o conteúdo, a fim de identificar vulnerabilidades, avaliar riscos e implementar medidas de proteção adequadas.

Talvez o mais importante seja que essas soluções possam ser personalizadas de acordo com as necessidades específicas, o perfil de risco e o ambiente regulatório de cada organização. As soluções de segurança de runtime de IA da F5, independentes de modelo, oferecem recursos abrangentes de segurança em uma única solução fácil de instalar e usar para organizações que utilizam modelos de IA de qualquer quantidade ou tipo — LLMs, multimodais, com geração aumentada por recuperação (RAG), com ajuste fino, internos, externos, privados ou de código aberto. As soluções da F5 proporcionam observabilidade completa em todo o sistema, permitindo que os administradores visualizem cada modelo e suas atividades.

A F5 implementa mecanismos robustos de proteção para se defender contra ameaças comuns e novas. Por exemplo, controles de acesso baseados em políticas restringem o acesso aos modelos a indivíduos e grupos identificados pelos administradores, além de permitir que eles definam limites de taxa para monitorar e regular o uso dos modelos e evitar ataques de negação de serviço (DoS) contra eles. Scanners personalizáveis analisam o conteúdo de entrada e saída para garantir que dados pessoais ou corporativos confidenciais não saiam da organização e que conteúdos maliciosos, suspeitos ou inaceitáveis não entrem. Outros scanners analisam os prompts de IA em busca de conteúdo que, embora não seja prejudicial à empresa, não esteja alinhado aos valores dela ou não seja adequado ao uso comercial. 

Todas as consultas e respostas são analisadas pelos scanners e, com base nos limites definidos pela organização, são ocultadas, bloqueadas ou aprovadas. Além disso, todas as interações realizadas na plataforma são registradas para fins de análise pelos administradores, auditoria e responsabilização. Nosso bot independente de modelo integra-se perfeitamente a ferramentas de trabalho como Slack e Microsoft Teams, permitindo que os usuários acessem todos os modelos disponíveis diretamente nessas ferramentas. Assim, ele oferece segurança robusta e desempenho sem concessões, além de aumentar a produtividade e promover a comunicação e a inovação. Essa solução única fornece uma base sólida para uma abordagem proativa e abrangente de segurança, capaz de mitigar com eficácia os riscos associados à implantação de modelos de IA generativa. Clique aqui para saber mais sobre nossas soluções de segurança e viabilização de IA generativa em tempo de execução.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff