O papel da governança de IA no aprimoramento da conformidade e da segurança nas empresas

F5 Newsroom Staff

A rápida adoção de grandes modelos de linguagem (LLMs) e outras ferramentas de IA nas empresas está revolucionando as operações de negócios e aumentando a produtividade. No entanto, essas ferramentas também apresentam desafios significativos de segurança e conformidade, pois ampliam a superfície de ataque das organizações. Historicamente, as organizações priorizam a utilidade e a rapidez de lançamento no mercado em detrimento de medidas robustas de governança e controle, e a evolução da governança de IA não é exceção. À medida que as empresas integram recursos de IA e aprendizado de máquina (ML) a um número cada vez maior de tarefas, é fundamental que estabeleçam uma estrutura abrangente de governança de IA que aborde esses novos riscos para garantir a conformidade e a segurança internas e externas.

A necessidade da governança de IA

À medida que as ferramentas de IA/ML ganham espaço em áreas como Operações, Vendas, Jurídico, Recursos Humanos, entre outras, os líderes de segurança da organização — que podem incluir CISOs, CIOs, CTOs, CSOs, CDOs, responsáveis por Compliance e/ou o Diretor Jurídico — devem desenvolver e implementar uma estrutura de governança de IA em toda a empresa. Esse processo é fundamental para equilibrar a crescente demanda por ferramentas de IA com a necessidade de proteger a superfície de ataque em expansão.

Essa tarefa envolve a formação de uma equipe multifuncional com representantes de todas as principais áreas da organização, a fim de chegar a um consenso sobre os princípios de governança e obter o apoio das partes interessadas, incluindo a alta liderança executiva. Limitar a equipe a seis a oito participantes pode agilizar os processos de tomada de decisão e implementação. O líder de segurança mais envolvido com a tecnologia deve conduzir o trabalho; no entanto, seu papel não é o de especialista no assunto, mas o de facilitador, demonstrando neutralidade e evitando vieses.

Cenário atual e desafios

O crescimento dos LLMs e de outros produtos de inteligência artificial generativa (GenAI) oferece às empresas inúmeras oportunidades para aprimorar processos de negócios, melhorar a experiência dos clientes e aumentar a produtividade profissional. Essas oportunidades incluem a introdução de modelos próprios, desenvolvidos sob medida e baseados em dados proprietários, para atender a casos de uso específicos de um setor ou de uma empresa. A rápida adoção dessas ferramentas, bem como a grande variedade de modelos e de opções de personalização, impõe uma carga cognitiva aos usuários, que talvez nunca tenham utilizado ferramentas digitais tão sofisticadas até agora.

Os líderes de segurança devem orientar as partes interessadas — funcionários, prestadores de serviços, consumidores, clientes e quaisquer outras — sobre os riscos, as responsabilidades, os resultados e os benefícios do uso dessas soluções revolucionárias.

Estrutura de Governança de IA

Ao estabelecer uma estrutura de governança de IA, os líderes de segurança devem se concentrar em várias áreas importantes, incluindo: 

• Pessoas: Os líderes de segurança devem conscientizar líderes de departamentos, equipes e áreas de atuação em toda a organização sobre a importância de uma governança de IA orientada pelo consenso.
• Princípios: Os princípios de governança devem estar alinhados aos valores organizacionais e à reputação da marca, fornecendo uma base clara de valor para o negócio e uma sustentação sólida para políticas específicas de IA, abordando questões como o uso aceitável e as consequências do uso indevido. Alguns exemplos de princípios incluem exigir a revisão humana de todos os resultados gerados por LLMs e a identificação do uso de LLMs nas comunicações internas. O estabelecimento antecipado desses princípios permite alterar as políticas existentes da empresa e criar novas políticas. 
• Regulamentação: A governança de IA deve considerar regulamentações regionais, nacionais e globais influenciadas pelas leis de privacidade existentes, como o Regulamento Geral sobre a Proteção de Dados (GDPR) da União Europeia e a Lei de Privacidade do Consumidor da Califórnia (CCPA). Os executivos responsáveis por privacidade e conformidade devem ser parte integrante da estrutura de governança, garantindo que modelos, ferramentas e práticas alinhados à IA ou dependentes dela atendam aos padrões regulatórios de consentimento, anonimização de dados e exclusão de dados. 
• Ética: A governança de IA exige muita mão de obra e se concentra em como as pessoas trabalham, e não nas ferramentas que utilizam. As considerações éticas devem ser integradas ao desenvolvimento da IA, com os seres humanos atuando como árbitros do julgamento ético no design de tecnologias.
• Controles: A governança de IA deve incorporar três níveis de participação humana: humano no circuito (HITL), humano supervisionando o circuito (HOTL) e humano no controle (HIC). Isso garante a supervisão humana e a responsabilização em todas as operações de IA, reduzindo os riscos associados à tomada autônoma de decisões pela IA.

A justificativa de negócios para a governança de IA

A implementação da governança de IA exige investimentos em tecnologia e mão de obra. No entanto, os ganhos de produtividade e a redução dos custos de mão de obra decorrentes do uso de LLMs nos principais fluxos de trabalho da empresa podem ser significativos o bastante para justificar esses investimentos. A criação de um modelo de responsabilização, no qual funcionários designados sejam responsáveis pelos resultados gerados pela IA, pode minimizar a necessidade de pessoal de suporte adicional. Quando essa estrutura é implementada e conta com a adesão tanto dos executivos quanto dos funcionários, a empresa pode gerenciar riscos ampliados de forma eficiente, eficaz e segura, além de obter benefícios mensuráveis alinhados aos valores e às políticas da organização.

Clique aqui para agendar uma demonstração da nossa plataforma de segurança e capacitação de IA generativa.

Sobre o autor

F5 Newsroom Staff

Mais publicações de F5 Newsroom Staff