Ao longo do último ano, aprendemos muito sobre IA generativa. Em especial, vimos as melhores práticas para padrões de implantação se consolidarem, as fábricas de IA se tornarem um novo componente fundamental dos data centers e as preocupações com a disponibilização e a segurança de modelos e aplicações de IA ganharem destaque.
Embora seja verdade que as aplicações de IA são as “mais modernas entre as aplicações modernas” e dependem muito de APIs, também é verdade que as aplicações de IA apresentam desafios específicos em termos de segurança, monitoramento e entrega.
Um desafio significativo decorre da natureza não determinística das aplicações de IA. Ou seja, os dados de entrada recebidos e as respostas enviadas variam muito e evoluem ao longo do tempo. As aplicações de IA também podem obter dados de fontes estruturadas e não estruturadas, que podem estar distribuídas por vários locais. De fato, não foi nenhuma surpresa quando pesquisamos o mercado e encontramos uma combinação diversificada de planos de implantação de IA em nuvem pública, em ambientes locais e em ambientes híbridos.
O problema das entradas e saídas não estruturadas e imprevisíveis é a dificuldade inerente de determinar se uma solicitação ou resposta contém informações confidenciais ou incorretas. Embora a segurança de APIs e os firewalls de aplicações web sejam frequentemente usados exatamente para essa finalidade, eles operam com conteúdo determinístico. Ou seja, o formato e o conteúdo das solicitações e respostas são conhecidos e, portanto, é mais fácil detectar conteúdo malicioso ou confidencial. No caso da IA, embora ela utilize as mesmas estruturas que as APIs e aplicações web, o conteúdo é altamente variável, o que dificulta a criação de políticas para verificar ou remover informações indesejadas de solicitações e respostas.
Esse desafio traz outro implícito: o tráfego de IA deve ser monitorado em ambas as direções. Isso é particularmente importante, visto que uma parcela significativa das organizações planeja utilizar IA como serviço, por meio de plataformas como ChatGPT, Azure, Google ou Hugging Face.
A segurança necessária para proteger modelos de IA
É por isso que as soluções existentes de segurança de APIs e aplicações não são suficientes para proteger modelos e aplicações de IA. A segurança de IA complementa esses serviços existentes, oferecendo os recursos adicionais e exclusivos necessários para manter empresas e clientes seguros, como proteção contra injeção de prompts, manipulação de modelos, alucinações e ataques impulsionados por IA.
Para gerenciar e proteger modelos e aplicações de IA, os serviços de entrega e segurança de aplicações devem:
- Observar e registrar todas as solicitações, respostas e ações administrativas para atender aos requisitos legais e de conformidade.
- Proteja organizações e usuários inspecionando e tomando medidas em relação a prompts e respostas maliciosos, sensíveis ou imprecisos.
- Acelere o desempenho usando políticas e controles de direcionamento de tráfego, incluindo prevenção contra ataques volumétricos.
Por que escolher o F5 AI Gateway?
Há mais de 20 anos, a F5 vem superando os desafios de entrega e segurança decorrentes das mudanças nas arquiteturas de aplicações. A IA introduz uma nova arquitetura de aplicações que, assim como suas antecessoras, exige uma evolução complementar na entrega e na segurança de aplicações. F5 AI Gateway protege, acelera e monitora aplicações baseadas em IA, representando uma evolução natural da entrega e da segurança de aplicações para a F5.
Essa evolução inclui suporte à realidade híbrida e multinuvem dos ambientes de TI atuais, permitindo que o F5 AI Gateway seja implantado de forma independente ou integrado a softwares, hardwares ou serviços existentes da F5.
Inicialmente, nosso foco para o F5 AI Gateway é atender às principais necessidades de entrega e aos itens do OWASP LLM Top Ten relacionados aos desafios de segurança em tempo real, com mais novidades por vir.
Recursos adicionais, como a geração de relatórios sobre uma ampla variedade de métricas via OpenTelemetry, a atenção cuidadosa aos requisitos de logs de auditoria, o cache semântico, a limitação de taxa e o roteamento de modelos baseado em conteúdo, garantem suporte aos três requisitos de entrega e segurança de IA: observar, proteger e acelerar.
Reconhecendo que a IA está evoluindo rapidamente e que não existem duas empresas iguais, o F5 AI Gateway também permite que as organizações se adaptem a requisitos personalizados e novos por meio de um ecossistema de plug-ins, com o suporte de um kit de desenvolvimento de software (SDK) para Python, Rust e Go.
Protegendo qualquer aplicativo e API, em qualquer lugar
A F5 tem o compromisso de disponibilizar e proteger todas as aplicações e APIs, onde quer que estejam. À medida que as aplicações evoluem, nosso portfólio também precisa evoluir para enfrentar desafios novos e específicos. Quando se trata de aplicações de IA, o F5 AI Gateway oferece o que as organizações precisam para disponibilizá-las e protegê-las em qualquer lugar.
Você pode saber mais sobre o F5 AI Gateway aqui ou entrando em contato com seu executivo de contas da F5 ou parceiro de tecnologia da F5.
Sobre o autor
Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.
Mais publicações de Lori Mac VittiePublicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...