BLOG

Democratizando a IA com o AI Data Fabric da F5

Miniatura de Chris Ford
Chris Ford
Publicado em 08 de janeiro de 2025

No início de 2024, lançamos o F5 AI Data Fabric . É uma nova plataforma que construímos para aproveitar o poder da inteligência artificial para nossos clientes. O F5 AI Data Fabric tornará fácil e seguro para nossas equipes de produtos usar IA generativa em nosso portfólio. Com o AI Data Fabric, estamos acelerando o ritmo de adoção de IA em nosso portfólio, e isso trará benefícios reais e tangíveis para nossos parceiros e clientes.

Esta é a primeira de uma série de postagens de blog que se aprofundam no que é o AI Data Fabric, como ele funciona e apresenta alguns dos novos e incríveis recursos habilitados para IA que ele está nos ajudando a trazer ao mercado. Para começar nossa série, vamos nos concentrar nos primeiros princípios que orientaram nosso objetivo de impulsionar a adoção rápida.

Democratizando a IA

Com o AI Data Fabric, nos propusemos a construir um sistema que democratiza o acesso à IA para nossas equipes de produtos, incluindo especialistas no assunto que não têm formação em ciência de dados. Este sistema combina pipelines de processamento de dados, vários modelos de transformadores fundamentais, um ecossistema de módulos compartilhados, MLOps e um plano de controle exposto com um kit de desenvolvimento de software (SDK).

Em sua essência, o F5 AI Data Fabric é uma fábrica de IA , projetada para ajudar a F5 a inovar rapidamente com IA. Como qualquer boa fábrica de IA, o AI Data Fabric fornece infraestrutura comum e escalável para construir e executar aplicativos de IA. Ajuda as equipes de produtos a fazer coisas como:

  • Gerar e rotular dados de treinamento
  • Treine e ajuste modelos específicos de tarefas
  • Empacote e implante esses modelos onde quer que eles precisem ser executados
  • Monitorar o desempenho do modelo e o desvio do modelo

Encontrando nossos clientes onde eles estão

Quando embarcamos nessa jornada, estabelecemos alguns objetivos de design muito específicos para impulsionar a adoção. Em vez de forçar os usuários a mudar suas formas de trabalhar, tivemos que encontrá-los onde eles estavam. Isso significava ajudar a encontrar e conectar todos os dados, permitindo o autoatendimento, dando suporte à mobilidade e portabilidade, estabelecendo um ecossistema para impulsionar a colaboração e a inovação e usando grandes modelos de linguagem (LLMs) para acelerar o treinamento do modelo.

Conecte-se aos dados onde quer que eles estejam

Uma boa IA começa com dados, e o F5 AI Data Fabric ajuda a gerar insights a partir das enormes quantidades de dados coletados de produtos em nosso portfólio. Como a maioria das empresas que executam aplicativos em escala, reconhecemos a realidade de que os dados residem em muitos armazenamentos diferentes e não apenas em um único data lake. Acomodamos aplicativos e fontes de dados implantados no local e em várias nuvens, públicas e privadas; o AI Data Fabric pode conectar e anexar computação aos dados onde quer que eles estejam. Um catálogo de dados comum ajuda os usuários a navegar por muitas fontes de dados, ao mesmo tempo em que nos permite, como equipe, nos adequar à estratégia de governança de dados da F5 para garantir controles e auditorias adequados sobre os ativos de dados. Essa estratégia nos permite gerar insights, gerenciar e fornecer governança para dados de diferentes aplicativos e produtos, em vários data lakes e fontes de dados, sem alterar a forma como nossos usuários trabalham.

Habilitar autoatendimento

Dar aos usuários a capacidade de anexar computação aos dados é apenas parte da história. Para impulsionar a adoção, tivemos que considerar toda a jornada do usuário da ciência de dados e onde poderíamos eliminar o atrito. 

Empacotar e implementar aplicativos de IA é um ótimo exemplo. Fazemos muito do trabalho duro para que nossos usuários não precisem fazer isso. O AI Data Fabric pode gerenciar dependências do Python, empacotar aplicativos de IA em um contêiner com um servidor HTTP, configurar esse ponto de extremidade em nosso gateway de API e implantar os aplicativos de IA no Kubernetes com os requisitos corretos de GPU, CPU e memória onde quer que sejam necessários. Imagine treinar, empacotar e implantar um modelo, tudo em um fluxo de trabalho automatizado por meio de um SDK fácil de usar. Com esse sistema, um cientista de dados pode implantar uma nova versão de seu application de IA em 10 a 15 minutos. Reduzir o atrito ajuda os cientistas de dados a fazer o que eles fazem de melhor: ciência de dados.

Construído para mobilidade e portabilidade de IA

Este é outro exemplo de como encontrar nossos clientes onde eles estão. Todos os contêineres criados são armazenados no registro de contêineres do AI Data Fabric, liberando os usuários para implantar aplicativos de IA onde quer que eles precisem ser executados, mesmo em ambientes com air gap.

Estabelecer um ecossistema

Acelerar a adoção da IA significa colaboração rápida. Significa aproveitar e desenvolver o trabalho daqueles que vieram antes de você. Dentro do AI Data Fabric há um “ecossistema de IA”, ferramentas e módulos pré-construídos para executar funções de IA comuns e complexas. Quando os usuários contribuem com módulos e modelos de volta ao ecossistema, isso é um verdadeiro acelerador para a inovação. Os módulos podem variar de modelos pré-criados de detecção e classificação de anomalias a aplicativos para executar geração aumentada de recuperação, ou RAG.

Use LLMs para acelerar o treinamento de modelos

Para acelerar ainda mais a adoção, pegamos os princípios do Agentic AI e os aplicamos ao F5 AI Data Fabric. Acabamos com um sistema que pode treinar e implementar modelos para raciocinar sobre dados, usar IA para raciocinar sobre os insights resultantes e, então, identificar e concluir uma tarefa. Resumindo, estamos usando grandes modelos de linguagem para gerar dados que, por sua vez, nos ajudam a treinar modelos menores e específicos para tarefas. Um ótimo exemplo é como estamos rotulando dados de treinamento. Esse é um fardo enorme para os cientistas de dados que podemos aliviar: o AI Data Fabric se conecta aos dados de treinamento, extrai significado desses dados e, então, usa a IA para raciocinar sobre esse significado extraído para executar uma tarefa de rotulagem antes de enviar os dados rotulados resultantes para outro lugar.

Os benefícios

Aqui está o que esse foco na fácil adoção significa para nossas equipes de produtos:

  1. Eficiência : O AI Data Fabric permite colaboração, desenvolvimento de modelos e implantação mais rápidos.
  2. Escala : Podemos controlar, gerenciar e manter milhares de modelos de forma altamente automatizada. 
  3. Redução de risco : As melhores práticas combinadas com sistemas comuns e padronizados para processar dados e executar nossos próprios modelos nos proporcionam uma governança muito melhor, protegem os dados dos clientes e ajudam a garantir a conformidade regulatória. 

Esperando ansiosamente

Já usamos o F5 AI Data Fabric para habilitar vários projetos importantes na empresa, incluindo assistentes de IA, treinamento de modelos de classificadores e geração de assinaturas para casos de uso de proteção de API e aplicativos da web (WAAP). Esses excelentes recursos dependem dos modelos e serviços básicos do AI Data Fabric para treinamento, ajuste fino, implantação e inferência de modelos.

Estamos muito animados com o valor que podemos oferecer aos clientes e parceiros usando o F5 AI Data Fabric. Há mais por vir nesta frente, então fique ligado nas postagens futuras, onde abordaremos em detalhes algumas das técnicas que estamos usando, os desafios que tivemos que superar e os recursos específicos do produto que estamos habilitando.