Democratizando a IA com o AI Data Fabric da F5

Chris Ford

No início de 2024, apresentamos a F5 AI Data Fabric. Trata-se de uma nova plataforma que desenvolvemos para aproveitar o poder da inteligência artificial em benefício de nossos clientes. A F5 AI Data Fabric permitirá que nossas equipes de produtos usem IA generativa em todo o nosso portfólio de forma fácil e segura. Com a AI Data Fabric, estamos acelerando o ritmo de adoção da IA em todo o nosso portfólio, o que trará benefícios reais e concretos para nossos parceiros e clientes.

Este é o primeiro de uma série de posts de blog que explorarão mais a fundo o que é o AI Data Fabric, como ele funciona e alguns dos incríveis novos recursos habilitados por IA que ele está nos ajudando a lançar no mercado. Para iniciar nossa série, vamos nos concentrar nos princípios fundamentais que orientaram nosso objetivo de promover uma rápida adoção.

Democratizando a IA

Com o AI Data Fabric, decidimos criar um sistema que democratiza o acesso à IA para nossas equipes de produto, incluindo especialistas no assunto que não têm formação em ciência de dados. Esse sistema combina pipelines de processamento de dados, vários modelos fundacionais baseados em transformers, um ecossistema de módulos compartilhados, MLOps e um plano de controle disponibilizado por meio de um kit de desenvolvimento de software (SDK).

Em sua essência, o F5 AI Data Fabric é uma fábrica de IA, projetada para ajudar a F5 a inovar rapidamente com IA. Como toda boa fábrica de IA, o AI Data Fabric fornece uma infraestrutura comum e escalável para criar e executar aplicativos de IA. Ele ajuda as equipes de produto a realizar tarefas como:

• Gerar e rotular dados de treinamento
• Treine e faça o ajuste fino de modelos específicos para cada tarefa
• Empacote e implante esses modelos onde quer que precisem ser executados
• Monitore o desempenho e o desvio dos modelos

Atendendo nossos clientes onde quer que estejam

Quando iniciamos essa jornada, definimos objetivos de design bastante específicos para impulsionar a adoção. Em vez de obrigar os usuários a mudar sua forma de trabalhar, precisávamos encontrá-los onde estavam. Isso significava ajudá-los a encontrar e se conectar a todos os dados, viabilizar o autoatendimento, oferecer suporte à mobilidade e à portabilidade, estabelecer um ecossistema para promover a colaboração e a inovação e usar modelos de linguagem de grande escala (LLMs) para acelerar o treinamento de modelos.

Conecte-se aos dados onde quer que estejam

Uma boa IA começa com dados, e o F5 AI Data Fabric ajuda a gerar insights a partir do enorme volume de dados coletados de produtos de todo o nosso portfólio. Como a maioria das empresas que executam aplicações em grande escala, reconhecemos que os dados ficam armazenados em muitos locais diferentes, e não apenas em um único data lake. Oferecemos suporte a aplicações e fontes de dados implantadas localmente e em várias nuvens, públicas e privadas; o AI Data Fabric pode se conectar aos dados e associar recursos computacionais a eles onde quer que estejam. Um catálogo de dados comum ajuda os usuários a navegar por diversas fontes de dados e, ao mesmo tempo, permite que nossa equipe se alinhe à estratégia de governança de dados da F5, garantindo controles e auditorias adequados sobre os ativos de dados. Essa estratégia nos permite gerar insights, gerenciar e aplicar governança aos dados de diferentes aplicações e produtos, em vários data lakes e fontes de dados, sem alterar a forma como nossos usuários trabalham.

Habilite o autoatendimento

Dar aos usuários a capacidade de associar recursos computacionais aos dados é apenas parte da solução. Para impulsionar a adoção, tivemos que considerar toda a jornada dos usuários de ciência de dados e identificar onde poderíamos eliminar obstáculos.

O empacotamento e a implantação de aplicativos de IA são um ótimo exemplo. Fazemos grande parte do trabalho pesado para que nossos usuários não precisem fazê-lo. O AI Data Fabric pode gerenciar dependências do Python, empacotar aplicativos de IA em um contêiner com um servidor HTTP, configurar esse endpoint em nosso gateway de API e implantar os aplicativos de IA no Kubernetes com os requisitos adequados de GPU, CPU e memória, onde quer que sejam necessários. Imagine treinar, empacotar e implantar um modelo em um único fluxo de trabalho automatizado por meio de um SDK fácil de usar. Com esse sistema, um cientista de dados pode implantar uma nova versão de seu aplicativo de IA em 10 a 15 minutos. Reduzir os obstáculos ajuda os cientistas de dados a fazer o que sabem fazer melhor: ciência de dados.

Desenvolva pensando na mobilidade e na portabilidade da IA

Este é mais um exemplo de como atendemos nossos clientes onde quer que estejam. Todos os contêineres criados são armazenados no registro de contêineres do AI Data Fabric, permitindo que os usuários implantem aplicações de IA onde quer que precisem executá-las, até mesmo em ambientes isolados da rede.

Estabeleça um ecossistema

Acelerar a adoção da IA exige colaboração ágil. Isso significa aproveitar e desenvolver o trabalho daqueles que vieram antes de você. A AI Data Fabric inclui um “ecossistema de IA”, com ferramentas e módulos pré-construídos para executar funções de IA comuns e complexas. Quando os usuários disponibilizam módulos e modelos para o ecossistema, isso realmente acelera a inovação. Os módulos podem variar de modelos pré-construídos de detecção de anomalias e classificação a aplicativos para realizar geração aumentada por recuperação, ou RAG.

Use LLMs para acelerar o treinamento de modelos

Para acelerar ainda mais a adoção, aplicamos os princípios da IA agêntica ao F5 AI Data Fabric. O resultado foi um sistema capaz de treinar e implantar modelos para analisar dados, usar IA para interpretar os insights resultantes e, em seguida, identificar e concluir uma tarefa. Em resumo, estamos usando grandes modelos de linguagem para gerar dados que, por sua vez, nos ajudam a treinar modelos menores e específicos para cada tarefa. Um ótimo exemplo é a forma como estamos rotulando os dados de treinamento. Essa atividade representa uma enorme sobrecarga para os cientistas de dados, que podemos reduzir: o AI Data Fabric se conecta aos dados de treinamento, extrai significado deles e usa IA para interpretar esse significado e realizar uma tarefa de rotulagem antes de enviar os dados rotulados resultantes para outro local.

Os benefícios

Veja o que esse foco na facilidade de adoção significa para nossas equipes de produto:

1. Eficiência: o AI Data Fabric agiliza a colaboração, o desenvolvimento de modelos e a implantação.
2. Escala: Podemos controlar, gerenciar e manter milhares de modelos de forma altamente automatizada.
3. Redução de riscos: A combinação de boas práticas com sistemas comuns e padronizados para processar dados e executar nossos próprios modelos nos proporciona uma governança muito melhor, protege os dados dos clientes e ajuda a garantir a conformidade regulatória.

Olhando para o futuro

Já usamos o F5 AI Data Fabric para viabilizar vários projetos importantes em toda a empresa, incluindo assistentes de IA, treinamento de modelos classificadores e geração de assinaturas para casos de uso de proteção de aplicações web e APIs (WAAP). Esses excelentes recursos contam com os modelos fundacionais e os serviços do AI Data Fabric para treinamento, ajuste fino, implantação e inferência de modelos.

Estamos muito entusiasmados com o valor que podemos oferecer a clientes e parceiros usando o F5 AI Data Fabric. Ainda há muito por vir nessa área, então acompanhe nossas próximas publicações, nas quais abordaremos em detalhes algumas das técnicas que estamos usando, os desafios que tivemos de superar e os recursos específicos dos produtos que estamos viabilizando.

Sobre o autor

Chris Ford

Mais publicações de Chris Ford