Nos últimos 18 meses, a inteligência artificial generativa (GenAI) conquistou o mundo.
Novos serviços, como o ChatGPT e o DALL-E, podem gerar textos, imagens e códigos de software em resposta a comandos dos usuários em linguagem natural.
Novos níveis de produtividade agora são possíveis e, de acordo com uma pesquisa recente da Bloomberg Intelligence, o mercado de IA generativa poderá valer até US$ 1,3 trilhão até 2032.
Com o valor dessa tecnologia agora claramente evidente, começamos a observar um movimento crescente para criar versões específicas para setores e regiões dos grandes modelos de linguagem (LLMs), que permitem aos computadores gerar textos e outros conteúdos verossímeis.
Os LLMs são modelos estatísticos de linguagem treinados com uma enorme quantidade de dados. Eles podem ser usados para gerar e traduzir textos e outros conteúdos, bem como para realizar tarefas de processamento de linguagem natural. Os LLMs geralmente se baseiam em arquiteturas de aprendizagem profunda.
Em todo o mundo, operadoras de telecomunicações pioneiras já estão se preparando para desempenhar um papel importante no fornecimento e na segurança desses LLMs especializados. Em particular, elas preveem uma forte demanda por soluções completas de IA generativa por parte de empresas, startups, universidades e órgãos públicos que não têm condições de construir por conta própria a infraestrutura computacional necessária.
É uma tendência que chama a atenção e, com as devidas salvaguardas de segurança, as soluções de LLM como serviço poderão em breve ser usadas para desenvolver aplicações específicas de IA generativa para saúde, educação, transporte e outros setores essenciais (incluindo telecomunicações).
Desafios
Então, quais são os próximos passos para fazer tudo funcionar e quais são alguns dos principais desafios que temos pela frente?
Como precisam ter alta capacidade de resposta, ser extremamente confiáveis e estar sempre disponíveis, muitos LLMs provavelmente serão distribuídos entre várias nuvens e locais na borda da rede.
De fato, com a latência adequada, a IA generativa será parte integrante das ofertas de edge computing das operadoras de telecomunicações, pois os usuários precisarão de respostas “conversacionais” em tempo real.
Para as operadoras de telecomunicações que vêm enfrentando dificuldades para aumentar a receita, fornecer infraestrutura de edge para dar suporte a sistemas especializados de IA generativa pode representar um grande novo mercado. A Bloomberg Intelligence estima que o mercado de infraestrutura como serviço para IA generativa (usada no treinamento de LLMs) valerá US$ 247 bilhões até 2032.
Ainda assim, quem espera tirar a sorte grande com a IA generativa precisa agir com cautela.
Arquiteturas distribuídas, que podem ampliar a superfície potencial de ataque, exigem soluções de segurança robustas e escaláveis para evitar o vazamento de dados e informações de identificação pessoal, tanto nas fases de treinamento quanto de inferência da IA.
À medida que agentes mal-intencionados empregam cada vez mais técnicas de movimentação lateral para alcançar vários sistemas interconectados, é fundamental que as operadoras de telecomunicações protejam tanto os aplicativos quanto as APIs que terceiros usarão para acessar o LLM como serviço. Para aumentar a conscientização sobre essa questão, a Open Source Foundation for Application Security (OWASP) iniciou recentemente um novo projeto para orientar desenvolvedores, designers, arquitetos, gestores e organizações sobre os possíveis riscos de segurança envolvidos na implantação e no gerenciamento de LLMs.
Uma coisa é certa: as operadoras de telecomunicações precisam manter a confiança dos clientes necessária para se tornarem participantes de credibilidade nesse mercado, pois os sistemas de IA generativa frequentemente precisarão processar dados pessoais ou comerciais confidenciais. Por esse motivo, muitos governos e órgãos reguladores fazem questão de que esses sistemas sejam executados em infraestrutura computacional localizada em suas jurisdições. Ao mesmo tempo, as empresas também relutam em compartilhar dados confidenciais que possam colocar em risco sua propriedade intelectual e, portanto, preferem usar ofertas privadas de LLM.
Outras questões relevantes incluem a forma como os clusters de IA atuam como comunidades virtuais de usuários, o que exige caminhos de dados de alto desempenho para acessar dados armazenados nos repositórios privados de países e empresas.
Além disso, o impacto da IA no tráfego e na infraestrutura de rede será cada vez mais influenciado pelos planos de países e empresas de hospedar internamente aplicações de IA. Preocupações com alucinações, direitos autorais, segurança e impactos ambientais da IA estão levando muitos a buscar mais segurança e controle sobre os dados. Também serão necessárias novas formas de reduzir a sobrecarga prevista sobre as GPUs. Todas essas considerações afetam o TCO geral das infraestruturas de IA.
É aí que entram as operadoras de telecomunicações: proteção flexível e escalável em vários ambientes
As empresas de telecomunicações podem desempenhar um papel importante na revolução da IA. Elas são proprietárias de infraestruturas nacionais, já contam com uma oferta B2B e são uma opção natural para se tornarem provedoras de IA como serviço.
Como exemplo, a F5 já está ajudando uma operadora de telecomunicações na Europa a proteger sua nova oferta de IA generativa. Nesse caso, nosso cliente está usando as tecnologias Nvidia DGX Super POD e Nvidia AI Enterprise para desenvolver o primeiro LLM treinado nativamente em um idioma local. O objetivo é captar as nuances do idioma, bem como as particularidades de sua gramática, contexto e identidade cultural.
Para proteger a solução em vários sites de borda, a operadora de telecomunicações utilizará o F5 Distributed Cloud Web Application and API Protection (WAAP), fornecido como um serviço baseado em nuvem. A empresa também está utilizando os clusters de ADC da F5 para realizar o balanceamento de carga da nova plataforma de IA em toda a sua infraestrutura de borda.
Fundamentalmente, as soluções da F5 podem ser utilizadas em ambientes de nuvem pública e data centers multilocatários, bem como internamente e em sua infraestrutura de borda.
Além disso, o F5 Distributed Cloud WAAP e as soluções de segurança de APIs associadas podem ser dimensionados rapidamente à medida que o tráfego aumenta, reduzindo o custo total da oferta de LLM como serviço. A F5 também oferece a visibilidade do fluxo de tráfego, da latência e dos tempos de resposta de que as operadoras de telecomunicações e outros provedores de serviços gerenciados precisarão para oferecer acordos de nível de serviço aos clientes corporativos.
Outra forma pela qual a F5 pode ajudar é lidando com o fato de que a inferência de LLMs e as tarefas de IA são conhecidas por exigir muitos recursos. Essas cargas de trabalho demandam grandes volumes de troca de dados e frequentemente geram gargalos devido à necessidade de realizar trocas de dados seguras em grande escala. Isso pode resultar em menor utilização de recursos valiosos, levando ao aumento dos custos operacionais e a atrasos na obtenção dos resultados desejados.
Se souberem aproveitar bem suas oportunidades e conseguirem utilizar de forma inteligente soluções de segurança escaláveis e robustas, as empresas de telecomunicações terão tudo o que é necessário para se tornarem fornecedoras confiáveis de LLMs específicos para determinados setores e países. As que tiverem sucesso certamente conquistarão uma grande vantagem competitiva nos próximos anos.
Quer saber mais? Agende uma reunião com a F5 no Mobile World Congress, em Barcelona, de 26 a 29 de fevereiro (Pavilhão 5, estande 5C60)
Sobre o autor
Publicações relacionadas no blog
Entrega e proteção de agentes de IA em fábricas de IA: F5 para a arquitetura de referência NVIDIA OpenShell para agentes de IA seguros
As soluções da F5 ampliam a Arquitetura de Referência NVIDIA OpenShell para agentes de IA seguros.
Como medir – e minimizar – o custo total de propriedade do seu Kubernetes
O Kubernetes pode ser baixado e executado gratuitamente, mas sua manutenção está longe de não ter custos. Assim como outras grandes plataformas de código aberto que são “gratuitas” apenas em um sentido simplista, o Kubernetes quase certamente exigirá investimentos para ser implantado e operado.
As-Code: a pilha de TI contínua
Infraestrutura, configuração, pipeline, operações. De repente, tudo é “como código”. Lori MacVittie busca esclarecer a terminologia e identificar os diferentes componentes de uma stack contínua de TI.
O estado da entrega de aplicações em 2017: automação, APIs e DevOps
Explore o relatório State of Application Delivery de 2017. Leia o blog retrospectivo da F5 sobre o início da ascensão das redes declarativas e dos pipelines de DevOps.
DevOps Summit: onde a rede foi convidada para a festa
No DevOps Summit NY, falou-se muito não apenas sobre DevOps, mas também sobre contêineres, IoT e microsserviços. As sessões se concentraram não só na mudança cultural necessária para crescer em escala com uma abordagem DevOps, mas também fizeram questão de incluir...
F5 e Nutanix convergem em infraestrutura no .NEXT
Aplicações empresariais como Microsoft SharePoint e Exchange, juntamente com a VDI, continuam sendo a espinha dorsal da sua empresa. A produtividade, embora não seja tão atraente quanto o lucro, é um fator essencial para o sucesso das operações empresariais atuais. Deixar de...