Apache Arrow e OpenTelemetry: como o código aberto impulsiona a observabilidade

Ecossistema F5 | 19 de abril de 2023

Há uma infinidade de estatísticas sobre a ampla presença do software de código aberto nas empresas de todos os setores. Mais de 80% dos componentes dos aplicativos são de código aberto, e a Internet basicamente funciona com o software de código aberto NGINX.

Mas também há uma infinidade de padrões abertos. Padrões desenvolvidos e aperfeiçoados por meio de uma abordagem comunitária e de código aberto, que dá origem a ecossistemas incríveis de produtos, projetos e infraestrutura de apoio.

OpenTelemetry é uma dessas iniciativas e se tornou o padrão para gerar, ingerir e processar dados operacionais, também conhecidos como telemetria. Quase um terço (32%) dos participantes do Observability Innovation Report 2023 afirma que “o suporte ao OpenTelemetry é obrigatório e 50% dizem que ele é muito importante nos produtos dos fornecedores. Pouco mais de um terço (36%) dos participantes usa o OpenTelemetry em sua organização.”

A padronização da telemetria é fundamental, pois a observabilidade depende de dados provenientes de toda a infraestrutura de TI. Isso inclui métricas de rede, logs de servidores e rastreamentos — todos oriundos de tipos muito diferentes de infraestrutura e sistemas. Não há uma única fonte da verdade, pois até mesmo uma aplicação simples tem componentes demais em constante movimento para garantir que seja possível coletar todos os dados necessários para observar o estado da aplicação em um determinado momento. Padronizar a forma como a telemetria é gerada é uma maneira de normalizar os sinais digitais e garantir que a análise possa aproveitar todos os dados relevantes para fornecer insights precisos e acionáveis.

Mas nem mesmo a padronização da telemetria resolve todos os desafios associados à conquista do objetivo máximo da observabilidade de toda a pilha.

Um dos grandes e espinhosos problemas ao lidar com dados operacionais é o volume. Os sinais digitais dos quais as organizações dependem para se manterem informadas sobre possíveis problemas de desempenho ou tentativas de ataque são gerados com mais rapidez e intensidade do que qualquer outro tipo de dado. Conhecemos isso de perto porque, na F5, adotamos o OpenTelemetry como padrão em todo o nosso portfólio. A natureza e a função de nossos produtos, como BIG-IP e NGINX, na entrega e proteção de aplicações e serviços digitais fazem com que volumes significativos de dados, como métricas e logs, sejam gerados por diversos motivos. O transporte e o processamento desses dados representam uma parcela significativa do custo associado aos pipelines de telemetria.

Para enfrentar esse desafio, o engenheiro ilustre Laurent Quérel começou a colaborar com o Apache Arrow e com o projeto OpenTelemetry para aumentar sua eficiência no processamento de grandes volumes de dados de telemetria.

Os resultados dos nossos testes de desempenho mostram que o Apache Arrow oferece vantagens significativas para o transporte e o processamento de dados de telemetria, especialmente quando eles podem ser agrupados em lotes de várias centenas de entidades ou mais. A organização colunar dos dados melhora a capacidade de compactação, e esse layout de memória aumenta consideravelmente a velocidade de processamento ao otimizar o uso dos diversos níveis de cache e das instruções SIMD. Além disso, o ecossistema do Arrow é um excelente complemento ao OpenTelemetry, aprimorando sua integração com mecanismos de consulta, pipelines de processamento de fluxos e formatos de arquivo especializados em análise de dados.

Você pode saber mais sobre o Apache Arrow e o trabalho de Laurent no primeiro de dois artigos sobre nossas experiências com a tecnologia no site do Apache Arrow.

Compartilhar

Sobre o autor

Lori Mac Vittie
Lori Mac VittieEngenheiro Emérito e Evangelista-Chefe | F5

Lori MacVittie é engenheira distinta e evangelista-chefe no Escritório do CTO da F5, com ampla experiência em entrega de aplicações, estratégia de automação e infraestrutura. Ela é conhecida por transformar complexidade em clareza, seja definindo diretrizes para agentes de IA, analisando arquiteturas multinuvem frágeis ou investigando os limites de sistemas escaláveis. Ela acumula mais de trinta anos de experiência no setor, abrangendo desenvolvimento de aplicações, arquitetura de TI e operações de redes e sistemas. Antes de ingressar na F5, atuou como editora de tecnologia e recebeu diversos prêmios. MacVittie tem mestrado em Ciência da Computação e é uma autora prolífica, com publicações que abrangem segurança, nuvem e arquitetura empresarial. Ela também é uma entusiasta de jogos de tabuleiro e videogames, além de ter opiniões assumidamente fortes sobre queijos.

Mais publicações de Lori Mac Vittie

Publicações relacionadas no blog

O estado da maturidade digital empresarial: a transformação digital ainda não terminou
Ecossistema F5 | 31/07/2024

O estado da maturidade digital empresarial: a transformação digital ainda não terminou

Explore como a IA impacta as empresas, as aplicações da IA generativa, as estratégias para modernizar as operações de TI e os benefícios da maturidade digital com a F5.

Como a IA generativa acelera a transformação digital
Ecossistema F5 | 26/03/2024

Como a IA generativa acelera a transformação digital

Veja como a IA generativa impulsiona a transformação digital nas empresas, acelerando tendências como a integração de APIs, os desafios dos modelos operacionais de TI híbrida e a adoção de AIOps.

Seis capacidades técnicas para acelerar a transformação digital
Ecossistema F5 | 05/01/2023

Seis capacidades técnicas para acelerar a transformação digital

As arquiteturas empresariais atuais carecem dos fatores necessários de agilidade, escalabilidade, segurança e observabilidade, essenciais para impulsionar a mudança tecnológica. No entanto, estas seis capacidades fundamentais ajudarão as empresas a gerenciar riscos e desafios ao longo de sua transformação digital.

Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs
Ecossistema F5 | 18/10/2022

Inverter a API é a transformação digital de que as empresas precisam para participar e competir em uma economia de APIs

As organizações detêm um valor latente — na forma de APIs internas — que precisam explorar para competir em uma economia de APIs. Embora os desafios técnicos e de segurança possam desestimular algumas delas, as empresas precisam reconhecer que inverter suas APIs permitirá liberar o valor da organização como plataforma.

A modernização da TI começa pela infraestrutura
Ecossistema F5 | 08/09/2022

A modernização da TI começa pela infraestrutura

O hardware e o software evoluíram rapidamente desde os primórdios da internet, mas, para aproveitar ao máximo os benefícios resultantes dessa evolução, as organizações precisam avaliar e modernizar sua infraestrutura e a entrega de aplicativos. Acelere os esforços de modernização com a nova F5 rSeries.