Dissertação

A Performance Comparison of Modern Garbage Collectors for Big Data Environments EVALUATED

O uso de Java para desenvolver plataformas de Big Data (Hadoop, Spark) tem sido a escolha preferida entre desenvolvedores devido ao rápido desenvolvimento de sistemas de grande escala, em parte devido ao gerenciamento automático de memória. No entanto, o da reciclagem automática de memória nessas plataformas tem sido cada vez mais uma preocupação, pois estas plataformas cada vez mais exigem tempos de pausa menores, maior rendimento e melhor uso de memória pelo coletor de lixo. Neste projeto, pretendemos compreender como diferentes coletores de lixo escalam em termos de rendimento, latência e uso de memória em ambientes com grande consumo de memória, de modo que, dada uma plataforma com necessidades de desempenho específicas, possamos mapear o algoritmo de coleta de lixo (GC) mais adequado . Trabalhos anteriores sobre este assunto usaram cargas de trabalho que não conseguiram representar cenários de caso de uso realistas de plataformas de Big Data ou foram executados em cima de implementações acadêmicas da JVM, que não se destinam a executar aplicativos de Big Data. Neste trabalho, usamos uma combinação de plataformas de Big Data (Cassandra, Lucene e GraphChi) e benchmarks baseados no mundo real (DaCapo) em cima de uma JVM industrial (OpenJDK HotSpot JVM) que fornece um alto grau de precisão aos resultados. Além disso, desenvolvemos benchmarks de baixa granularidade para estudar em mais detalhes como técnicas específicas (por exemplo, barreiras de sincronização) empregadas por coletores de lixo afetam diferentes métricas de desempenho.
Reciclagem automática de memória, Big Data, Escalabilidade, Ambientes de Big Data, Plataformas de Big Data, Máquina Virtual Java

janeiro 14, 2021, 16:30

Publicação

Obra sujeita a Direitos de Autor

Orientação

ORIENTADOR

Paulo Jorge Pires Ferreira

Departamento de Engenharia Informática (DEI)

Professor Associado

ORIENTADOR

Rodrigo Fraga Barcelos Paulus Bruno

Oracle Labs Zurich

Senior Researcher