Questo libro è rivolto a studenti, sviluppatori, ingegneri dei dati, data scientist e professionisti IT che desiderano padroneggiare Apache Spark nella pratica, in ambienti aziendali, cloud pubblici e integrazioni moderne. Il lettore imparerà a progettare, implementare e gestire pipeline scalabili per l’elaborazione di dati su larga scala, orchestrando workload distribuiti su AWS EMR, Databricks, Azure Synapse e Google Cloud Dataproc.
Il contenuto copre l’integrazione con Hadoop, Hive, Kafka, SQL, Delta Lake, MongoDB e Python, oltre a tecniche avanzate di tuning, ottimizzazione dei job, analisi in tempo reale, machine learning con MLlib e automazione dei workflow orientati alla produzione.
Include:
• Implementazione di pipeline ETL ed ELT con Spark SQL e DataFrame
• Elaborazione di dati in streaming e integrazione con Kafka e AWS Kinesis
• Ottimizzazione dei job distribuiti, tuning delle prestazioni e utilizzo della Spark UI
• Integrazione di Spark con S3, Data Lake, NoSQL e database relazionali
• Deploy su cluster gestiti in AWS, Azure e Google Cloud
• Machine learning applicato con MLlib, Delta Lake e Databricks
• Automazione delle routine, monitoraggio e scalabilità per Big Data
Al termine, il lettore padroneggerà Apache Spark come soluzione professionale per l’analisi dei dati, l’automazione dei processi e il machine learning in ambienti complessi, distribuiti e ad alte prestazioni.
apache spark, big data, pipeline, elaborazione distribuita, aws emr, databricks, streaming, etl, machine learning, integrazione cloud, Google Data Engineer, AWS Data Analytics, Azure Data Engineer, Big Data Engineer, MLOps, DataOps Professional
Diego Rodrigues
Autore Tecnico e Ricercatore Indipendente
ORCIDE: https://orcid.org/0009-0006-
StudioD21 Smart Tech Content & Intell Systems
E-mail: studiod21portoalegre@gmail.com
LinkedIn: linkedin.com/in/diegoexpertai
Autore tecnico internazionale (tech writer) con focus sulla produzione strutturata di conoscenza applicata. È fondatore di StudioD21 Smart Tech Content & Intell Systems, dove guida la creazione di framework intelligenti e la pubblicazione di libri tecnici didattici e con supporto di intelligenza artificiale, come le serie Kali Linux Extreme, SMARTBOOKS D21, tra le altre.
Titolare di 46 certificazioni internazionali rilasciate da istituzioni come IBM, Google, Microsoft, AWS, Cisco, META, Ec-Council, Palo Alto e Università di Boston, opera nei campi dell’Intelligenza Artificiale, Machine Learning, Data Science, Big Data, Blockchain, Tecnologie di Connettività, Ethical Hacking e Threat Intelligence.
Dal 2003 ha sviluppato più di 200 progetti tecnici per marchi in Brasile, USA e Messico. Nel 2024 si è affermato come uno dei maggiori autori di libri tecnici della nuova generazione, con oltre 180 titoli pubblicati in sei lingue. Il suo lavoro si basa sul proprio protocollo di scrittura tecnica applicata TECHWRITE 2.3, orientato a scalabilità, precisione concettuale e applicabilità pratica in ambienti professionali.