Struttura del corso
Introduzione
Comprensione dei dati Big Data
Panoramica di Spark
Panoramica di Python
Panoramica di PySpark
- Distribuzione dei dati utilizzando il framework Resilient Distributed Datasets (RDD)
- Distribuzione del calcolo utilizzando gli operatori della Spark API
Configurazione di Python con Spark
Configurazione di PySpark
Utilizzo delle istanze EC2 Amazon Web Services (AWS) per Spark
Configurazione di Databricks
Configurazione del cluster AWS EMR
Idee basilari su Python Programming
- Inizio con Python
- Utilizzo dei Jupyter Notebook
- Uso delle variabili e dei tipi di dati semplici
- Lavoro con le liste
- Uso degli statement if
- Uso delle input dell'utente
- Lavoro con i cicli while
- Messa in pratica delle funzioni
- Lavoro con le classi
- Lavoro con file e eccezioni
- Lavoro progetti, dati e API
Idee basilari sui DataFrame di Spark
- Inizio con i DataFrame di Spark
- Messa in pratica delle operazioni di base con Spark
- Utilizzo delle operazioni Groupby e Aggregate
- Lavoro con timestamp e date
Esercizi progetto sui DataFrame di Spark
Comprensione dei dati Machine Learning con MLlib
Messa in pratica di MLlib, Spark e Python per i dati Machine Learning
Comprensione delle regressioni
- Apprendimento della teoria della regressione lineare
- Messa in pratica del codice di valutazione della regressione
- Esercizi pratici sulla regressione lineare
- Apprendimento della teoria della regressione logistica
- Messa in pratica del codice della regressione logistica
- Esercizi pratici sulla regressione logistica
Comprensione delle Random Forest e degli alberi di decisione
- Apprendimento della teoria dei metodi degli alberi
- Messa in pratica degli alberi di decisione e codice Random Forest
- Esercizi pratici sulla classificazione Random Forest
Lavoro con il clustering K-means
- Comprensione della teoria del clustering K-means
- Messa in pratica del codice di clustering K-means
- Esercizi pratici sul clustering
Lavoro con i sistemi di raccomandazione
Messa in pratica del Processing del Linguaggio Naturale (NLP)
- Comprensione dei Natural Language Processing (NLP)
- Panoramica degli strumenti NLP
- Esercizi pratici di NLP
Streaming con Spark su Python
- Panoramica del streaming con Spark
- Esercizio campione Spark Streaming
Osservazioni finali
Requisiti
- Competenze generali di programmazione
Pubblico
- Gli sviluppatori
- Professionisti IT
- Scienziati dei dati
Recensioni (6)
Mi è piaciuto che fosse pratico. Ho adorato applicare le conoscenze teoriche con esempi pratici.
Aurelia-Adriana - Allianz Services Romania
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica
Il corso ha affrontato una serie di argomenti molto complessi e interconnessi, e Pablo possiede un'ampia competenza su ognuno di essi. A volte le sfumature andavano perdute nella comunicazione e/o a causa delle pressioni temporali, il che potrebbe aver portato a una non completa soddisfacione delle aspettative. Inoltre ci sono state alcune problematiche con la configurazione di UHG/Azure Databricks, ma Pablo e UHG le hanno risolte rapidamente non appena sono emerse - questo per me ha dimostrato un alto livello di comprensione e professionalità tra UHG e Pablo,
Michael Monks - Tech NorthWest Skillnet
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica
Attenzione individuale.
ARCHANA ANILKUMAR - PPL
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica
Formazione pratica..
Abraham Thomas - PPL
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica
Le lezioni sono state tenute in un notebook Jupyter. Gli argomenti erano strutturati con una sequenza logica e naturalmente hanno aiutato a sviluppare la sessione dalle parti più semplici a quelle più complesse. Essendo già un utente avanzato di Python con una formazione in Machine Learning, ho trovato il corso più facile da seguire rispetto a alcuni miei compagni di classe che hanno frequentato il corso di formazione. Apprezzo il fatto che alcuni dei concetti più elementari siano stati saltati e che si sia concentrato sui punti più sostanziali.
Angela DeLaMora - ADT, LLC
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica
compiti di esercitazione
Pawel Kozikowski - GE Medical Systems Polska Sp. Zoo
Corso - Python and Spark for Big Data (PySpark)
Traduzione automatica