*Introduzione
-Obiettivi del corso
-Risorse disponibili
-Possibili Applicazioni del Machine Learning
-Cos'è il Data Mining?
-Obiettivi del Data Mining
-Problematiche delle tecniche di Machine Learning
*Apprendimento di concetti
-Notazione
-Il problema dell'apprendimento di concetti
-Formulare ipotesi
-Misure di performance
-Apprendimento di concetti come ricerca nello spazio delle ipotesi
-Algoritmo Find-S
-Algoritmo List-Then-Eliminate
-Algoritmo Candidate Elimination
-Apprendimento con e senza Bias
* Algoritmi di Classificazione: concetti di base ed Alberi di Decisione
-Tecniche di classificazione
-Alberi di decisione
-Problemi di apprendimento risolvibili attraverso Alberi di Decisione
-Apprendimento induttivo di alberi di decisione
-Criteri per la divisione dei nodi
-Misure di impurità dei nodi
-Criteri di stop per il processo induttivo
-Bias induttivo nell'apprendimento con Alberi di Decisione
-Problematiche nell'apprendimento con Alberi di Decisione
* Overfitting negli Alberi di Decisione
-Apprendimento negli Alberi di Decisione con dati rumorosi
-Esempio di Overfitting con dati rumorosi
-Evitare l'Overfitting
-Pruning dei nodi per ridurre l’errore di generalizzazione
-Note sulla riduzione dell'errore
-Convertire un Albero di Decisione in Regole
* Valutazione di Ipotesi ed Algoritmi di Classificazione
-Metodi statistici per stimare l'accuracy
-Esempio
-Due definizioni di errore
-Errore di campionamento come stimatore dell'errore reale
-Intervalli di confidenza
-Confrontare due ipotesi
-Valutazione di Algoritmi Apprendimento
-Valutazione delle performance degli algoritmi di apprendimento
-K-Fold Cross Validation
-Curve ROC
-Matrice di confusione
*Reti Neurali Artificiali
-Approccio Connessionista
-Percettrone
-Superficie di Decisione del Percettrone
-Unità lineari
-Discesa del gradiente
-Discesa del gradiente batch
-Discesa del gradiente Incrementale
-Discesa del gradiente per unità con Threshold
-Reti a piu’ strati (reti alimentate in avanti)
-Unità sigmoidali
-Algoritmo di Backpropagation
-Modifiche della regola di Backpropagation
-Convergenza e Minimi Locali
-Quali funzioni possono essere apprese?
-Overfitting in ANNs
-Reti ricorrenti
* Apprendimento Bayesiano
-Formule di Base
-Teorema di Bayes
-Algoritmo a forza bruta per MAP Concept Learning
-Algoritmi di apprendimento vs. Algoritmi MAP
-Esempi
-Classificatore Ottimo Bayesiano
-Classificatore di Gibbs
-Classificatore Naive Bayes
-Classificazione di testi
* Elaborazione del Linguaggio Naturale
-Come gestire i testi?
-Codifica One-hot vector
-Codifica Bag of Words
-N-Grams
-Frequenza dei termini e frequenza inversa dei documenti
-Word Embedding
-Embedding Representation
-Sentiment Analysis
*Analisi dei Dati
-Attributi
-Data set
-Qualità dei dati
-Outliers
-Valori mancanti
-Preprocessing dei dati
-Campionamento
-La "Maledizione della Dimensionalità"
-Selezione di feature
-Trasformazione degli attributi
-Esempi
* Cluster Analysis
-Algoritmi di clustering
-K-means Clustering
-Clustering gerarchico
-DBSCAN
-Validità del clustering
-Misure di validità
-Esempi
*Metodi d'Insieme
-Combinare più modelli
-Decomposizione Bias-variance
-Bagging
-Random Forests
-Boosting
-Stacking
-Esempi
*Support Vector Machines
-Idee di base
-Iperpiani e superfici di decisione
-Massimizzare il margine
-Support vectors
-Cassi non linearmente separabili
-Classificatore basato su support vector
-Funzioni kernel
-Kernels
-OVO: One versus One
-OVA: One versus All
-Esempi
* Regressione
-Classificazione e regressione
-Regressione lineare
-Regressione logistica
-Criterio di massima versosimiglianza
-Esempi
*Machine Learning e Data Mining con Python
-Python: gestione della sessione
-Tipi di base, Vettori e Matrici
-Liste e Data Frames
-Funzioni
-Python graphics
-Connessione a Databases
-Esempi