Corsi di Laurea Corsi di Laurea Magistrale Corsi di Laurea Magistrale
a Ciclo Unico
Scuola di Ingegneria
INGEGNERIA INFORMATICA
Insegnamento
MACHINE LEARNING - APPRENDIMENTO AUTOMATICO (Numerosita' canale 2)
INP6075419, A.A. 2017/18

Informazioni valide per gli studenti immatricolati nell'A.A. 2017/18

Principali informazioni sull'insegnamento
Corso di studio Corso di laurea magistrale in
INGEGNERIA INFORMATICA
IN0521, ordinamento 2009/10, A.A. 2017/18
N2cn2
porta questa
pagina con te
Crediti formativi 6.0
Tipo di valutazione Voto
Denominazione inglese MACHINE LEARNING
Dipartimento di riferimento Dipartimento di Ingegneria dell'Informazione (DEI)
Obbligo di frequenza No
Lingua di erogazione INGLESE
Sede PADOVA

Docenti
Responsabile FABIO VANDIN


Dettaglio crediti formativi
Tipologia Ambito Disciplinare Settore Scientifico-Disciplinare Crediti
AFFINE/INTEGRATIVA Attività formative affini o integrative ING-INF/04 3.0
CARATTERIZZANTE Ingegneria informatica ING-INF/05 3.0

Modalità di erogazione
Periodo di erogazione Primo semestre
Anno di corso I Anno
Modalità di erogazione frontale

Organizzazione della didattica
Tipo ore Crediti Ore di
Corso
Ore Studio
Individuale
Turni
LEZIONE 6.0 48 102.0 Nessun turno

Calendario
Inizio attività didattiche 02/10/2017
Fine attività didattiche 19/01/2018

Syllabus
Prerequisiti: Conoscenze di Base di Probabilita', Statistica e Algebra Lineare
Conoscenze e abilita' da acquisire: Lo scopo del corso e' di fornire i principi fondamentali del problema di apprendimento e di introdurre i principali algoritmi per la regressione e la classificazione. Verranno trattati problemi di apprendimento supervisionato e non supervisionato; se possibile saranno inclusi anche alcuni argomenti piu' avanzati come sparsita e "boosting". Il corso includera' esercitazioni al calcolatore.
Modalita' di esame: Esame scritto ed esercitazioni al calcolatore.
Criteri di valutazione: Conoscenza degli strumenti per la predizione (regressione e classificazione). Abilita' analitica e pratica nell'uso di questi strumenti per la soluzione di semplici problemi.
Contenuti: Motivazioni, componenti del problema di apprendimento e applicazioni dell'apprendimento automatico. Apprendimento supervisionato e non supervisionato.

Parte I: Apprendimento supervisionato.

Introduzione: Dati - classi di modelli - funzioni di costo
Modelli probabilistici e ipotesi sui dati
Modelli, funzioni costo e funzione di regressione. Regressione Classificazione

Bonta' di un modello, complessita', compromesso tra distorsione e varianza (dimensione di Vapnik0Cervonenkis - errore di generalizzazione)

Minimi quadrati, Massima Verosimiglianza e Probabilita' a posteriori.

Modelli per la regressione: regressione lineare (scalare e multivariata) -Paradosso di Stein e Regolarizzazione. Selezione di Variabili. Modelli Linerari nei parametri, Regolarizzazione. Modelli Locali e Globali (Kernels e NNR).

Riduzione della dimensionalita: Regressione alle componenti principali, Minimi Quadrati Parziali.

Classi di modelli non lineari: Sigmoidi, Reti Neurali.

Metodi "Kernel'': Support Vectors Machines.

Metodi per la classificazione: Discriminanti Lineari, Regressione Logistica, NN, Perceptron, Classificatore di Bayes, SVM

Validazione e selezione dei modelli: Errore di Generalizzazione, Compromesso tra distorsione e varianza, Cross Validation, SURE. Determinazione della Complessita del modello.

Parte II: Apprendimento non supervisionato

Analisi di clusters: K-means, misture di Gaussiane e stima EM. Riduzione della dimensionalita': analisi alle componenti principali (PCA)
Attivita' di apprendimento previste e metodologie di insegnamento: Lezioni teoriche ed esercitazioni. Esercitazioni al calcolatore (in laboratorio).
Eventuali indicazioni sui materiali di studio: Il corso sara basato sui libri di testo: "Machine Learninga probabilistic perspective", "Pattern Recognition and Machine Learning", "The Elements of Statistical Learning" e "Understanding Machine Learning: from Theory to Algorithms" (vedi Sezione "Testi di Riferimento")
Testi di riferimento:
  • T. Hastie, R. Tibshirani, J. Friedman, The Elements of Statistical Learning.. --: Springer, 2008. Cerca nel catalogo
  • C. M. Bishop, Pattern Recognition and Machine Learning. --: Springer, 2006. Cerca nel catalogo
  • Shalev-Shwartz, Shai; Ben-David, Shai, Understanding machine learningfrom theory to algorithms.. --: Cambridge University Press, 2014.
  • Murphy, Kevin P., Machine Learninga probabilistic perspective. --: Mit press, 2012.