Μεταπτυχιακό Πρόγραμμα στις "Ευφυείς Τεχνολογίες Διαδικτύου"
Μηχανική Μάθηση [Χειμερινό εξάμηνο]
Εξάμηνο Α', Υποχρεωτικό, κωδικός μαθήματος M105
Σκοπός του μαθήματος είναι να αποκτήσει ο φοιτητής μια σφαιρική άποψη του πεδίου της μηχανικής μάθησης μελετώντας τα κυριότερα μοντέλα και μεθόδους μάθησης με ή χωρίς επίβλεψη. Δίνονται βασικά στοιχεία της θεωρίας μάθησης έτσι ώστε να αποκτήσει αντίληψη του τι είναι εφικτό από τα μοντέλα αυτά, ποιες είναι οι δυνατότητες και ποιοι οι περιορισμοί που υπάρχουν στη μάθηση. Επί πλέον ο φοιτητής εισάγεται στην θεωρία και την εφαρμογή των ασαφών συστημάτων και των εξελικτικών αλγορίθμων.
Τα θέματα που καλύπτει είναι:
- Εισαγωγή: Βασικές έννοιες
- Η έννοια της μάθησης
- Προβλήματα Μάθησης
- Τύποι Μάθησης
- Γενίκευση - Cross validation
- Δεδομένα και λογισμικό για μηχανική μάθηση
- Μαθηματικό υπόβαθρο
- Γραμμική άλγεβρα: διανύσματα, πίνακες
- Βελτιστοποίηση: Παράγωγοι, κλίση, κατάβαση δυναμικού
- Γραμμικά μοντέλα μάθησης
- Μέθοδος ελαχίστων τετραγώνων
- Perceptron
- Λογιστική Παλινδρόμηση και Softmax
- Fisher Linear Discriminant Analysis
- Νευρωνικά Δίκτυα
- Δίκτυο Perceptron Πολλαπλών Στρωμάτων (Multilayer Perceptron)
- Εκπαίδευση MLP (Back-Propagation)
- Μοντέλα Βαθιάς Μάθησης
- Βαθιά Δίκτυα Πεποιθήσεων (Deep Belief Networks)
- Βαθιοί Αυτοσυσχετιστές (Deep Auto-Encoders)
- Συνελικτικά Δίκτυα (Convolutional Neural Networks)
- Εφαρμογές
- Μηχανές Διανυσμάτων Υποστήριξης
- Support Vector Machines (SVM)
- Support Vector Regression (SVR)
- Πιθανοτικά Μοντέλα Bayes
- Εισαγωγικές έννοιες πιθανοτήτων
- Ο κανόνας του Μπέιζ (Bayes)
- Ταξινόμηση με τη Μέγιστη εκ των Υστέρων Πιθανότητα (ΜεΥΠ)
- Μπεϊζιανά δίκτυα πεποιθήσεων
- Απλοϊκός κανόνας Μπέιζ (Naive Bayes)
- Ανάλυση Δεδομένων
- Ανάλυση Κυρίων Συνιστωσών (Principal Component Analysis - PCA)
- Ανάλυση Ανεξάρτητων Συνιστωσών (Independent Component Analysis - ICA)
- Θετική Παραγοντοποίηση Πινάκων (Non-negative Matrix Factorization - NMF)
- Συσταδοποίηση (Clustering)
- Εκτίμηση κατανομής πιθανότητας
- Αλγόριθμος K-Means
- Αλγόριθμος EM
- Ιεραρχική συσταδοποίηση
- Αλγόριθμος DBSCAN
- Ασαφή Συστήματα
- Ασαφή σύνολα και λειτουργίες
- Ασαφής λογική
- Ασαφείς κανόνες
- Σχεδίαση ασαφών συστημάτων από δεδομένα (συσταδοποίηση και εκπαίδευση)
- Εξελικτικοί Αλγόριθμοι
- Είδη και μοντέλα ΕΑ
- Εξελικτικός κύκλος
- Στοιχεία ΕΑ: Μηχανισμοί και τελεστές
- Χρήση στην αναζήτηση, βελτιστοποίηση και επίλυση προβλημάτων
Θα προσφέρονται εβδομαδιαίες διαλέξεις θεωρίας καθώς επίσης και εργαστηριακές διαλέξεις με στόχο την εκμάθηση της γλώσσας python και των σχετικών εργαλείων εκπαίδευσης μοντέλων βαθιάς μάθησης. Οι φοιτητές θα υλοποιούν υποχρεωτικά τελική εργασία εξαμήνου όπου θα υλοποιούνται και θα αποτιμούνται μοντέλα μηχανικής μάθησης για αναγνώριση προτύπων ή για πρόβλεψη τιμών.
Διαλέξεις και Υλικό Μαθήματος:
Πλατφόρμα Ηλεκτρονικής Μάθησης ΔΙΠΑΕ (Moodle)Βιβλιογραφία
- Κ. Διαμαντάρας και Δ. Μπότσης, Μηχανική Μάθηση, Κλειδάριθμος 2019.
- Κ. Διαμαντάρας, Τεχνητά Νευρωνικά Δίκτυα, Κλειδάριθμος 2007.
- Goodfellow Ian, Bengio Yoshua and Courville Aaron, Deep Learning, MIT Press, 2016
- Theodoridis, Sergios, Machine learning: a Bayesian and optimization perspective, Academic Press, 2015
- C. Bishop, Pattern Recognition and Machine Learning, Springer 2006
- S. Theodoridis and K. Koutroumbas, Pattern Recognition (4th Edition), Academic Press, 2008
- R. O. Duda, P. E. Hart, and D. G. Stork, Pattern Classification (2nd Edition), Wiley Interscience, 2000
- S. Haykin, Neural Networks and Learning Machines (3rd Edition), Prentice Hall, 2008
- J. Shawe-Taylor and N. Cristianini, Kernel Methods for Pattern Analysis, Cambridge University Press, 2004
- B. Scholkopf and A. J. Smola, Learning with Kernels: Support Vector Machines, Regularization, Optimization, and Beyond, MIT Press 2001
- V. Vapnik, Statistical Learning Theory, Wiley Interscience, 1998
- A. Hyvarinen, J. Karhunen, E. Oja, Independent Component Analysis, Wiley Interscience, 2001
- K. Diamantaras and S. Y. Kung, Principal Component Neural Networks: Theory and Applications, Wiley Interscience, 1996