Ανάπτυξη μεθόδων εκπαίδευσης αναδρομικών νευρωνικών δικτύων

Abstract

Αντικείμενο της παρούσας διπλωματικής είναι η ανάπτυξη μεθοδολογιών μηχανικής μάθησης, επικεντρώνοντας σε αρχιτεκτονικές νευρωνικών δικτύων ειδικά προσαρμοσμένες στα μοναδικά χαρακτηριστικά του προβλήματος πρόβλεψης μελλοντικών τιμών μη γραμμικών χρονοσειρών. Ιδιαίτερη έμφαση δίνεται στο σχεδιασμό και την εφαρμογή αναδρομικών νευρωνικών δικτύων λόγω της ικανότητάς τους να διαχειρίζονται ακολουθιακά ιστορικά δεδομένα αλλά και να αντιλαμβάνονται τις σύνθετες χρονικές τους εξαρτήσεις. Η έρευνα ξεκινά με την ανάπτυξη ενός απλού αναδρομικού δικτύου που εκπαιδεύεται μέσω του αλγορίθμου οπισθοδιάδοσης στο χρόνο προκειμένου να πραγματοποιηθεί σύγκριση με τα εξελιγμένα μοντέλα που διατίθενται σε καθιερωμένες βιβλιοθήκες. Στη συνέχεια, αναλύονται οι ειδικές περιπτώσεις των μοντέλων Long Short-Term Memory (LSTM) και Gated Recurrent Unit (GRU) λόγω της ικανότητας αντιμετώπισης συγκεκριμένων προβλημάτων που δημιουργούνται κατά την εκπαίδευση αναδρομικών δικτύων. Τα μοντέλα εφαρμόστηκαν σε δυο απαιτητικές εφαρμογές χρονοσειρών, όπου αναλύθηκε το πρόβλημα πρόβλεψης του επόμενου χρονικού βήματος (Single Step Prediction) αλλά και το πρόβλημα πρόβλεψης μελλοντικής ακολουθίας βημάτων (Multi Step Prediction). Πιο συγκεκριμένα, πρώτα πραγματοποιήθηκε ο έλεγχος της ορθής λειτουργίας όλων των μοντέλων μέσω των συνθετικών δεδομένων της χαοτικής συνάρτησης Mackey – Glass, ενώ στη συνέχεια ακολούθησε εφαρμογή στην πρόβλεψη μελλοντικών τιμών κατανάλωσης ενέργειας ενός δημοσίου κτηρίου. Για λόγους σύγκρισης χρησιμοποιήθηκαν επίσης η γραμμική μέθοδος των ελαχίστων τετραγώνων και τα νευρωνικά δίκτυα τροφοδότησης πολλών επιπέδων (MLP). Σε κάθε περίπτωση, τα αποτελέσματα ανέδειξαν την υπεροχή των αναδρομικών νευρωνικών δικτύων στα προβλήματα πρόβλεψης χρονοσειρών, ενώ το μοντέλο GRU υπερείχε βάσει αποτελεσμάτων έναντι των υπολοίπων τεχνικών.