Ανάπτυξη online μεθόδου εκπαίδευσης νευρωνικών δικτύων ακτινικής συνάρτησης βάσης
Development of online training methods for radial basis function neural networks
Λέξεις-κλειδιά
Μηχανική μάθηση ; Online μάθηση ; Σταδιακή μάθηση ; Νευρωνικά δίκτυα ; RBF ; Αλγόριθμος ασαφών μέσων ; Machine learning ; Online learning ; Incremental learning ; Επαυξημένη μάθηση ; Fuzzy meansΠερίληψη
Με την άφιξη της πρόκλησης των Μεγάλων Δεδομένων (Big Data) οι απαιτήσεις επεξεργασίας διαρκώς αυξάνονται. Τα τεχνητά νευρωνικά δίκτυα RBF αποτελούν λύση σε πολλά προβλήματα που αφορούν στην επεξεργασία δεδομένων του πραγματικού κόσμου. Προβλήματα που έχουν μεταβαλλόμενη φύση και παρέχουν συνεχόμενη ροή δεδομένων, καθιστούν τις διαδικασίες μαζικής εκπαίδευσης ανεπαρκείς για τις απαιτήσεις τους. Για την αντιμετώπιση τέτοιου είδους προβλημάτων αναπτύχθηκε ένα πλήθος από διαδικασίες μηχανικής μάθησης, που έχουν την ικανότητα να εκπαιδεύουν σταδιακά με την άφιξη κάθε νέου δεδομένου, δημιουργώντας μοντέλα που είναι διαρκώς ενημερωμένα για την επικαιρότητα. Η ανάπτυξη νέων αλγορίθμων που θα μειώνουν το υπολογιστικό κόστος, είναι πολύ σημαντική για προβλήματα με απαιτήσεις σε πραγματικό χρόνο. Στα πλαίσια της συγκεκριμένης πτυχιακής εργασίας δημιουργήθηκε μία νέα διαδικασία μάθησης με αφορμή τα μειονεκτήματα που χαρακτηρίζουν τις υπάρχουσες διαδικασίες. Η νέα διαδικασία που δημιουργήθηκε με το όνομα FM-RLS, συνδυάζει πλεονεκτήματα από γνωστές διαδικασίες μάθησης χωρίς να διατηρεί τα μειονεκτήματα τους. Ο αλγόριθμος FM-RLS χωρίζει τη διαδικασία μάθησης σε δύο στάδια. Στο πρώτο στάδιο o αλγόριθμος ασαφών μέσων αναλαμβάνει την εύρεση των κέντρων, ενώ στο δεύτερο στάδιο ο αλγόριθμος αναδρομικών ελαχίστων τετραγώνων αναβαθμίζει τα συνάπτικα βάρη του δικτύου. Η νέα διαδικασία προσφέρει τη δυνατότητα αναπροσαρμογής της κρυφής στοιβάδας μέσω της πρόσθεσης και αφαίρεσης νευρώνων, ενώ ταυτόχρονα
παρέχει τεχνικές αναπροσαρμογής των διαστάσεων των απαιτούμενων πινάκων για να μπορεί να εκπαιδεύει τα βάρη σταδιακά με τη διαδικασία αναδρομικών ελαχίστων τετραγώνων. Η σύγκριση της προτεινόμενης διαδικασίας με άλλους αλγόριθμους σε ένα πλήθος από προβλήματα κατηγοριοποίησης με μεταβαλλόμενη φύση, δείχνει την υπεροχή της σε θέματα απόδοσης, ταχύτητας και δυνατότητας γενίκευσης.
Περίληψη
With the arrival of the Big Data challenge, processing tasks are increasing. RBF artificial neural networks are a solution to many real-world data processing problems. Problems with a changing nature and continuous data streams make batch training procedures inadequate due to their increased requirements. To deal with such problems, a number of machine learning processes have been developed, which have the ability to train incrementally with the arrival of each new data, creating models that are constantly updated. The development of new algorithms that will reduce the computational cost is very important for problems with real-time requirements. In this thesis, a new learning process was developed, in order to overcome the disadvantages that characterize the existing processes. The new procedure created under the name FM-RLS combines advantages of known learning procedures without retaining their disadvantages. FM-RLS divides the learning process into two stages. In the first stage, the fuzzy means algorithm undertakes to find the centers, while in the second stage the recursive least squares algorithm upgrades the synaptic weights of the network. The new procedure offers technical additions and removals of neurons. While at the same time it provides techniques for resizing the required matrices to be able to train incrementally with the recursive least squares process. The proposed procedure is compared with other algorithms in a multitude of classification problems with a changing nature, where it is shown to excel in terms of speed performance and generalization capabilities.
Αριθμός σελίδων
86Σχολή
Σχολή ΜηχανικώνΑκαδημαϊκό Τμήμα
Τμήμα Ηλεκτρολόγων και Ηλεκτρονικών ΜηχανικώνΤίτλος Προγράμματος Μεταπτυχιακών Σπουδών
Διαδίκτυο των Πραγμάτων και Ευφυή ΠεριβάλλονταΓλώσσα
Ελληνικά
Εκτός από όπου επισημαίνεται κάτι διαφορετικό, το τεκμήριο διανέμεται με την ακόλουθη άδεια:
Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 4.0 Διεθνές
Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 4.0 Διεθνές