Ανάλυση και σύγκριση αλγορίθμων συσσωμάτωσης για βελτιστοποίηση τεχνικών ομοσπονδιακής μάθησης σε cross-silo σενάρια

Abstract

Η παρούσα διπλωματική εργασία ασχολείται με την ανάλυση και την σύγκριση αλγορίθμων συσσωμάτωσης σε εφαρμογές Ομοσπονδιακής Μάθησης. Μέσω της εργασίας αυτής, επιδιώκεται η παρουσίαση ορισμένων από τους πλέον δημοφιλείς αλγόριθμους συσσωμάτωσης που χρησιμοποιούνται από τα κεντρικοποιημένα συστήματα, προκειμένου να γίνει συλλογή των δεδομένων των μοντέλων υπολογιστικής μάθησης που χρησιμοποιούνται από τα τοπικά συστήματα. Συγκεκριμένα εξετάζεται η εφαρμογή των αλγορίθμων σε cross-silo σενάρια Ομοσπονδιακής Μάθησης, όπου τα τοπικά συστήματα αποτελούνται από συστήματα οργανισμών με σχετικά μικρό αριθμό συμμετεχόντων. Επιμέρους στόχοι είναι η εισαγωγή στο συνολικό περιβάλλον της Ομοσπονδιακής Μάθησης, η σύγκριση και η αξιολόγηση των αλγορίθμων μέσω αποτελεσμάτων που προκύπτουν με διαφορετικές παραμέτρους εκπαίδευσης. Στο πλαίσιο της διπλωματικής εργασίας, η πρακτική υλοποίηση που αναπτύχθηκε προκειμένου να γίνουν οι συγκρίσεις, γίνεται μέσω προσομοίωσης πραγματικής εφαρμογής Ομοσπονδιακής Μάθησης η οποία αφορά ένα πρόβλημα ταξινόμησης εικόνων που λαμβάνονται από γνωστά σύνολα δεδομένων (Datasets). Η πρόβλεψη λύσεων του προβλήματος γίνεται με την χρήση δύο τεχνητών νευρωνικών δικτύων διαφορετικής αρχιτεκτονικής και πολυπλοκότητας, με σκοπό την παραγωγή περισσότερων αποτελεσμάτων που θα βοηθήσουν στην καλύτερη σύγκριση των αλγορίθμων. Η σύγκριση πραγματοποιείται μέσω εξέτασης των συντελεστών απόδοσης του συνολικού μοντέλου που παράγεται στο κεντρικό σύστημα.