Τεχνητή νοημοσύνη και κυβερνοασφάλεια σε εφαρμογές άμυνας και ασφάλειας: απειλές, λύσεις και στρατηγικές επιπτώσεις

Ζουμπάκης, Αριστείδης Άγγελος

Artificial intelligence and cyber security in defence and security applications: threats, solutions and strategic implications

Μεταπτυχιακή διπλωματική εργασία

Author

Ζουμπάκης, Αριστείδης Άγγελος

Date

2024-05-02

Advisor

Gritzalis, Stefanos

Διπλωματική Εργασία (1.304Mb)

Δήλωση Συγγραφέα Μεταπτυχιακής Εργασίας (87.61Kb)

Keywords

Αυτόνομα συστήματα ; Κυβερνοασφάλεια ; Τεχνητή νοημοσύνη

Abstract

Η παρούσα διπλωματική εργασία ασχολείται με την αλληλεπίδραση τεχνητής νοημοσύνης και κυβερνοασφάλειας με έμφαση στις εφαρμογές σε περιβάλλοντα άμυνας και ασφάλειας. Η εργασία επικεντρώθηκε στην κατανόηση των ιδιαίτερων απειλών που τίθενται στα στρατιωτικά συστήματα και στα συστήματα ασφαλείας που βασίζονται στην τεχνητή νοημοσύνη, στον εντοπισμό των προσφερόμενων λύσεων και στην ανάλυση των ευρύτερων στρατηγικών επιπτώσεων για την εθνική άμυνα και ασφάλεια από τη διάχυση της τεχνητής νοημοσύνης. Για την ανάλυση επικινδυνότητας ενός συστήματος τεχνητής νοημοσύνης καθοριστική σημασία έχει η εξέταση του κύκλου ζωής του και η λήψη κατάλληλων αντιμέτρων σε όλα τα επιμέρους στάδια. Η χρήση συστημάτων τεχνητής νοημοσύνης σε περιβάλλοντα άμυνας και ασφάλειας αυξάνει την επιφάνεια επίθεσης των εν λόγω συστημάτων. Ταυτόχρονα, η τεχνητή νοημοσύνη αποτελεί χρήσιμο εργαλείο στον τομέα της κυβερνοασφάλειας τόσο σε επιθετικές όσο και σε αμυντικές επιχειρήσεις. Οι χρήσεις τεχνητής νοημοσύνης εναντίον τεχνητής νοημοσύνης, η ανάπτυξη πλαισίου διακυβέρνησης και ο έλεγχος των εξοπλισμών στον τομέα της τεχνητής νοημοσύνης αποτελούν τις σημαντικότερες προκλήσεις για το επόμενο διάστημα.

Abstract

The present thesis concerns the interaction between artificial intelligence and cybersecurity with emphasis on applications in defence and security environments. The thesis focused on understanding the specific threats posed to military and security systems based on artificial intelligence, identifying the solutions offered, and analyzing the broader strategic implications for national defense and security from the diffusion of AI. For the risk analysis of an AI system, it is crucial to consider its life cycle and to take appropriate countermeasures at all individual stages. The use of AI systems in defence and security environments increases the attack surface of these systems. At the same time, AI is a useful tool in the field of cybersecurity in both offensive and defensive operations. The uses of AI vs. AI, the development of a governance and arms control framework in the field of AI are the most important challenges for the immediate future.