Τεχνητή νοημοσύνη, λήψη αποφάσεων με χρήση αλγορίθμων, ηθική και δεοντολογία στο δημόσιο τομέα

Ζαχαράκη, Βαρβάρα

Artificial intelligence, decision-making using algorithms, ethics in the public sector

Μεταπτυχιακή διπλωματική εργασία

Author

Ζαχαράκη, Βαρβάρα

Date

2022-11-02

Advisor

Tsotsolas, Nikos

ΒΑΡΒΑΡΑ ΖΑΧΑΡΑΚΗ_ΔΜ2088.pdf (1.939Mb)

Keywords

Τεχνητή νοημοσύνη ; Αλγόριθμοι ; Λήψη αυτοματοποιημένων αποφάσεων ; Δημόσιος τομέας ; Περιπτώσεις χρήσης ; Ηθική ; Δεοντολογία

Abstract

Η Τεχνητή Νοημοσύνη (Artificial Intelligence) αποτελεί την πιο καθοριστική τεχνολογία της τελευταίας δεκαετίας και πιθανώς και της επόμενης. Ωστόσο, το μέλλον μας με την Τεχνητή Νοημοσύνη θα εξαρτηθεί από την ικανότητά μας να κατανοήσουμε πλήρως, την πολυπλοκότητα των συστημάτων και των εφαρμογών της, ώστε να είμαστε σε θέση να αντιμετωπίσουμε με τον βέλτιστο δυνατό τρόπο τον αρνητικό αντίκτυπο σε άτομα και κοινωνίες. Θα πρέπει να παραμείνουμε προσεκτικοί αν θέλουμε να διατηρήσουμε τον έλεγχο και να βεβαιωθούμε ότι η Τεχνητή Νοημοσύνη θα είναι συμπληρωματική με την ανθρώπινη νοημοσύνη και θα εκπληρώσει τις θετικές της δυνατότητες, θα βελτιώσει τη ζωή μας και τελικά θα ωφελήσει την ανθρωπότητα. Η επικινδυνότητα της Τεχνητής Νοημοσύνης δεν θα πρέπει να θεωρείται αποτρεπτικός παράγοντας για τη χρήση της στη διαχείριση και στην παροχή δημόσιων υπηρεσιών, αλλά η εφαρμογή της στο δημόσιο τομέα θα πρέπει να αποτελεί μια στοχαστική και στρατηγική πορεία δράσης για την αξιοποίηση των μεγάλων ευκαιριών που υπόσχεται και τελικά τη δημιουργία αξίας από αυτές. Οι ηθικές ανησυχίες (ethical concerns) που προκύπτουν από την αλγοριθμική λήψη αποφάσεων (algocracy) και η λειτουργία των αλγοριθμικών συστημάτων με τεχνικές και μεθόδους μαύρου κουτιού (black box), θα μπορούσαν να μεταφραστούν σε κινδύνους συστημικού χαρακτήρα, οι οποίοι, εάν αποτύχουμε να διασφαλίσουμε την εφαρμογή επαρκών μέτρων, μπορεί να διαβρώσουν τα ηθικά, πολιτικά και πολιτιστικά θεμέλια της κοινωνίας και να υπονομεύσουν το δημοκρατικό πολιτικό σύστημα και μαζί του την ατομική μας ελευθερία, αυτονομία και ικανότητα αυτοδιάθεσης. Σκοπός της παρούσας μεταπτυχιακής διπλωματικής εργασίας είναι να μελετηθεί η έννοια της Τεχνητής Νοημοσύνης ως ενός συνόλου τεχνολογιών που συνδυάζουν δεδομένα, αλγορίθμους και υπολογιστική ισχύ και να απεικονιστεί η εξελικτική πορεία της τεχνολογίας, εστιάζοντας στην υιοθέτηση και χρήση εφαρμογών Τεχνητής Νοημοσύνης στο δημόσιο τομέα, στις ηθικές ανησυχίες που προκύπτουν από το μείζον θέμα της λήψης αποφάσεων με χρήση αλγορίθμων, καθώς και στους προταθέντες θεσμικούς τρόπους αντιμετώπισης των προβλημάτων που εγείρονται.

Abstract

Artificial Intelligence is the most crucial technology of the last decade and probably the next. However, our future with Artificial Intelligence will depend on our ability to fully understand the complexity of its systems and applications, so that we can best deal with the negative impact on individuals and societies. We must remain vigilant if we are to maintain control and make sure that Artificial Intelligence is complementary to human intelligence and fulfills its positive potential, improves our lives and ultimately benefits humanity. The riskiness of Artificial Intelligence should not be considered as a deterrent factor to its use in the management and provision of public services, but its application in the public sector should be a thoughtful and strategic course of action to take advantage of the great opportunities it promises and ultimately creating value from them. Ethical concerns arising from algorithmic decision-making (algocracy) and the operation of algorithmic systems using black box techniques and methods could translate into systemic risks, which, if we fail to safeguard the implementation of adequate measures, can erode the moral, political and cultural foundations of society and undermine the democratic political system and with it our individual freedom, autonomy and capacity for self-determination. The purpose of this master's thesis is to study the concept of Artificial Intelligence as a set of technologies that combine data, algorithms and computing power and to illustrate the evolutionary path of the technology, focusing on the adoption and use of Artificial Intelligence applications in the public sector, ethical concerns arising from the major issue of algorithmic decision-making, as well as the proposed institutional ways of dealing with the problems that arise.