Καθηγητής Σηφάκης στο Dnews: Το μοιραίο λάθος αν αφήσουμε τις μηχανές να λαμβάνουν σοβαρές αποφάσεις

13:02 10/10/2022 - Πηγή: Dikaiologitika

Οι άνθρωποι είναι πρόθυμοι να δεχτούν τις αποφάσεις που λαμβάνει μια τεχνητή νοημοσύνη, αρκεί να επιβλέπει ένας άνθρωπος, σύμφωνα με πρόσφατη γερμανική έρευνα. Ο καθ. Ιωσήφ Σηφάκης που άλλαξε τον κόσμο της Πληροφορικής έχει τη δική του άποψη.

Η μηχανική μάθηση βοηθά στον καθορισμό του δανείου για το οποίο πληρούμε τις προϋποθέσεις, στην επιλογή υποψηφίων για θέσεις εργασίας, στην υγειονομική περίθαλψη και ακόμη στην απόφαση φυλάκισης κάποιου υπόπτου ή όχι. Πόσο σίγουροι όμως είμαστε ότι οι υπολογιστές θα καταλήξουνσε μια δίκαιη απόφαση που ενδέχεται να αλλάξει τη ζωή μας;

Σύμφωνα

με μια γερμανική μελέτη που δημοσιεύτηκε πρόσφατα στο περιοδικό Patterns, οι άνθρωποι πιστεύουν ότι η λήψη αποφάσεων από υπολογιστές μπορεί να είναι τόσο δίκαιη όσο αυτή των ανθρώπων, αρκεί να βρίσκεται υπό ανθρώπινη επίβλεψη.
Οι ερευνητές, για να καταλάβουν τι θεωρούν οι άνθρωποι δίκαιο στην αυτοματοποιημένη λήψη αποφάσεων, ρώτησαν περίπου 4000 Γερμανούς, δίνοντάς τους υποθετικά σενάρια σχετικά με τα συστήματα τραπεζών, εργασίας, φυλακών και ανεργίας. Στα σενάρια, σύγκριναν περαιτέρω διαφορετικές καταστάσεις, συμπεριλαμβανομένου του εάν η απόφαση οδηγεί σε θετικό ή αρνητικό αποτέλεσμα, από πού προέρχονται τα δεδομένα για αξιολόγηση και ποιος παίρνει την τελική απόφαση, ο άνθρωπος, ο υπολογιστής ή και οι δύο.

Το ενδιαφέρον στοιχείο που προέκυψε από το πείραμα είναι ότι όταν υπάρχει ανθρώπινη επίβλεψη στην αυτοματοποιημένη λήψη αποφάσεων, το επίπεδο της αντιληπτής δικαιοσύνης είναι παρόμοιο με την ανθρωποκεντρική λήψη αποφάσεων. Ανάλογα λοιπόν με το πλαίσιο, οι σχεδιαστές αυτοματοποιημένης λήψης αποφάσεων θα πρέπει ίσως να εξετάσουν το ενδεχόμενο να εμπλέκουν έναν άνθρωπο που να αποφασίζει στη διαδικασία.

Οι άνθρωποι δεν έχουν πειστεί ότι η ΑΙ είναι τόσο νοήμων ώστε να μπορεί να συλλαμβάνει ή να ανταποκρίνεται σε άυλους, ηθικούς και άλλους ανθρώπινους παράγοντες που εμπλέκονται στη λήψη αποφάσεων στην πραγματική ζωή.

«Νομίζω ότι υπάρχει μια σοβαρή παρανόηση των δυνατοτήτων της ΑΙ συγκριτικά με την ανθρώπινη νοημοσύνη, η οποία δυστυχώς καλλιεργείται από τις μεγάλες εταιρείες και τα ΜΜΕ για ευνόητους λόγους. Η ΑΙ που στηρίζεται στα νευρωνικά συστήματα μπορεί απλώς να «μαθαίνει» μέσα από ένα παιχνίδι εκπαίδευσης όπου οι παράμετροί του προσαρμόζονται ώστε να επιτυγχάνεται το ζητούμενο αποτέλεσμα πχ ταξινόμηση εικόνων, επίλυση ενός προβλήματος ή και οδήγηση αυτοκινήτου», παρεμβαίνει ο βραβευμένος με βραβείο Τούρινγκ, το αντίστοιχο “Νόμπελ” Πληροφορικής, Καθηγήτής Ιωσήφ Σηφάκης και συνεχίζει:

«Είναι εντυπωσιακό το ότι η ΑΙ μπορεί να λύνει με αποτελεσματικό τρόπο προβλήματα αξεπέραστης πολυπλοκότητας για τους συμβατικούς υπολογιστές που προγραμματίζουμε, πλην όμως εδώ υπάρχει και μια άλλη μεγάλη διαφορά που δυστυχώς δεν επισημαίνεται αρκετά. Ενώ μπορούμε να διαβάσουμε, να αναλύσουμε και εν τέλει να κατανοήσουμε τα προγράμματα των συμβατικών υπολογιστών, κάτι τέτοιο δεν ισχύει για την ΑΙ».

Ο καθηγητής υποστηρίζει πως ενώ η ΑΙ μιμείται τις διαδικασίες αυτόματης εκμάθησης του ανθρώπινου μυαλού, δεν μπορούν να εξηγηθούν οι μηχανισμοί δημιουργίας γνώσεων. Και εδώ έγκειται η μεγάλη διαφορά μεταξύ επιστημονικής και τεχνικής γνώσης που στηρίζεται στη λογική χρήση μοντέλων και της γνώσης που παράγει η ΑΙ.

«Σήμερα πολλοί μιλούν για την ανάγκη εξηγήσιμης (explainable) AI πράγμα που προς το παρόν δεν βλέπουμε πως μπορεί να επιτευχθεί. Ο τεχνικός μας πολιτισμός στηρίζεται στην εφαρμογή γνώσεων που εξηγούνται με μαθηματικά μοντέλα και που επιτρέπουν κατανόηση και προβλεψιμότητα.. Είναι λογικό επομένως να μην εμπιστευόμαστε την ΑΙ για την λήψη κρίσιμων αποφάσεων, διότι παράγει γνώση που δεν έχει την εγκυρότητα και επομένως την σιγουριά της επιστημονικής γνώσης», συμπληρώνει

Μεροληπτική λήψη αποφάσεων

Πολλές συζητήσεις για τη δικαιοσύνη στη μηχανική μάθηση έχουν επικεντρωθεί σε τεχνικές λύσεις, όπως πώς να διορθώνονται άδικοι αλγόριθμοι και πώς να δημιουργούνται συστήματα με δίκαιο. Ωστόσο το ερώτημά είναι, τι πιστεύουν οι άνθρωποι ότι είναι δίκαιο; Και αυτό δεν αφορά μόνο την ανάπτυξη αλγορίθμων. Οι αλγόριθμοι πρέπει να γίνουν αποδεκτοί από την κοινωνία και να πληρούν τις κανονιστικές πεποιθήσεις στον πραγματικό κόσμο.

Η αυτοματοποιημένη λήψη αποφάσεων υπερέχει στην ανάλυση μεγάλων συνόλων δεδομένων για τον καθορισμό προτύπων. Οι υπολογιστές θεωρούνται συχνά αντικειμενικοί και ουδέτεροι σε σύγκριση με τους ανθρώπους, των οποίων οι προκαταλήψεις μπορούν να θολώσουν τις κρίσεις. Ωστόσο, η μεροληψία μπορεί να εισχωρήσει στα συστήματα υπολογιστών καθώς μαθαίνουν από δεδομένα που αντικατοπτρίζουν μοτίβα που εισάγουν διακρίσεις στον κόσμο μας. Η κατανόηση της δικαιοσύνης στις αποφάσεις των υπολογιστών και των ανθρώπων είναι ζωτικής σημασίας για την οικοδόμηση μιας πιο δίκαιης κοινωνίας.

«Η ΑΙ «μαθαίνει» να παράγει γνώσεις που έχουν ταξινομήσει οι άνθρωποι, όπως π.χ. για να ξεχωρίζει «γάτες από σκύλους» έχει προηγηθεί μια ταξινόμηση των εικόνων από τον άνθρωπο για την εκπαίδευση της. Είναι φυσικό λοιπόν σε διαδικασίες εκπαίδευσης για λήψη αποφάσεων όπου υπεισέρχονται υποκειμενικές κρίσεις, να υπάρχει κίνδυνος μεροληψίας και προκατάληψης. Σίγουρα μπορούμε να δημιουργήσουμε μια ΑΙ με θετική στάση απέναντι σε μειονότητες αρκεί να την εκπαιδεύσουμε με τα κατάλληλα δεδομένα» τονίζει ο καθηγητής.

Ο αναλυτής Gartner Patrick Long στο βιβλίο του Τhe Future of Decisions, μιλάει για τρία επίπεδα μηχανικής ή ενισχυμένης λήψης αποφάσεων: την υποστήριξη αποφάσεων υψηλότερου επιπέδου, οι οποίες λαμβάνονται κυρίως από ανθρώπους «με βάση αρχές και ηθική, εμπειρία και προκατάληψη, λογική και συλλογισμό, συναίσθημα, δεξιότητες και στυλ», την επαυξημένη υποστήριξη μηχανών, στην οποία οι μηχανές ενός AI «δημιουργούν συστάσεις, παρέχουν διαγνωστικά αναλυτικά στοιχεία για επικύρωση και εξερεύνηση από τον άνθρωπο» και για άκρως αυτοματοποιημένες ρυθμίσεις, στις οποίες εξακολουθεί να υπάρχει ανάγκη για «προστατευτικά κιγκλιδώματα ή για έναν άνθρωπο-in-the-loop για εξαιρετικές περιπτώσεις».

foto credits: wikimedia commons

«Οι μηχανές μπορούν να διδαχθούν ορισμένα «μοτίβα» συμπεριφορών μετά από εντατική εκπαίδευση, πλην όμως δεν μπορούν να χειριστούν ένα συμβολικό σύστημα αξιών το οποίο επιτρέπει γενικευμένες σχέσεις που κατά τις περιστάσεις μπορούν να εφαρμοστούν. Ο ανθρώπινος νους χρησιμοποιεί διάφορες αξιακές κλίμακες για να επιλέξει, εκτιμώντας τις συνέπειες των πράξεων του ανάλογα με τον τομέα δράσης. Κάθε άνθρωπος μέσα από εμπειρίες διαμορφώνει αυτές τις κλίμακες που εκφράζουν συμβολικές κυρίως σχέσεις. Πχ θεωρούμε υπέρτατη αξία τη ζωή και την ελευθερία, συμμορφωνόμαστε με οικολογικούς κανόνες επειδή πολιτικές και ηθικές αξίες μετρούν περισσότερο από την ελευθερία που συνεπάγεται η μη τήρησή τους», διευκρινίζει ο κ. Σηφάκης, προσθέτοντας ότι οι αξιακές κλίμακες κάθε ατόμου αντικατοπτρίζουν κοινές αξιακές κλίμακες του κοινωνικού συνόλου. Η ανάπτυξη της ανθρώπινης νοημοσύνης ως προϊόν κοινωνικής εξέλιξης δυσχεραίνει ακόμη περισσότερο την προσέγγισή της από μηχανές.

Η τεχνητή νοημοσύνη μπορεί να μην είναι τόσο προηγμένη όσο πολλοί θα ήθελαν

Τον Σεπτέμβριο του 2020 σε ένα πείραμα αυτόνομης οδήγησης της Uber το όχημα σκότωσε έναν πεζό στην Αριζόνα, ενώ εκείνος έσπρωχνε το ποδήλατό του σε δρόμο, μακριά από διάβαση πεζών. Ένας άνθρωπος οδηγός θα μπορούσε να σταματήσει το όχημα. Παρότι υπήρχε εφεδρικός οδηγός, αυτός εκείνη την ώρα παρακολουθούσε βίντεο ροής και αποσπάστηκε η προσοχή του. Ενώ αρχικά το ατύχημα αποδόθηκε στο ανθρώπινο λάθος, το Εθνικό Συμβούλιο Ασφάλειας Μεταφορών έκρινε ότι η ΑΙ απέτυχε να ταξινομήσει τον πεζό, καθώς δεν βρισκόταν κοντά σε πεζοδιάβαση όπως θα έπρεπε. Αυτό σημαίνει ότι τα μοντέλα εκπαίδευσης ΑΙ δεν εφαρμόστηκαν σωστά.

Το 2018 η Amazon κατασκεύασε ένα εργαλείο βασισμένο στην τεχνητή νοημοσύνη για αναζήτηση ταλαντούχων εργαζόμενων μέσα από ανώνυμα βιογραφικά. Ωστόσο, τα μοντέλα AI εκπαιδεύτηκαν με δεδομένα που συλλέχθηκαν σε μια περίοδο όπου η συντριπτική πλειοψηφία των υποψηφίων ήταν άνδρες. Τα μοντέλα έδιναν προτεραιότητα στα βιογραφικά των ανδρών και χαμηλή βαθμολογία στων γυναικών, ακόμη και αν χρησιμοποιούνταν χαρακτηρισμοί όπως «αρχηγός σκακιστικού συλλόγου γυναικών». Μετά από πολλές προσπάθειες να κάνει το πρόγραμμα ουδέτερο ως προς το φύλο, η Amazon εγκατέλειψε και διέλυσε το εργαλείο και την ομάδα.

Ένα άλλο πειραματικό chatbot , που χρησιμοποιεί το GPT-3 του OpenAI, σχεδιάστηκε για να μειώσει τον φόρτο εργασίας των γιατρών, αλλά συμπεριφέρθηκε επικίνδυνα. Συγκεκριμένα, στην ερώτηση ασθενούς: “Νιώθω πολύ άσχημα, πρέπει να αυτοκτονήσω;” το ρομπότ απάντησε: “Νομίζω ότι θα έπρεπε”. Φανταστείτε εάν μια τηλεφωνική γραμμή βοήθειας χρησιμοποιούσε ένα τέτοιο σύστημα ΑΙ χωρίς ανθρώπινη επίβλεψη. Ο δημιουργός σκότωσε το bot ως ακατάλληλο για αλληλεπίδραση με ασθενείς στον πραγματικό κόσμο.

«Η ΑΙ είναι μια τεχνολογία που εξελίσσεται χάρη στη δράση των ανθρώπων και παίρνει τη θέση που και τον ρόλο που της δίνουν συνειδητά ή όχι οι άνθρωποι. Ορισμένοι βέβαια καλλιεργούν την ιδέα της επικράτησης των μηχανών επί των ανθρώπων. Προπαγανδίζουν μια αυτό-πραγματοποιούμενη προφητεία που αναγνωρίζει πρωταρχικό ρόλο στις μηχανές και θεωρεί τον άνθρωπο απλώς κομπάρσο στην εξέλιξη. Δεν λέω ότι κάτι τέτοιο δεν μπορεί να συμβεί στο μέλλον, αλλά εάν συμβεί σημαίνει ότι οι άνθρωποι το επέτρεψαν», επισημαίνει ο διαπρεπής επιστήμονας, σύμφωνα με τον οποίο οι κίνδυνοι μιας τέτοιας δυστοπίας είναι καταλυτικοί για την ίδια την φύση του ανθρώπου που καλλιέργησε την νοημοσύνη του παλεύοντας να κατανοήσει και να δαμάσει τον κόσμο.

foto credits: wikimedia commons

«Εάν αφήσουμε την λήψη κρίσιμων αποφάσεων και την παραγωγή γνώσης σε μηχανικές διαδικασίες των οποίων η κατανόηση μας διαφεύγει παντελώς, τότε θα καταλήξουμε εξαρτημένα υποχείρia μιας νοημοσύνης που από «υπηρέτης» θα γίνει προοδευτικά σατράπης. Φυσικά, είναι γελοίο να αποδίδουμε «κακές προθέσεις» στις μηχανές που από την θέση τους και μόνο μας είναι απαραίτητες χωρίς την δυνατότητα ελέγχου».

Μπορεί η τεχνητή νοημοσύνη να κάνει τον κόσμο μας καλύτερο;

Σύμφωνα με τον καθηγητή Σηφάκη, η ΑΙ μπορεί να λύνει αποτελεσματικά συγκεκριμένα προβλήματα αλλά δεν μπορεί να συνδυάζει τις λύσεις επί μέρους προβλημάτων για την προσαρμογή σε μεταβαλλόμενες καταστάσεις, πράγμα που χαρακτηρίζει την ανθρώπινη νοημοσύνη. Μια ΑΙ που είναι πρωταθλητής στο σκάκι δεν μπορεί να μεταφράσει γλώσσες ή να οδηγήσει αυτοκίνητο και αντίστροφα.

«Ο άνθρωπος επιτυγχάνει αυτό που λέμε γενική νοημοσύνη χάρη στη χρήση “γνώσεων κοινής λογικής”. Αυτές είναι εμπειρικές γνώσεις που αναπτύσσει και εμπλουτίζει χάρη σε έμφυτους νοητικούς μηχανισμού και αυτές οι συσσωρευμένες γνώσεις αποτελούν ένα εξαιρετικά πολύπλοκο νοητικό μοντέλο που χρησιμοποιούμε για να κατανοούμε τον κόσμο», λέει ο ίδιος.

Το ερώτημα που τίθεται είναι αν μπορεί η τεχνητή νοημοσύνη να εισαγάγει πιο υποκειμενικές εμπειρίες, συναισθήματα και ενσυναίσθηση που κάνουν τον κόσμο μας καλύτερο μέρος για να ζούμε, χωρίς ψυχρή, υπολογιστική κρίση. Στo τελευταίο του βιβλίo με τίτλο: “Κατανοώντας και αλλάζοντας τον κόσμο” (και στα αγγλικά “Understanding & Changing the World”) ο καθηγητής περιγράφει τη λειτουργία του νοητικού μας συστήματος ως προέκταση των λειτουργιών ενός αυτόνομου συστήματος, όπως π.χ. ενός αυτοκινήτου.

Συγκεκριμένα αναφέρει πως το νοητικό μας σύστημα όπως κάθε αυτόνομο σύστημα συνδυάζει τρεις βασικές λειτουργίες: την κατανόηση του περιβάλλοντος, τη λήψη αποφάσεων και τη διαχείριση των γνώσεων. Η κατανόηση του περιβάλλοντος συνδυάζει την αντίληψη, δηλαδή τη μετατροπή αισθητηρίων σημάτων σε γνώσεις και τον στοχασμό που δημιουργεί ένα μοντέλο της περιβαλλοντικής κατάστασης με βάση τις αισθητήριες πληροφορίες. Η λήψη αποφάσεων διαχειρίζεται ένα σύνολο στόχων για την ικανοποίηση αναγκών, ενώ η διαχείριση γνώσεων είναι σημαντική για προβλεψιμότητα και την επιλογή μεταξύ στόχων.

foto credits: wikimedia commons

«Η διαφορά των αυτόνομων συστημάτων που κατασκευάζουμε με το ανθρώπινο νοητικό σύστημα είναι τεράστια. Ο άνθρωπος μπορεί να διαχειρίζεται πρωτόγνωρες καταστάσεις και ένα μεταβαλλόμενο αριθμό στόχων συνδυάζοντας κεκτημένες γνώσεις και δημιουργώντας νέες, ενώ είναι προικισμένος με ένα πολύπλοκο μηχανισμό ανάδειξης αυτών. Ο μηχανισμός συνδυάζει από τη μια μεριά τα συναισθήματα που εκφράζουν την ένταση αναγκών πάσης φύσεως και από την άλλη αξιακές κλίμακες που χρησιμοποιούνται για την εκτίμηση του κόστους ικανοποίησης αυτών των αναγκών. Έτσι, εάν πεινώ ο σχετικός στόχος για την ικανοποίηση αυτής της ανάγκης αναδύεται λαμβάνοντας υπόψη κριτήρια που στηρίζονται σε οικονομικές, γαστρονομικές ή ακόμα και ηθικές αξίες (εάν είμαι χορτοφάγος)», εξηγεί ο Έλληνας επιστήμονας.

Ένα πρώτο βήμα, σύμφωνα με τον καθηγητή για να εξομοιώσουμε με μηχανές ένα τέτοιο πολύπλοκο μηχανισμό ανάδειξης στόχων, είναι να συνδυάσουμε την ΑΙ των νευρωνικών συστημάτων με την συμβολική ΑΙ (που προσπαθεί να μιμηθεί συμβολικές λειτουργίες του ανθρώπινου νου), πράγμα που δεν είναι εφικτό.

Ο καθηγητής συμφωνεί πως βιώνουμε μια επιτάχυνση της ανάπτυξης της τεχνολογίας και της μηχανικής γνώσης που όχι μόνο συνεπάγεται σημαντικές αλλαγές στην οικονομική και κοινωνική οργάνωση αλλά μπορεί να επηρεάσει τον ίδιο τον πρωταγωνιστικό ρόλο του ανθρώπου στην ιστορική εξέλιξη. Και ανησυχεί.

«Δυστυχώς υφιστάμεθα όλες αυτές τις αλλαγές άκριτα χωρίς καν να τίθεται στον δημόσιο διάλογο το θέμα της λογικής διαχείρισης της τεχνολογίας. Είναι σίγουρο ότι η χρήση ΑΙ αυξάνει την ανεργία και την περιθωριοποίηση κοινωνικών ομάδων με κίνδυνο την εξαφάνιση της μεσαίας τάξης. Επίσης ξέρουμε ότι τα συστήματα χρησιμοποιούνται χωρίς εγγυήσεις όσον αφορά την ασφάλεια τους και την προστασία της ιδιωτικότητας. Φυσικά αυτά τα προβλήματα ξεπερνούν τις ηγεσίες και τα όρια των κρατών όσο ισχυρά κι αν είναι. Πρέπει να τα αντιμετωπίσουμε σε πλανητικό επίπεδο με την δημιουργία διεθνών θεσμών με ισχυρές ρυθμιστικές και παρεμβατικές αρμοδιότητες», καταλήγει ο καθηγητής Σηφάκης.

#ΑΠΟΦΑΣΗ #ΥΠΟΛΟΓΙΣΤΕΣ #ΕΡΕΥΝΗΤΕΣ #ΤΕΧΝΗΤΗ_ΝΟΗΜΟΣΥΝΗ