Η ΕΕ συμφώνησε για την πρώτη στον κόσμο νομοθεσία που ρυθμίζει την τεχνητή νοημοσύνη

11:24 9/12/2023 - Πηγή: Huffington Post Greece

To Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο (το οποίο εκπροσωπεί τις χώρες μέλη της ΕΕ) και οι εμπειρογνώμονες της Ευρωπαϊκής Επιτροπής έπειτα από έναν μαραθώνιο διαβουλεύσεων κατέληξαν σήμερα σε πολιτική συμφωνία σχετικά με την Ευρωπαϊκή Πράξη για την Τεχνητή Νοημοσύνη (European AI Act) που θέτει τους πρώτους κανόνες στον κόσμο για τη χρήση της τεχνητής νοημοσύνης.

Η πράξη για την Τεχνητή Νοημοσύνη (ΤΝ) αποτελεί εμβληματική νομοθετική πρωτοβουλία με δυνατότητα να προωθήσει την ανάπτυξη και την υιοθέτηση της ασφαλούς και αξιόπιστης ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς

όσο και από δημόσιους φορείς.

Η βασική ιδέα είναι να ρυθμιστεί η Τεχνητή Νοημοσύνη με βάση την ικανότητά της να προκαλέσει βλάβη στην κοινωνία, ακολουθώντας μια προσέγγιση ”βάσει κινδύνου”: όσο υψηλότερος ο κίνδυνος, τόσο αυστηρότεροι οι κανόνες.

Ως η πρώτη νομοθετική πρόταση του είδους της στον κόσμο μπορεί να αποτελέσει παγκόσμιο πρότυπο για τη ρύθμιση της ΤΝ σε άλλες δικαιοδοσίες, όπως ακριβώς έγινε με το GDPR (προστασία προσωπικών δεδομένων) προωθώντας έτσι την ευρωπαϊκή προσέγγιση για τη ρύθμιση της τεχνολογίας στην παγκόσμια σκηνή.

Η συμφωνία τοποθετεί την ΕΕ μπροστά από τις ΗΠΑ, την Κίνα και το Ηνωμένο Βασίλειο στην κούρσα για τη ρύθμιση της τεχνητής νοημοσύνης και την προστασία του κοινού από τους κινδύνους που περιλαμβάνουν την πιθανή απειλή για τη ζωή, την οποία πολλοί φοβούνται ότι ενέχει η ταχέως αναπτυσσόμενη τεχνολογία.

Το ιστορικό νομοσχέδιο είχε ψηφιστεί τον Ιούνιο που μας πέρασε και για να επικυρωθεί έπρεπε να συζητηθεί μεταξύ Κομισιόν, Συμβουλίου και Ευρωπαϊκού Κοινοβουλίου. Ωστόσο η διαπραγμάτευση δεν ήταν εύκολη και χρειάστηκαν τρεις ημέρες και πολλές ώρες διαβουλεύσεων προκειμένου οι εκπρόσωποι των τριών θεσμικών οργάνων να καταλήξουν σε συμφωνία σε τομείς που δίχαζαν από την αρχή όπως τη χρήση της Τεχνητής Νοημοσύνης σε συστήματα μαζικής βιομετρικής αναγνώρισης προσώπων σε δημόσιους χώρους ή όσον αφορά στην προληπτική αστυνόμευση και γενικότερα πως αυτή θα αξιοποιηθεί από τις αστυνομικές αρχές.

Διαβάστε σχετικά 

Το μεγάλο στοίχημα της Ε.Ε. με την Τεχνητή Νοημοσύνη

Το πρώτο στον κόσμο πλαίσιο κανόνων που ρυθμίζει τη χρήση της Τεχνητής Νοημοσύνης είναι γεγονός και είναι ευρωπαϊκό. Οι θεμελιωτές του μιλούν στη HuffPost.

Ως εκ τούτου αναμένεται ότι θα υπάρξουν περισσότερες τεχνικές εργασίες επί του κειμένου του νόμου για να βελτιωθεί περαιτέρω η συμφωνία, ενώ το νομοθετικό κείμενο θα σταλεί πάλι στο Ευρωπαϊκό Κοινοβούλιο για έγκριση από την Ολομέλεια και να περάσει πάλι για έγκριση από  το Συμβούλιο ως εκ τούτου δεν προβλέπεται να τεθεί σε εφαρμογή πριν από το 2025.

Διαβεβαιώσεις για σεβασμό των θεμελιωδών δικαιωμάτων

Το Συμβούλιο στην ανακοίνωσή του επισημαίνει ότι το σχέδιο κανονισμού αποσκοπεί να διασφαλίσει ότι τα συστήματα Τεχνητής Νοημοσύνης που διατίθενται στην ευρωπαϊκή αγορά και χρησιμοποιούνται στην ΕΕ είναι ασφαλή και σέβονται τα θεμελιώδη δικαιώματα και τις αξίες της ΕΕ. Αυτή η πρόταση-ορόσημο αποσκοπεί επίσης στην τόνωση των επενδύσεων και τη καινοτομίας στον τομέα της τεχνητής νοημοσύνης στην Ευρώπη. 

«Η πράξη για την Τεχνητή Νοημοσύνη αποτελεί εμβληματική νομοθετική πρωτοβουλία με δυνατότητα να προωθήσει την ανάπτυξη και την υιοθέτηση της ασφαλούς και αξιόπιστης ΤΝ σε ολόκληρη την ενιαία αγορά της ΕΕ τόσο από ιδιωτικούς όσο και από δημόσιους φορείς.

Αξιολόγηση βάσει κινδύνου

Η βασική ιδέα είναι να ρυθμιστεί η ΤΝ με βάση την ικανότητά της να προκαλέσει βλάβη στην κοινωνία, ακολουθώντας μια προσέγγιση ”βάσει κινδύνου”: όσο υψηλότερος ο κίνδυνος, τόσο αυστηρότεροι οι κανόνες. Ως η πρώτη νομοθετική πρόταση του είδους της στον κόσμο, μπορεί να αποτελέσει παγκόσμιο πρότυπο για τη ρύθμιση της ΤΝ σε άλλες δικαιοδοσίες, όπως ακριβώς έγινε με το GDPR, προωθώντας έτσι την ευρωπαϊκή προσέγγιση για τη ρύθμιση της τεχνολογίας στην παγκόσμια σκηνή» τονίζει το Συμβούλιο.

Όσον αφορά τα επίπεδα κινδύνου αυτά ταξινομούνται σε τέσσερα επίπεδα: ανεπίτρεπτος κίνδυνος, υψηλός κίνδυνος, περιορισμένος κίνδυνος και ελάχιστος ή μηδενικός κίνδυνος.

Για παράδειγμα η γνωστική συμπεριφορική χειραγώγηση ατόμων ή συγκεκριμένων ευάλωτων ομάδων, η κοινωνική βαθμολογία, και τα συστήματα βιομετρικής αναγνώρισης σε πραγματικό χρόνο και εξ αποστάσεως, όπως η αναγνώριση προσώπου, υπάγονται στην πρώτη κατηγορία και απαγορεύονται.

Στη δεύτερη κατηγορία υπάγονται τα συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου δεν απαγορεύονται, όμως ορίζονται κανόντες που θα διασφαλίζουν ότι δεν θα είναι επιβλαβή και εις βάρος των πολιτών.

Για ορισμένες χρήσεις της τεχνητής νοημοσύνης, ο κίνδυνος θεωρείται απαράδεκτος και, ως εκ τούτου, τα συστήματα αυτά θα απαγορευτούν στην ΕΕ. Η προσωρινή συμφωνία απαγορεύει, για παράδειγμα, τη γνωστική χειραγώγηση της συμπεριφοράς, τη μη στοχευμένη απόσπαση εικόνων προσώπου από το διαδίκτυο ή υλικό από κάμερες κλειστού κυκλώματος παρακολούθησης, την αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα, την κοινωνική βαθμολόγηση, τη βιομετρική κατηγοριοποίηση για την εξαγωγή συμπερασμάτων για ευαίσθητα δεδομένα, όπως ο σεξουαλικός προσανατολισμός ή οι θρησκευτικές πεποιθήσεις, και ορισμένες περιπτώσεις προγνωστικής αστυνόμευσης για άτομα.

Πιο ειδικά υπάρχει ένας κατάλογος κανόνων οι οποίοι επιβάλλονται μόνο στα συστήματα που χαρακτηρίζονται «υψηλού κινδύνου», κυρίως αυτά που χρησιμοποιούνται σε ευαίσθητους τομείς όπως οι κρίσιμης σημασίας υποδομές, η εκπαίδευση, οι ανθρώπινοι πόροι, η διατήρηση της τάξης. Για παράδειγμα τα συστήματα ΤΝ που χρησιμοποιούνται για τη διαλογή ασθενών στον τομέα της υγειονομικής περίθαλψης και τα συστήματα ΤΝ που χρησιμοποιούνται για τον καθορισμό της επιλεξιμότητας για ασφάλιση υγείας και ζωής θεωρούνται επίσης υψηλού κινδύνου...

Τα συστήματα αυτά θα υπόκεινται σε μια σειρά υποχρεώσεων, όπως να υπάρχει ανθρώπινος έλεγχος της μηχανής ή ακόμη να είναι εγκατεστημένο ένα σύστημα διαχείρισης κινδύνου.

Η νομοθεσία προβλέπει ιδιαίτερη πλαισίωση των συστημάτων της τεχνητής νοημοσύνης που αλληλεπιδρούν με ανθρώπους. Θα τα υποχρεώνει να ενημερώνουν το χρήστη ότι βρίσκεται σε επαφή με μια μηχανή. Συγκεκριμένα σε ό,τι αφορά τις εφαρμογές τεχνητής νοημοσύνης που δημιουργούν περιεχόμενο, όπως το ChatGPT, βάσει του σχεδίου οι εταιρείες θα πρέπει να συμμορφώνονται με τις απαιτήσεις διαφάνειας της Ε.Ε. Οφείλουν να παρέχουν το είδος των αλγόριθμων που χρησιμοποιούν, να υπάρχει καταγραφή του υλικού που υπόκειται σε δικαιώματα πνευματικής ιδιοκτησίας, ενώ όσον αφορά τη χρήση παραποιημένων εικόνων, που ήδη χρησιμοποιούνται ακόμη και σε προεκλογικές εκστρατείες, πλέον θα πρέπει να γνωστοποιείται στο κοινό ότι πρόκειται για προϊόντα παραποίησης.

Προβλέψεις υπάρχουν και για τη χρήση αλγόριθμων για τη συλλογή στοιχείων από πλατφόρμες κοινωνικής δικτύωσης σχετικά με τα προφίλ των χρηστών που μπορούν στη συνέχεια να χρησιμοποιηθούν για τον επηρεασμό των ψηφοφόρων και κατ΄επέκταση στη διαμόρφωση του εκλογικού αποτελέσματος.

Στόχος είναι οι απαγορεύσεις να αφορούν τις εφαρμογές που είναι αντίθετες στις ευρωπαϊκές αξίες, όπως τα συστήματα μαζικής παρακολούθησης και κοινωνικής αξιολόγησης που χρησιμοποιούνται στην Κίνα, ή ακόμη τα συστήματα βιομετρικής αναγνώρισης εξ αποστάσεως προσώπων σε δημόσιους χώρους ώστε να αποφευχθεί η μαζική παρακολούθηση πληθυσμών.

 Ωστόσο όσον αφορά την βιομετρική αναγνώριση προσώπων και την μαζική παρακολούθηση υπάρχουν εξαιρέσεις για ορισμένες δράσεις των αρχών ασφαλείας ιδίως εάν τίθεται θέμα επείγοντος ή τρομοκρατίας. Πάντα όμως υπάρχουν δικλείδες ασφαλείας για την κατοχύρωση των δικαιωμάτων των πολιτών.  

Γραφείο τεχνητής νοημοσύνης και ποινές

Υπάρχουν εθελοντικοί κώδικες συμπεριφοράς που δεν επιβάλλονται στα κράτη μέλη ιδίως σε ότι αφορά την Αμυνα, όμως η ευρωπαϊκή νομοθεσία προβλέπει μέσα επιτήρησης και κυρώσεων και για το λόγο αυτό θα δημιουργηθεί ένα ευρωπαϊκό γραφείο τεχνητής νοημοσύνης στους κόλπους της Ευρωπαϊκής Επιτροπής το οποίο θα μπορεί να επιβάλλει πρόστιμα έως το 7% του τζίρου, με οροφή τα 35 εκατομμύρια ευρώ για τις πιο σοβαρές παραβάσεις.

Το ποσό είναι μεγάλο αρκεί να θυμηθούμε τον προηγούμενο νόμο ορόσημο της ΕΕ για την προστασία δεδομένων (GDPR) και πως αυτός επηρέασε την επιχειρηματική κοινότητα. Το πρόστιμο που προβλέπεται αναφορικά με την παραβίαση του ανωτέρου νόμου ανέρχεται στο 2% των συνολικών κερδών της εταιρείας που τον παραβιάζει.

Το κόστος λοιπόν της μη συμμόρφωσης και η παραβίαση των χρήσεων που έχουν κριθεί ως απαγορευμένες ή απαράδεκτες θα ανέρχεται στο 7% του παγκόσμιου ετήσιου κύκλου εργασιών, δηλαδή εταιρείες όπως η OPEN AI, στην οποία ανήκει το CHATGTP, θα πρέπει να πληρώσουν έως και 40 εκατομμύρια ευρώ. 

«Είμαστε οι πρώτοι στον κόσμο που θέτουμε σε εφαρμογή μια πραγματική ρύθμιση για την τεχνητή νοημοσύνη και για τον μελλοντικό ψηφιακό κόσμο, καθοδηγώντας την ανάπτυξη και την εξέλιξη αυτής της τεχνολογίας προς μια ανθρωποκεντρική κατεύθυνση» είχε δηλώσει σε συνέντευξή του στηHuffPostGreece ο ένας εκ των εισηγητών του νομοσχεδίου, ο Ευρωβουλευτής (Renew) Dragoș Tudorache (Ντράγκος Τουντοράκε) ο οποίος με ανάρτησή του στο X (πρώην Twitter) επανέλαβε το ίδιο επιμένοντας στην ανθρωποκεντρική προσέγγιση της χρήσης της Τεχνητής Νοημοσύνης.

We are the first in the world to set in place real regulation for #AI, and for the future digital world driven by AI, guiding the development and evolution of this technology in a human-centric direction. pic.twitter.com/Xy3HlRtAHT

— Dragoș Tudorache (@IoanDragosT) December 8, 2023

Ενας από τους προβληματισμούς όσον αφορά το νομοσχέδιο ήταν ότι με αυτό τον τρόπο η ΕΕ βάζει πολλούς περιορισμούς με κίνδυνο να μείνει πίσω από τις εξελίξεις αφού θα μπορούσε να αποτρέψει την έρευνα και τις επενδύσεις.

Ωστόσο ο Επίτροπος Εσωτερικής Αγοράς Τιερί Μπρετόν επέμενε για το αντίθετο και με ανάρτησή του στο Χ υπογραμμίζει «Η ΕΕ γίνεται η πρώτη ήπειρος που θέτει σαφείς κανόνες για τη χρήση της τεχνητής νοημοσύνης. Η Πράξη για την τεχνητή νοημοσύνη είναι κάτι πολύ περισσότερο από ένα εγχειρίδιο κανόνων - είναι ένα εφαλτήριο για τις νεοσύστατες επιχειρήσεις και τους ερευνητές της ΕΕ που θα ηγηθούν της παγκόσμιας κούρσας της τεχνητής νοημοσύνης».

Historic!

The EU becomes the very first continent to set clear rules for the use of AI