Προκλήσεις ενόψει για τράπεζες και Υγεία ελέω του AI Act!

12:32 31/3/2024 - Πηγή: Emea.gr

Προ μερικών, μόνο, ημερών έλαβε χώρα μια ψηφοφορία στο Ευρωπαϊκό Κοινοβούλιο, η οποία μπορεί να αποδειχθεί καίριας σημασίας για την επόμενη ημέρα της λειτουργίας χρηστών, επιχειρήσεων, υπηρεσιών και οργανισμών στο πλαίσιο της Ευρωπαϊκής Ένωσης, ωστόσο στη χώρα μας πέρασε στα… ψιλά.

Διαβάστε εδώ την έκδοση της Business Voice του Σαββάτου

Πρόκειται για το AI Act

ή αλλιώς τον Κοινοτικό νόμο για την τεχνητή νοημοσύνη, που θα τεθεί σε ισχύ τον προσεχή Μάιο.

«Σκάρτες» 40 ημέρες, δηλαδή, έως ότου ξεκινήσει η εφαρμογή της πλέον ολοκληρωμένης νομοθεσίας για την τεχνολογία της τεχνητής νοημοσύνης σε παγκόσμιο επίπεδο. Εάν δε, θεωρούσατε πως η νομοθεσία για το GDPR επέφερε σημαντικές αλλαγές, που να δείτε τι προβλέπεται σε σχέση με το ΑΙ. Α, και (πολύ) πέρα από τα Κοινοτικά σύνορα.

Κι αυτό, καθώς ο νόμος περί της τεχνητής νοημοσύνης παρέχει ένα ολοκληρωμένο πλαίσιο για τη διασφάλιση της ανάπτυξης αξιόπιστης τεχνολογίας ΑΙ και της υπεύθυνης χρήσης εργαλείων τεχνητής νοημοσύνης, ιδίως διαφάνεια, μεροληψία, παραβιάσεις της ιδιωτικής ζωής, κινδύνους ασφαλείας και τη δυνατότητα διάδοσης παραπληροφόρησης, σε συνάρτηση με την ανθρώπινη εποπτεία στην ανάπτυξη τεχνολογιών ΑΙ.

Σε αυτές τις κατευθυντήριες γραμμές, χρησιμοποιούνται επτά μη δεσμευτικές ηθικές αρχές για την τεχνητή νοημοσύνη, με σκοπό να διασφαλιστεί ότι η τεχνητή νοημοσύνη είναι αξιόπιστη και ηθικά ορθή.

Διαβάστε εδώ την έκδοση της Business Voice του Σαββάτου

Οι αρχές περιλαμβάνουν την ανθρώπινη εκπροσώπηση και επίβλεψη, την τεχνική ευρωστία και ασφάλεια, την διακυβέρνηση απορρήτου και δεδομένων, την διαφάνεια, την ποικιλομορφία, τη μη διάκριση και τη δικαιοσύνη, καθώς επίσης και την κοινωνική μα και περιβαλλοντική ευημερία και υπευθυνότητα,

Όσο για τους τομείς που προβλέπεται πως οι επιχειρήσεις και εν γένει εκφραστές τους θα βρεθούν αντιμέτωποι με αυστηρές νομικές υποχρεώσεις και ιδιαίτερα σημαντικές κυρώσεις για μη-συμμόρφωση, δεν είναι άλλοι από τον τραπεζικό / χρηματοπιστωτικό και την Υγεία / υγειονομική περίθαλψη.

Μάλιστα, η Κοινοτική νομοθεσία -πλέον- κατηγοριοποιεί την τεχνητή νοημοσύνη σε τέσσερις βαθμίδες κινδύνου, από ελάχιστο έως απαράδεκτο, το καθένα με κλιμακούμενες υποχρεώσεις.

Ο νόμος της ΕΕ για την τεχνητή νοημοσύνη απαγορεύει την ανάπτυξη και χρήση ορισμένων συστημάτων τεχνητής νοημοσύνης, συμπεριλαμβανομένων κοινωνικών συστημάτων βαθμολόγησης, social engineering, απομακρυσμένης βιομετρικής αναγνώρισης σε πραγματικό χρόνο σε δημόσιους χώρους, προφίλ και πρόβλεψη συμπεριφοράς βάσει AI, απόξεση και αύξηση εικόνων προσώπου για την εξυπηρέτηση σκοπών, όπως είναι λ.χ. η επέκταση βάσεων δεδομένων, καθώς επίσης και οι τεχνικές χειραγώγησης που βασίζονται στην τεχνητή νοημοσύνη, υπονομεύουν την αυτονομία και εν τέλει επιδρούν στην ελεύθερη επιλογή.

Διαβάστε εδώ την έκδοση της Business Voice του Σαββάτου

Οι υποχρεωτικές απαιτήσεις για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου στοχεύουν στη διασφάλιση της αξιοπιστίας και τον μετριασμό των κινδύνων, λαμβάνοντας υπόψη τον σκοπό και το πλαίσιο χρήσης τους. Είναι σημαντικό για τις χρηματοπιστωτικές υπηρεσίες και τις εταιρείες χρηματοοικονομικής τεχνολογίας, ειδικά εκείνες που ασχολούνται με δεδομένα πελατών, να έχουν υπόψη τους μια σειρά από απαιτήσεις για συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου.

Ως τέτοιες μπορούν να νοηθούν η διαρκής, επαναληπτική διαχείριση κινδύνου για τεχνητή νοημοσύνη υψηλού κινδύνου, με επίκεντρο την υγεία, την ασφάλεια και τα δικαιώματα, που απαιτεί ενημερώσεις, τεκμηρίωση και εμπλοκή των ενδιαφερομένων. Παράλληλα, όσες ενσωματώνουν την διεξαγωγή εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα, ενώ απαιτείται η αυστηρή διακυβέρνηση για την αποφυγή διακρίσεων και τη διασφάλιση της συμμόρφωσης με τους νόμους περί προστασίας δεδομένων

Σε αυτό το πλαίσιο, τα σύνολα δεδομένων εκπαίδευσης και δοκιμών πρέπει να είναι αντιπροσωπευτικά, ακριβή και χωρίς προκαταλήψεις για την πρόληψη δυσμενών επιπτώσεων στην υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα.

Διαβάστε εδώ την έκδοση της Business Voice του Σαββάτου

Επιπροσθέτως, ζητούμενο είναι η κατανοητή τεκμηρίωση για ιχνηλασιμότητα, επαλήθευση συμμόρφωσης, λειτουργική παρακολούθηση και εποπτεία μετά τη διάθεση στην αγορά, συμπεριλαμβανομένων χαρακτηριστικών συστήματος, αλγορίθμων, διαδικασιών δεδομένων και διαχείρισης κινδύνου σε σαφή, ενημερωμένα τεχνικά έγγραφα, καθώς και αυτόματη καταγραφή συμβάντων καθ' όλη τη διάρκεια ζωής του AI.

Συμπερασματικά, οι επιχειρήσεις οφείλουν να θέσουν σε μέγιστη προτεραιότητα την ανάπτυξη υπεύθυνης τεχνητής νοημοσύνης έτσι ώστε να καταφέρουν να συμμορφωθούν με τους πρόσφατους κανονισμούς και να αποτρέψουν βαριές κυρώσεις για μη συμμόρφωση.