Η σκοτεινή πλευρά της τεχνητής νοημοσύνης

14:32 27/2/2025 - Πηγή: Τα Νεα

Η τεχνητή νοημοσύνη (ΤΝ) προσφέρει σημαντικά οφέλη, αλλά έχει και σκοτεινές πτυχές. Μια από τις πιο ανησυχητικές είναι η χρήση της για τη δημιουργία υλικού σεξουαλικής κακοποίησης παιδιών (Child Sexual Abuse Material – CSAM), κάτι που επισημαίνεται και στην τελευταία έκθεση Internet Organized Crime Threat Assessment (IOCTA) 2024 της Europol. Τεχνολογίες όπως τα Generative Adversarial Networks (GANs) και τα deepfakes μπορούν να παράγουν ρεαλιστικές εικόνες και βίντεο κακοποίησης ακόμη και χωρίς τη συμμετοχή πραγματικών

παιδιών. Τα GANs λειτουργούν μέσω της αλληλεπίδρασης δύο νευρωνικών δικτύων: το πρώτο δημιουργεί εικόνες και το δεύτερο τις αξιολογεί, με αποτέλεσμα τη δημιουργία εξαιρετικά ρεαλιστικού περιεχομένου. Από την άλλη πλευρά, τα deepfakes αντικαθιστούν πρόσωπα σε εικόνες και βίντεο, καθιστώντας δύσκολο τον διαχωρισμό τους από πραγματικό υλικό.

Ενα κρίσιμο ερώτημα που προκύπτει είναι το πώς τα μοντέλα τεχνητής νοημοσύνης αποκτούν πρόσβαση σε υλικό CSAM για «εκπαιδευτικούς» σκοπούς. Η εκπαίδευση αυτών των μοντέλων απαιτεί μεγάλα σύνολα δεδομένων, τα οποία χρησιμοποιούνται για να μάθει η ΤΝ να αναπαράγει συγκεκριμένα μοτίβα. Εάν τα σύνολα δεδομένων περιλαμβάνουν ακόμη και τροποποιημένες ή προσομοιωμένες εικόνες κακοποίησης, η τεχνητή νοημοσύνη μπορεί να τα «μάθει» και να δημιουργήσει νέο συνθετικό CSAM. Αυτό εγείρει σοβαρά ερωτήματα για το πού και πώς αποκτάται αυτό το υλικό. Η ύπαρξη τέτοιων δεδομένων σε εκπαιδευτικά σύνολα, είτε μέσω παράνομων διαρροών είτε λόγω ανεπαρκούς ελέγχου των δεδομένων εκπαίδευσης, υποδεικνύει σημαντικές αδυναμίες στην εποπτεία της ανάπτυξης των συστημάτων ΤΝ. Το γεγονός ότι τέτοιο περιεχόμενο μπορεί να χρησιμοποιείται για την περαιτέρω «εκμάθηση» των συστημάτων AI είναι ιδιαίτερα ανησυχητικό και υπογραμμίζει την ανάγκη για αυστηρότερους ελέγχους και διαφάνεια στις διαδικασίες εκπαίδευσης.

Η παραγωγή συνθετικού CSAM μας φέρνει αντιμέτωπους με επιπλέον ηθικές και νομικές προκλήσεις. Τα υπάρχοντα συστήματα ανίχνευσης, που βασίζονται κυρίως σε τεχνικές κατακερματισμού (hashing), αδυνατούν να εντοπίσουν αυτό το νέο είδος περιεχομένου, καθώς βασίζονται σε υφιστάμενα δεδομένα και δεν μπορούν να ανιχνεύσουν καινούργιες, μη ευρετηριασμένες εικόνες ή βίντεο. Ταυτόχρονα, τα ισχύοντα νομικά πλαίσια είναι ανεπαρκώς προσαρμοσμένα για να αντιμετωπίσουν τις νέες απειλές που εισάγει η τεχνολογία. Ο διεθνής χαρακτήρας του Διαδικτύου περιπλέκει περαιτέρω την κατάσταση, καθώς το υλικό μπορεί να παράγεται και να διανέμεται διασυνοριακά, απαιτώντας διεθνή συνεργασία για την αντιμετώπιση του φαινομένου.

Κατά συνέπεια, απαιτείται η ανάπτυξη ισχυρότερων συστημάτων ανίχνευσης, ικανών να διαχωρίζουν το πραγματικό από το συνθετικό CSAM. Παράλληλα, είναι απολύτως αναγκαία η διαφάνεια στις διαδικασίες εκπαίδευσης των μοντέλων τεχνητής νοημοσύνης και ο αυστηρός έλεγχος των συνόλων δεδομένων που χρησιμοποιούνται. Η ενημέρωση και ευαισθητοποίηση του κοινού, των κυβερνήσεων και των τεχνολογικών εταιρειών σχετικά με τους κινδύνους που εγκυμονεί η ΤΝ είναι απαραίτητη. Εξίσου σημαντική είναι η επικαιροποίηση των νομικών πλαισίων, ώστε να καλύπτουν πλήρως τους κινδύνους που σχετίζονται με το συνθετικό CSAM και να καθίστανται ικανά να αντιμετωπίσουν τις νέες μορφές απειλών.

Συνοψίζοντας, η τεχνητή νοημοσύνη δεν είναι εγγενώς καλή ή κακή. Ωστόσο, η χρήση της για τη δημιουργία CSAM συνιστά σοβαρή κοινωνική και ηθική πρόκληση που απαιτεί άμεση δράση. Είναι επιβεβλημένο να αναπτυχθούν αποτελεσματικά ρυθμιστικά μέτρα, να ενισχυθούν τα συστήματα ανίχνευσης, να διασφαλιστεί η υπεύθυνη χρήση της τεχνολογίας και να εξεταστούν προσεκτικά οι διαδικασίες εκπαίδευσης των μοντέλων ώστε να αποτραπεί η πρόσβαση και αξιοποίηση παράνομου ή επιβλαβούς υλικού.

Ο Γεώργιος Αθ. Γέρμανος είναι υπ. διδάκτωρ Κυβερνοασφάλειας, συγγραφέας