Σχολεία ΗΒ: Μαθητές χρησιμοποιούν ΑΙ για να κάνουν άσεμνες εικόνες συμμαθητών

08:04 27/11/2023 - Πηγή: Sigma Live

Τα παιδιά στα βρετανικά σχολεία χρησιμοποιούν τεχνητή νοημοσύνη (AI) για να κάνουν άσεμνες εικόνες άλλων παιδιών, προειδοποίησε μια ομάδα ειδικών σε θέματα κακοποίησης παιδιών και τεχνολογίας.

Σύμφωνα με τον Guardian  ορισμένα σχολεία ανέφεραν για πρώτη φορά ότι οι μαθητές χρησιμοποιούσαν τεχνολογία που παράγει AI για να δημιουργήσουν εικόνες παιδιών που βάση

νομοθεσίας αποτελούσαν υλικό σεξουαλικής κακοποίησης παιδιών.

Η Emma Hardy, διευθύντρια του Κέντρου Ασφαλούς Διαδικτύου του Ηνωμένου Βασιλείου (UKSIC), είπε ότι οι φωτογραφίες ήταν «τρομακτικά» ρεαλιστικές.

«Η ποιότητα των εικόνων που βλέπουμε είναι συγκρίσιμη με τις επαγγελματικές φωτογραφίες που λαμβάνονται ετησίως από παιδιά σε σχολεία της χώρας», είπε ο Χάρντι, ο οποίος είναι επίσης διευθυντής επικοινωνίας του Ιδρύματος Internet Watch.

«Η φωτορεαλιστική φύση των εικόνων παιδιών που δημιουργούνται από την τεχνητή νοημοσύνη σημαίνει ότι μερικές φορές τα παιδιά που βλέπουμε είναι αναγνωρίσιμα ως θύματα προηγούμενης σεξουαλικής κακοποίησης.

«Τα παιδιά πρέπει να προειδοποιούνται ότι οι φωτογραφίες μπορεί να εξαπλωθούν στο διαδίκτυο και να καταλήξουν να τα δουν ξένοι και επιτήδειοι . Η πιθανότητα κατάχρησης αυτής της τεχνολογίας είναι τρομακτική», είπε.

Η UKSIC, μια οργάνωση για την προστασία των παιδιών, λέει ότι τα σχολεία πρέπει να δράσουν επειγόντως για να δημιουργήσουν καλύτερα συστήματα αποκλεισμού κατά του υλικού κακοποίησης παιδιών.

«Οι αναφορές που βλέπουμε για παιδιά που κάνουν αυτές τις εικόνες δεν πρέπει να προκαλούν έκπληξη. Αυτοί οι τύποι επιβλαβών συμπεριφορών θα πρέπει να προβλεφθούν όταν οι νέες τεχνολογίες, όπως οι γεννήτριες τεχνητής νοημοσύνης, γίνουν πιο προσιτές στο κοινό», δήλωσε ο διευθυντής του UKSIC, David Wright.

«Τα παιδιά μπορεί να εξερευνούν τις δυνατότητες των δημιουργών εικόνων AI χωρίς να εκτιμούν πλήρως τη βλάβη που μπορεί να προκαλούν. Αν και οι αριθμοί των κρουσμάτων είναι μικροί, βρισκόμαστε στους πρόποδες και πρέπει να δούμε μέτρα που γίνονται τώρα – προτού τα σχολεία κατακλυστούν και το πρόβλημα μεγαλώσει», είπε.

Οι εικόνες σεξουαλικής κακοποίησης παιδιών είναι παράνομες στο Ηνωμένο Βασίλειο – είτε έχουν δημιουργηθεί από τεχνητή νοημοσύνη είτε φωτογραφικές. Κινούμενα σχέδια ή άλλες λιγότερο ρεαλιστικές απεικονίσεις  εξακολουθούν να είναι παράνομες για δημιουργία, κατοχή και διανομή.

Τον περασμένο μήνα, το Ίδρυμα Internet Watch προειδοποίησε ότι οι εικόνες σεξουαλικής κακοποίησης παιδιών που δημιουργήθηκαν από την τεχνητή νοημοσύνη «απειλούσαν να κατακλύσουν το Διαδίκτυο» , με πολλές πλέον να είναι τόσο ρεαλιστικές που δεν διακρίνονται από τις πραγματικές εικόνες – ακόμη και από εκπαιδευμένους αναλυτές.