Το Χ μπλοκάρει αναζητήσεις για Taylor Swift λόγω γυμνών deepfake φωτογραφιών

09:55 29/1/2024 - Πηγή: Sigma Live

Η πλατφόρμα κοινωνικής δικτύωσης X έχει μπλοκάρει τις αναζητήσεις για την Taylor Swift αφού άρχισαν να κυκλοφορούν στον ιστότοπο γυμνές εικόνες της τραγουδίστριας που δημιουργήθηκαν από AI.

Σε μια δήλωση στο BBC, ο επικεφαλής των επιχειρηματικών δραστηριοτήτων του X, Joe Benarroch, είπε ότι ήταν μια «προσωρινή ενέργεια» για να δοθεί προτεραιότητα στην ασφάλεια.

Κατά την αναζήτηση της Swift στον ιστότοπο, εμφανίζεται ένα μήνυμα που λέει: "Κάτι πήγε στραβά. Δοκιμάστε να επαναλάβετε τη φόρτωση".

Ψεύτικες γραφικές εικόνες της τραγουδίστριας  εμφανίστηκαν στον ιστότοπο νωρίτερα αυτή την εβδομάδα.

Κάποια έγιναν viral και προβλήθηκαν εκατομμύρια φορές, προκαλώντας συναγερμό από Αμερικανούς αξιωματούχους και θαυμαστές της τραγουδίστριας.

Οι αναρτήσεις και οι λογαριασμοί που μοιράζονται τις ψεύτικες εικόνες επισημάνθηκαν από τους θαυμαστές της, οι οποίοι γέμισαν την πλατφόρμα με πραγματικές εικόνες και βίντεο της, χρησιμοποιώντας τις λέξεις "προστατέψτε την Taylor Swift".

Οι φωτογραφίες ώθησαν τον X, πρώην Twitter, να εκδώσει μια δήλωση την Παρασκευή, λέγοντας ότι η δημοσίευση γυμνού χωρίς συναινετική βάση στην πλατφόρμα "απαγορεύεται αυστηρά".

«Έχουμε πολιτική μηδενικής ανοχής απέναντι σε τέτοιο περιεχόμενο», αναφέρεται στην ανακοίνωση. "Οι ομάδες μας αφαιρούν ενεργά όλες τις ταυτοποιημένες εικόνες και λαμβάνουν τα κατάλληλα μέτρα κατά των λογαριασμών που είναι υπεύθυνοι για τη δημοσίευσή τους."

Δεν είναι σαφές πότε η X άρχισε να μπλοκάρει τις αναζητήσεις για το Swift στον ιστότοπο ή εάν ο ιστότοπος έχει αποκλείσει αναζητήσεις για άλλα δημόσια πρόσωπα ή όρους στο παρελθόν.

Στο email του στο BBC, ο κ. Benarroch είπε ότι η δράση γίνεται «με μεγάλη προσοχή, καθώς δίνουμε προτεραιότητα στην ασφάλεια σε αυτό το θέμα».

Το θέμα τράβηξε την προσοχή του Λευκού Οίκου, ο οποίος την Παρασκευή χαρακτήρισε «ανησυχητική» τη διάδοση των φωτογραφιών που δημιουργήθηκαν από την τεχνητή νοημοσύνη.

«Γνωρίζουμε ότι η χαλαρή επισκόπηση επηρεάζει δυσανάλογα τις γυναίκες και επηρεάζει επίσης τα κορίτσια, δυστυχώς, που είναι οι συντριπτικοί στόχοι», δήλωσε η εκπρόσωπος Τύπου του Λευκού Οίκου Καρίν Ζαν-Πιερ κατά τη διάρκεια ενημέρωσης.

Πρόσθεσε ότι θα πρέπει να υπάρξει νομοθεσία για την αντιμετώπιση της κακής χρήσης της τεχνολογίας AI στα μέσα κοινωνικής δικτύωσης και ότι οι πλατφόρμες θα πρέπει επίσης να λάβουν τα μέτρα τους για να απαγορεύσουν τέτοιο περιεχόμενο στους ιστότοπούς τους.

«Πιστεύουμε ότι έχουν να διαδραματίσουν σημαντικό ρόλο στην επιβολή των δικών τους κανόνων για την πρόληψη της διάδοσης παραπληροφόρησης και μη συναινετικών, οικείων εικόνων πραγματικών ανθρώπων», είπε η κ. Jean-Pierre.

Οι πολιτικοί των ΗΠΑ έχουν επίσης ζητήσει νέους νόμους για την ποινικοποίηση της δημιουργίας deepfake εικόνων.

Τα Deepfakes χρησιμοποιούν τεχνητή νοημοσύνη για να κάνουν ένα βίντεο με κάποιον χειραγωγώντας το πρόσωπο ή το σώμα του. Μια μελέτη το 2023 διαπίστωσε ότι υπήρξε αύξηση 550% στη δημιουργία επεξεργασμένων εικόνων από το 2019, τροφοδοτούμενη από την εμφάνιση της τεχνητής νοημοσύνης.

Επί του παρόντος δεν υπάρχουν ομοσπονδιακοί νόμοι κατά της κοινής χρήσης ή της δημιουργίας deepfake εικόνων, αν και έχουν γίνει κινήσεις σε επίπεδο πολιτείας για την αντιμετώπιση του ζητήματος.

Στο Ηνωμένο Βασίλειο, η κοινή χρήση deepfake πορνογραφίας έγινε παράνομη ως μέρος του Νόμου για την Ασφάλεια στο Διαδίκτυο το 2023.