Έρευνα: Ημερήσια απειλή για τις δημοκρατίες η κακόβουλη χρήση ΑΙ το 2024

07:23 26/1/2024 - Πηγή: Huffington Post Greece

Νέα μελέτη από ερευνητές στο George Washington University προβλέπει ότι η δραστηριότητα Τεχνητής Νοημοσύνης (ΑΙ) από κακόβουλους δρώντες θα κλιμακωθεί σε ημερήσιο ζήτημα ως τα μέσα του 2024, με αποτέλεσμα να αυξηθεί η απειλή του επηρεασμού των αποτελεσμάτων των εκλογών σε πάνω από 50 χώρες που έχουν φέτος εθνικές εκλογές.

Αναλυτές κρούουν εδώ και καιρό τον κώδωνα του κινδύνου για την απειλή των κακόβουλων

δρώντων μέσω χρήσης ΑΙ για τη διακίνηση και ενίσχυση της παραπληροφόρησης σε εκλογικές περιόδους. Το «Controlling bad-actor-AI activity at scale across online battlefields» που δημοσιεύτηκε αυτή την εβδομάδα στο PNAS Nexus είναι η πρώτη ποσοτική επιστημονική ανάλυση που προβλέπει πώς οι κακόβουλοι δρώντες θα κάνουν κατάχρηση της ΑΙ παγκοσμίως.

«Όλοι μιλούν για τους κινδύνους της ΑΙ, μα μέχρι τη μελέτη μας δεν υπήρχε επιστήμη ως προς αυτή την απειλή» είπε ο Νηλ Τζόνσον, lead study author και καθηγητής Φυσικής στο GW. «Δεν μπορείς να κερδίσεις μία μάχη χωρίς βαθιά κατανόηση του πεδίου μάχης».

Οι ερευνητές λένε πως η μελέτη δίνει απαντήσεις ως προς το τι, πού και πότε θα χρησιμοποιείται η ΑΙ από κακόβουλους δρώντες παγκοσμίως, και πώς η απειλή μπορεί να τεθεί υπό έλεγχο. Μεταξύ άλλων, αναφέρονται τα εξής:

Οι κακόβουλοι δρώντες χρειάζονται μόνο βασικά συστήματα GPT AI (Generative Pre-trained Transformer) για να χειραγωγούν και να εισάγουν προκαταλήψεις σε πληροφορίες σε πλατφόρμες, αντί για πιο προηγμένα συστήματα, όπως τα GPT 3 και 4, που τείνουν να έχουν περισσότερα συστήματα ασφαλείας για την αντιμετώπιση της κακόβουλης δραστηριότητας. Ένα «οδικό δίκτυο» σε 23 πλατφόρμες social media, που προηγουμένως είχε χαρτογραφηθεί σε άλλη έρευνα του Τζόνσον, θα επιτρέπει σε κοινότητες κακόβουλων δρώντων απευθείας συνδέσεις σε δισεκατομμύρια χρήστες ανά τον κόσμο χωρίς των γνώση των τελευταίων. Η κακόβουλη δραστηριότητα με «κινητήρια δύναμη» την ΑΙ θα έχει γίνει καθημερινότητα ως το καλοκαίρι του 2024. Για να το διαπιστώσουν αυτό οι ερευνητές χρησιμοποίησαν proxy data από δύο ιστορικά, παρόμοια τεχνολογικά περιστατικά που περιελάμβαναν τη χειραγώγηση online ηλεκτρονικών συστημάτων πληροφορίας. Το πρώτο σετ δεδομένων προήλθε από αυτοματοποιημένες επιθέσεις αλγορίθμων σε αμερικανικές χρηματαγορές το 2008 και το δεύτερο από κινεζικές κυβερνοεπιθέσεις σε αμερικανικές υποδομές το 2013. Αναλύοντας αυτά τα data sets, οι ερευνητές ήταν σε θέση να εξάγουν συμπεράσματα ως προς τη συχνότητα των επιθέσεων σε αυτές τις αλυσίδες γεγονότων και να εξετάσει αυτές τις πληροφορίες στο πλαίσιο της παρούσας τεχνολογικής προόδου της ΑΙ. Οι εταιρείες κοινωνικής δικτύωσης θα έπρεπε να θέσουν σε χρήση τακτικές για τη συγκράτηση της παραπληροφόρησης, αντίθετα με την απομάκρυνση περιεχομένου. Σύμφωνα με τους ερευνητές, αυτό μοιάζει με την αφαίρεση των μεγαλύτερων θυλάκων συντονισμένης δραστηριότητας, παράλληλα με την ανοχή στους μικρότερους, απομονωμένους δρώντες.