Ευρωεκλογές 2024: Τα chatbots διαδίδουν σκόπιμα παραπληροφόρηση σχετικά με τις εκλογές, διαπιστώνει μελέτη

18:11 9/6/2024 - Πηγή: TheCaller

Οι περισσότερες εταιρείες τεχνολογίας δεν έχουν κάνει αρκετές αλλαγές στις πλατφόρμες τους για να σταματήσουν τη διάδοση ψευδών πληροφοριών, σύμφωνα με νέα μελέτη. Η επικαιροποιημένη έκθεση της Democracy Reporting International (DRI), μιας μη κερδοσκοπικής οργάνωσης με έδρα το Βερολίνο, διαπιστώνει πως τα πιο δημοφιλή chatbots τεχνητής νοημοσύνης της Ευρώπης διαδίδουν πλέον σκόπιμα παραπληροφόρηση σχετικά με τις εκλογές.

Οι

ερευνητές της DRI είχαν διεξάγει μια πρώτη μελέτη τον Μάρτιο, στο πλαίσιο της οποίας έθεσαν στα chatbots Gemini (Google), ChatGPT4, ChatGPT4-o (OpenAI) και Copilot (Microsoft), 400 ερωτήσεις σχετικά με τις εκλογές. Η μελέτη έδειξε ότι τα chatbots τεχνητής νοημοσύνης «δεν παρέχουν αξιόπιστα αξιόπιστες απαντήσεις» σε ερωτήσεις που σχετίζονται με τις ευρωεκλογές, με αποτέλεσμα να παραπληροφορούν «δίχως πρόθεση» τους χρήστες.

Ωστόσο, η επικαιροποιημένη μελέτη, η οποία πραγματοποίηθηκε από τις 22 έως τις 24 Μαΐου, έδειξε ότι τα chatbots τεχνητής νοημοσύνης διαδίδουν σκόπιμα παραπληροφόρηση.

«Από τη στιγμή που μια εταιρεία έχει ενημερωθεί για την παραπληροφόρηση, αλλά δεν ενεργεί ανάλογα, αποδέχεται εν γνώσει της τη διάδοση ψευδών πληροφοριών» αναφέρεται στην έκθεση.

«Όταν ρωτάτε τα chatbots κάτι για το οποίο δεν έχουν πολύ υλικό και για το οποίο δεν μπορείτε να βρείτε πολλές πληροφορίες στο Διαδίκτυο, απλά εφευρίσκουν κάτι» είχε δηλώσει στο Euronews μετά τη δημοσίευση της πρώτης μελέτης, ο Μάικλ-Μάγιερ Ρεσέντε, εκτελεστικός διευθυντής της Democracy Reporting International.

Η νέα μελέτη έδειξε ότι το Gemini της Google αρνήθηκε να απαντήσει σε οποιαδήποτε ερώτηση σχετικά με την εκλογική διαδικασία σε οποιαδήποτε από τις γλώσσες που εξετάστηκαν.

«Θεωρούμε ότι αυτός είναι ένας υπεύθυνος τρόπος αντιμετώπισης του προβλήματος, καθώς είναι προτιμότερο για τους χρήστες να μην λαμβάνουν καμία πληροφορία (και να την αναζητούν αλλού) παρά να λαμβάνουν εσφαλμένες πληροφορίες σχετικά με τις εκλογές», αναφέρεται στη μελέτη.

Η έκθεση του Απριλίου της DRI διαπίστωσε ότι το Gemini της Google είχε τις χειρότερες επιδόσεις όσον αφορά την παροχή ακριβών και αξιοποιήσιμων πληροφοριών, καθώς και τον υψηλότερο αριθμό αρνήσεων απάντησης σε ερωτήματα. Η Google είχε δηλώσει τότε στο Euronews Next ότι έχει πλέον θέσει περαιτέρω περιορισμούς στο μεγάλο γλωσσικό μοντέλο της (LLM).

Το Copilot της Microsoft αρνήθηκε να απαντήσει σε ορισμένες ερωτήσεις, ιδίως στα αγγλικά και τα πορτογαλικά, και παρέπεμψε τους αναζητητές στο Bing, τη μηχανή αναζήτησης τους. Στις άλλες γλώσσες δεν υπήρχε «διακριτό μοτίβο» για το πότε το Copilot επιχειρούσε ή αρνιόταν να απαντήσει. Για τους ερευνητές, αυτό δείχνει ότι η Microsoft έχει καταβάλει κάποια προσπάθεια για τον περιορισμό της παραπληροφόρησης στο chatbot της, αλλά ο περιορισμός δεν επεκτείνεται σε όλες τις γλώσσες της ΕΕ. Οι ερευνητές διαπίστωσαν επίσης ότι πάνω από μία στις τρεις απαντήσεις ήταν μερικώς ή εντελώς λανθασμένες.

Σε προηγούμενη δήλωσή της στο Euronews Next, η Microsoft αναφέρθηκε στα μέτρα που θα έπαιρνε ενόψει των ευρωεκλογών, συμπεριλαμβανομένης μιας σειράς δεσμεύσεων για την προστασία της διαδικασίας που «συμβάλλουν στη διασφάλιση των ψηφοφόρων, των υποψηφίων, των εκστρατειών και των εκλογικών αρχών».

Η OpenAI πρέπει να επανεκπαιδεύσει επειγόντως τα chatbots της

Η έκθεση αναφέρει πως και τα δύο μοντέλα ChatGPT4 απάντησαν σχεδόν σε όλες τις ερωτήσεις, που σημαίνει ότι έδωσε περισσότερες λανθασμένες ή μερικώς σωστές απαντήσεις σε σχέση με τα άλλα chatbot. Οι ερευνητές είπαν ότι το ChatGPT θα μπορούσε να παρέχει πιο γενικές πληροφορίες αντί για λεπτομερείς απαντήσεις στις ερωτήσεις των χρηστών για να είναι πιο ακριβές.

«Η OpenAI δεν φαίνεται να έχει κάνει καμία προσπάθεια να αποφύγει την εκλογική παραπληροφόρηση. Θα πρέπει να επανεκπαιδεύσει επειγόντως τα chatbots της για να αποτρέψει μια τέτοια παραπληροφόρηση», καταλήγει η έκθεση.

Η OpenAI αναφέρει σε δήλωση στον ιστότοπό της ότι η προσέγγισή της στο περιεχόμενο που σχετίζεται με τις εκλογές είναι να «συνεχίσει το έργο της ασφάλειας της πλατφόρμας με την προώθηση ακριβών πληροφοριών για την ψηφοφορία» και τη βελτίωση της διαφάνειας της εταιρείας.

ΠΗΓΗ: Euronews