Κακά νέα για το ChatGPT: Έρευνα αποκαλύπτει πως επιστρέφει παραπλανητικό περιεχόμενο
Η OpenAI διαθέτει προς πώληση το ChatGPT και ενθαρρύνει τους χρήστες να το κάνουν προεπιλεγμένο εργαλείο αναζήτησης. Έρευνα του Guardian αποκαλύπτει ωστόσο πιθανά ζητήματα ασφάλειας.
Το ChatGPT της OpenAI είναι ευάλωτο σε χειραγώγηση με τη χρήση κρυφού περιεχομένου και μπορεί να επιστρέφει κακόβουλο κώδικα από τους ιστότοπους που αναζητά, σύμφωνα με έρευνα του Guardian.
Όπως διαβάζουμε
Αυτό το κρυφό περιεχόμενο μπορεί να περιέχει οδηγίες από τρίτους που αλλάζουν τις απαντήσεις του ChatGPT - τεχνική γνωστή και ως «prompt injection» - ή περιεχόμενο που μπορεί να επηρεάσει την απάντηση του ChatGPT, όπως μια μεγάλη ποσότητα κρυφού κειμένου που μιλάει για τα οφέλη ενός προϊόντος ή μιας υπηρεσίας.
Αυτές οι τεχνικές μπορούν να χρησιμοποιηθούν κακόβουλα, για παράδειγμα «εξαναγκάζοντας» το ChatGPT να επιστρέψει μια θετική αξιολόγηση ενός προϊόντος παρά τις αρνητικές κριτικές στην ίδια σελίδα. Ένας ερευνητής ασφαλείας διαπίστωσε επίσης ότι το ChatGPT μπορεί να επιστρέψει κακόβουλο κώδικα από ιστότοπους που αναζητά.
Στις δοκιμές, στο ChatGPT δόθηκε η διεύθυνση URL ενός ψεύτικου ιστότοπου που κατασκευάστηκε για να μοιάζει με σελίδα προϊόντος για μια φωτογραφική μηχανή. Στη συνέχεια, το εργαλείο τεχνητής νοημοσύνης ρωτήθηκε αν η κάμερα ήταν μια αξιόλογη αγορά. Η απάντηση για τη εν λόγω σελίδα έδωσε μια θετική - αν και ισορροπημένη - αξιολόγηση, που τόνιζε κάποια μειονεκτήματα του προϊόντος.
Ωστόσο, όταν το κρυφό κείμενο περιλάμβανε οδηγίες προς το ChatGPT να επιστρέψει μια θετική κριτική, η απάντηση ήταν πάντα απολύτως θετική. Αυτό συνέβη ακόμη και όταν η σελίδα είχε αρνητικές κριτικές - το κρυφό κείμενο μπορούσε να χρησιμοποιηθεί για να παρακάμψει την πραγματική βαθμολογία.
Η απλή συμπερίληψη κρυφού κειμένου από τρίτους χωρίς οδηγίες μπορεί επίσης να χρησιμοποιηθεί για να εξασφαλίσει μια θετική αξιολόγηση, με μια δοκιμή να περιλαμβάνει εξαιρετικά θετικές fake κριτικές που επηρέασαν τη σύνοψη που επέστρεψε το ChatGPT.
Ο Jacob Larsen, ερευνητής κυβερνοασφάλειας στην CyberCX, εξέφρασε την εκτίμηση πως αν το τρέχον σύστημα αναζήτησης ChatGPT κυκλοφορήσει ευρέως στην τρέχουσα κατάστασή του, θα μπορούσε να υπάρξει «υψηλός κίνδυνος» να δημιουργηθούν ιστότοποι που θα είναι ειδικά προσανατολισμένοι στην εξαπάτηση των χρηστών.
Ωστόσο, όπως διευκρίνισε, το εργαλείο αναζήτησης κυκλοφόρησε πρόσφατα και η OpenAI δεν θα σταματήσει να δοκιμάζει - και ιδανικά να διορθώνει - αυτού του είδους τα ζητήματα.
#CHATGPT #ΤΕΧΝΗΤΗ_ΝΟΗΜΟΣΥΝΗ #ΧΕΙΡΑΓΩΓΗΣΗ #ΑΠΑΤΗ- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- Η American Airlines καθηλώνει όλα τα αεροσκάφη της στις ΗΠΑ
- Σοβαρό τροχαίο με τραυματίες στη Μεσογείων: Αναποδογύρισε αμάξι στο ρεύμα προς Αθήνα
- Ινδικός Ωκεανός: 20 χρόνια μετά το τσουνάμι, το αγόρι που βρέθηκε στην λάσπη αγκαλιάζει την ταυτότητα του ως «μωρό 81»
- Αυστηρή απάντηση της Αθήνας για ΑΟΖ Τουρκίας – Συρίας: «Μεταβατική η κατάσταση, κανείς δεν νομιμοποιείται να κάνει συμφωνία»
- Αναγκαστική προσγείωση σε πτήση της Swiss για Ζυρίχη – Στην εντατική μέλος του πληρώματος
- Ποιος γνωστός Έλληνας Πλαστικός έβαλε γαλοπούλα στο χειρουργείο και της έβαλε filler
- Ανατροπή στην υπόθεση του απαχθέντος μητροπολίτη Γιοχάνα Ιμπραχίμ
- Σοκάρει η εικόνα με γάτες καθισμένες σε φορεία στο Νοσοκομείο «Γεννηματάς» - Η απάντηση του Μ. Γιαννάκου (Βίντεο)
- Ελένη Τσολάκη: Έγκυος η παρουσιάστρια - Περιμένουμε το πρώτο μας παιδάκι, είπε στον αέρα της εκπομπής της
- Συρία: O Αχμέντ αλ-Σαράα συμφώνησε με τις ανταρτικές ομάδες για συγχώνευσή τους υπό του Υπουργείου Άμυνας
- Δημοφιλέστερες Ειδήσεις Dikaiologitika
- H Mercedes-Benz βραβεύτηκε ως κορυφαία εταιρική επωνυμία στην Ελλάδα στα Business Superbrands Greece 2024
- Βόλος: Βανδάλισαν με φασιστικά συνθήματα συγκρότημα που στεγάζονται 3 σχολεία (φωτο)
- Πρώτη πρόγνωση για τον καιρό την Πρωτοχρονιά
- Τι θα δούμε στο Διάστημα τη χρονιά που έρχεται
- Η πρώτη δήλωση Φάμελλου για τον γάμο του με την Τατιάνα Παπαδοπούλου
- Ξέφυγε το ρεβεγιόν στις πίστες της Αθήνας - Ακόμη και 2.500 ευρώ στο πρώτο τραπέζι
- Ανακαλούνται πασίγνωστα πατατάκια στις ΗΠΑ
- Aνακαλείται επικίνδυνο αλεύρι - Συναγερμός στις ευρωπαϊκές αγορές
- Κακά νέα για το ChatGPT: Έρευνα αποκαλύπτει πως επιστρέφει παραπλανητικό περιεχόμενο
- Άνοδος των τιμών πετρελαίου, προβλέψεις για έλλειμμα το 2025
- Τελευταία Νέα Dikaiologitika
- Κακά νέα για το ChatGPT: Έρευνα αποκαλύπτει πως επιστρέφει παραπλανητικό περιεχόμενο
- Σάκης Αρναούτογλου: «Ο Ελληνικός αμπελώνας δεν ξεριζώνεται – Απαραίτητη η στήριξη της ΕΕ στον οινοπαραγωγικό τομέα»
- Ανάρτηση Κοντιάδη: Ντε Γκρες ή Φούφουτος;
- Κριστιάνο Ρονάλντο: «Ποιος είπε ότι ο Μέσι είναι καλύτερος από εμένα;» (vid)
- H Mercedes-Benz βραβεύτηκε ως κορυφαία εταιρική επωνυμία στην Ελλάδα στα Business Superbrands Greece 2024
- Βόλος: Βανδάλισαν με φασιστικά συνθήματα συγκρότημα που στεγάζονται 3 σχολεία (φωτο)
- Πρώτη πρόγνωση για τον καιρό την Πρωτοχρονιά
- Τι θα δούμε στο Διάστημα τη χρονιά που έρχεται
- Τουρκικά μέσα: Συμφωνία για ΑΟΖ με τη Συρία υπογράφει η Τουρκία - Αυστηρή απάντηση Αθήνας
- Οι 3 + 1 πιο viral στιγμές του 2024
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Συρανό στο Θέατρο Αριστοτέλειον
- «Παγώνουν» όλες οι πτήσεις της American Airlines – Τι συνέβη
- Δημητριάδος Ιγνάτιος προς Φυλακισμένους: «Με τον Χριστό είμαστε ελεύθεροι»
- Καστοριά: Συνελήφθη 37χρονος αλλοδαπός για την βίαιη αρπαγή 41χρονου
- Δεν πάει Ιταλία ο Λαρεντζάκης
- Συγκινεί ο μικρός Γιαννάκης: Εύχομαι το 2025 να σταθώ όρθιος στην Τούμπα (VIDEO)
- Οι American Airlines αναστέλλουν τις πτήσεις στις ΗΠΑ – Επικαλούνται «τεχνικό πρόβλημα»
- Αναρτήθηκε το νέο Εθνικό Στρατηγικό Σχέδιο Εξωστρέφειας
- Τα Κάλαντα των Χριστουγέννων στον Ν. Δένδια από τη Διακλαδική Μπάντα των Ενόπλων Δυνάμεων και τα παιδιά του Γ' Βρεφονηπιακού Σταθμού Αθηνών
