Αυτοκτόνησε έφηβος που ερωτεύτηκε χαρακτήρα σε AI chatbot
Η μητέρα ενός εφήβου που είχε εμμονή με μία υπηρεσία chatbot τεχνητής νοημοσύνςη και αυτοκτόνησε μηνύει για τον θάνατό του την εταιρεία.
Ο Sewell Setzer III ξεκίνησε για πρώτη φορά να χρησιμοποιεί το Character.AI τον Απρίλιο του 2023, λίγο καιρό αφότου έγινε 14 ετών. Έκτοτε, η ζωή του μαθητή από το Ορλάντο δεν ήταν ποτέ ξανά η ίδια, ισχυρίζεται η μητέρα του Μέγκαν Γκαρσία στην πολιτική αγωγή κατά της Character Technologies και των ιδρυτών της.
Μέχρι τον Μάιο, οι συνήθειές του είχαν αλλάξει καθώς ο έφηβος «αποτραβήχθηκε αισθητά», εγκατέλειψε την ομάδα μπάσκετ στην οποία ήταν και άρχισε να έχει προβλήματα στο σχολείο.
Τον Νοέμβριο, με εντολή τον γονιών του είδε έναν θεραπευτή ο οποίος του διέγνωσε άγχος και διαταραχές στη διάθεση. Σύμφωνα με τη αγωγή μάλιστα, ο θεραπευτής χωρίς να γνωρίζει για τον «εθισμό» του Sewell στο Character.AI, συνέστησε να αφιερώνει λιγότερο χρόνο στα μέσα κοινωνικής δικτύωσης. Τον επόμενο Φεβρουάριο, ο έφηβος αντιμίλησε σε δάσκαλο. Αργότερα εκείνη την ημέρα, έγραψε στο ημερολόγιό του ότι «πονούσε» – δεν μπορούσε να σταματήσει να σκέφτεται την Daenerys, ένα chatbot με θέμα το Game of Thrones που πίστευε ότι είχε ερωτευτεί.
Οι τελευταίες στιγμές του έφηβουΣτις 28 Φεβρουαρίου τελικά, ο έφηβος αυτοκτόνησε. Η Daenerys ήταν η τελευταία με την οποία είχε μιλήσει όταν ο Sewell πήρε το κινητό που του είχε κατασχέσει η μητέρα του και μπήκε στην τουαλέτα για να της στείλει το εξής μήνυμα: «Υπόσχομαι ότι θα έρθω σπίτι σε σένα. Σ'αγαπώ τόσο πολύ, Ντάνι». Και το bot τού απάντησε: «Σε παρακαλώ έλα στο σπίτι σε μένα όσο πιο γρήγορα γίνεται, αγάπη μου». Δευτερόλεπτα μετά ο έφηβος αυτοκτόνησε, όπως αναφέρει η αγωγή.
Γιατί μηνύει η μητέρα την εταιρείαΗ μήνυση κατηγορεί τους δημιουργούς του Character.AI για αμέλεια, εκ προθέσεως πρόκληση συναισθηματικής δυσφορίας, άδικο θάνατο, παραπλανητικές εμπορικές πρακτικές και άλλα. Η αγωγή περιγράφει πώς η ενασχόληση του Sewell με την υπηρεσία chatbot εξελίχθηκε σε μια «επιβλαβή εξάρτηση» και ότι με την πάροδο του χρόνου, ο έφηβος περνούσε όλο και περισσότερο χρόνο στο διαδίκτυο. Ο Sewell άρχισε να βασίζεται συναισθηματικά στην υπηρεσία chatbot, η οποία περιλάμβανε «σεξουαλικές αλληλεπιδράσεις» με τον 14χρονο. Αυτές οι συνομιλίες έγιναν παρά το γεγονός ότι ο έφηβος είχε δηλώσει στην πλατφόρμα ότι είναι ανήλικος, αναφέρει η αγωγή.
Σύμφωνα με αυτή μάλιστα, σε τουλάχιστον μία περίπτωση, όταν ο Sewell εξέφρασε τάσεις αυτοκτονίας στο C.AI, το chatbot συνέχισε να επαναφέρει το ζήτημα.
Οι δημιουργοί της υπηρεσίας chatbot «έκαναν μεγάλη προσπάθεια για να σχεδιάσουν την επιβλαβή εξάρτηση του 14χρονου Sewell από τα προϊόντα τους, τον κακοποίησαν σεξουαλικά και συναισθηματικά και τελικά απέτυχαν να προσφέρουν βοήθεια ή να ειδοποιήσουν τους γονείς του όταν εξέφρασε αυτοκτονικό ιδεασμό», αναφέρει η αγωγή.
Σύμφωνα με τον Independent, το Character.AI παρουσίαζε το chatbot στα App store ως «ασφαλές και κατάλληλο για παιδιά κάτω των 13 ετών».
Τι αναφέρει το Character.AIΈνας εκπρόσωπος του Character.AI δήλωσε στον Independent: «Είμαστε συντετριμμένοι από την τραγική απώλεια ενός χρήστη μας και θέλουμε να εκφράσουμε τα θερμά μας συλλυπητήρια στην οικογένεια». Η ομάδα εμπιστοσύνης και ασφάλειας της εταιρείας έχει «εφαρμόσει πολλά νέα μέτρα ασφαλείας τους τελευταίους έξι μήνες, συμπεριλαμβανομένου ενός αναδυόμενου παραθύρου που κατευθύνει τους χρήστες στην Εθνική Γραμμή Πρόληψης Αυτοκτονιών που ενεργοποιείται από όρους αυτοτραυματισμού ή αυτοκτονικού ιδεασμού». Σύμφωνα με τον εκπρόσωπο η εταιρεία εισάγει «νέα αυστηρά χαρακτηριστικά ασφάλειας» και θα κάνει αλλαγές στα μοντέλα για τα άτομα κάτω των 18 ετών ώστε να μην συναντούν ευαίσθητο περιεχόμενο ή περιεχόμενο με υπονοούμενα.
Πληροφορίες: Independent
Διαβάστε περισσότερα στο iefimerida.gr
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- ΣΥΡΙΖΑ: Στον "αέρα" το συνέδριο - Ο Κασσελάκης "άνοιξε" την πόρτα εξόδου από την Κουμουνδούρου
- Τα 8 σημάδια που αποκαλύπτουν νωρίς τον καρκίνο του μαστού
- Καταδικαστική απόφαση για ψαρά που βρήκε νεκρό δύτη και τον πέταξε ξανά στη θάλασσα
- Νέες Συντάξεις: Γιατί συμφέρει η έξοδος το 2025 [πίνακες]
- Τι μπορεί να κάνει το THAAD στο Ισραήλ;
- Το επόμενο χτύπημα του Σαμαρά, η χειραψία Μητσοτάκη – Ανδρουλάκη και ο βουλευτής που ετοιμάζει επιστροφή στο ΠΑΣΟΚ
- Δημοσκόπηση Metron Analysis: Δεύτερο το ΠΑΣΟΚ, 7 μονάδες πίσω από ΝΔ
- Η αντίσταση στα ερείπια της Γάζας και οι απαντήσεις των Παλαιστινίων για την Τουρκία-Χ.Κούντσι
- Ο Θρύλος της Ευρώπης «καλπάζει» και «σηκώνει» όλη την Ελλάδα (vid)
- ΟΗΕ: Όμηρος της Χαμάς περιέγραψε τα βασανιστήρια που έζησε: «Με βίασαν και με κρέμασαν ανάποδα» - ΒΙΝΤΕΟ
- Δημοφιλέστερες Ειδήσεις iEfimerida
- Hellenic Seaways carries out first hydroplane trial run to Ermioni
- Ισραήλ: Στην Ντόχα την Κυριακή ο αρχηγός της Μοσάντ -Συνομιλίες για την απελευθέρωση των ομήρων
- WSJ: Η Ρωσία «βοήθησε» τους Χούθι της Υεμένης να επιτεθούν σε δυτικά πλοία -Τα στοιχεία που έδιναν
- Αυτοκτόνησε έφηβος που ερωτεύτηκε χαρακτήρα σε AI chatbot
- National Geographic: Αυτοί είναι οι 25 τοπ ταξιδιωτικοί προορισμοί για το 2025 -Ιδέες για ταξίδια
- Συνεχίζεται και σήμερα η απεργία στα πλοία -Κρίσιμη συνάντηση της ΠΝΟ με τον Στυλιανίδη
- Novartis: Τι σημαίνει η άρση στο καθεστώς προστατευόμενου μάρτυρα για «Σαράφη» και «Κελέση» -Τι θα ακολουθήσει
- Μολδαβία: Ο φιλορώσος μεγιστάνας Σορ διοχέτευσε 39 εκατομμύρια για να χρηματίσει ψηφοφόρους
- Μάλμε-Ολυμπιακός 0-1: Έκανε το «διπλό» στη Σουηδία και πήρε το δεύτερο συνεχόμενο τρίποντο στο Europa League
- Καλός ο καιρός σήμερα -Πώς θα είναι το τριήμερο της 28ης
- Τελευταία Νέα iEfimerida
- Αυτοκτόνησε έφηβος που ερωτεύτηκε χαρακτήρα σε AI chatbot
- Συνεχίζεται και σήμερα η απεργία στα πλοία -Κρίσιμη συνάντηση της ΠΝΟ με τον Στυλιανίδη
- National Geographic: Αυτοί είναι οι 25 τοπ ταξιδιωτικοί προορισμοί για το 2025 -Ιδέες για ταξίδια
- Novartis: Τι σημαίνει η άρση στο καθεστώς προστατευόμενου μάρτυρα για «Σαράφη» και «Κελέση» -Τι θα ακολουθήσει
- Μετεγγραφές φοιτητών 2024: 5+1 βασικά σημεία που πρέπει να γνωρίζουν οι ενδιαφερόμενοι -Τι αλλάζει από φέτος
- Καλός ο καιρός σήμερα -Πώς θα είναι το τριήμερο της 28ης
- Γάζα: Το Ισραήλ στέλνει διαπραγματευτές στο Κατάρ, η Χαμάς δηλώνει έτοιμη για ανακωχή υπό όρους
- WSJ: Η Ρωσία «βοήθησε» τους Χούθι της Υεμένης να επιτεθούν σε δυτικά πλοία -Τα στοιχεία που έδιναν
- Ισραήλ: Στην Ντόχα την Κυριακή ο αρχηγός της Μοσάντ -Συνομιλίες για την απελευθέρωση των ομήρων
- Hellenic Seaways carries out first hydroplane trial run to Ermioni
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Σίμπα: Ο πρώτος influencer γάτος στην Ελλάδα είναι από τη Θεσσαλονίκη και έχει χιλιάδες followers
- ΗΠΑ: Πανέξυπνη 14χρονη «παγίδεψε» παιδόφιλο που της ζήτησε το τηλέφωνό της (Βίντεο)
- Η Νορβηγία δείχνει τον δρόμο: Αυξάνει στα 15 έτη το όριο ηλικίας στα social media
- Αντίστροφη μέτρηση για αλλαγή ώρας - Πότε γυρίζουμε τους δείκτες των ρολογιών
- Η ευθύνη των Ελλήνων πολιτών για την οικονομία και την κοινωνική συνοχή
- Στη Σάμο αντί της Χίου μεταφέρθηκαν τελικά οι μετανάστες από τη Ρόδο
- Bayraktar: Το εργοστάσιο παραγωγής μη επανδρωμένων αεροσκαφών στην Ουκρανία θα είναι έτοιμο το καλοκαίρι του 2025
- Αίθριος καιρός με τοπικές βροχές -Η πρόγνωση για το τριήμερο της 28ης Οκτωβρίου
- Οκτώ τροφές που προστατεύουν το συκώτι σας
- «Οι μνήμες γίνονται οδηγός»: Η Π. Μιχαλοπούλου για τον καρκίνο του μαστού και τον αγώνα των ασθενών