Χάος στην OpenAI για την ασφάλεια στην ΑΙ- Αποχωρήσεις στελεχών, αιχμές προς τον CEO

11:54 23/5/2024 - Πηγή: Huffington Post Greece

Σε αναβρασμό φαίνεται να βρίσκεται η OpenAI, δημιουργός του ChatGPT,καθώς, πέρα από την αντιπαράθεση που έχει προκύψει με τη διάσημη ηθοποιό Σκάρλετ Γιόχανσον, έχουν σημειωθεί παραιτήσεις σημαντικών στελεχών και έχουν υπάρξει αναφορές για αυστηρά NDA με σκοπό τη «φίμωση» πρώην εργαζομένων.

Την προηγούμενη εβδομάδα παραιτήθηκαν οι Γιαν Λάικε και Ίλια Σούτσκεβερ, που ηγούνταν της ομάδας η οποία ήταν επιφορτισμένη με την ασφάλεια στην ΑΙ. Ο Λάικε σε μακροσκελή ανάρτησή του κατηγόρησε τους πρώην εργοδότες του πως δίνουν προτεραιότητα σε «γυαλιστερά

προϊόντα» σε βάρος της ασφάλειας, και ότι η ομάδα ασφαλείας αντιμετώπιζε όλο και μεγαλύτερες δυσκολίες στο να κάνει τη δουλειά της. Ο διευθύνων σύμβουλος, Σαμ Άλτμαν (ο οποίος φαίνεται να εξελίσσεται σε μια όλο και πιο αμφιλεγόμενη φιγούρα) έσπευσε να κάνει «διαχείριση κρίσης» κοινοποιώντας την ανάρτηση και ομολογώντας πως «έχει δίκιο, έχουμε πολλά ακόμα να κάνουμε, είμαστε αποφασισμένοι να τα κάνουμε».

Yesterday was my last day as head of alignment, superalignment lead, and executive @OpenAI.

— Jan Leike (@janleike) May 17, 2024

i'm super appreciative of @janleike's contributions to openai's alignment research and safety culture, and very sad to see him leave. he's right we have a lot more to do; we are committed to doing it. i'll have a longer post in the next couple of days.