Η OpenAI φέρεται να έκανε μια δυνητικά "τρομακτική ανακάλυψη" στην τεχνητή νοημοσύνη σύμφωνα με το Reuters

15:53 23/11/2023 - Πηγή: Insomnia

Τις ημέρες που προηγήθηκαν πριν από την τετραήμερη εξορία του πρώην διευθύνοντος συμβούλου της OpenAI, Sam Altman, από την εταιρεία, αρκετοί ερευνητές της εταιρείας είχαν γράψει μια επιστολή προς το διοικητικό συμβούλιο προειδοποιώντας για μια νέα πολύ σημαντική ανακάλυψη γύρω από την τεχνητή νοημοσύνη που, όπως υποστήριζαν, θα μπορούσε να αποτελέσει απειλή για την ανθρωπότητα.

Δύο πηγές που γνωρίζουν την κατάσταση μίλησαν στο

Reuters για αυτή την προηγουμένως μη δημοσιοποιημένη επιστολή και τον αλγόριθμο τεχνητής νοημοσύνης. Οι εξελίξεις φαίνεται ότι αποτέλεσαν βασικά γεγονότα που οδήγησαν στην αμφιλεγόμενη απόφαση του διοικητικού συμβουλίου να απομακρύνει τον Altman, το δημόσιο πρόσωπο της OpenAI και συνιδρυτή της εταιρείας. Σε απάντηση, πάνω από 700 εξοργισμένοι εργαζόμενοι απείλησαν να παραιτηθούν μαζικά για να ενταχθούν στην Microsoft.   

Οι πηγές του Reuters αναφέρουν την επιστολή του προσωπικού ως έναν παράγοντα που συνέβαλε σε έναν μακρύτερο κατάλογο παραπόνων που είχε το διοικητικό συμβούλιο με τον Altman, συμπεριλαμβανομένων των ανησυχιών για τη βιασύνη να εμπορευματοποιήσει τις βελτιώσεις στο γλωσσικό μοντέλο της εταιρείας, πριν αξιολογήσει σωστά τις συνέπειες. 

Αφού επικοινώνησε με το Reuters, η OpenAI αναγνώρισε την ύπαρξη ενός εσωτερικού project με την ονομασία Q* καθώς και ότι υπάρχει μια επιστολή που στάλθηκε στο διοικητικό συμβούλιο πριν από την απόλυση του Altman. Η εταιρεία όμως αρνείται σχολιάσει επίσημα ή να επιβεβαιώσει λεπτομέρειες.  

Η πηγή αποκάλυψε ότι ορισμένοι μηχανικοί στην OpenAI θεωρούν το Q* ως μια πιθανή στιγμή καμπής στην επιδίωξη της τεχνητής γενικής νοημοσύνης (AGI). Δεδομένης της τεράστιας υπολογιστικής ισχύος, το νέο μοντέλο υποτίθεται ότι ήταν σε θέση να λύσει ορισμένα προηγμένα μαθηματικά προβλήματα, κάνοντας τους ερευνητές ιδιαίτερα αισιόδοξους για τις μελλοντικές του δυνατότητες.

Αν και ανεπιβεβαίωτο, αν η πληροφορία είναι ακριβής, θα σήμαινε ένα επίπεδο μαθηματικής λογικής που πλησιάζει την ανθρώπινη νοημοσύνη. Οι ερευνητές βλέπουν την κυριαρχία των μαθηματικών ως ένα σύνορο για τη γεννητική τεχνητή νοημοσύνη, δεδομένου ότι περιλαμβάνει ακριβείς, μοναδικές απαντήσεις και όχι στατιστικές προβλέψεις γλωσσικών εργασιών.

Επισημαίνοντας την υπεροχή του Project Q αλλά και διευκρινίζοντας απροσδιόριστα ζητήματα ασφαλείας, η επιστολή του προσωπικού προφανώς προσπάθησε να προειδοποιήσει το συμβούλιο για την πολλά υποσχόμενη αλλά δυνητικά επικίνδυνη πρόοδο της τεχνητής νοημοσύνης. Παραμένει η συζήτηση γύρω από τους κινδύνους από την εξαιρετικά προηγμένη τεχνητή νοημοσύνη, συμπεριλαμβανομένων των σεναρίων όπου θα μπορούσε να αποφασίσει ότι η καταστροφή της ανθρωπότητας ευθυγραμμίζεται με άλλες προτεραιότητες. 

Εκτός από την ανακοίνωση μιας σειράς νέων εργαλείων στο πρώτο συνέδριο της OpenAI αυτό το μήνα, την περασμένη εβδομάδα σε μια σύνοδο κορυφής παγκόσμιων ηγετών στο Σαν Φρανσίσκο, ο Altman δήλωσε ότι σημαντικές εξελίξεις ήταν ορατές.

«Τέσσερις φορές τώρα στην ιστορία της OpenAI -η πιο πρόσφατη φορά ήταν μόλις τις τελευταίες δύο εβδομάδες- έχω την ευκαιρία να βρίσκομαι στο δωμάτιο, όταν κατά κάποιο τρόπο σπρώχνουμε τα σύνορα της ανακάλυψης προς τα εμπρός, και το να το κάνω αυτό είναι η επαγγελματική τιμή της ζωής μου", δήλωσε στη σύνοδο κορυφής της Οικονομικής Συνεργασίας Ασίας-Ειρηνικού.

Μια μέρα αργότερα, το διοικητικό συμβούλιο απέλυσε τον Altman.

Διαβάστε ολόκληρο το άρθρο