Κορυφαίες προσωπικότητες στο χώρο του ΑΙ προειδοποιούν με δήλωση 22 λέξεων για τον "κίνδυνο αφανισμού"

18:03 30/5/2023 - Πηγή: Insomnia

Μια ομάδα κορυφαίων ερευνητών ΤΝ, μηχανικών και διευθύνοντων συμβούλων εξέδωσαν προειδοποίηση για την υπαρξιακή απειλή που πιστεύουν ότι αποτελεί η ΤΝ για την ανθρωπότητα.

Η δήλωση, που δημοσιεύθηκε από το Κέντρο για την Ασφάλεια της Τεχνητής Νοημοσύνης (Center for AI Safety) αποτελείται από μόλις 22 λέξεις και έχει ως εξής:

"Η ελαχιστοποίηση του κινδύνου αφανισμού από την Τεχνητή Νοημοσύνη θα πρέπει να αποτελέσει παγκόσμια προτεραιότητα μαζί με άλλους κινδύνους κοινωνικής κλίμακας, όπως οι πανδημίες και ο πυρηνικός πόλεμος". 

Τη δήλωση συνυπογράφουν προσωπικότητες όπως ο διευθύνων

σύμβουλος της Google DeepMind, Demis Hassabis, ο διευθύνων σύμβουλος της OpenAI, Sam Altman, καθώς και οι Geoffrey Hinton και Youshua Bengio, δύο από τους τρεις ερευνητές που κέρδισαν το βραβείο Turing 2018 για το έργο τους στην Τεχνητή Νοημοσύνη.

Η δήλωση αποτελεί την τελευταία παρέμβαση στη συζήτηση για την ασφάλεια της τεχνητής νοημοσύνης. Νωρίτερα φέτος, μια ανοιχτή επιστολή που υπογράφηκε από ορισμένα από τα ίδια άτομα ζήτησε εξάμηνη "παύση" στην ανάπτυξη της τεχνητής νοημοσύνης, μια επιστολή που επικρίθηκε αρκετά. Ορισμένοι εμπειρογνώμονες θεώρησαν ότι υπερεκτιμούσε τον κίνδυνο που ενέχει η τεχνητή νοημοσύνη, ενώ άλλοι συμφώνησαν με τον κίνδυνο αλλά όχι με την προτεινόμενη στην επιστολή, λύση.

Ο Dan Hendrycks, εκτελεστικός διευθυντής του Center for AI Safety, δήλωσε ότι η συντομία της σημερινής δήλωσης αποσκοπούσε στην αποφυγή τέτοιων διαφωνιών. Ο Hendrycks περιέγραψε το μήνυμα ως "coming-out" για τις προσωπικότητες του κλάδου που ανησυχούν για τον κίνδυνο της τεχνητής νοημοσύνης. Πολλοί εμπειρογνώμονες επισημαίνουν τις ταχείες βελτιώσεις σε συστήματα όπως τα μεγάλα γλωσσικά μοντέλα, ως απόδειξη της αύξησης της νοημοσύνης μελλοντικά. Δηλώνουν ότι όταν τα συστήματα ΤΝ φτάσουν σε ένα ορισμένο επίπεδο πολυπλοκότητας, μπορεί να καταστεί αδύνατο να ελεγχθούν οι ενέργειές τους.

Άλλοι πάντως αμφισβητούν αυτές τις προβλέψεις και επισημαίνουν την αδυναμία των συστημάτων ΤΝ να χειριστούν ακόμη και σχετικά καθημερινές εργασίες όπως την οδήγηση ενός αυτοκινήτου. Παρά τις πολυετείς προσπάθειες και τις επενδύσεις δισεκατομμυρίων σε αυτόν τον ερευνητικό τομέα, τα πλήρως αυτοκινούμενα αυτοκίνητα απέχουν ακόμη πολύ από την πραγματικότητα. Παράλληλα τόσο οι υποστηρικτές του κινδύνου της τεχνητής νοημοσύνης όσο και οι σκεπτικιστές συμφωνούν ότι, ακόμη και χωρίς βελτιώσεις στις δυνατότητές τους, τα συστήματα τεχνητής νοημοσύνης παρουσιάζουν μια σειρά από απειλές στη σημερινή εποχή. Σε αυτές περιλαμβάνεται η χρήση τους ως σύστημα μαζικής επιτήρησης, η τροφοδοσία εσφαλμένων αλγορίθμων "προγνωστικής αστυνόμευσης" καθώς και η διευκόλυνση της δημιουργίας παραπληροφόρησης.

Σε επίπεδο Ευρωπαϊκής Ένωσης, η πρόταση κανονισμού για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη αναμένεται να ψηφιστεί τον επόμενο μήνα, με τον επικεφαλής της OpenAI, Sam Altman να εκφράζει τις ανησυχίες του, χωρίς να αποκλείει την αποχώρηση της εταιρείας του από την Ευρώπη, δήλωση που στη συνέχεια ανασκεύασε.

Διαβάστε ολόκληρο το άρθρο