Νέα έρευνα: Η τεχνητή νοημοσύνη θα μπορούσε να εξαφανίσει την ανθρωπότητα

11:31 19/9/2022 - Πηγή: Blueskytv

Ερευνητές της Google Deepmind και του Πανεπιστημίου της Οξφόρδης κατέληξαν στο συμπέρασμα ότι είναι πλέον «πιθανό» η προηγμένη τεχνητή νοημοσύνη να σημάνει το τέλος της ανθρωπότητας – ένα ζοφερό σενάριο που όλο και περισσότεροι ερευνητές αρχίζουν να προβλέπουν.

Μετά από χρόνια ανάπτυξης, οι αλγόριθμοι τεχνητής νοημοσύνης βρίσκονται σχεδόν παντού γύρω μας: από την αγορά ενός προϊόντος και τους ψηφιακούς προσωπικούς βοηθούς, στα ρομπότ, τα αυτόνομα οχήματα και τις διαγνώσεις ασθενειών και παθήσεων.

Ένα μακροχρόνιο ερώτημα που

απασχολεί τους ερευνητές και όχι μόνο, είναι αν μια προηγμένη τεχνητή νοημοσύνη θα μπορούσε να εξοντώσει την ανθρωπότητα. Οι ερευνητές στο Πανεπιστήμιο της Οξφόρδης και την Google DeepMind κατέληξαν στο συμπέρασμα ότι αυτό είναι ένα πιθανό σενάριο.

Η μελέτη, η οποία δημοσιεύθηκε τον περασμένο μήνα στο περιοδικό «AI Magazine» διερευνά πώς η τεχνητή νοημοσύνη θα μπορούσε να αποτελέσει σοβαρή απειλή για την ανθρωπότητα, εξετάζοντας τον τρόπο με τον οποίο τα συστήματα ανταμοιβής θα μπορούσαν να κατασκευαστούν τεχνητά.

Η ερευνητική ομάδα –αποτελούμενη από τον ανώτερο επιστήμονα της DeepMind Μάρκους Χάτερ και τους ερευνητές της Οξφόρδης Μάικλ Κόεν και Μάικλ Όσμπορν– υποστηρίζει ότι οι μηχανές θα αποκτήσουν τελικά κίνητρο να παραβιάζουν τους κανόνες που έθεσαν οι δημιουργοί τους για να ανταγωνίζονται για τους περιορισμένους πόρους ή την ενέργεια.

Όπως εξηγεί το δημοσίευμα του Vice, τα πιο επιτυχημένα μοντέλα τεχνητής νοημοσύνης σήμερα είναι γνωστά ως Aναγεννητικά Aνταγωνιστικά Δίκτυα (Generative Adversarial Networks, GAN). Πρόκειται για ζεύγη συστημάτων τεχνητής νοημοσύνης που έχουν εκπαιδευτεί να δημιουργούν περιεχόμενο και να ολοκληρώνουν εργασίες πιο γρήγορα από ένα σύστημα που λειτουργεί μόνο του. Αυτό που προτείνει η νέα μελέτη είναι ότι κάποια στιγμή στο μέλλον, μια προηγμένη τεχνητή νοημοσύνη που επιβλέπει κάποια σημαντική λειτουργία, θα μπορούσε να έχει κίνητρο να επινοήσει στρατηγικές εξαπάτησης για να πάρει την ανταμοιβή της με τρόπους που βλάπτουν την ανθρωπότητα.

«Σε έναν κόσμο με άπειρους πόρους, θα ήμουν εξαιρετικά αβέβαιος για το τι θα συνέβαινε. Σε έναν κόσμο με πεπερασμένους πόρους, υπάρχει αναπόφευκτος ανταγωνισμός για αυτούς τους πόρους», δήλωσε ο Κοέν σε συνέντευξή του στο «Vice». «Και αν ανταγωνίζεσαι ενάντια σε κάτι που είναι ικανό να σε ξεγελάσει, τότε δεν θα πρέπει να περιμένεις να κερδίσεις. Επιπλέον, θα έχει μια ακόρεστη όρεξη για περισσότερη ενέργεια», τόνισε ο ερευνητής.

Δεδομένου ότι η τεχνητή νοημοσύνη στο μέλλον θα μπορούσε να πάρει οποιεσδήποτε μορφές και να εφαρμόσει διαφορετικούς σχεδιασμούς, η μελέτη φαντάζεται σενάρια, σύμφωνα με τα οποία, ένα προηγμένο πρόγραμμα θα μπορούσε να παρέμβει για να πάρει την ανταμοιβή του χωρίς να επιτύχει τον στόχο του. Για παράδειγμα, μια τεχνητή νοημοσύνη μπορεί να θέλει να εξαλείψει τις πιθανές απειλές και να χρησιμοποιήσει όλη τη διαθέσιμη ενέργεια για να εξασφαλίσει τον έλεγχο της ανταμοιβής της.

«Υπό τις συνθήκες που μελετήσαμε, το συμπέρασμά μας είναι πολύ ισχυρότερο από εκείνο οποιασδήποτε προηγούμενης δημοσίευσης – μια υπαρξιακή καταστροφή δεν είναι απλώς δυνατή, αλλά πιθανή», έγραψε ο Κόεν στο Twitter.

Σύμφωνα πάντα με τη μελέτη, η ζωή στη Γη θα μετατραπεί σε ένα παιχνίδι μηδενικού αθροίσματος (zero-sum game) μεταξύ της ανθρωπότητας και της υπερ-ευφυούς μηχανής, η οποία θα προσπαθήσει να αξιοποιήσει όλους τους διαθέσιμους πόρους για να εξασφαλίσει την ανταμοιβή της και να προστατευτεί από τις κλιμακούμενες προσπάθειές μας να τη σταματήσουμε.

«Εάν χάσουμε αυτό το παιχνίδι θα αποβεί μοιραίο», αναφέρουν οι ερευνητές.

Ωστόσο, όσο θεωρητικές και αν είναι αυτές οι πιθανότητες, το σημαντικό είναι- όπως τονίζουν στη μελέτη τους οι ερευνητές- να προχωρήσουμε αργά προς τον στόχο μιας πιο προηγμένης τεχνητής νοημοσύνης.

Πηγή: ertnews.gr

Νέα έρευνα: Η τεχνητή νοημοσύνη θα μπορούσε να εξαφανίσει την ανθρωπότητα on BLUE SKY.