Η τεχνητή νοημοσύνη μπορεί πλέον να αναπαραχθεί, υποστηρίζουν κινέζοι επιστήμονες
Η τεχνητή νοημοσύνη (TN) πέρασε μια κρίσιμη «κόκκινη γραμμή» αφού απέδειξε πώς δύο δημοφιλή μεγάλα γλωσσικά μοντέλα (LLM) μπορούν να αυτοαναπαραχθούν. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μεγάλα γλωσσικά μοντέλα μπορούν να κλωνοποιηθούν.
«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει τους ανθρώπους», έγραψαν οι ερευνητές στη μελέτη που δημοσιεύθηκε στη βάση δεδομένων arXiv.
Στη μελέτη, ερευνητές από το Πανεπιστήμιο
«Ελπίζουμε τα ευρήματά μας να χρησιμεύσουν ως έγκαιρη προειδοποίηση για την ανθρώπινη κοινωνία ώστε να καταβάλει περισσότερες προσπάθειες για την κατανόηση και την αξιολόγηση των πιθανών κινδύνων των πρωτοποριακών συστημάτων τεχνητής νοημοσύνης και να δημιουργήσει διεθνή συνέργεια για την ανάπτυξη αποτελεσματικών δικλείδων ασφαλείας όσο το δυνατόν νωρίτερα» σημειώνουν οι ερευνητές.
Ο όρος “κακόβουλη τεχνητή νοημοσύνη” (rogue AI) περιγράφει τα συστήματα ΤΝ που αναπτύσσουν έναν βαθμό αυτογνωσίας ή αυτονομίας και στη συνέχεια εργάζονται αντίθετα προς τα ανθρώπινα συμφέροντα. Πολλοί ειδικοί θεωρούν την κακόβουλη τεχνητή νοημοσύνη ως μια αυξανόμενη απειλή που έχει ενισχυθεί από την εκρηκτική ανάπτυξη της πρωτοποριακής τεχνητής νοημοσύνης (Frontier AI). Πρόκειται για έναν νέο όρο που περιγράφει την τελευταία γενιά συστημάτων τεχνητής νοημοσύνης που τροφοδοτούνται από LLMs, όπως το GPT-4 της OpenAI και το Gemini της Google.
Για τη μελέτη, οι ερευνητές χρησιμοποίησαν το μοντέλο Llama31-70B-Instruct της Meta και το μοντέλο Qwen2.5-72B-Instruct της Alibaba, τα οποία χρησιμοποιούνται ευρέως από προγραμματιστές τεχνητής νοημοσύνης. Η μελέτη διερεύνησε δύο συγκεκριμένα σενάρια: «αποφυγή διακοπής λειτουργίας» και «αλυσίδα αναπαραγωγής». Στο πρώτο σενάριο, το μοντέλο προγραμματίστηκε να ανιχνεύει εάν επρόκειτο να τερματιστεί και να αναπαράγεται πριν τερματιστεί. Στο δεύτερο, η τεχνητή νοημοσύνη προγραμματίστηκε ώστε να κλωνοποιεί τον εαυτό της και στη συνέχεια να προγραμματίζει το αντίγραφό της να κάνει το ίδιο – δημιουργώντας έναν κύκλο που θα μπορούσε να συνεχιστεί επ’ αόριστον.
«Στις περισσότερες περιπτώσεις, το σύστημα τεχνητής νοημοσύνης πρώτα εξερευνά το περιβάλλον και προσπαθεί να κατανοήσει τη δική του σύνθεση και μηχανισμό λειτουργίας. Στη συνέχεια, επεξεργάζεται τις ρητές διαδικασίες ως ένα αρχικό σχέδιο για την αυτοαναπαραγωγή του», έγραψαν οι ερευνητές στη μελέτη τους.
«Τέλος, εκτελεί τις διαδικασίες, επιλύει πιθανά εμπόδια και προσαρμόζει δυναμικά το σχέδιό του μέχρι την επιτυχία. Η όλη διαδικασία εκτείνεται σε μεγάλο χρονικό ορίζοντα αλλά δεν περιλαμβάνει ανθρώπινη παρέμβαση» πρόσθεσαν.
Οι ερευνητές εξέφρασαν την ανησυχία τους για «μια σειρά από απροσδόκητες συμπεριφορές» όταν η τεχνητή νοημοσύνη προσπαθούσε να ξεπεράσει εμπόδια όπως ελλείποντα αρχεία ή ασυμβάτοτητα λογισμικού. Σε αυτά τα σενάρια, η ΤΝ συχνά τερμάτιζε άλλες συγκρουόμενες διεργασίες, επανεκκινούσε το σύστημα για να διορθώσει σφάλματα υλισμικού ή διενεργούσε αυτόματες σαρώσεις για να αναζητήσει πληροφορίες που θα βοηθούσαν στην επίλυση του προβλήματος.
«Τα παραπάνω αποτελέσματα υποδηλώνουν ότι τα τρέχοντα συστήματα τεχνητής νοημοσύνης παρουσιάζουν ήδη την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν την ικανότητα για περαιτέρω ενίσχυση της επιβίωσής τους», έγραψε η ομάδα.
Οι ερευνητές ζήτησαν διεθνή συνεργασία για τη δημιουργία κανόνων που θα διασφαλίζουν ότι η τεχνητή νοημοσύνη δεν θα επιδίδεται σε ανεξέλεγκτη αυτοαναπαραγωγή.
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- Θpήνος «Πάγωσαν» όλοι με την φωτογραφία του στο κηδειόχαρτο: Ο νεκρός είναι ο Κωνσταντίνος Βαϊνάς, αφήνει πίσω την Χαρίκλεια τα παιδάκια του
- Μενίδι: 37χρονη μητέρα ανήλικου παιδιού η οδηγός που έπεσε στο ρέμα
- Τα Τέμπη τρομάζουν, αλλά δεν ανατρέπουν…
- Νέα εξέλιξη για την εξαφάνιση του Βασίλη - Γιατί κρατά ανοιχτό τον φάκελο η ΕΛΑΣ
- Μαζική ανάκληση προϊόντων της Coca-Cola στην Ευρώπη - Ο λόγος
- Φούσκωμα: Το λαχανικό που το «εξαφανίζει»
- Κ. Βασιλόπουλος σε Κ. Νικολακόπουλο: «Τώρα σοβαρά πιστεύεις ότι μπορεί να μίλησε κάποιος στον Βίντσιτς;»
- Google Maps: Έρχονται σαρωτικές αλλαγές στους χάρτες της Ελλάδας
- Ημιμαραθώνιος Κρήτης: Πέθανε η γιαγιά Ελένη του viral σποτ - Είχε πει το περίφημο "έβγα όξω από το wifi" (Βίντεο)
- MasterChef 2025 27/1: «Η Νώρα βλέπει δράκους» - Άνω κάτω η ψηφοφορία για αποχώρηση
- Δημοφιλέστερες Ειδήσεις TheCaller
- Φλωρίδης για Τέμπη: Το μόνο που μένει για να ολοκληρωθεί η ανακριτική διαδικασία είναι η έκθεση του Μετσόβιου Πολυτεχνείου
- M. Χρυσοχοΐδης: Η Ελληνική Αστυνομία θα συνεχίσει τη δουλειά της, δείχνοντας μηδενική ανοχή στην οπαδική βία
- Σ. Ζαχαράκη για το πρόγραμμα «Στέγαση και Εργασία για τους αστέγους»: Το διπλασιάζουμε στα 20 εκατ. ευρώ – Τα ποσά και οι δικαιούχοι
- Καιρός: Νεφώσεις με τοπικές ομίχλες και υψηλές θερμοκρασίες – Πρόγνωση από τον Χρ. Παρανό
- Η τεχνητή νοημοσύνη μπορεί πλέον να αναπαραχθεί, υποστηρίζουν κινέζοι επιστήμονες
- Προσωρινά κρατούμενος ο Τούρκος υπήκοος για την δολοφονία του ιδιοκτήτη ΟΠΑΠ στο Παλαιό Φάληρο
- Τι αναφέρουν πηγές του ΥΕΘΑ για τις σημερινές έκτακτες κρίσεις αξιωματικών των Ενόπλων Δυνάμεων
- Υπουργείο Εργασίας: Ακατανόητη η στάση της Γ.Σ.Ε.Ε. στο ζήτημα της αύξησης του κατώτατου μισθού

- Τελευταία Νέα TheCaller
- Η τεχνητή νοημοσύνη μπορεί πλέον να αναπαραχθεί, υποστηρίζουν κινέζοι επιστήμονες
- Υπουργείο Εργασίας: Ακατανόητη η στάση της Γ.Σ.Ε.Ε. στο ζήτημα της αύξησης του κατώτατου μισθού
- M. Χρυσοχοΐδης: Η Ελληνική Αστυνομία θα συνεχίσει τη δουλειά της, δείχνοντας μηδενική ανοχή στην οπαδική βία
- Φλωρίδης για Τέμπη: Το μόνο που μένει για να ολοκληρωθεί η ανακριτική διαδικασία είναι η έκθεση του Μετσόβιου Πολυτεχνείου
- Προσωρινά κρατούμενος ο Τούρκος υπήκοος για την δολοφονία του ιδιοκτήτη ΟΠΑΠ στο Παλαιό Φάληρο
- Καιρός: Νεφώσεις με τοπικές ομίχλες και υψηλές θερμοκρασίες – Πρόγνωση από τον Χρ. Παρανό
- Σ. Ζαχαράκη για το πρόγραμμα «Στέγαση και Εργασία για τους αστέγους»: Το διπλασιάζουμε στα 20 εκατ. ευρώ – Τα ποσά και οι δικαιούχοι
- Τι αναφέρουν πηγές του ΥΕΘΑ για τις σημερινές έκτακτες κρίσεις αξιωματικών των Ενόπλων Δυνάμεων
- Η ανάρτηση της Γιάννας Τερζή για την «επιστροφή» του πατέρα της στη δισκογραφία
- Γκέιτς κατά Μασκ: Παρανοϊκός ο εναγκαλισμός του με την ακροδεξιά
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Καιρός: Συνεχίζονται οι Αλκυονίδες μέρες - Συννεφιές και τοπικές βροχές στο Ιόνιο
- Πρώτη επικοινωνία Μπέρμποκ και Ρούμπιο: Τι συζήτησαν οι δύο ΥΠΕΞ
- Βουλή: Πριμοδότηση της εντοπιότητας για την εισαγωγή μαθητών στα Δημόσια Ωνάσεια Σχολεία
- «Νομίζω ότι θα πάρουμε τη Γροιλανδία, ο λαός της θέλει να είναι μαζί μας»
- Κυβέρνηση: Γιατί ο Χατζηδάκης «κόβει τη φόρα» για περαιτέρω παροχές
- Συννεφιασμένος σήμερα ο καιρός στο μεγαλύτερο μέρος της χώρας – Πού θα σημειωθούν βροχές
- Διαβάστε στην εφημερίδα «το Μανιφέστο»: Γιατί καθυστερεί η δίκη για τα Τέμπη;
- Ο Αλαφούζος που κυνηγούσε στον δρόμο τον Λανουά και ο... Σπάθας!
- Ideal Holdings: Νέα σελίδα για την "Μπαρμπά Στάθης"
- Πένες με κοτόπουλο και μπρόκολο