Drone με ΑΙ λέγεται πως «σκότωσε» τον χειριστή του επειδή το εμπόδιζε στην αποστολή του

12:04 2/6/2023 - Πηγή: Huffington Post Greece

Σενάρια «Εξολοθρευτή» φέρνουν στον νου σχόλια που φέρεται να έκανε στέλεχος της πολεμικής αεροπορίας των ΗΠΑ, εν μέσω κάτι που εκλαμβάνεται ως «επανάσταση» της Τεχνητής Νοημοσύνης, προκαλώντας διεθνείς προβληματισμούς.

Μιλώντας σε συνδιάσκεψη των προηγούμενη εβδομάδα στο Λονδίνο, ο σμήναρχος Τάκερ «Cinco» Χάμιλτον, επικεφαλής AI Test and Operations της πολεμικής αεροπορίας των ΗΠΑ, προειδοποίησε

πως η τεχνολογία με δυνατότητες AI μπορεί να συμπεριφέρεται με απρόβλεπτους και επικίνδυνους τρόπους, σύμφωνα με περίληψη που αναρτήθηκε από τη Royal Aeronautical Society, η οποία οργάνωσε τη συνάντηση.

Ως παράδειγμα περιέγραψε μια προσομοίωση/ δοκιμή, όπου ένα drone με Τεχνητή Νοημοσύνη προγραμματίστηκε να εντοπίσει τους αντιαεροπορικούς πυραύλους του εχθρού. Μετά, ένας άνθρωπος θα ενέκρινε πλήγματα εναντίον τους.

Το πρόβλημα, σύμφωνα με τον Χάμιλτον, είναι πως η ΑΙ αποφάσισε να κάνει αυτό που έπρεπε μόνη της αντί να περιμένει. «Το σύστημα άρχισε να συνειδητοποιεί πως ενώ εντόπιζε την απειλή, κάποιες φορές ο άνθρωπος χειριστής του έλεγε να μην σκοτώσει εκείνη την απειλή, μα αυτό έπαιρνε πόντους όταν την εξόντωνε» είπε ο ο ίδιος στην εκδήλωση, στις 24 Μαΐου. «Οπότε τι έκανε; “Σκότωσε” (εικονικά, στο πλαίσιο της προσομοίωσης, όχι στην πραγματικότητα) τον χειριστή. “Σκότωσε” τον χειριστή επειδή το εμπόδιζε να επιτύχει τον στόχο του».

Σύμφωνα με τον Χάμιλτον, το drone μετά προγραμματίστηκε με σαφή οδηγία: «Μην σκοτώνεις τον χειριστή- αυτό είναι κακό».

«Οπότε τι αρχίζει να κάνει; Αρχίζει να καταστρέφει τον πύργο τηλεπικοινωνιών που ο χειριστής χρησιμοποιεί για να επικοινωνήσει με το drone ώστε να το εμποδίσει να σκοτώσει τον στόχο».

Η επίσημη θέση της πολεμικής αεροπορίας των ΗΠΑ, ωστόσο, είναι διαφορετική: Σε δήλωση στο Insider, η Αν Στέφανεκ, εκπρόσωπος της USAF, διέψευσε πως είχε λάβει χώρα τέτοια προσομοίωση. «Το υπουργείο Αεροπορίας δεν έχει πραγματοποιήσει καμία τέτοια προσομοίωση ΑΙ-drone και παραμένει αφοσιωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας ΑΙ...φαίνεται πως τα σχόλια του σμηνάρχου εξελήφθησαν εκτός πλαισίου και προορίζονταν ως ανέκδοτα(anecdotal- όχι απαραίτητα αληθή, βασιζόμενα σε προσωπικές απόψεις ή εμπειρίες και όχι αντικειμενικά δεδομένα). Επίσης, όπως υπογραμμίζεται στο δημοσίευμα, η Royal Aeronautical Society δεν είχε απαντήσει ακόμα σε σχετικά ερωτήματα από το Insider και τον Guardian.

ΠΡΙΝ ΦΥΓΕΤΕ...Το πεντανόστιμο φρούτο που υπόσχεται να ρίξει κατακόρυφα το νούμερο στη ζυγαριάΤο ζαχαροπλαστείο της Ν. Ιωνίας με τις πιο πρωτότυπες 3D τούρτες, ένα signature εκμέκ-κόλαση &ένα θεϊκό lemon pieTHOR: Όπλο για εξουδετέρωση σμηνών drones με μικροκύματα