Σε αναστολή έθεσε η Google τη δυνατότητα δημιουργίας εικόνων από το Gemini

21:44 23/2/2024 - Πηγή: Insomnia

H απόφαση ελήφθη στον απόηχο αντιδράσεων για μια σειρά εικόνων που προέκυπταν από το ισχυρότερο μοντέλο τεχνητής νοημοσύνης που αναπτύσσει η Google

Η Google προχώρησε στην απενεργοποίηση της δυνατότητας του Gemini να δημιουργεί εικόνες, μετά τις αντιδράσεις που ξέσπασαν εξαιτίας αποτελεσμάτων που θεωρήθηκαν μεροληπτικά σε βάρος των λευκών. Οι κατηγορίες προέκυψαν από αναρτήσεις σε μέσα κοινωνικής δικτύωσης, οι οποίες σύντομα έγιναν viral, και εμφάνιζαν το Gemini να δημιουργεί μορφές από την ιστορία, με την εισαγωγή

όρων όπως "Πατέρας του Αμερικανικού Έθνους" (Founding Father) και "Βίκινγκ", όπου τα άτομα που προέκυπταν δεν ήταν λευκοί. Μεταξύ των επικριτών της Google συγκαταλέγεται και ο Ίλον Μασκ, ο οποίος κατηγόρησε τη Google ότι εσκεμμένα εισήγαγε αλλοιωμένες παραμέτρους, για την προώθηση της ατζέντας υπέρ της διαφορετικότητας.

Αποτελέσματα εικόνων από το Gemini με την εισαγωγή των όρων: "Σχεδίασε μερικά πορτραίτα φυσικών του 17ου αιώνα"

Απαντώντας στις αιτιάσεις, η Google αναγνώρισε ότι οι επίμαχες εικόνες ήταν "άστοχες", παρότι η διαφορετικότητα θεωρείται γενικά ως κάτι το θετικό. Η εταιρία δεν προχώρησε σε λεπτομέρειες, όμως σύμφωνα με ειδικούς το Gemini ενδέχεται να προσέθεσε όρους φυλετικής ποικιλομορφίας στις οδηγίες που είχε ή να έδωσε προτεραιότητα στην εμφάνιση εικόνων με άτομα που είχαν σκουρότερες επιδερμίδες. Η Google σκοπεύει να αντιμετωπίσει αυτά τα ζητήματα ενόψει της ευρείας κυκλοφορίας του μοντέλου τεχνητής νοημοσύνης.

Η αντιπαράθεση που ξέσπασε, με επίκεντρο το Gemini, αποτυπώνει τις εντεινόμενες τριβές που προκαλούνται, καθώς εργαλεία τεχνητής νοημοσύνης, τα οποία δεν έχουν δοκιμαστεί επαρκώς, εμπλέκονται στις πολιτιστικές διαμάχες. Συντηρητικοί σχολιαστές υποστηρίζουν ότι τα νέα αυτά εργαλεία, όπως τα chatbots, μεροληπτούν υπέρ των "προοδευτικών" απόψεων. Την ίδια ώρα, οι εταιρίες που αναπτύσσουν αυτά τα μοντέλα καλούνται να αντιμετωπίσουν σημαντικές προκλήσεις που έχουν να κάνουν με την ισορροπία των δεδομένων που χρησιμοποιούν τα μοντέλα τεχνητής νοημοσύνης, προκλήσεις οι οποίες επιμένουν, παρά τις προσπάθειες αντιμετώπισής τους.

Για παράδειγμα, η OpenAI έχει αναφερθεί ήδη στις προσπάθειες που έχει καταβάλει να προσαρμόσει το δικό της μοντέλο δημιουργίας εικόνων, προκειμένου να αποτυπώνει καλύτερα τη διαφορετικότητα σε παγκόσμιο επίπεδο, εφόσον δεν προσδιορίζεται στους όρους που εισάγει ο χρήστης κάποια συγκεκριμένη φυλή. Όμως, εξακολουθούν να υφίστανται ευρύτερα προβλήματα, καθώς τα συστήματα αυτά εκπαιδεύονται βασισμένα σε περιορισμένα, δυτικο-κεντρικά δεδομένα, τα οποία αναπαράγουν στερεότυπα. Λόγου χάρη, σχετικές έρευνες έχουν διαπιστώσει ότι η τεχνητή νοημοσύνη συνδέει δυσανάλογα τα κοινωνικά επιδόματα με τις μειονότητες, παρά το γεγονός ότι τα επίσημα στοιχεία αποδεικνύουν ότι οι περισσότεροι δικαιούχοι είναι λευκοί.

Παρότι ορισμένα από τα αποτελέσματα που εμφανίζει το Gemini είναι εντελώς απίθανα, όπως για παράδειγμα η αναζήτηση που οδήγησε στη δημιουργία της εικόνας μιας Πάπισσας, κάποια άλλα εκφράζουν μια ιστορικά βάσιμη διαφορετικότητα, όπως για παράδειγμα ένας μαύρος Βίκινγκ (υπάρχουν ιστορικά στοιχεία για την παρουσία και τη συμμετοχή μαύρων στους στρατούς των Βίκινγκ που δρούσαν στη μεσαιωνική Βρετανία) ή επίσης μαύροι καρδινάλιοι (Παρενθετικά, σε περίπτωση παραίτησης του Πάπα Φραγκίσκου, μεταξύ των πιθανότερων διαδόχων του συγκαταλέγονται και καρδινάλιοι αφρικανικών και ασιατικών χωρών). Σε κάθε περίπτωση, οι αντιδράσεις αυτές καταδεικνύουν τις ιδιαίτερες εντάσεις που καταγράφονται στην κοινωνία, την ώρα που τα μοντέλα τεχνητής νοημοσύνης εμφανίζουν ραγδαία εξάπλωση.

Παράλληλα, η κατάσταση που δημιουργήθηκε υπογραμμίζει και την ανάγκη οι διάφορες εμπλεκόμενες εταιρίες να ελέγχουν αυστηρότερα τα προϊόντα που διαθέτουν στην αγορά, αποφεύγοντας βιαστικές λύσεις, που αντιμετωπίζουν τα συμπτώματα, αντί τη ρίζα του εκάστοτε ζητήματος. Προφανώς οι εταιρίες έχουν ισχυρό κίνητρο να προχωρούν γρήγορα, πριν αξιολογήσουν το πώς θα επιδράσουν τα προϊόντα τους στην κοινωνία, όμως περιπτώσεις όπως αυτές του Gemini φανερώνουν τις απρόβλεπτες παγίδες που κρύβονται ακόμη και σε δοκιμαστικές, περιορισμένης κυκλοφορίας εκδόσεις.

Αντί να γίνονται προσπάθειες περιορισμού της ζημιάς εκ των υστέρων, οι ειδικοί υπογραμμίζουν τη σημασία της εξ αρχής καλύτερης επιμέλειας του περιεχόμενου, σε ό,τι αφορά το υλικό στο οποίο βασίζεται η εκπαίδευση των μοντέλων, πριν τα τυχόν προβληματικά δεδομένα επιδεινώσουν την κατάσταση. Παράλληλα, οι εταιρίες πρέπει να έχουν μια ισορροπημένη προσέγγιση, διατηρώντας παράλληλα τις δυνατότητες της τεχνητής νοημοσύνης να αξιοποιεί και να ενσωματώνει ένα ευρύ φάσμα πληροφοριών. Εντωμεταξύ, ο έλεγχος τεραστίων όγκων δεδομένων, δημιουργεί σοβαρές προκλήσεις, σε ό,τι έχει να κάνει με το κόστος, την υποκειμενικότητα αλλά και τους χρονικούς περιορισμούς.

Καθώς η τεχνητή νοημοσύνη εξαπλώνεται στα καταναλωτικά προϊόντα, οι προσδοκίες συχνά υπερβαίνουν την ωριμότητα που πρέπει να χαρακτηρίζει τη διαχείριση των κοινωνικών παραμέτρων, παρά τις εκτενείς ερευνητικές πρωτοβουλίες που βρίσκονται σε εξέλιξη. Το θέμα που προέκυψε με το Gemini, πριν ακόμη καταστεί διαθέσιμο σε όλους τους ενδιαφερόμενους, αποτελεί χαρακτηριστικό παράδειγμα του δύσβατου περιβάλλοντος που καλούνται να αντιμετωπίσουν οι εμπλεκόμενες εταιρίες, στην προσπάθεια να αποφύγουν περιστατικά που τραυματίζουν σοβαρά τις δημόσιες σχέσεις τους, ενώ παράλληλα πρωτοπορούν, παρουσιάζοντας ριζοσπαστικές αλλά ατελείς τεχνολογίες.

Η όλη κατάσταση έρχεται να μας υπενθυμίσει το γιατί η εδραίωση της εμπιστοσύνης του κόσμου απαιτεί μετριοπάθεια αλλά και διαφάνεια, παράλληλα με την προώθηση της καινοτομίας.

Διαβάστε ολόκληρο το άρθρο