H πρώτη εκδήλωση ρατσισμού από τεχνητή νοημοσύνη: Εφαρμογή της Google αναγνώρισε ένα ζευγάρι μαύρων ως «γορίλες»

12:40 2/7/2015 - Πηγή: Huffington Post Greece

Θύματα ρατσιστικού σχολίου διά «στόματος» τεχνητής νοημοσύνης φαίνεται ότι έπεσε πρόσφατα ένα ζευγάρι μαύρων, οι οποίοι από ανθρώπινα όντα «υποβαθμίστηκαν» σε γορίλες.

Ο λόγος για μια διαδικτυακή εφαρμογή εικόνων της Google, το Google Photos, η οποία προσθέτει αυτόματα ετικέτες σε φωτογραφίες που επιλέγουν να ανεβάσουν οι χρήστες.
Συγκεκριμένα, το ζευγάρι των

μαύρων ανέβασε στο Google Photos φωτογραφίες τους, χωρίς να έχουν ιδέα τι τους περίμενε. Μόλις οι φωτογραφίες ανέβηκαν, η εφαρμογή πρόσθεσε αυτόματα ετικέτες σε καθεμία από αυτές με βάση το «θέμα» των εικόνων. Σε μία φαίνεται η κοπέλα να οδηγεί το ποδήλατό της και στην αντίστοιχη ετικέτα αναγράφεται η λέξη «ποδήλατα». Ωστόσο, σε μία φωτογραφία όπου φαίνονται από κοντά τα πρόσωπα του ζευγαριού, η ετικέτα που επιλέχθηκε ήταν «γορίλες».

Όπως ήταν αναμενόμενο ακολούθησαν πληθώρα επικριτικών σχολίων σε βάρος της Google, όχι μόνο από το ζευγάρι που δημοσίευσε την εν λόγω φωτογραφία στα μέσα κοινωνικής δικτύωσης, αλλά και από άλλους χρήστες οι οποίοι χαρακτήρισαν το περιστατικό αυτό ως η πρώτη εκδήλωση ρατσισμού από τεχνητή νοημοσύνη.

Η Google από την πλευρά της έσπευσε να ζητήσει δημόσια συγνώμη, χαρακτηρίζοντας ως «κακοήθεια» το σφάλμα αυτό.
«Δεν είναι διόλου εντάξει αυτό», δήλωσε ο Γιονάταν Ζούνγκερ, ανώτερο στέλεχος της Google όταν ενημερώθηκε για το συμβάν, αναφέρει σε δημοσίευμά του το βρετανικό ειδησεογραφικό δίκτυο BBC. «Ήταν ένα από τα σφάλματα που εύχεσαι να μην είχαν συμβεί ποτέ», πρόσθεσε ο ίδιος λέγοντας ότι η Google έχει ήδη λάβει μέτρα προκειμένου να διορθωθεί το πρόβλημα ούτως ώστε να μην χρειαστεί να το αντιμετωπίσουν και άλλοι χρήστες.

Ο Ζούνγκερ διαβεβαίωσε επίσης ότι η Google εργάζεται πάνω «σε διορθώσεις γύρω από τη γλωσσολογία και την αναγνώριση εικόνων -να είναι δηλαδή σε θέση η εφαρμογή να αναγνωρίζει σκουρόχρωμα πρόσωπα».

Πάντως, αυτή δεν είναι η πρώτη φορά που το Google Photos μπερδεύει ένα είδος με ένα άλλο. Όπως αναφέρει το BBC, πριν από λίγο καιρό είχε επίσης παρατηρηθεί ότι όταν χρήστες ανέβαζαν φωτογραφίες τους με σκυλιά, το Google Photos μπέρδευε τα τετράποδα κατοικίδια με άλογα, δίνοντάς τους αυτή την ετικέτα.

Οι χρήστες έχουν τη δυνατότητα να αφαιρέσουν ή να διορθώσουν τις ετικέτες που προστίθενται αυτόματα στις φωτογραφίες, κάτι που «βοηθά» το πρόγραμμα να γίνεται με την πάροδο του χρόνου περισσότερο ακριβές. Ωστόσο, η Google παραδέχτηκε ότι το πρόσφατο αυτό σφάλμα αποτελεί ιδιαίτερα σοβαρό και λεπτό ζήτημα.

«Είμαστε αηδιασμένοι και ειλικρινά λυπούμαστε για αυτό που συνέβη», δήλωσε εκπρόσωπος της εταιρείας στο BBC. «Λάβαμε άμεσα μέτρα προκειμένου να αποφευχθεί η επανάληψη αυτού του περιστατικού. Προφανώς υπάρχει ακόμα πολλή δουλειά που πρέπει να γίνει με την αυτόματη επισήμανση των εικόνων και αναζητούμε τρόπους με τους οποίους θα αποφευχθεί η επανάληψη τέτοιου είδους σφαλμάτων στο μέλλον», πρόσθεσε η ίδια.

(Με πληροφορίες από ΑΠΕ-ΜΠΕ)

-- This feed and its contents are the property of The Huffington Post, and use is subject to our terms. It may be used for personal consumption, but may not be distributed on a website.