Η νέα AI της Google δεν θα μετατρέπει κείμενο σχετικό με εγκλήματα, πορνογραφία και ρατσισμό σε βίντεο

11:45 12/10/2022 - Πηγή: Insomnia

Η Google εργάζεται στην ανάπτυξη μίας νέας «video-generating» Τεχνητής Νοημοσύνης (AI).

Η Τεχνητή Νοημοσύνη σχεδιάστηκε για να μετατρέπει κείμενο σε βίντεο και έχει την ονομασία «Imagen Video». Η γνωστή εταιρεία έκανε γνωστό πάντως ότι δεν θα επιτρέψει τη μετατροπή κειμένου που σχετίζεται με το έγκλημα, τον ρατσισμό ή την πορνογραφία από την «Imagen Video».

H Google εργάζεται εδώ και πολλά χρόνια σε διάφορα συστήματα Τεχνητής Νοημοσύνης που έχουν σχεδιαστεί για την παραγωγή εικόνων από μηνύματα κειμένου. Ένα από αυτά τα συστήματα είναι και το Dream Fields, το οποίο πρωτοπαρουσιάστηκε το 2021 και παράγει τρισδιάστατες εικόνες.

Όμως, τώρα, αρχίζουμε να ακούμε για το σύστημα «Imagen Video», και ενδεχομένως για τους λάθος λόγους, με την Google να αναφέρει σε μία πρόσφατη ερευνητική εργασία που δημοσίευσε για το σύστημα Imagen Video ότι δεν πρόκειται να το διαθέσει ευρέως ωσότου διορθωθούν όλα τα παραπάνω ζητήματα.

Στην ενότητα «Περιορισμοί και κοινωνικός αντίκτυπος» στο κείμενο που δόθηκε στη δημοσιότητα, η Google επισημαίνει ότι η διάθεση μοντέλων τεχνητής νοημοσύνης όπως το Imagen Video έχει αντίκτυπο στην κοινωνία, τόσο θετικό όσο και αρνητικό, καθώς το σύστημα τεχνητής νοημοσύνης αποτελεί στην ουσία έναν ενισχυτή της ανθρώπινης δημιουργικότητας. Η Google εξηγεί ότι τέτοια «generative» μοντέλα Τεχνητής Νοημοσύνης χρησιμοποιούνται πολλές φορές καταχρηστικά από άτομα για την παραγωγή ψευδούς, ακατάλληλου, και επιβλαβούς περιεχομένου, που πολλές φορές προάγει το μίσος.

Έχοντας επίγνωση των παγίδων, η Google δηλώνει ότι έχει λάβει μέτρα για να ελαχιστοποιήσει τις όποιες ανησυχίες και πως κατά τη διάρκεια των εσωτερικών δοκιμών, εφάρμοσε φιλτράρισμα κειμένου και φιλτράρισμα περιεχομένου βίντεο για να αποτρέψει την παραγωγή επιβλαβούς περιεχομένου από την Τεχνητή Νοημοσύνη.

Δυστυχώς, δεν είναι τόσο απλό, ακόμα και για την Google, να δώσει τις κατευθυντήριες γραμμές στην Τεχνητή Νοημοσύνη ώστε να την αποτρέψει από το να παράγει περιεχόμενο το οποίο οι άνθρωποι ενδέχεται να θεωρήσουν προσβλητικό. Η Google πάντως δηλώνει ότι το σύστημα εκπαιδεύτηκε σε «προβληματικά δεδομένα» και ότι, ενώ τα αποτελέσματα των εσωτερικών δοκιμών δείχνουν ότι μεγάλο μέρος του προβληματικού περιεχομένου καταργήθηκε ή αποτράπηκε, εντούτοις εξακολουθεί να παράγει περιεχόμενο που ορισμένοι μπορεί να θεωρήσουν στερεοτυπικό ή κοινωνικά προκατειλημμένο. Δεδομένου ότι οι κοινωνικές προκαταλήψεις και τα στερεότυπα παραμένουν επί του παρόντος, η Google αποφάσισε να μην διαθέσει το μοντέλο Τεχνητής Νοημοσύνης «Imagen Video» ή τον πηγαίο κώδικα του μέχρι να αντιμετωπίσει πλήρως ή έστω να μετριάσει τα συγκεκριμένα ζητήματα.

Η Google δικαίως ανησυχεί για τη δύναμη του μοντέλου «Imagen Video», και ότι το γεγονός ότι παραδέχεται στην ερευνητική της εργασία ότι αγωνίζεται να μειώσει τις πιθανότητες παραγωγής επιβλαβούς περιεχομένου από την Τεχνητή Νοημοσύνη, υπογραμμίζει έναν απλό αλλά σημαντικό παράγοντα για τα συστήματα τεχνητής νοημοσύνης που εκπαιδεύονται χρησιμοποιώντας μεγάλες δεξαμενές δεδομένων. Αν και μπορεί να αποτελεί εξαιρετικά μεγάλο επίτευγμα η δημιουργία ενός συστήματος Τεχνητής Νοημοσύνης που είναι ικανό να παράγει περιεχόμενο βίντεο από μηνύματα κειμένου, πρέπει να ληφθεί υπόψη και ο αντίκτυπος του στην κοινωνία. Ευτυχώς, αυτό είναι κάτι που φαίνεται να λαμβάνει υπόψη της η Google.

Διαβάστε ολόκληρο το άρθρο