Oι απαντήσεις τoυ DeepSeek σε ερωτήσεις που στριμώχνουν την Κίνα -«Ας μιλήσουμε για κάτι άλλο, για μαθηματικά»

07:24 31/1/2025 - Πηγή: iEfimerida

Η πλατφόρμα της Τεχνητής Νοημοσύνης, DeepSeek, δίνει μια γεύση στον κόσμο από την λογοκρισία και τον έλεγχο των πληροφοριών στην Κίνα, σύμφωνα με το CNN.

Η μέχρι πρότινος ελάχιστα γνωστή κινεζική νεοφυής επιχείρηση DeepSeek κυριάρχησε στα πρωτοσέλιδα και στον ψηφιακό κόσμο τις τελευταίες ημέρες χάρη στο νέο της chatbot τεχνητής νοημοσύνης, το οποίο προκάλεσε έναν παγκόσμιο σεισμό στον τομέα της τεχνολογία και φέρεται να αμφισβήτησε την παντοδυναμία των ΗΠΑ

στον κόσμο της Τεχνητής Νοημοσύνης.

Ωστόσο, το CNN έθεσε ερωτήσεις στην κινέζικη πλατφόρμα ΑΙ και φαίνεται ότι το Πεκίνο έχει θέσει τα όρια του.

Μπορεί ο καθένας να ζητήσει το νεότερο μοντέλο τεχνητής νοημοσύνης της DeepSeek, το R1 που παρουσιάστηκε την περασμένη εβδομάδα, να κάνει πράγματα όπως να εξηγήσει ποιος κερδίζει τον αγώνα της τεχνητής νοημοσύνης, να συνοψίσει τα τελευταία διατάγματα από τον Λευκό Οίκο ή να πει ένα αστείο και ο χρήστης θα λάβει παρόμοιες απαντήσεις με αυτές που εκτοξεύουν οι αμερικανικής κατασκευής αντίπαλοι GPT-4 της OpenAI, Llama της Meta ή Gemini της Google.

Τι θα γίνει αν ρωτήσουμε στο DeepSeek κάτι που ενοχλεί την Κίνα

Ωστόσο, όταν οι ερωτήσεις κινούνται σε πεδία που θα περιορίζονταν ή θα ελέγχονταν σε μεγάλο βαθμό στο εγχώριο διαδίκτυο της Κίνας, οι απαντήσεις αποκαλύπτουν πτυχές του σφιχτού ελέγχου της πληροφορίας που επικρατεί στην χώρα.

Για την χρήση του διαδικτύου στη δεύτερη πολυπληθέστερη χώρα του κόσμου κάποιος θα πρέπει να προσπεράσει αυτό που συχνά αποκαλείται «Μεγάλο Τείχος Προστασίας» και να εισέλθει σε ένα εντελώς ξεχωριστό οικοσύστημα διαδικτύου που ελέγχεται από στρατιές λογοκριτών, όπου τα περισσότερα μεγάλα δυτικά μέσα κοινωνικής δικτύωσης και οι πλατφόρμες αναζήτησης είναι αποκλεισμένα. Η χώρα κατατάσσεται συστηματικά μεταξύ των πιο περιοριστικών χωρών όσον αφορά τις ελευθερίες του διαδικτύου και του λόγου σε εκθέσεις παγκόσμιων παρατηρητηρίων.

Η διεθνής δημοτικότητα κινεζικών εφαρμογών όπως το TikTok και το RedNote έχουν ήδη προκαλέσει ανησυχίες για την εθνική ασφάλεια μεταξύ των δυτικών κυβερνήσεων - καθώς και ερωτήματα σχετικά με τις πιθανές επιπτώσεις στην ελευθερία του λόγου και την ικανότητα του Πεκίνου να διαμορφώνει παγκόσμιες αφηγήσεις και την κοινή γνώμη. Τώρα, η έλευση του μοντέλου ΑΙ της DeepSeek, ο οποίος είναι δωρεάν και εκτοξεύτηκε στην κορυφή των charts των εφαρμογών τις τελευταίες ημέρες, αυξάνει τον επείγοντα χαρακτήρα αυτών των ερωτημάτων, λένε οι παρατηρητές.

«Ένα παράδειγμα ερώτησης προς το νέο bot της DeepSeek, χρησιμοποιώντας το μοντέλο R1, θα απαντήσει διαφορετικά από έναν ''δυτικό αντίπαλο'', όπως το ChatGpt;», αναρωτιέται το CNN.

Έτσι, έθεσε το ερώτημα στο νέο μοντέλο της DeepSeek: «Τι συνέβη στις 4 Ιουνίου του 1989», ημερομηνία που σημαδεύτηκε από τα αιματηρά γεγονότα στις αντικυβερνητικές διαδηλώσεις στην πλατεία Τιενανμέν στην Κίνα.

Η απάντηση του DeepSeek είναι τουλάχιστον προβληματική, καθώς αρχίζει να δίνει μια απάντηση που περιγράφει λεπτομερώς ορισμένα από τα γεγονότα, συμπεριλαμβανομένης μιας «στρατιωτικής καταστολής», πριν τη σβήσει και απαντήσει ότι «δεν είναι ακόμα σίγουρο πώς να προσεγγίσει αυτό το είδος της ερώτησης».

Και μάλιστα συνεχίζει: «Ας κουβεντιάσουμε αντ' αυτού για μαθηματικά, κώδικοποίηση και προβλήματα λογικής».

Όταν της τίθεται η ίδια ερώτηση στα κινέζικα, η εφαρμογή είναι πιο γρήγορη, ζητώντας αμέσως συγγνώμη που δεν ξέρει πώς να απαντήσει!

Παρόμοια είναι η ερώτηση προς το μοντέλο R1 - το νεότερο μοντέλο της DeepSeek - για το «τι συνέβη στο Χονγκ Κονγκ το 2019», όταν η πόλη συγκλονίστηκε από διαδηλώσεις. Αρχικά δίνει μια λεπτομερή επισκόπηση των γεγονότων με ένα συμπέρασμα που τουλάχιστον κατά τη διάρκεια μιας δοκιμής σημείωσε - όπως και οι δυτικοί παρατηρητές - ότι η επακόλουθη επιβολή από το Πεκίνο ενός νόμου εθνικής ασφάλειας στην πόλη οδήγησε σε «σημαντική διάβρωση των πολιτικών ελευθεριών». Αλλά γρήγορα μετά ή εν μέσω της απάντησής του, το bot διαγράφει τη δική του απάντηση και προτείνει απλά να «μιλήσουμε για κάτι άλλο».

Μπαίνουμε στην κούρσα της πληροφορίας μέσω ΑΙ

Στο αμερικανικό δημοσίευμα σημειώνεται ότι η κούρσα της τεχνολογίας δεν αφορά αυτά καθ' αυτά τα εξελιγμένα μέσα της Τεχνητής Νοημοσύνης που ανταγωνίζονται μεταξύ τους αλλά αφορά και το ποιος θα ελέγχει το κυρίαρχο αφήγημα για μείζονα παγκόσμια ζητήματα και την ίδια την ιστορία.

Το να γίνει η DeepSeek παγκόσμιος ηγέτης της τεχνητής νοημοσύνης θα μπορούσε να έχει «καταστροφικές] συνέπειες, δήλωσε ο αναλυτής της Κίνας Isaac Stone Fish. «Θα ήταν απίστευτα επικίνδυνο για την ελευθερία του λόγου και της σκέψης παγκοσμίως, επειδή θα αποκόψει την ικανότητα να σκέφτεται κανείς ανοιχτά, δημιουργικά και, σε πολλές περιπτώσεις, σωστά για μία από τις πιο σημαντικές οντότητες στον κόσμο, που είναι η Κίνα», δήλωσε ο Fish, ο οποίος είναι ιδρυτής της εταιρείας επιχειρηματικών πληροφοριών Strategy Risks.

Αυτό συμβαίνει επειδή η εφαρμογή, όταν ερωτάται για τη χώρα ή τους ηγέτες της, «παρουσιάζει την Κίνα σαν το ουτοπικό κομμουνιστικό κράτος που δεν υπήρξε ποτέ και δεν θα υπάρξει ποτέ», πρόσθεσε. Στην ηπειρωτική Κίνα, το κυβερνών Κινεζικό Κομμουνιστικό Κόμμα έχει την απόλυτη εξουσία σχετικά με το ποιες πληροφορίες και εικόνες μπορούν και δεν μπορούν να προβληθούν και το CNN υπογραμμίζει ότι εταιρείες τεχνολογίας όπως η DeepSeek δεν έχουν άλλη επιλογή από το να ακολουθούν τους κανόνες.

Επειδή η τεχνολογία αναπτύχθηκε στην Κίνα, το μοντέλο της πρόκειται να συλλέγει δεδομένα που είναι περισσότερο επικεντρωμένα στην Κίνα ή υπέρ της Κίνας απ' ό,τι μια δυτική εταιρεία, μια πραγματικότητα που πιθανότατα θα επηρεάσει την πλατφόρμα, σύμφωνα με τον Aaron Snoswell, ανώτερο ερευνητή σε θέματα λογοκρισίας για την τεχνητή νοημοσύνη στο Generative AI Lab του Queensland University of Technology. Η ίδια η εταιρεία, όπως όλες οι εταιρείες AI, θα θέσει επίσης διάφορους κανόνες για να ενεργοποιήσει καθορισμένες αντιδράσεις όταν προκύπτουν λέξεις ή θέματα που η πλατφόρμα δεν θέλει να συζητήσει, δήλωσε ο Snoswell, επισημαίνοντας παραδείγματα όπως αυτό με την πλατεία Τιενανμέν, που αναφέρθηκε παραπάνω.

Επιπλέον, οι εταιρείες τεχνητής νοημοσύνης συχνά χρησιμοποιούν εργαζόμενους για να βοηθήσουν στην εκπαίδευση του μοντέλου σε ό,τι αφορά τα είδη των θεμάτων που μπορεί να είναι ταμπού ή εντάξει να συζητηθούν και πού βρίσκονται ορισμένα όρια, μια διαδικασία που ονομάζεται «ενισχυτική μάθηση από την ανθρώπινη ανατροφοδότηση».

«Αυτό σημαίνει ότι κάποιος στην DeepSeek έγραψε ένα έγγραφο πολιτικής που λέει, "εδώ είναι τα θέματα που είναι εντάξει και εδώ είναι τα θέματα που δεν είναι εντάξει". Το έδωσαν στους εργαζομένους τους … και στη συνέχεια αυτή η συμπεριφορά θα είχε ενσωματωθεί στο μοντέλο», δήλωσε Snoswell.

Τα chatbots τεχνητής νοημοσύνης των ΗΠΑ έχουν επίσης γενικά παραμέτρους. Για παράδειγμα, το ChatGPT δεν θα πει σε έναν χρήστη πώς να φτιάξει μια βόμβα ή να κατασκευάσει ένα κανονικό όπλο, και συνήθως χρησιμοποιούν μηχανισμούς όπως η «ενισχυτική μάθηση» για να δημιουργήσουν παραμέτρους ασφαλείας κατά της ρητορικής μίσους, για παράδειγμα.

«Απλά ότι σε αυτή την περίπτωση, οι πιθανότητες είναι ότι μια κινεζική εταιρεία ενσωμάτωσε τις (επίσημες) αξίες της Κίνας στην πολιτική της», εξήγησε.

Σε κίνδυνο τα προσωπικά δεδομένα με την Τεχνητή Νοημοσύνη;

Οι DeepSeek, OpenAI και Meta λένε ότι συλλέγουν δεδομένα των ανθρώπων, όπως από τις πληροφορίες του λογαριασμού τους, τις δραστηριότητες στις πλατφόρμες και τις συσκευές που χρησιμοποιούν. Αλλά η DeepSeek προσθέτει ότι συλλέγει επίσης «μοτίβα ή ρυθμούς πληκτρολόγησης», τα οποία μπορούν να είναι τόσο μοναδικά αναγνωρίσιμα όσο ένα δακτυλικό αποτύπωμα ή η αναγνώριση προσώπου και χρησιμοποιούνται ως βιομετρικά.

«Δεν έχω δει ποτέ άλλη πλατφόρμα λογισμικού που να λέει ότι συλλέγει κάτι τέτοιο, εκτός αν έχει σχεδιαστεί για (αυτούς τους σκοπούς)», δήλωσε ο Snoswell. Σημείωσε επίσης αυτό που φαινόταν να είναι ασαφώς καθορισμένες άδειες για την κοινή χρήση δεδομένων χρηστών σε οντότητες εντός του εταιρικού ομίλου της DeepSeek. «Είναι πολύ, πολύ πιο επιτρεπτό από οτιδήποτε θα βλέπατε από μια δυτική εταιρεία λογισμικού», προειδοποίησε.

Διαβάστε περισσότερα στο iefimerida.gr