Κυβερνοασφάλεια και τεχνητή νοημοσύνη: Τι επιφυλάσσει το 2025 -Οι προκλήσεις

16:40 17/1/2025 - Πηγή: iEfimerida

Το 2024 η τεχνητή νοημοσύνη αναβάθμισε τον ανταγωνισμό στον τομέα της κυβερνοασφάλειας και το ίδιο αναμένεται να ισχύσει και το 2025.

Αυτή η εξέλιξη φέρνει σημαντικές προκλήσεις για τις ομάδες κυβερνοασφάλειας, τις εταιρείες, αλλά και τους καθημερινούς χρήστες του διαδικτύου, όπως επισημαίνει η παγκόσμια εταιρεία λογισμικού ασφαλείας ESET.

Τεχνητή νοημοσύνη και αλλαγές

Το 2025 η τεχνητή νοημοσύνη αναμένεται να φέρει ριζικές αλλαγές στον τρόπο που αλληλοεπιδρούμε

με την τεχνολογία, με θετικές αλλά και αρνητικές συνέπειες. Ενώ προσφέρει τεράστια οφέλη για επιχειρήσεις και ιδιώτες, εισάγει, επίσης, νέους κινδύνους που απαιτούν προσεκτική διαχείριση.

Παρ' όλο που η τεχνητή νοημοσύνη παρέχει ισχυρά εργαλεία για την ενίσχυση της άμυνας, οι κακόβουλοι παράγοντες αξιοποιούν την ίδια τεχνολογία για να ενισχύσουν τις επιθέσεις τους, οπότε αναμένεται άνοδος στις ηλεκτρονικές απάτες, την κοινωνική μηχανική, την παραβίαση λογαριασμών, την παραπληροφόρηση και άλλες κυβερνοαπειλές.

Στις αρχές του 2024 το Εθνικό Κέντρο Κυβερνοασφάλειας του Ηνωμένου Βασιλείου (NCSC) εξέδωσε προειδοποίηση ότι η τεχνητή νοημοσύνη ήδη αξιοποιείται από κυβερνοεγκληματίες. Σύμφωνα με το NCSC, «είναι σχεδόν βέβαιο ότι θα αυξηθούν τόσο ο όγκος όσο και ο αντίκτυπος των κυβερνοεπιθέσεων μέσα στα επόμενα δύο χρόνια». Αυτή η απειλή είναι ιδιαίτερα έντονη στον τομέα της κοινωνικής μηχανικής, όπου η παραγωγική τεχνητή νοημοσύνη (GenAI) δίνει τη δυνατότητα στους κυβερνοεγκληματίες να σχεδιάζουν εξαιρετικά πειστικές εκστρατείες, προσαρμοσμένες σε πολλές γλώσσες. Επιπλέον, η AI μπορεί να αυτοματοποιήσει τον εντοπισμό περιουσιακών στοιχείων, διευκολύνοντας την επιλογή στόχων.

Καθώς αυτές οι τάσεις αναμένεται να συνεχιστούν και το 2025, είναι πιθανό να δούμε την τεχνητή νοημοσύνη να χρησιμοποιείται και σε άλλους τομείς, σύμφωνα με την ESET, όπως:

Παράκαμψη υπηρεσιών αυθεντικοποίησης χρηστών: Η τεχνολογία Deepfake χρησιμοποιείται για να βοηθήσει απατεώνες να υποδυθούν πελάτες κατά τη διαδικασία ελέγχων ταυτότητας που βασίζονται σε φωτογραφίες και βίντεο. Αυτό διευκολύνει τη δημιουργία νέων λογαριασμών και την πρόσβαση σε ήδη υπάρχοντες.Παραβίαση επαγγελματικού ηλεκτρονικού ταχυδρομείου (BEC): Η AI ενισχύει τις τεχνικές κοινωνικής μηχανικής, πείθοντας υπαλλήλους να μεταφέρουν χρήματα σε λογαριασμούς απατεώνων. Χρησιμοποιούνται επίσης Deepfake ήχου και βίντεο, για να υποδυθούν ανώτατα στελέχη κατά τη διάρκεια τηλεφωνικών κλήσεων ή εικονικών συναντήσεων.Απάτες πλαστοπροσωπίας: Η αξιοποίηση μεγάλων γλωσσικών μοντέλων (LLMs) ανοίγει νέους δρόμους για τους απατεώνες. Με την εκπαίδευση των μοντέλων σε δεδομένα από παραβιασμένους ή δημόσια προσβάσιμους λογαριασμούς κοινωνικής δικτύωσης, οι δράστες μπορούν να υποδυθούν τα θύματα σε εικονικές απαγωγές και άλλες απάτες, εξαπατώντας φίλους και συγγενείς.Απάτες Influencer: Κατά παρόμοιο τρόπο, αναμένουμε να δούμε τη χρήση της παραγωγικής τεχνητής νοημοσύνης από απατεώνες το 2025 για τη δημιουργία πλαστών ή διπλών λογαριασμών στα μέσα κοινωνικής δικτύωσης που αντιγράφουν λογαριασμούς διάσημων, influencers και άλλων γνωστών προσωπικοτήτων. Με τη χρήση βίντεο Deepfake μπορούν να παρασύρουν τους θαυμαστές να μοιραστούν προσωπικές πληροφορίες και χρήματα, για παράδειγμα σε απάτες επενδύσεων και κρυπτογράφησης, όπως επισημαίνεται στην τελευταία έκθεση απειλών που δημοσίευσε η ESET. Αυτό θα ασκήσει μεγαλύτερη πίεση στις πλατφόρμες κοινωνικής δικτύωσης να προσφέρουν αποτελεσματικά εργαλεία επαλήθευσης λογαριασμού και σήματα, καθώς και στους χρήστες για να παραμείνουν σε επαγρύπνηση.Παραπληροφόρηση: Εχθρικά κράτη και οργανωμένες ομάδες αναμένεται να αξιοποιήσουν την παραγωγική τεχνητή νοημοσύνη (GenAI) για τη δημιουργία ψεύτικου περιεχομένου. Ο στόχος τους θα είναι να παρασύρουν ευκολόπιστους χρήστες των μέσων κοινωνικής δικτύωσης να ακολουθούν ψεύτικους λογαριασμούς.Σπάσιμο κωδικών πρόσβασης: Η τεχνητή νοημοσύνη θα αξιοποιηθεί για να αποκαλύπτει διαπιστευτήρια χρηστών σε ελάχιστο χρόνο, διευκολύνοντας την πρόσβαση σε εταιρικά δίκτυα, δεδομένα και λογαριασμούς πελατών.Ανησυχίες σχετικά με την προστασία της ιδιωτικότητας

Η τεχνητή νοημοσύνη δεν θα αποτελεί μόνο εργαλείο για φορείς απειλών, αλλά θα αυξήσει, επίσης, τον κίνδυνο διαρροής δεδομένων. Τα μεγάλα γλωσσικά μοντέλα (LLMs) απαιτούν τεράστιους όγκους κειμένων, εικόνων και βίντεο για την εκπαίδευσή τους. Σε πολλές περιπτώσεις, μέρος αυτών των δεδομένων μπορεί κατά λάθος να περιλαμβάνει ευαίσθητες πληροφορίες, όπως βιομετρικά στοιχεία, δεδομένα υγείας ή οικονομικές πληροφορίες.

Επιπλέον, οι πλατφόρμες κοινωνικής δικτύωσης και άλλες εταιρείες ενδέχεται να τροποποιήσουν τους όρους χρήσης τους, επιτρέποντας τη συλλογή δεδομένων πελατών για την εκπαίδευση μοντέλων. Όταν ευαίσθητες πληροφορίες εισάγονται σε μοντέλα τεχνητής νοημοσύνης, δημιουργείται σοβαρός κίνδυνος για τα άτομα, ειδικά αν το ίδιο το σύστημα AI παραβιαστεί ή αν τα δεδομένα κοινοποιηθούν μέσω εφαρμογών GenAI που χρησιμοποιούν το μοντέλο. Οι ανησυχίες εντείνονται από την πιθανότητα οι εταιρικοί χρήστες να μοιράζονται άθελά τους ευαίσθητες πληροφορίες, θέτοντας σε κίνδυνο την ασφάλεια της επιχείρησης.

Σύμφωνα με δημοσκόπηση, το ένα πέμπτο των εταιρειών στο Ηνωμένο Βασίλειο έχουν βιώσει τυχαία διαρροή δυνητικά ευαίσθητων εταιρικών δεδομένων μέσω της χρήσης παραγωγικής τεχνητής νοημοσύνης από τους υπαλλήλους τους.

Σύμμαχος στο έργο της κυβερνοασφάλειας

Τη νέα χρονιά, πάντως, η τεχνητή νοημοσύνη θα διαδραματίσει επιπλέον ολοένα και μεγαλύτερο ρόλο στο έργο των ομάδων κυβερνοασφάλειας, καθώς θα ενσωματωθεί σε νέα προϊόντα και υπηρεσίες. Αυτές οι νέες υπηρεσίες θα παράγουν συνθετικά δεδομένα για την εκπαίδευση χρηστών, ομάδων ασφαλείας και ακόμη και εργαλείων ασφαλείας AI, θα συνοψίζουν μακροσκελείς και σύνθετες εκθέσεις πληροφοριών απειλών για αναλυτές, ενώ θα ενισχύσουν την παραγωγικότητα των λειτουργιών ασφαλείας με την πλαισίωση και την ιεράρχηση των ειδοποιήσεων για τις ομάδες και την αυτοματοποίηση των ροών εργασίας για τη διερεύνηση και την αποκατάσταση. Επίσης, θα βοηθήσουν στη σάρωση μεγάλων όγκων δεδομένων για ενδείξεις ύποπτης συμπεριφοράς, αλλά και στην επιμόρφωση των ομάδων πληροφορικής μέσω της λειτουργίας «copilot» που είναι ενσωματωμένη σε διάφορα προϊόντα για να μειωθεί η πιθανότητα λανθασμένων ρυθμίσεων.

Ωστόσο, υπογραμμίζεται ότι oι υπεύθυνοι των τμημάτων πληροφορικής και ασφάλειας πρέπει να αναγνωρίσουν ότι η τεχνητή νοημοσύνη (AI) έχει όρια και να κατανοήσουν τη σημασία της ανθρώπινης εμπειρογνωμοσύνης στη λήψη αποφάσεων. Το 2025, η αποτελεσματική αντιμετώπιση των κυβερνοαπειλών θα απαιτήσει μία ισορροπία μεταξύ ανθρώπινων και μηχανικών δυνατοτήτων. Η AI μπορεί να προσφέρει ισχυρά εργαλεία, αλλά δεν αποτελεί «χρυσή λύση». Πρέπει να συνδυάζεται με άλλα εργαλεία και τεχνικές για βέλτιστα αποτελέσματα.

Προκλήσεις τεχνητής νοημοσύνης

Η ESET σχολιάζει τις ευρύτερες εξελίξεις που διαμορφώνουν την εξέλιξη της ασφάλειας της τεχνητής νοημοσύνης. Όπως αναφέρεται, οι γεωπολιτικές αλλαγές, ιδιαίτερα στις Ηνωμένες Πολιτείες το 2025, ενδέχεται να οδηγήσουν σε απορρύθμιση στους τομείς της τεχνολογίας και των κοινωνικών μέσων. Αυτή η πιθανή απορρύθμιση θα μπορούσε να δημιουργήσει ευνοϊκές συνθήκες για απατεώνες και κακόβουλους παράγοντες, δίνοντάς τους τη δυνατότητα να κατακλύσουν τις διαδικτυακές πλατφόρμες με απειλές που δημιουργούνται από την τεχνητή νοημοσύνη.

Εν τω μεταξύ, στην Ευρωπαϊκή Ένωση η ρύθμιση της τεχνητής νοημοσύνης παραμένει ασαφής, δημιουργώντας προκλήσεις για τις ομάδες συμμόρφωσης. Σύμφωνα με νομικούς εμπειρογνώμονες, εξακολουθούν να λείπουν βασικά εργαλεία, όπως κώδικες πρακτικής και κατευθυντήριες γραμμές, ενώ παραμένει αδιευκρίνιστη η ευθύνη για αποτυχίες που προκύπτουν από συστήματα τεχνητής νοημοσύνης. Η πίεση από τον τεχνολογικό τομέα ενδέχεται να επηρεάσει το πώς θα εφαρμοστεί στην πράξη ο νόμος της ΕΕ για την τεχνητή νοημοσύνη.

Για να αξιοποιηθούν πλήρως οι δυνατότητες της AI και να μετριαστούν οι κίνδυνοι, είναι κρίσιμη η στενότερη συνεργασία όλων των εμπλεκομένων. Κυβερνήσεις, επιχειρήσεις του ιδιωτικού τομέα και τελικοί χρήστες πρέπει να συνεργαστούν, διαδραματίζοντας ο καθένας τον ρόλο του.

ΑΠΕ-ΜΠΕ

Διαβάστε περισσότερα στο iefimerida.gr