Η εξάπλωση των εκστρατειών επιρροής
Οι εκστρατείες ξένης επιρροής, γνωστές και ως επιχειρήσεις πληροφόρησης, έχουν γίνει ευρέως διαδεδομένες εν όψει των προεδρικών εκλογών των Η.Π.Α. το 2024. Αυτές οι εκστρατείες είναι μαζικές προσπάθειες να μετατοπιστεί η δημόσια άποψη, να προωθηθούν ψευδείς αφηγήσεις ή να αλλάξουν οι συμπεριφορές ενός στοχευμένου πληθυσμού. Χώρες όπως η Ρωσία, η Κίνα, το Ιράν και το Ισραήλ έχουν εκμεταλλευτεί κοινωνικά bots, influencers, εταιρείες μέσων και γενετική τεχνητή νοημοσύνη για να επιτύχουν αυτούς τους στόχους.
Η παρακολούθηση και ανίχνευση της χειραγώγησης
Στο Παρατηρητήριο Κοινωνικών Μέσων του Πανεπιστημίου της Ιντιάνα, οι συνάδελφοί μου και εγώ μελετάμε τις εκστρατείες επιρροής και σχεδιάζουμε τεχνικές λύσεις – αλγόριθμους – για να τις ανιχνεύσουμε και να τις αντιμετωπίσουμε. Οι σύγχρονες μέθοδοι που αναπτύσσονται στο κέντρο μας χρησιμοποιούν διάφορους δείκτες αυτής της διαδικτυακής δραστηριότητας, την οποία οι ερευνητές ονομάζουν μη αυθεντική συντονισμένη συμπεριφορά. Εντοπίζουμε ομάδες λογαριασμών που δημοσιεύουν συγχρονισμένα, ενισχύουν τις ίδιες ομάδες χρηστών, μοιράζονται πανομοιότυπα σύνολα συνδέσμων, εικόνων ή hashtags ή εκτελούν ύποπτα παρόμοιες ακολουθίες ενεργειών.
Παραδείγματα συντονισμένης μη αυθεντικής συμπεριφοράς
Έχουμε αποκαλύψει πολλά παραδείγματα αυτής της συμπεριφοράς. Για παράδειγμα, βρήκαμε λογαριασμούς που πλημμυρίζουν το δίκτυο με δεκάδες ή εκατοντάδες χιλιάδες αναρτήσεις σε μία μόνο ημέρα. Η ίδια εκστρατεία μπορεί να δημοσιεύσει ένα μήνυμα με έναν λογαριασμό και στη συνέχεια να έχει άλλους λογαριασμούς που ελέγχουν οι οργανωτές της να το “αρέσουν” και να το “αφαιρούν” εκατοντάδες φορές σε σύντομο χρονικό διάστημα. Μόλις επιτευχθεί ο στόχος της εκστρατείας, όλα αυτά τα μηνύματα μπορούν να διαγραφούν για να αποφευχθεί η ανίχνευση. Με τη χρήση αυτών των τεχνασμάτων, ξένες κυβερνήσεις και οι πράκτορές τους μπορούν να χειραγωγήσουν τους αλγορίθμους των κοινωνικών μέσων που καθορίζουν τι είναι δημοφιλές και τι είναι ενδιαφέρον, αποφασίζοντας τι βλέπουν οι χρήστες στις ροές τους.
Η γενετική τεχνητή νοημοσύνη στην υπηρεσία της χειραγώγησης
Μία τεχνική που χρησιμοποιείται όλο και περισσότερο είναι η δημιουργία και διαχείριση στρατών ψεύτικων λογαριασμών με γενετική τεχνητή νοημοσύνη. Αναλύσαμε 1.420 ψεύτικους λογαριασμούς στο Twitter – τώρα X – που χρησιμοποιούσαν πρόσωπα δημιουργημένα από AI για τις φωτογραφίες προφίλ τους. Αυτοί οι λογαριασμοί χρησιμοποιήθηκαν για να διαδώσουν απάτες, να διασπείρουν spam και να ενισχύσουν συντονισμένα μηνύματα, μεταξύ άλλων δραστηριοτήτων.
Εκτιμούμε ότι τουλάχιστον 10.000 τέτοιοι λογαριασμοί ήταν ενεργοί καθημερινά στην πλατφόρμα, και αυτό πριν ο CEO του X, ο Elon Musk, μειώσει δραματικά τις ομάδες εμπιστοσύνης και ασφάλειας της πλατφόρμας. Επίσης, εντοπίσαμε ένα δίκτυο 1.140 bots που χρησιμοποιούσαν το ChatGPT για να δημιουργούν περιεχόμενο που μοιάζει ανθρώπινο για να προωθήσουν ιστοσελίδες ψευδών ειδήσεων και απάτες με κρυπτονομίσματα.
Η αδυναμία των ανιχνευτών περιεχομένου
Εκτός από την ανάρτηση περιεχομένου που έχει δημιουργηθεί από μηχανές, επιβλαβών σχολίων και κλεμμένων εικόνων, αυτά τα bots αλληλεπιδρούν μεταξύ τους και με ανθρώπους μέσω απαντήσεων και αναδημοσιεύσεων. Οι σύγχρονοι ανιχνευτές περιεχομένου που βασίζονται σε μεγάλα γλωσσικά μοντέλα δεν μπορούν να διακρίνουν μεταξύ των κοινωνικών bots που υποστηρίζονται από AI και των ανθρώπινων λογαριασμών στο διαδίκτυο.
Η συμπεριφορά των μοντέλων και οι συνέπειές της
Οι συνέπειες τέτοιων επιχειρήσεων είναι δύσκολο να αξιολογηθούν λόγω των προκλήσεων που παρουσιάζουν η συλλογή δεδομένων και η διεξαγωγή ηθικών πειραμάτων που θα επηρεάσουν τις διαδικτυακές κοινότητες. Συνεπώς, είναι ασαφές, για παράδειγμα, εάν οι εκστρατείες επιρροής στο διαδίκτυο μπορούν να επηρεάσουν τα εκλογικά αποτελέσματα. Ωστόσο, είναι ζωτικής σημασίας να κατανοήσουμε την ευπάθεια της κοινωνίας σε διάφορες τακτικές χειραγώγησης.
Το μοντέλο SimSoM και η ανάλυση σεναρίων
Σε πρόσφατη εργασία μας, παρουσιάσαμε ένα μοντέλο κοινωνικών μέσων που ονομάζεται SimSoM, το οποίο προσομοιώνει πώς διαδίδεται η πληροφορία μέσω του κοινωνικού δικτύου. Το μοντέλο περιλαμβάνει τα βασικά στοιχεία πλατφορμών όπως το Instagram, το X, το Threads, το Bluesky και το Mastodon: ένα εμπειρικό δίκτυο ακολούθων, έναν αλγόριθμο ροής, μηχανισμούς διαμοιρασμού και αναδημοσίευσης, καθώς και μετρικές για την ποιότητα, την ελκυστικότητα και την εμπλοκή του περιεχομένου.
Το SimSoM επιτρέπει στους ερευνητές να εξερευνήσουν σενάρια στα οποία το δίκτυο χειραγωγείται από κακόβουλους πράκτορες που ελέγχουν μη αυθεντικούς λογαριασμούς. Αυτοί οι κακοί ηθοποιοί στοχεύουν στη διάδοση χαμηλής ποιότητας πληροφορίας, όπως παραπληροφόρηση, θεωρίες συνωμοσίας, κακόβουλο λογισμικό ή άλλα επιβλαβή μηνύματα. Μπορούμε να εκτιμήσουμε τις επιπτώσεις των τακτικών χειραγώγησης μετρώντας την ποιότητα της πληροφορίας στην οποία εκτίθενται οι στοχευμένοι χρήστες στο δίκτυο.
Αντιμετώπιση της συντονισμένης χειραγώγησης
Έχουμε παρατηρήσει όλες αυτές τις τακτικές στην πράξη. Ιδιαίτερα ανησυχητικό είναι το γεγονός ότι τα μοντέλα γενετικής τεχνητής νοημοσύνης μπορούν να κάνουν πολύ πιο εύκολη και φθηνή τη δημιουργία και διαχείριση πιστευτών λογαριασμών από κακόβουλους πράκτορες. Επιπλέον, μπορούν να χρησιμοποιούν γενετική τεχνητή
