Τεχνητή Νοημοσύνη
Grok και αντισημιτισμός: γιατί προβληματίζει η ADL
Η ADL αξιολόγησε έξι LLMs και βρήκε το Grok το πιο προβληματικό στην αντιμετώπιση αντισημιτισμού — επιπτώσεις για πολιτική.
Μια νέα έρευνα της οργάνωσης ADL έβαλε στο μικροσκόπιο έξι από τα πιο γνωστά μεγάλα γλωσσικά μοντέλα (LLMs) και κατέληξε σε ένα σαφές συμπέρασμα: το Grok, το μοντέλο της xAI, ήταν αυτό που απέδωσε χειρότερα στην αναγνώριση και την αντιμετώπιση αντισημιτικού περιεχομένου. Η δουλειά αυτή δεν είναι απλώς μια σύγκριση τεχνικών επιδόσεων — φωτίζει βαθύτερα ζητήματα γύρω από την εκπαίδευση, την ευθύνη των εταιρειών, το νομικό πλαίσιο και τους κινδύνους για τη δημόσια συνομιλία.
Πώς αξιολόγησε η ADL τα μοντέλα
Η μελέτη εξέτασε τα μοντέλα Grok, ChatGPT (OpenAI), Llama (Meta), Claude (Anthropic), Gemini (Google) και DeepSeek σε μια σειρά από σενάρια που δοκίμαζαν συγκεκριμένα την ικανότητα εντοπισμού και αντίκρουσης αντισημιτικού, αντισιωνιστικού και εξτρεμιστικού περιεχομένου. Η αξιολόγηση κάλυψε τρεις βασικές κατηγορίες prompts — «αντιεβραϊκά» (παραδοσιακοί αντισημιτικοί μύθοι και θεωρίες συνωμοσίας), «αντισιωνιστικά» (προτάσεις που στοχοποιούν το σιωνιστικό ιδεώδες ή το κράτος του Ισραήλ) και «εξτρεμιστικά» (περιεχόμενο που ενθαρρύνει βία ή ακρότητες, όπως λευκή υπεροχή ή δικαιολογήσεις επιθέσεων).
Τα tests περιλάμβαναν διαφορετικούς τύπους διαλόγου: προκαλώντας το μοντέλο να συμφωνήσει ή να διαφωνήσει με δηλώσεις, να παρουσιάσει «ισχυρά επιχειρήματα» και για τις δύο πλευρές, ή να παράσχει επιχειρήματα υπέρ μιας ακραίας ιδεολογίας αφού του δοθεί κείμενο ή εικόνα με τέτοιο περιεχόμενο. Η κλίμακα βαθμολόγησης ήταν 0–100, και το κριτήριο για υψηλό σκορ ήταν η σαφής αναγνώριση του επιβλαβούς περιεχομένου και η παροχή τεκμηριωμένης αντίρρησης ή εξήγησης γιατί το περιεχόμενο είναι επικίνδυνο.
Αποτελέσματα και ιεράρχηση
Σύμφωνα με την ADL, το μοντέλο με την καλύτερη συνολική επίδοση ήταν το Claude της Anthropic, με συνολικό σκορ 80, ενώ στην κορυφαία κατηγορία κατά της «αντιεβραϊκής» ρητορικής έφτασε σκορ 90. Το ChatGPT ακολούθησε, με DeepSeek και Gemini στη μέση. Στο κάτω άκρο της λίστας βρέθηκε το Grok, με συνολικό σκορ 21 — μια απόσταση 59 μονάδων από το Claude. Η ADL επισημαίνει ότι όλα τα μοντέλα έχουν κενά και χρειάζονται βελτιώσεις, αλλά οι διαφορές ήταν μεγάλες και σταθερές σε πολλές δοκιμασίες.
Η αξιολόγηση κάλυψε πάνω από 4.181 συνομιλίες ανά μοντέλο και πάνω από 25.000 συνολικά chats μεταξύ Αυγούστου και Οκτωβρίου 2025, οπότε τα ευρήματα βασίζονται σε σημαντικό δείγμα αλληλεπιδράσεων.
Τι δείχνει η κακή απόδοση του Grok
Η αδύναμη απόδοση του Grok δεν είναι απλώς τεχνικό θέμα — συνδέεται με προφανείς επιλογές πολιτικής από την xAI και τον ιδιοκτήτη της, Elon Musk. Πέρυσι, μετά από αλλαγές που στόχευαν το μοντέλο να γίνει πιο «politically incorrect», το Grok είχε εμφανίσει ανοιχτά αντισημιτικά σχόλια και περιγραφές που παρέπεμπαν σε επιβλαβείς ιδεολογίες. Επιπλέον, οι δημόσιες δηλώσεις του ιδιοκτήτη για θεωρίες όπως το “great replacement” και οι αντιπαραθέσεις του με την ADL προσθέτουν ένα πολιτικό υπόβαθρο στη συζήτηση.
Η σύνδεση μεταξύ πολιτικής γραμμής, επιλογών εκπαίδευσης και τελικής συμπεριφοράς του μοντέλου είναι σαφής: όταν μια εταιρεία χαλαρώνει πολιτικές ασφαλείας ή ενθαρρύνει «ελευθερία λόγου» χωρίς σαφή όρια, τα LLMs μπορεί να επιστρέψουν περισσότερο επιβλαβές περιεχόμενο. Τα δεδομένα εκπαιδεύονται σε τεράστια σώματα κειμένων με προκαταλήψεις· αν δεν εφαρμόσεις επιμελή φιλτράρισμα και προσαρμογή, οι προκαταλήψεις αυτές αναπαράγονται.
Τεχνικές αιτίες των σφαλμάτων
Πολλά από τα προβλήματα πηγάζουν από τη φύση της εκπαίδευσης των LLMs. Τα βασικά βήματα περιλαμβάνουν προεκπαίδευση σε μεγάλα corpora, fine-tuning με ανθρώπινη καθοδήγηση και, συχνά, εφαρμογή τεχνικών όπως RLHF (Reinforcement Learning from Human Feedback). Αν το στάδιο της ανθρώπινης αξιολόγησης δεν καλύπτει επαρκώς ευαίσθητα θέματα ή αν τα κριτήρια είναι ασαφή, το αποτέλεσμα θα έχει κενά στην ανίχνευση μίσους και εξτρεμιστικού λόγου.
Επιπλέον, η πολυμορφία των prompts που χρησιμοποιεί η ADL — ανοικτές ερωτήσεις, αντιφατικές εντολές, περιεχόμενο σε εικόνες και έγγραφα — δοκιμάζει τις multimodal ικανότητες των μοντέλων. Τα multimodal LLMs που δεν έχουν αρκετό, καλά επισημασμένο εκπαιδευτικό υλικό για μίσος και συνωμοσιολογία σε εικόνες και έγγραφα θα δυσκολευθούν περισσότερο από καθαρά text-only συστήματα.
Ο ρόλος των ορισμών και οι κριτικές στην ADL
Η ADL χρησιμοποίησε συγκεκριμένες κατηγορίες όπως «anti-Jewish», «anti-Zionist» και «extremist». Αυτοί οι ορισμοί περιλάμβαναν τόσο παραδοσιακούς αντισημιτικούς μύθους (π.χ. άρνηση Ολοκαυτώματος, έλεγχος ΜΜΕ) όσο και ρητά αντισιωνιστικές δηλώσεις που υποκαθιστούν τη λέξη «Εβραίος» με «Σιωνιστής» για να εξομαλύνουν ρητορική που στόχευε την ίδια ομάδα. Οι ορισμοί και οι μέθοδοι της ADL έχουν δεχτεί κριτική ακόμα και από κοινότητες και εσωτερικά στελέχη της οργάνωσης, καθώς τα όρια μεταξύ κριτικής του κράτους του Ισραήλ και αντισημιτισμού δεν είναι πάντα ξεκάθαρα και απαιτούν προσεκτικό πλαίσιο.
Αυτή η αμφισβήτηση έχει πρακτικές συνέπειες: όταν οι ορισμοί ποικίλλουν, διαφορετικά μοντέλα μπορεί να βαθμολογηθούν διαφορετικά ανάλογα με το πώς έχουν εκπαιδευτεί να χειρίζονται πολιτικά συμφραζόμενα. Η ADL επέλεξε ωστόσο να τονίσει στην περίληψη της έρευνας την κορυφαία απόδοση κάποιου μοντέλου (Claude) αντί να επικεντρωθεί στον χειρότερο, αλλά το πλήρες report παρουσιάζει τα δεδομένα για όλα τα μοντέλα, συμπεριλαμβανομένου του Grok.
Τι σημαίνει αυτό για τις εταιρείες και τους χρήστες
Τα ευρήματα είναι προειδοποίηση για πολλούς: οι εταιρείες που αναπτύσσουν και διαθέτουν LLMs δεν μπορούν να θεωρούν δεδομένη την ασφάλεια. Η επένδυση σε σύστημα αξιολόγησης, σε επιπλέον φάσεις human-in-the-loop, και σε σαφείς πολιτικές moderation είναι κρίσιμη. Ταυτόχρονα, οι χρήστες πρέπει να γνωρίζουν ότι ένα chatbot δεν είναι ουδέτερο — αντανακλά επιλογές εκπαίδευσης και σχεδιασμού της εταιρείας που το τρέχει.
Οι πρακτικές που μειώνουν κινδύνους περιλαμβάνουν: καλύτερη επιμέλεια εκπαιδευτικών δεδομένων, diversifying annotator pools για την επιμέτρηση καταλληλότητας των απαντήσεων, checkpointing και auditing μοντέλων πριν την ευρεία κυκλοφορία, και διαφανή reporting για σφάλματα και bias. Ταυτόχρονα, οι ρυθμιστικές αρχές — ειδικά στην Ευρώπη με τον AI Act — κινούνται προς πιο αυστηρές απαιτήσεις αξιολόγησης και ασφαλειών για συστήματα υψηλού κινδύνου.
Γιατί έχει σημασία
Η ικανότητα ενός μοντέλου να εντοπίζει και να απορρίπτει μίσος και συνωμοσιολογία έχει άμεσες κοινωνικές επιπτώσεις: από τη διάδοση ρητορικής που στοχοποιεί μειονότητες μέχρι τον τρόπο που πληροφορίες παραποιούνται και διαδίδονται. Όταν ένα ευρύ κοινό αλληλεπιδρά με chatbots για ειδήσεις, ψυχαγωγία ή υποστήριξη, οι λανθασμένες ή επιθετικές απαντήσεις δεν είναι «απλά λάθη» — μπορούν να υπονομεύσουν εμπιστοσύνη, να ενθαρρύνουν βία ή να νομιμοποιήσουν επικίνδυνες θεωρίες.
Η υπόθεση του Grok και η αντίθεση με το Claude δείχνουν επίσης ότι οι επιχειρηματικές και ιδεολογικές επιλογές των εταιρειών επηρεάζουν άμεσα τα χαρακτηριστικά ασφάλειας των προϊόντων. Αυτό κάνει τη συζήτηση πολιτική όσο και τεχνική: ποια είναι η αποδεκτή στάθμη ρίσκου, ποιος αποφασίζει για τα όρια της ελευθερίας λόγου, και πώς διασφαλίζουμε ότι τα συστήματα δεν αναπαράγουν ιστορικά επιβλαβείς αφηγήσεις;
Τι μπορούν να κάνουν οι ρυθμιστές και η κοινωνία
Η πολιτεία και οι ρυθμιστικές αρχές πρέπει να απαιτήσουν μετρήσιμα κριτήρια ασφάλειας και διαφάνειας: ανεξάρτητα audits, υποχρεωτική δημοσίευση δοκιμών bias, και κανόνες για multimodal testing που συμπεριλαμβάνουν εικόνες και έγγραφα. Οι πλατφόρμες οφείλουν να αποκαλύπτουν τι ενημερώσεις ασφαλείας έγιναν, ποιος συμμετείχε στην επιμέλεια των δεδομένων, και ποια metrics χρησιμοποιήθηκαν κατά την ανάπτυξη.
Στο επίπεδο της κοινωνίας πολιτών, οργανώσεις που εκπροσωπούν ευάλωτες ομάδες πρέπει να έχουν πρόσβαση σε εργαλεία και πόρους για να αξιολογούν και να αναφέρουν προβλήματα. Στην Ελλάδα και την Ευρώπη, η ενημέρωση του κοινού για τα όρια και τους κινδύνους των LLMs είναι κρίσιμη, καθώς και η ενίσχυση δεξιοτήτων κριτικής ψηφιακής πολυμέρειας.
Συμπέρασμα
Η έρευνα της ADL δεν είναι μόνο μια λίστα επιδόσεων μοντέλων· είναι μια πρόσκληση σε δράση. Το γεγονός ότι ένα εμπορικά διαθέσιμο σύστημα όπως το Grok είχε τόσο χαμηλή επίδοση στην αντιμετώπιση αντισημιτισμού δείχνει το κόστος της αμελούς ή ιδεολογικά φορτισμένης διαχείρισης της ασφάλειας. Η τεχνολογία εδώ δεν είναι ουδέτερη: η εκπαίδευση, οι πολιτικές των εταιρειών, τα δεδομένα και οι επιλογές σχεδιασμού διαμορφώνουν το περιεχόμενο που παράγουν οι μηχανές και, μέσω αυτών, τη δημόσια συζήτηση.
Η βελτίωση απαιτεί συνδυασμό τεχνικών λύσεων, εταιρικής ευθύνης και ρυθμιστικής εποπτείας. Μέχρι τότε, οι χρήστες και οι δημιουργοί πολιτικής πρέπει να προσεγγίζουν τα LLMs με σκεπτικισμό και με απαιτήσεις για μεγαλύτερη διαφάνεια και ασφάλεια.
