Οι ψευδαισθήσεις της AI: Ένα αυξανόμενο πρόβλημα

Η πρόκληση των ψευδαισθήσεων στην τεχνητή νοημοσύνη

Οι ψευδαισθήσεις στην τεχνητή νοημοσύνη, γνωστές και ως “hallucinations”, αποτελούν ένα αυξανόμενο πρόβλημα που δεν δείχνει σημάδια εξαφάνισης. Παρά τις συνεχείς βελτιώσεις και τις αναβαθμίσεις που υπόσχονται οι τεχνολογικές εταιρείες, όπως η OpenAI και η Google, τα chatbots συνεχίζουν να παρουσιάζουν ανακρίβειες και λάθη. Αυτές οι ψευδαισθήσεις δεν περιορίζονται μόνο σε λανθασμένες πληροφορίες, αλλά περιλαμβάνουν και απαντήσεις που, παρότι ακριβείς, δεν σχετίζονται με το ερώτημα ή δεν ακολουθούν τις οδηγίες.

Τι είναι οι ψευδαισθήσεις και γιατί συμβαίνουν;

Οι ψευδαισθήσεις είναι ένα ευρύ φαινόμενο που αφορά τα μεγάλα γλωσσικά μοντέλα (LLMs) όπως το ChatGPT της OpenAI και το Gemini της Google. Ο όρος αναφέρεται σε περιπτώσεις όπου τα μοντέλα παρουσιάζουν ψευδείς πληροφορίες ως αληθείς ή δεν ακολουθούν τις οδηγίες με ακρίβεια. Για παράδειγμα, μια απάντηση μπορεί να είναι αληθής αλλά άσχετη με το ερώτημα που τέθηκε.

Στατιστικά και συγκρίσεις: Το πρόβλημα σε αριθμούς

Σύμφωνα με τεχνική αναφορά της OpenAI, τα πιο πρόσφατα μοντέλα της, όπως τα o3 και o4-mini, παρουσιάζουν αυξημένα ποσοστά ψευδαισθήσεων σε σύγκριση με το προηγούμενο μοντέλο o1. Συγκεκριμένα, το μοντέλο o3 είχε ψευδαισθήσεις στο 33% των περιπτώσεων, ενώ το o4-mini στο 48%, σε αντίθεση με το 16% του o1.

Η ευρύτερη εικόνα: Δεν είναι μόνο η OpenAI

Το πρόβλημα δεν περιορίζεται στην OpenAI. Πίνακες κατάταξης, όπως αυτός της Vectara, δείχνουν ότι και άλλα μοντέλα, όπως το DeepSeek-R1 από την εταιρεία DeepSeek, έχουν αυξημένα ποσοστά ψευδαισθήσεων. Αυτά τα μοντέλα, ενώ ακολουθούν διαδικασίες λογικής σκέψης, εξακολουθούν να παρουσιάζουν λάθη.

Η αντίδραση των εταιρειών και οι προκλήσεις

Η OpenAI υποστηρίζει ότι οι ψευδαισθήσεις δεν είναι πιο συχνές στα μοντέλα λογικής σκέψης και συνεχίζει να εργάζεται για τη μείωση των υψηλών ποσοστών. Ωστόσο, η χρήση αυτών των μοντέλων σε εφαρμογές όπως η νομική ή η εξυπηρέτηση πελατών μπορεί να είναι προβληματική, αν οι ψευδαισθήσεις δεν μειωθούν.

Η σημασία της ακρίβειας και οι επιπτώσεις

Η ακρίβεια είναι κρίσιμη για την αξιοπιστία των AI μοντέλων. Ένα μοντέλο που παρέχει ψευδείς πληροφορίες ή απαιτεί συνεχές έλεγχο δεν μπορεί να θεωρηθεί αξιόπιστο εργαλείο. Οι εταιρείες τεχνολογίας αρχικά υποστήριζαν ότι οι ψευδαισθήσεις θα μειώνονταν με την πάροδο του χρόνου, αλλά τα πρόσφατα δεδομένα δείχνουν το αντίθετο.

Η προοπτική του μέλλοντος

Η αντιμετώπιση των ψευδαισθήσεων παραμένει πρόκληση. Όπως σημειώνει ο Arvind Narayanan από το Πανεπιστήμιο του Princeton, το πρόβλημα δεν περιορίζεται μόνο στις ψευδαισθήσεις. Τα μοντέλα μπορεί επίσης να χρησιμοποιούν αναξιόπιστες πηγές ή ξεπερασμένες πληροφορίες. Η προσθήκη περισσότερων δεδομένων και υπολογιστικής ισχύος δεν έχει αποδειχθεί αποτελεσματική λύση.

Συμπεράσματα και προτάσεις

Εν κατακλείδι, ίσως χρειαστεί να αποδεχτούμε την ύπαρξη λαθών στα μοντέλα AI. Σε ορισμένες περιπτώσεις, μπορεί να είναι πιο αποτελεσματικό να χρησιμοποιούμε αυτά τα μοντέλα μόνο όταν ο έλεγχος των απαντήσεων είναι ταχύτερος από την παραδοσιακή έρευνα. Ωστόσο, η πλήρης εξάρτηση από τα chatbots για την παροχή ακριβών πληροφοριών μπορεί να μην είναι η καλύτερη προσέγγιση.