Μπορούν τα συστήματα σήμανσης AI να σταματήσουν τα deepfakes;

Η μάχη για την αυθεντικότητα ψηφιακού περιεχομένου εισέρχεται σε κρίσιμη φάση. Με την αυξανόμενη ικανότητα των μοντέλων τεχνητής νοημοσύνης να δημιουργούν ρεαλιστικές εικόνες, βίντεο και ήχο, η ανάγκη για αξιόπιστους μηχανισμούς που να αποδεικνύουν την προέλευση έγινε επείγουσα. Δύο τεχνολογίες ξεχωρίζουν ως οι πιο ελπιδοφόρες: το αόρατο watermarking SynthID και το πρότυπο δηλώσεων προέλευσης C2PA. Η πρόσφατη απόφαση μεγάλων παικτών της αγοράς να επεκτείνουν την υποστήριξή τους για αυτές τις λύσεις —και κυρίως η ενσωμάτωση ελέγχων απευθείας στο περιβάλλον του browser— θα δείξει αν αυτά τα εργαλεία είναι πράγματι ικανά να αλλάξουν την ισορροπία.

Τι είναι το SynthID και πώς διαφέρει από το C2PA

Το SynthID είναι ένας τύπος αόρατου ψηφιακού υδατογραφήματος (watermark), που ενσωματώνεται απευθείας στα pixels μιας εικόνας ή στα δεδομένα ενός βίντεο/ήχου από το σημείο δημιουργίας με στόχο να παραμένει ανιχνεύσιμο ακόμη και μετά από μετατροπές. Λειτουργεί ως ένα ενδογενές «σημάδι» που δείχνει ότι το περιεχόμενο προήλθε από ένα συγκεκριμένο μοντέλο ή παραγωγική ροή που υποστηρίζει το σύστημα. Το μεγάλο πλεονέκτημα του SynthID είναι η ανθεκτικότητα: σωστά εφαρμοζόμενο, δεν αφαιρείται εύκολα με απλές ενέργειες όπως αλλαγή μεγέθους, συμπίεση ή ελαφρές επεμβάσεις.

Αντιθέτως, το C2PA (Content Authenticity Initiative / Coalition for Content Provenance and Authenticity) δεν είναι watermark. Πρόκειται για ένα πρότυπο δηλώσεων προέλευσης και μεταδεδομένων που καταγράφει ένα «αλυσίδα τεκμηρίωσης» για ένα αρχείο: ποιος το δημιούργησε, ποια εργαλεία χρησιμοποίησε, ποιοι χειρισμοί έγιναν και τελικά ψηφιακές υπογραφές που μπορούν να επαληθευτούν. Τα δεδομένα αυτά ενσωματώνονται στο αρχείο ή συνδέονται με αυτό, και η αξιοπιστία τους βασίζεται στην αυθεντικότητα των ψηφιακών υπογραφών και στην ακεραιότητα της αλυσίδας.

Η νέα επέκταση: Chrome, Search και τα verification εργαλεία

Κατά την πρόσφατη παρουσίαση στο συνέδριο I/O, η Google ανακοίνωσε ότι οι έλεγχοι για το αν μια εικόνα περιέχει SynthID θα γίνουν διαθέσιμοι απευθείας σε Chrome και Search. Αυτό είναι σημαντικό επειδή ο browser και η αναζήτηση είναι τα πρώτα σημεία επαφής για δισεκατομμύρια χρήστες, και η ενσωμάτωση τέτοιων εργαλείων σημαίνει ότι η δυνατότητα επαλήθευσης δεν απαιτεί πλέον να φορτώνεις εικόνες σε ξεχωριστές εφαρμογές. Παράλληλα, η ίδια διεπαφή θα ελέγχει και για πληροφορίες C2PA, επιτρέποντας στον χρήστη να δει γρήγορα αν ένα αρχείο φέρει δηλώσεις προέλευσης.

Η πρακτική συνέπεια είναι απλή: αντί να πηγαινοέρχεται κανείς μεταξύ της εφαρμογής Gemini και εξωτερικών εργαλείων επαλήθευσης, μπορεί να κάνει έναν ενιαίο έλεγχο μέσα στον browser. Εφόσον οι περισσότεροι χρήστες δεν έχουν την τεχνική εξοικείωση για να διεξάγουν περίπλοκες επαληθεύσεις, αυτή η απλοποίηση έχει πραγματική αξία—εφόσον φυσικά τα αποτελέσματα είναι αξιόπιστα.

OpenAI, Meta και η επέκταση της σήμανσης

Η κίνηση αυτή συνοδεύτηκε από ανακοινώσεις και άλλων παικτών: η OpenAI δήλωσε ότι θα ενσωματώσει SynthID σε εικόνες που παράγονται από υπηρεσίες όπως το ChatGPT και το API της. Παράλληλα, η OpenAI ήδη ενσωμάτωνε μεταδεδομένα C2PA, αλλά επισημαίνει το ίδιο πρόβλημα που επισημαίνουν πολλοί: αυτά τα μεταδεδομένα μπορούν να αφαιρεθούν ή να χαθούν όταν οι εικόνες αναρτώνται σε πλατφόρμες που κόβουν τα metadata ή όταν ληφθεί screenshot.

Άλλη ενδιαφέρουσα κίνηση είναι ότι η Meta συμφώνησε να χρησιμοποιεί C2PA για να επισημαίνει φωτογραφίες που έχουν ληφθεί από κάμερες στο Instagram. Στην πράξη, κάτι τέτοιο μπορεί να εμφανίζει έναν απλό ισχυρισμό όπως «captured on Pixel 10» και να βοηθά τους χρήστες να ξεχωρίζουν άμεσα μια φωτογραφία που προέρχεται από φυσική κάμερα από μια που είναι πιθανό να έχει δημιουργηθεί ή τροποποιηθεί με AI.

Περιορισμοί στην πράξη: γιατί τίποτα δεν είναι πανάκεια

Όλες αυτές οι κινήσεις έχουν νόημα, αλλά δεν λύνουν αυτόματα το πρόβλημα. Το C2PA εξαρτάται από το αν οι δημιουργοί ή τα εργαλεία που χρησιμοποιούνται καταγράφουν και υπογράφουν τις δηλώσεις προέλευσης. Εάν αυτές οι δηλώσεις αφαιρεθούν, αλλοιωθούν ή δεν προστεθούν εξαρχής, η έλλειψή τους δεν σημαίνει κάτι αναντίρρητο. Επιπλέον, πολλές πλατφόρμες κοινωνικής δικτύωσης σήμερα αφαιρούν metadata κατά το upload, και το απλό screenshot εξαλείφει αμέσως κάθε ενσωματωμένη πληροφορία. Αυτό κάνει το C2PA ευάλωτο σε απλές πρακτικές που τρέφουν τη διασπορά ψευδούς περιεχομένου.

Το SynthID, από την άλλη, μοιάζει πιο ανθεκτικό σε κάποιες επιθέσεις επειδή είναι σχεδιασμένο να επιβιώνει μετασχηματισμούς. Ωστόσο, και αυτό δεν είναι πλήρως αδιαπέραστο: ειδικά προσαρμοσμένες επεξεργασίες, adversarial attacks ή μετατροπές υψηλής έντασης μπορούν να μειώσουν την ανιχνευσιμότητα. Επιπλέον, κανένα από τα δύο δεν έχει νόημα αν οι κακόβουλοι δημιουργοί προτιμούν ανοιχτού κώδικα μοντέλα που δεν υιοθετούν τέτοιες πρακτικές.

Συνέργεια ή ανταγωνισμός; Το οικοσύστημα που απαιτείται

Ιδανικά, C2PA και SynthID θα λειτουργήσουν συμπληρωματικά: το ένα να καταγράφει την προέλευση με μεταδεδομένα και η άλλο να αφήνει ένα ανιχνεύσιμο σήμα στο ίδιο το περιεχόμενο. Για να γίνει αυτό ουσιαστικό, χρειάζεται μαζική υιοθέτηση από τρεις κατηγορίες φορέων: παραγωγοί περιεχομένου και κατασκευαστές AI μοντέλων, πλατφόρμες διανομής (social media, ιστοσελίδες) και κατασκευαστές λογισμικού/υλικού (camera OEMs, browsers). Μόνο όταν και οι τρεις δουλέψουν από κοινού θα υπάρξει πραγματικός βαθμός προστασίας.

Η ενσωμάτωση στον browser είναι έξυπνο βήμα γιατί προσφέρει ένα «παράθυρο» ελέγχου ανεξάρτητο από τις πολιτικές των hosting πλατφορμών. Εάν ο Chrome μπορεί να εμφανίζει προειδοποιήσεις ή ενδείξεις για την προέλευση μιας εικόνας, αυτό μπορεί να γεφυρώσει το κενό όταν μια πλατφόρμα δεν δείχνει τέτοιες πληροφορίες. Αλλά αυτό επιφέρει και νέα ερωτήματα: ποιος καθορίζει την πολιτική εμφάνισης; πόση εμπιστοσύνη δίνουμε σε έναν εμπορικό browser που αναπτύσσει και AI μοντέλα;

Πραγματικές συνέπειες και παραδείγματα

Στην πράξη, έχουμε δει περιπτώσεις όπου το SynthID βοήθησε fact-checkers να αποκαλύψουν deepfakes με σχετική ευκολία — κυρίως όταν περιεχόμενο έχει κυκλοφορήσει δημοσίως χωρίς να περνά από πλατφόρμες που διαγράφουν metadata. Αντίστοιχα, λανθασμένοι ή υπεραπλουστευτικοί μηχανισμοί σήμανσης έχουν ήδη προκαλέσει προβλήματα: δημοσιογράφοι και φωτογράφοι έχουν διαμαρτυρηθεί γιατί αυτόματες ετικέτες AI ταύτισαν νόμιμες λήψεις ως «AI-generated». Τέτοια false positives μπορούν να αποδυναμώσουν την εμπιστοσύνη στην τεχνολογία.

Επιπλέον, σε ένα σενάριο πολιτικής προπαγάνδας ή ψηφιακής απάτης, ένας επιτήδειος μπορεί να χρησιμοποιήσει εναλλακτικές ροές —όπως εικόνες που έχουν παραγγελθεί από μοντέλα χωρίς σήμανση ή μεταφορτώνονται μέσω πλατφορμών που καθαρίζουν metadata— για να διασπείρει παραπληροφόρηση. Αυτό δείχνει ότι η τεχνολογία σήμανσης δεν είναι λύση από μόνη της· είναι μέρος ενός μεγαλύτερου πλαισίου ανθεκτικότητας.

Γιατί έχει σημασία

Η κρίσιμη παράμετρος εδώ είναι η εμπιστοσύνη. Σε κοινωνίες όπου η οπτική πληροφορία επηρεάζει κοινωνικές αντιλήψεις, δικαστικές διαδικασίες και εκλογικά αποτελέσματα, η ικανότητα να επαληθεύσουμε τι είναι αυθεντικό έχει τεράστια σημασία. Η αποτυχία να δημιουργηθούν αξιόπιστα, διαλειτουργικά συστήματα σήμανσης αφήνει τον δημόσιο διάλογο εκτεθειμένο σε χειραγώγηση μέσω deepfakes. Αντίθετα, ένα πρακτικά αξιόπιστο οικοσύστημα αυθεντικότητας θα μειώσει τον θόρυβο, θα διευκολύνει τους δημοσιογράφους και τους fact-checkers και θα επιταχύνει τη νομική και ρυθμιστική ανταπόκριση σε κακόβουλες χρήσεις.

Τι σημαίνει για τους χρήστες

Για τον απλό χρήστη, η υπόσχεση είναι σαφής: μικρότερη πιθανότητα να εξαπατηθεί από μια ρεαλιστική, αλλά ψεύτικη είδηση ή δηλώσεις. Όμως η εμπειρία χρήστη πρέπει να σχεδιαστεί προσεκτικά. Οι ενδείξεις πρέπει να είναι κατανοητές, όχι τεχνικές, και να μην προκαλούν ψευδή αίσθηση ασφάλειας. Ένας browser που δείχνει “μηνύματα αξιοπιστίας” χωρίς να εξηγεί την προέλευσή τους ή τη βεβαιότητα πίσω τους μπορεί να δημιουργήσει σύγχυση. Παράλληλα, οι δημιουργοί περιεχομένου χρειάζονται ξεκάθαρα κίνητρα και εργαλεία για να προσθέτουν μεταδεδομένα, αλλιώς το σύστημα θα παραμείνει ημιτελές.

Ελληνικό και ευρωπαϊκό πλαίσιο

Σε ευρωπαϊκό επίπεδο, οι νομοθετικοί κανονισμοί όπως ο AI Act και ο Digital Services Act θέτουν το πλαίσιο για διαφάνεια και υπευθυνότητα στην ψηφιακή πλατφόρμα. Η Ευρώπη έχει ρητά ενδιαφέρον να απαιτήσει διαφάνεια στις μεγάλης κλίμακας τεχνητές νοημοσύνες και να προωθήσει πρότυπα αυθεντικότητας. Στην Ελλάδα, οι χρήστες και τα μέσα ενημέρωσης θα επωφεληθούν από ένα συντονισμένο πλαίσιο εφαρμογής: υποχρεώσεις για πλατφόρμες, οδηγίες για δημιουργούς περιεχομένου και εκπαίδευση πολιτών για να διαβάζουν ενδείξεις προέλευσης.

Μικρή επισκόπηση κινδύνων και προτάσεις

Οι κίνδυνοι είναι σαφείς: αποσπασματική υιοθέτηση, τεχνικές αδυναμίες, πλατφόρμες που αφαιρούν metadata, και δημιουργοί που αποφεύγουν την σήμανση. Για να προχωρήσει αποτελεσματικά η ιδέα της σήμανσης, χρειάζονται βήματα όπως: ενσωμάτωση υποχρεωτικών δηλώσεων προέλευσης σε κλειστά οικοσυστήματα, υποστήριξη hardware-level provenance (κάμερες που υπογράφουν εικόνες), κοινά εργαλεία ελέγχου ανοιχτά για αξιολόγηση, και ανεξάρτητοι μηχανισμοί επιθεώρησης. Επίσης, η διαφάνεια απέναντι στο κοινό για τα όρια και τις πιθανές αποτυχίες είναι κρίσιμη για να μην καταλήξουν οι χρήστες σε λανθασμένη εμπιστοσύνη.

Η επέκταση του SynthID και του C2PA σε μεγάλους παρόχους και browsers αποτελεί σημαντικό στάδιο —όχι η τελική λύση. Αν οι τεχνολογίες αυτές αξιοποιηθούν σωστά, σε συνδυασμό με ρυθμιστικά μέτρα και ευρύτερη υιοθέτηση, μπορούν να βελτιώσουν την ψηφιακή ανθεκτικότητα. Αν όμως παραμείνουν αποσπασματικές και περιορισμένες, θα είναι απλώς ακόμη ένα εργαλείο που οι επιτήδειοι θα παρακάμπτουν.

Το στοίχημα πλέον είναι πρακτικό: θα αποδείξουν οι εταιρείες και οι οργανισμοί ότι μπορούν να συνεργαστούν, να δημιουργήσουν αξιόπιστα UX για τους χρήστες και να προωθήσουν υποχρεώσεις και κίνητρα ώστε τα μέσα να φέρουν σωστή σήμανση; Αν ναι, τότε έχουμε ένα εργαλείο στην εργαλειοθήκη για την αντιμετώπιση των deepfakes. Αν όχι, θα χρειαστούμε μεγαλύτερη νομική και τεχνική ρύθμιση για να προστατέψουμε τον δημόσιο χώρο.