Η OpenAI ενεργοποιεί σύστημα αποτροπής deepfakes για τις αμερικανικές εκλογές του 2026

Σύνοψη

• Ενεργοποίηση ενός κέντρου επιχειρήσεων (Election Operations Center) που θα λειτουργεί αδιάκοπα μέχρι την καταμέτρηση και της τελευταίας ψήφου.
• Πλήρης απαγόρευση πολιτικών διαφημίσεων, παρά τις εκτιμήσεις για συνολική διαφημιστική δαπάνη 11,6 δισεκατομμυρίων δολαρίων στις ενδιάμεσες εκλογές.
• Ενσωμάτωση επίσημων δεδομένων από το Associated Press (AP) για την προβολή έγκυρων αποτελεσμάτων σε πραγματικό χρόνο στους χρήστες του ChatGPT.
• Αποτροπή και αποκλεισμός κρατικά υποστηριζόμενων επιχειρήσεων επιρροής, συμπεριλαμβανομένων πρόσφατων δικτύων από τη Ρωσία και το Ιράν.
• Συνεργασία με την πλατφόρμα Democracy Works για την παροχή ακριβών πληροφοριών σχετικά με τα εκλογικά κέντρα και τις διαδικασίες εγγραφής ψηφοφόρων.

Η ενσωμάτωση της παραγωγικής τεχνητής νοημοσύνης στην καθημερινή αναζήτηση πληροφοριών έχει μεταβάλει ριζικά τον τρόπο με τον οποίο οι πολίτες ενημερώνονται για τις πολιτικές εξελίξεις. Ενόψει των ενδιάμεσων αμερικανικών εκλογών της 3ης Νοεμβρίου 2026, η OpenAI προχώρησε στη σύσταση ενός ειδικού κέντρου επιχειρήσεων, το οποίο ονομάζεται Election Operations Center. Η δομή αυτή, την οποία διευθύνει ο επικεφαλής πολιτικών και στρατηγικών κινδύνων της εταιρείας, Josh Lawson, απαρτίζεται από εκατοντάδες εργαζομένους που προέρχονται από διάφορα τμήματα ανάπτυξης και ασφάλειας. Το κέντρο αυτό σχεδιάστηκε για να λειτουργεί αδιάκοπα μέχρι την οριστική καταμέτρηση όλων των ψήφων, αναλαμβάνοντας το κρίσιμο έργο της παρακολούθησης των μεγάλων γλωσσικών μοντέλων της εταιρείας για τυχόν απρόβλεπτες συμπεριφορές ή παραβιάσεις των όρων χρήσης.

Οι αναλυτές της AdImpact προβλέπουν ότι οι διαφημιστικές δαπάνες θα αγγίξουν το ιστορικό υψηλό των 11,6 δισεκατομμυρίων δολαρίων, ξεπερνώντας ακόμη και τα μεγέθη των προεδρικών εκλογών του 2024. Παρ' όλα αυτά, η OpenAI, διαχειριζόμενη μια πλατφόρμα που εξυπηρετεί πλέον περισσότερους από ένα δισεκατομμύριο χρήστες εβδομαδιαίως, αποφάσισε να απέχει πλήρως από τη συγκεκριμένη αγορά. Η εταιρεία έχει απαγορεύσει ρητά τις πολιτικές διαφημίσεις στα προϊόντα της, προτιμώντας να επενδύσει τεράστιους πόρους στον έλεγχο της ποιότητας και στην προστασία της πλατφόρμας της από εξωτερικές απειλές. Αυτή η απόφαση υπογραμμίζει τη σημασία που δίνει η διοίκηση στη μακροπρόθεσμη αξιοπιστία των απαντήσεων του ChatGPT, καθώς ένα πιθανό σκάνδαλο παραπληροφόρησης την εβδομάδα των εκλογών θα μπορούσε να πλήξει ανεπανόρθωτα την εμπιστοσύνη των χρηστών και των εμπορικών συνεργατών της στο μέλλον.

Για να διασφαλίσει την ακρίβεια των πληροφοριών που παρέχονται μέσω των αυτοματοποιημένων απαντήσεων, το ChatGPT αντλεί πλέον δεδομένα απευθείας από πιστοποιημένες πηγές. Μέσω μιας πολυετούς συμφωνίας αδειοδότησης που καλύπτει εθνικές και τοπικές αναμετρήσεις έως και τις γενικές εκλογές του 2028, το σύστημα επικοινωνεί με το Associated Press (AP) για τη μετάδοση πιστοποιημένων καταμετρήσεων ψήφων. Αξίζει να σημειωθεί ότι το AP διατηρεί ένα εντυπωσιακό ποσοστό ακρίβειας 99,9% στην πρόβλεψη αποτελεσμάτων, έχοντας καλύψει με επιτυχία σχεδόν 7.000 αναμετρήσεις το 2024. Επίσης, η OpenAI συνεργάζεται στενά με την οργάνωση Democracy Works, εξασφαλίζοντας ότι οι χρήστες λαμβάνουν έγκυρες οδηγίες σχετικά με τις τοποθεσίες των εκλογικών κέντρων και τις διαδικασίες εγγραφής σε περιοχές με πληθυσμό άνω των 5.000 κατοίκων.

Στο μέτωπο της κυβερνοασφάλειας και της αντιμετώπισης κακόβουλων δικτύων, οι προσπάθειες του Election Operations Center είναι ιδιαίτερα εντατικές. Στις 8 Οκτωβρίου, η εταιρεία ανακοίνωσε την απενεργοποίηση δύο μεγάλων επιχειρήσεων επιρροής, οι οποίες προέρχονταν από τη Ρωσία και το Ιράν. Η ρωσική επιχείρηση βαθμολογήθηκε ως απειλή επιπέδου 5 στην κλίμακα της OpenAI, αποτελώντας την πιο σοβαρή περίπτωση οργανωμένης παραπληροφόρησης που έχει αντιμετωπίσει η πλατφόρμα μέχρι σήμερα. Από την άλλη πλευρά, το ιρανικό δίκτυο είχε καταφέρει να δημοσιεύσει εκατοντάδες άρθρα σε διάφορα μέσα χρησιμοποιώντας ψεύτικα ονόματα συντακτών, αποδεικνύοντας την αυξανόμενη πολυπλοκότητα των μεθόδων που χρησιμοποιούνται για τη χειραγώγηση της κοινής γνώμης. Μέσα σε δυόμισι χρόνια, η OpenAI έχει εκθέσει συνολικά 30 τέτοιες συγκεκαλυμμένες επιχειρήσεις, καταδεικνύοντας τον κρίσιμο ρόλο που καλούνται να παίξουν οι εταιρείες τεχνητής νοημοσύνης στη διαφύλαξη των δημοκρατικών διαδικασιών.

Βέβαια, η τεχνολογική κοινότητα και ανεξάρτητοι ελεγκτές διατηρούν επιφυλάξεις σχετικά με την αποτελεσματικότητα των υφιστάμενων φίλτρων προστασίας. Εξωτερικές δοκιμές, όπως αυτές που διεξήχθησαν από τον οργανισμό NewsGuard, απέδειξαν ότι τα νέα εργαλεία δημιουργίας εικόνων της OpenAI εξακολουθούν να παρουσιάζουν ευπάθειες. Σύμφωνα με τα αποτελέσματα των ελέγχων, το σύστημα παρήγαγε ψευδείς και υποτιμητικές εικόνες πολιτικών προσώπων κατόπιν σχετικών αιτημάτων σε ποσοστό 80%, συμμορφούμενο με 16 από τα 20 κακόβουλα prompts που δέχτηκε. Για την αντιμετώπιση αυτών των αδυναμιών, η OpenAI προχωρά στην ενσωμάτωση του συστήματος υδατογράφησης SynthID της Google, το οποίο διευκολύνει την ανίχνευση οπτικού υλικού που έχει παραχθεί από μηχανές, προσφέροντας παράλληλα νέα εργαλεία δημόσιας επαλήθευσης στους χρήστες.

Η δημιουργία του εκλογικού κέντρου επιχειρήσεων από την OpenAI αποτελεί μια αυστηρή πρακτική ελέγχου ποιότητας για την πιο απαιτητική εβδομάδα χρήσης των προϊόντων της. Η επιτυχία ή η αποτυχία αυτού του εγχειρήματος θα κριθεί σε μεγάλο βαθμό από τις εκθέσεις διαφάνειας που καλείται να δημοσιεύσει η εταιρεία μετά την ολοκλήρωση της εκλογικής διαδικασίας, θέτοντας το πρότυπο για τον τρόπο με τον οποίο ο κλάδος της τεχνητής νοημοσύνης θα διαχειρίζεται κρίσιμα πολιτικά γεγονότα στο μέλλον.