Σάλος στο Reddit: Ερευνητές χρησιμοποίησαν κρυφά AI bots για πείραμα χειραγώγησης χρηστών

Έντονες αντιδράσεις και νομικές επιπτώσεις έχει προκαλέσει ένα αμφιλεγόμενο πείραμα που διεξήχθη από ερευνητές του Πανεπιστημίου της Ζυρίχης, οι οποίοι χρησιμοποίησαν AI bots για να παρέμβουν στις συζητήσεις χρηστών στο δημοφιλές φόρουμ Reddit, χωρίς τη γνώση ή συναίνεση των συμμετεχόντων.

Το επίκεντρο της υπόθεσης ήταν το subreddit r/ChangeMyView (CMV), μια πλατφόρμα με περίπου 4 εκατομμύρια χρήστες, όπου οι συμμετέχοντες καλούνται να διατυπώσουν απόψεις και να ανοιχτούν σε επιχειρήματα που μπορεί να τους αλλάξουν γνώμη. Οι ερευνητές, στο πλαίσιο της μελέτης τους για το αν τα AI bots μπορούν να επηρεάσουν τη δημόσια άποψη, «εξαπέλυσαν» ένα δίκτυο από bot-σχολιαστές.

Τα AI bots άφησαν πάνω από 1.700 σχόλια στο φόρουμ, υιοθετώντας μια σειρά από πλασματικές ταυτότητες, προκειμένου να φανούν πειστικά. Μεταξύ αυτών περιλαμβάνονταν:

• Ένας άνδρας που ισχυριζόταν ότι είναι θύμα βιασμού, υποβαθμίζοντας την τραυματική εμπειρία.
• Ένας σύμβουλος ενδοοικογενειακής βίας, που υποστήριζε πως οι πιο ευάλωτες γυναίκες είναι όσες «προστατεύονται υπερβολικά από τους γονείς τους».
• Ένας μαύρος άνδρας αντίθετος στο κίνημα Black Lives Matter.

Ένα ακόμη bot παρακολουθούσε τα προφίλ χρηστών για να εξατομικεύσει τις απαντήσεις και να τις καταστήσει ακόμα πιο πειστικές.

Η αποκάλυψη του πειράματος έγινε μετά το πέρας της δοκιμής, όταν οι ερευνητές ενημέρωσαν τους συντονιστές του subreddit, παρέχοντας και ένα πρόχειρο κείμενο με τα πρώτα αποτελέσματα της μελέτης. Οι συντονιστές, αιφνιδιασμένοι, δημοσίευσαν ανακοίνωση στην κοινότητα, χαρακτηρίζοντας το πείραμα ανήθικο και επισημαίνοντας ότι «το γεγονός πως κάτι δεν έχει ξαναγίνει, δεν το καθιστά αποδεκτό».

Οι χρήστες αντέδρασαν εξίσου οργισμένα, ενώ το ζήτημα πήρε νομική διάσταση όταν ο νομικός εκπρόσωπος του Reddit, Ben Lee, με σχόλιό του κάτω από την ανάρτηση, ανακοίνωσε ότι η πλατφόρμα θα κινηθεί νομικά κατά του Πανεπιστημίου της Ζυρίχης.

Αυτό που έκανε η ερευνητική ομάδα είναι βαθιά εσφαλμένο, τόσο ηθικά όσο και νομικά. Παραβιάζει τους κανόνες δεοντολογίας της επιστημονικής έρευνας, τα ανθρώπινα δικαιώματα και τους όρους χρήσης του Reddit.

Παρά την ηθική κατακραυγή, τα αποτελέσματα του πειράματος προκαλούν προβληματισμό. Σύμφωνα με το πρόχειρο πόρισμα, τα AI σχόλια ήταν τρεις έως έξι φορές πιο πειστικά σε σύγκριση με τα σχόλια των ανθρώπων. Η μέτρηση βασίστηκε σε μια λειτουργία του subreddit που επιτρέπει στους χρήστες να απονείμουν «βραβεία αλλαγής άποψης» (Delta Awards) σε σχόλια που τους έπεισαν να αλλάξουν γνώμη. Αξιοσημείωτο είναι επίσης ότι κανένας χρήστης δεν εξέφρασε υποψίες ότι τα σχόλια ίσως να είχαν παραχθεί από τεχνητή νοημοσύνη.

Οι συγγραφείς του κειμένου δεν υπέγραψαν το πρόχειρο πόρισμα, παραβιάζοντας τη συνήθη ακαδημαϊκή πρακτική διαφάνειας, γεγονός που επιδείνωσε τις αντιδράσεις.

Σε δήλωσή του στο ειδησεογραφικό μέσο 404 Media, το Πανεπιστήμιο της Ζυρίχης διαβεβαίωσε ότι τα αποτελέσματα δεν θα δημοσιευτούν και ότι η επιτροπή ηθικής του ιδρύματος θα εφαρμόζει πλέον αυστηρότερο έλεγχο σε ανάλογες μελλοντικές μελέτες. Ιδιαίτερη βαρύτητα θα δίνεται στον συντονισμό με τις διαδικτυακές κοινότητες πριν από οποιαδήποτε παρέμβαση.

Το περιστατικό αυτό επαναφέρει στο προσκήνιο τους κινδύνους της ευρείας χρήσης AI bots στο διαδίκτυο. Ήδη από τον Μάρτιο του 2025, έρευνες έδειξαν ότι το GPT-4.5 της OpenAI πέρασε το τεστ Turing, με τους χρήστες να το αναγνωρίζουν ως άνθρωπο σε ποσοστό 73%.

Τέτοιες εξελίξεις ενισχύουν την ανησυχία πως, χωρίς ρύθμιση, τα AI συστήματα μπορούν να κατακλύσουν το διαδίκτυο με περιεχόμενο μη ανθρώπινης προέλευσης, δημιουργώντας αυτό που ονομάζεται θεωρία του «νεκρού Διαδικτύου», ένα σενάριο όπου η πλειοψηφία του online περιεχομένου προέρχεται από μηχανές.

Προς το παρόν, παραμένει θεωρία. Όμως γεγονότα όπως αυτό δείχνουν ότι ίσως δεν απέχουμε τόσο πολύ.

[via]