Μια νέα υπόθεση με γεωπολιτικές προεκτάσεις έφερε στο φως η OpenAI, αποκαλύπτοντας ότι έχει αναστείλει τη λειτουργία ορισμένων λογαριασμών με δεσμούς στην Κίνα, οι οποίοι φέρονται να χρησιμοποιούσαν το ChatGPT για την ανάπτυξη ενός εργαλείου κοινωνικής παρακολούθησης. Σύμφωνα με την εταιρεία, οι λογαριασμοί αυτοί είχαν αποκτήσει πρόσβαση στην πλατφόρμα μέσω VPN και εργάζονταν, όπως όλα δείχνουν, για λογαριασμό κυβερνητικού πελάτη.
Το έργο στο οποίο συμμετείχαν περιγράφεται ως ένα είδος «ανιχνευτή κοινωνικών δικτύων», σχεδιασμένο να παρακολουθεί πλατφόρμες όπως X (πρώην Twitter), Facebook, Instagram, Reddit, TikTok και YouTube. Ο σκοπός του εργαλείου ήταν να εντοπίζει περιεχόμενο που χαρακτηρίζεται ως «εξτρεμιστικό» ή σχετίζεται με ζητήματα εθνότητας, θρησκείας ή πολιτικής δραστηριότητας. Αν και η OpenAI ξεκαθάρισε ότι τα επίμαχα συστήματα δεν αξιοποιούσαν τα μοντέλα της για απευθείας παρακολούθηση, οι πληροφορίες προκαλούν ανησυχία σχετικά με το πώς μπορεί να χρησιμοποιηθεί η τεχνητή νοημοσύνη για κρατική επιτήρηση.
Η εταιρεία ανέφερε επίσης πως δεν έχει τη δυνατότητα να επιβεβαιώσει ανεξάρτητα εάν το εργαλείο αυτό χρησιμοποιήθηκε πράγματι από κάποια κινεζική κρατική υπηρεσία. Ωστόσο, η σύμπτωση ότι οι λογαριασμοί συνδέονταν από την Κίνα μέσω VPN και εργάζονταν σε έργα με πολιτικές και κοινωνικές προεκτάσεις, ενισχύει τις υποψίες.
Στο ίδιο πλαίσιο, η OpenAI αποκάλυψε ότι προχώρησε και στην απαγόρευση ενός ακόμη λογαριασμού, ο οποίος χρησιμοποιούσε το ChatGPT για να συντάξει πρόταση σχετικά με ένα λεγόμενο «High-Risk Uyghur-Related Inflow Warning Model». Το προτεινόμενο αυτό σύστημα υποτίθεται ότι θα βοηθούσε τους χειριστές του να παρακολουθούν τις μετακινήσεις των Ουιγούρων, να διασταυρώνουν τα στοιχεία τους με αστυνομικές βάσεις δεδομένων και να εκδίδουν προειδοποιήσεις για ταξιδιωτική δραστηριότητα.
Η αποκάλυψη αυτή είναι ιδιαίτερα ευαίσθητη, καθώς τα τελευταία χρόνια οργανώσεις ανθρωπίνων δικαιωμάτων έχουν κατηγορήσει επανειλημμένα την κινεζική κυβέρνηση για σοβαρές παραβιάσεις των δικαιωμάτων της μουσουλμανικής μειονότητας των Ουιγούρων, κυρίως στην επαρχία Xinjiang. Η χρήση της τεχνητής νοημοσύνης για παρακολούθηση και «προληπτική επιτήρηση» εθνικών ή θρησκευτικών ομάδων θεωρείται από πολλούς ένα από τα πιο ανησυχητικά πρόσωπα του σύγχρονου ψηφιακού αυταρχισμού.
Στην τελευταία της έκθεση για τις απειλές, η OpenAI παρουσίασε ακόμη περισσότερα στοιχεία που δείχνουν ότι ομάδες χρηστών που μιλούν κινέζικα, ρωσικά και κορεάτικα έχουν προσπαθήσει να αξιοποιήσουν το ChatGPT για τη δημιουργία ή βελτίωση κακόβουλου λογισμικού. Αυτά περιλάμβαναν trojans απομακρυσμένης πρόσβασης, εργαλεία κλοπής διαπιστευτηρίων και προγράμματα σχεδιασμένα για να αποφεύγουν τα συστήματα ανίχνευσης ασφαλείας.
Παράλληλα, η OpenAI ανέφερε ότι έχει διακόψει και δίκτυα απάτης που λειτουργούσαν από την Καμπότζη, τη Μιανμάρ και τη Νιγηρία, τα οποία επιχείρησαν να κάνουν κατάχρηση των μοντέλων της για οικονομικό όφελος ή παραπλανητικές δραστηριότητες.
Ωστόσο, η εταιρεία υπογραμμίζει πως δεν υπάρχουν ενδείξεις ότι τα συστήματά της παρείχαν στους κακόβουλους χρήστες νέες ή ιδιαίτερα επικίνδυνες δυνατότητες. «Δεν εντοπίσαμε καμία νέα τακτική ή αποδείξεις ότι τα μοντέλα μας έδωσαν στους επιτιθέμενους επιθετικές δυνατότητες που δεν διέθεταν ήδη. Αντιθέτως, τα μοντέλα μας αρνήθηκαν σταθερά κάθε κακόβουλο αίτημα», αναφέρει χαρακτηριστικά η ανακοίνωση της OpenAI.
Η στάση αυτή εντάσσεται στη γενικότερη πολιτική διαφάνειας που ακολουθεί η εταιρεία από τον Φεβρουάριο του 2024, όταν ξεκίνησε να δημοσιοποιεί τις «αναφορές απειλών» της. Από τότε, η OpenAI έχει εντοπίσει, αναστείλει και καταγγείλει περισσότερα από 40 δίκτυα που παραβίαζαν τους κανόνες χρήσης της.
Η υπόθεση των κινεζικών λογαριασμών αναδεικνύει ένα αυξανόμενο πρόβλημα: τη χρήση της γενετικής τεχνητής νοημοσύνης από κρατικούς ή παρακρατικούς φορείς για σκοπούς επιτήρησης, προπαγάνδας ή κοινωνικού ελέγχου. Αν και οι περισσότερες δυτικές εταιρείες, όπως η OpenAI, επιχειρούν να βάλουν όρια στη χρήση των εργαλείων τους, η φύση της τεχνολογίας καθιστά δύσκολο τον πλήρη έλεγχο. Οι λογαριασμοί μπορούν εύκολα να δημιουργηθούν μέσω VPN ή ανώνυμων υπηρεσιών, ενώ οι εφαρμογές που προκύπτουν από τη χρήση του ChatGPT μπορούν να μετατραπούν γρήγορα σε εμπορικά ή κυβερνητικά εργαλεία.
[via]
