Η OpenAI ενισχύει την ασφάλεια του ChatGPT κατά της κακοποίησης ανηλίκων (CSAM)

Η OpenAI παρουσίασε νέα εργαλεία και αυστηρότερες ποινές στο ChatGPT για την καταπολέμηση του CSAM, διαθέτοντας παράλληλα έναν δωρεάν ταξινομητή εικόνων σε αρμόδιους οργανισμούς.

Add as preferred source on Google

Σύνοψη

  • Η OpenAI ανακοίνωσε μια ολοκληρωμένη σειρά εργαλείων για την ενεργή καταπολέμηση της διακίνησης και παραγωγής υλικού σεξουαλικής κακοποίησης παιδιών (CSAM) μέσω συστημάτων τεχνητής νοημοσύνης.
  • Στο επίκεντρο των ανακοινώσεων βρίσκεται ένας νέος ταξινομητής εικόνων (image classifier), ο οποίος διατίθεται δωρεάν αποκλειστικά σε εγκεκριμένους οργανισμούς και φορείς.
  • Οι αρχικές δοκιμές έδειξαν ότι το εν λόγω σύστημα μείωσε κατά 48% τις εσφαλμένες αναφορές, διατηρώντας με απόλυτη ακρίβεια τον αριθμό εντοπισμού πραγματικών περιστατικών.
  • Το ChatGPT ενσωματώνει πλέον ένα σύστημα κλιμακούμενων ποινών που περιλαμβάνει προειδοποιητικές οθόνες, υποχρεωτικές παύσεις 24 ωρών και οριστικούς αποκλεισμούς λογαριασμών για τους παραβάτες.
  • Οι νέες πολιτικές διαμορφώθηκαν μέσω στενής συνεργασίας με κορυφαίους οργανισμούς προστασίας ανηλίκων, όπως το Tech Coalition, το National Center for Missing & Exploited Children (NCMEC) και το Thorn.

Η OpenAI προχώρησε στη διάθεση ενός δωρεάν ταξινομητή εικόνων σε πιστοποιημένους οργανισμούς και ενσωμάτωσε αυστηρούς κανόνες στο ChatGPT, επιβάλλοντας 24ωρες αναστολές και οριστικούς αποκλεισμούς λογαριασμών για τον περιορισμό του υλικού σεξουαλικής κακοποίησης παιδιών (CSAM).

Η αυξανόμενη ανησυχία γύρω από τη χρήση παραγωγικών AI μοντέλων για τη δημιουργία μη συναινετικών και επιβλαβών εικόνων οδήγησε την εταιρεία στην ανάπτυξη μιας πολυεπίπεδης στρατηγικής άμυνας. Η προσπάθεια εντοπισμού και περιορισμού του επιβλαβούς υλικού απαιτεί πλέον πιο προηγμένα εργαλεία από τις παραδοσιακές βάσεις δεδομένων καταγραφής, καθώς η παραγωγή νέων, μη υπαρκτών προηγουμένως εικόνων καθιστά τον συμβατικό έλεγχο ανεπαρκή. 

Αντιμετωπίζοντας αυτό το κενό ασφαλείας, η δημιουργός του ChatGPT αναπτύσσει νέα τεχνολογικά εργαλεία, ενημερώνει τις πολιτικές χρήσης της και ανοίγει διαύλους επικοινωνίας με τις αρμόδιες αρχές προκειμένου να θωρακίσει τα συστήματά της. Το πακέτο μέτρων που ανακοινώθηκε απευθύνεται ταυτόχρονα στους τελικούς χρήστες, τους προγραμματιστές που χτίζουν εφαρμογές πάνω στα μοντέλα της, καθώς και τους ερευνητές που ασχολούνται με το ηλεκτρονικό έγκλημα.

Ο πυρήνας της νέας προσέγγισης εντοπίζεται στον ταξινομητή εικόνων (image classifier) που σχεδιάστηκε αποκλειστικά για τον εντοπισμό υλικού CSAM. Σε αντίθεση με τα συστήματα αντιστοίχισης κατακερματισμού (hash matching), τα οποία συγκρίνουν τα ψηφιακά αποτυπώματα γνωστών εικόνων, το νέο μοντέλο βασίζεται στην οπτική ανάλυση του περιεχομένου. Η διαφορά εντοπίζεται στο γεγονός πως μια νέα εικόνα παραγόμενη από τεχνητή νοημοσύνη δεν διαθέτει καταχωρημένο ψηφιακό αποτύπωμα, με αποτέλεσμα να προσπερνά τους συμβατικούς ελέγχους. Ο νέος ταξινομητής αξιολογεί αυτό που πραγματικά απεικονίζεται στην εικόνα, κλείνοντας ένα σημαντικό κενό ασφαλείας στα συστήματα ελέγχου. Οι δοκιμές με συνεργάτες απέδειξαν την αποτελεσματικότητα του συστήματος, το οποίο κατάφερε να μειώσει τον όγκο των εικόνων που χρειάζονταν ανθρώπινη επιθεώρηση κατά 48%, εντοπίζοντας παράλληλα τον ίδιο αριθμό πραγματικών παραβιάσεων. Η πρόσβαση στο εργαλείο παραμένει αυστηρά ελεγχόμενη και παρέχεται δωρεάν μόνο σε οργανισμούς που πληρούν τα κριτήρια πιστοποίησης, έπειτα από σχετική αίτηση και υπογραφή αυστηρών συμβολαίων χρήσης.

Παράλληλα με τα εργαλεία εντοπισμού στο παρασκήνιο, η εταιρεία προχώρησε σε ριζικές αλλαγές στον τρόπο με τον οποίο το ίδιο το ChatGPT αντιδρά στις προσπάθειες δημιουργίας ακατάλληλου περιεχομένου. Οι χρήστες που εισάγουν εντολές (prompts) οι οποίες αποσκοπούν στη σεξουαλικοποίηση ανηλίκων θα συναντούν πλέον ένα κλιμακούμενο σύστημα ποινών και προειδοποιήσεων. Το σύστημα ξεκινά με μια προειδοποιητική οθόνη που μπλοκάρει το αίτημα και κατευθύνει τον χρήστη σε πηγές υποστήριξης για την αντιμετώπιση επιβλαβών συμπεριφορών. Εφόσον ο χρήστης επιμείνει ή προχωρήσει σε πιο σοβαρές παραβιάσεις, η πλατφόρμα επιβάλλει αυτόματη αναστολή του λογαριασμού για 24 ώρες, ενώ οι κατ' εξακολούθηση παραβάτες αντιμετωπίζουν τον οριστικό αποκλεισμό από τις υπηρεσίες της εταιρείας. Οι αλλαγές ξεκίνησαν να εφαρμόζονται σταδιακά σε παγκόσμιο επίπεδο για τους προσωπικούς λογαριασμούς χρηστών, αν και η πλήρης ενσωμάτωση σε εταιρικούς και εκπαιδευτικούς λογαριασμούς θα ακολουθήσει σε μεταγενέστερο στάδιο.

Στο επίπεδο των προγραμματιστών, η OpenAI αυστηροποίησε τις κατευθυντήριες γραμμές για τη χρήση των πολυτροπικών μοντέλων της (multimodal models) μέσω API. Οι ομάδες ανάπτυξης καλούνται πλέον να μεταχειρίζονται τους ταξινομητές CSAM ως κρίσιμες δικλείδες ασφαλείας, διατηρώντας αναλυτικά αρχεία των παρεμβάσεων και εξασφαλίζοντας την ανθρώπινη εποπτεία στις περιπτώσεις υψηλής επικινδυνότητας. Η εταιρεία τονίζει την ανάγκη διαβίβασης του αναγνωριστικού ασφαλείας (safety_identifier) σε όλα τα τελικά σημεία (endpoints) εικόνων, ώστε τα σήματα κακοποίησης να μπορούν να αντιστοιχιστούν άμεσα στους υπεύθυνους λογαριασμούς. Η εφαρμογή των νέων κανόνων δεν αφήνει περιθώρια ευελιξίας, καθιστώντας απόλυτα σαφές πως οποιαδήποτε προσπάθεια απεικόνισης ανηλίκων σε σεξουαλικό πλαίσιο απαγορεύεται ρητά.

Το τελευταίο κομμάτι αυτής της πρωτοβουλίας αφορά τη στενή συνεργασία με τις διωκτικές αρχές. Η εταιρεία παρέχει νέα ψηφιακά εργαλεία ειδικά σχεδιασμένα για τη διευκόλυνση του έργου των ερευνητών, επιτρέποντάς τους να αναζητούν συνδέσεις μέσα σε εκτενή καταγεγραμμένα αρχεία συνομιλιών, τα οποία έχουν αποκτηθεί νόμιμα. Η δημιουργία χρονολογικών συσχετίσεων με το αρχικό υλικό διευκολύνει τον εντοπισμό και τη δίωξη των δραστών, ενώ η OpenAI ήδη οργανώνει ειδικά εκπαιδευτικά σεμινάρια για εκπροσώπους των αρχών σχετικά με την υπεύθυνη και αποτελεσματική χρήση αυτών των εργαλείων τεχνητής νοημοσύνης. Οι αναφορές της εταιρείας προς το Εθνικό Κέντρο για Εξαφανισμένα και Υπό Εκμετάλλευση Παιδιά (NCMEC) σημείωσαν σημαντική αύξηση, γεγονός που αποδίδεται άμεσα στην τεράστια αύξηση της βάσης χρηστών των προϊόντων της.

Η συνεργασία με εξειδικευμένους οργανισμούς όπως το Tech Coalition, το Thorn και το Lucy Faithfull Foundation αποδεικνύει την πρόθεση της εταιρείας να μην στηριχθεί αποκλειστικά σε εσωτερικές λύσεις, αλλά να αξιοποιήσει την εμπειρία φορέων που ασχολούνται χρόνια με το ζήτημα. Η απουσία χρεώσεων για τη χρήση του API από πιστοποιημένους μη κερδοσκοπικούς οργανισμούς υπογραμμίζει την προσπάθεια δημιουργίας ενός ευρύτερου μετώπου προστασίας στο διαδίκτυο, ενώ οι αποφάσεις αποκλεισμού παραβατών βασίζονται πλέον σε πολλαπλά επίπεδα ανάλυσης, εξασφαλίζοντας ταυτόχρονα και τη διατήρηση των απαραίτητων αποδεικτικών στοιχείων για τις νομικές διαδικασίες.

Loading