Σύνοψη
- Η OpenAI ακύρωσε επ' αόριστον την κυκλοφορία του Adult Mode, ενός χαρακτηριστικού που θα επέτρεπε τη δημιουργία ερωτικού περιεχομένου και συνομιλιών.
- Ο αλγόριθμος πρόβλεψης ηλικίας παρουσίασε ποσοστό σφάλματος 12%, αναγνωρίζοντας λανθασμένα ανηλίκους ως ενήλικες, γεγονός που προκάλεσε έντονες αντιδράσεις.
- Επιστημονικοί σύμβουλοι προειδοποίησαν για τον κίνδυνο σοβαρής συναισθηματικής εξάρτησης των χρηστών.
- Η εταιρεία επικεντρώνεται πλέον στις βασικές λειτουργίες του μοντέλου, αποφεύγοντας νομικά προβλήματα που ήδη αντιμετωπίζουν ανταγωνιστές όπως η xAI.
- Στην Ελλάδα και την Ευρωπαϊκή Ένωση, η αυστηρή εφαρμογή του AI Act καθιστούσε τη συγκεκριμένη λειτουργία εξαιρετικά δύσκολη από νομικής άποψης.
Η OpenAI προχώρησε στην επ' αόριστον αναστολή της κυκλοφορίας του λεγόμενου Adult Mode για το ChatGPT, εγκαταλείποντας την προσπάθεια ενσωμάτωσης λειτουργιών ερωτικών συνομιλιών και δημιουργίας NSFW (Not Safe For Work) περιεχομένου.
Σύμφωνα με αναφορά των Financial Times, η απόφαση πάρθηκε έπειτα από σωρεία εσωτερικών αντιδράσεων, πιέσεων από επενδυτές και ανησυχιών από την επιστημονική κοινότητα. Η ακύρωση αυτού του χαρακτηριστικού καταδεικνύει την αλλαγή στρατηγικής της εταιρείας, η οποία επιλέγει να εστιάσει στη βελτίωση της νοημοσύνης των βασικών της μοντέλων και να αποφύγει νομικά ρίσκα.
Γιατί η OpenAI εγκαταλείπει το Adult Mode στο ChatGPT;
Η OpenAI ανέστειλε επ' αόριστον το Adult Mode λόγω της αδυναμίας του αλγορίθμου ταυτοποίησης ηλικίας, ο οποίος κατέγραψε ποσοστό σφάλματος 12%. Η απόφαση ελήφθη έπειτα από προειδοποιήσεις ασφαλείας από συμβούλους ψυχικής υγείας και πιέσεις των επενδυτών, αναγκάζοντας την εταιρεία να εστιάσει αποκλειστικά στη βελτίωση της κύριας παραγωγικής τεχνητής νοημοσύνης.
Το τεχνικό εμπόδιο της ταυτοποίησης ηλικίας
Το κυριότερο τεχνολογικό πρόβλημα που οδήγησε στο πάγωμα του Adult Mode αφορά την ανάπτυξη ενός αξιόπιστου συστήματος Age Prediction (Πρόβλεψη Ηλικίας). Το ChatGPT βασίστηκε σε μια αυτοματοποιημένη διαδικασία η οποία επιχειρούσε να μαντέψει την ηλικία του χρήστη αναλύοντας τα μοτίβα ομιλίας, το γενικότερο λεξιλόγιο των prompt και τις ώρες χρήσης της πλατφόρμας.
Τα δεδομένα δοκιμών αποκάλυψαν πως ο συγκεκριμένος αλγόριθμος ταξινομούσε λανθασμένα τους ανηλίκους ως ενήλικες στο 12% των περιπτώσεων. Με το ChatGPT να μετράει πάνω από 900 εκατομμύρια χρήστες παγκοσμίως, ένα τέτοιο ποσοστό σφάλματος μεταφράζεται σε εκατομμύρια ανήλικους χρήστες που θα είχαν δυνητική πρόσβαση σε ακατάλληλο και σεξουαλικοποιημένο περιεχόμενο. Οι μηχανικοί ασφαλείας της OpenAI αδυνατούσαν να μειώσουν το περιθώριο σφάλματος σε επίπεδα αποδεκτά για εμπορική κυκλοφορία, καθιστώντας το εγχείρημα μη βιώσιμο.
Προειδοποιήσεις ψυχολόγων και νομικά ρίσκα
Το εσωτερικό συμβούλιο ευεξίας και ηθικής της OpenAI είχε εκφράσει την πλήρη αντίθεσή του στην ανάπτυξη του συγκεκριμένου προϊόντος. Η κυριότερη ανησυχία των γνωσιακών επιστημόνων και των ψυχολόγων αφορούσε τον κίνδυνο δημιουργίας ανθυγιεινής συναισθηματικής εξάρτησης. Δεδομένης της ήδη υπάρχουσας τάσης των χρηστών να ανθρωπομορφίζουν την τεχνητή νοημοσύνη, οι ειδικοί υποστήριξαν πως οι NSFW συνομιλίες θα μπορούσαν να οδηγήσουν ευάλωτα άτομα σε επικίνδυνες ψυχολογικές καταστάσεις.
Η Wall Street Journal αποκάλυψε πως στελέχη του τμήματος πολιτικής προϊόντων εξέφρασαν ανοιχτά τις αντιρρήσεις τους, τονίζοντας το ρίσκο της προώθησης μιας "ψηφιακής συνοδείας" που θα αύξανε την ψυχολογική απομόνωση. Επιπλέον, το νομικό τμήμα της εταιρείας προειδοποίησε για το ενδεχόμενο χρήσης του συστήματος για την παραγωγή μη συναινετικού περιεχομένου, παρά την απόφαση να περιοριστεί η λειτουργία αποκλειστικά σε κείμενο.
Ο ανταγωνισμός και τα λάθη της xAI
Η εξέλιξη αυτή παρατηρείται εν μέσω μιας ευρύτερης αναδιοργάνωσης της βιομηχανίας γύρω από ζητήματα ασφάλειας. Η OpenAI παρακολούθησε τα νομικά πλήγματα που δέχτηκε η πλατφόρμα Grok της xAI του Elon Musk, η οποία βρέθηκε αντιμέτωπη με αγωγές λόγω ανεπαρκών φίλτρων προστασίας που επέτρεπαν τη διασπορά παράνομου υλικού και εικόνων ανηλίκων.
Η διοίκηση της OpenAI αποφάσισε να μην ακολουθήσει τον ίδιο επικίνδυνο δρόμο. Ακυρώνοντας το Adult Mode (καθώς και περιορίζοντας άλλες πειραματικές πλατφόρμες παραγωγής βίντεο), ο Sam Altman δείχνει να προτιμά τη θωράκιση της εταιρείας έναντι ομοσπονδιακών ερευνών και νομικών κυρώσεων, επικεντρώνοντας τους πόρους στο enterprise κομμάτι, το οποίο είναι και το πλέον επικερδές.
Τι σημαίνει η ακύρωση για την Ελλάδα και την Ευρωπαϊκή Ένωση
Η ευρωπαϊκή και κατά συνέπεια η ελληνική αγορά, ρυθμίζεται πλέον αυστηρά από το AI Act, το οποίο ταξινομεί τα συστήματα τεχνητής νοημοσύνης βάσει ρίσκου. Η διάθεση ενός Adult Mode στην Ευρώπη θα απαιτούσε μηχανισμούς αυστηρής ταυτοποίησης (Kyc/Identity Verification) μέσω κυβερνητικών εγγράφων, κάτι που έρχεται σε ευθεία σύγκρουση με τους ευρωπαϊκούς κανόνες προστασίας προσωπικών δεδομένων (GDPR).
Η άποψη του Techgear
Η οπισθοχώρηση της OpenAI στο θέμα του Adult Mode αποδεικνύει ότι τα τεχνολογικά όρια δεν καθορίζονται πλέον μόνο από την υπολογιστική ισχύ, αλλά από την κοινωνική και νομική ευθύνη.
Η ανάλυση του κειμένου για την πρόβλεψη της ηλικίας δεν μπορεί να αντικαταστήσει τα hard-verification συστήματα. Η απόφαση να κοπούν αυτά τα πειραματικά «side quests» δείχνει ωριμότητα, προστατεύοντας τους χρήστες από την εργαλειοποίηση της AI για επιβλαβείς σκοπούς, διατηρώντας το ChatGPT ως ένα ασφαλές κατά βάση παραγωγικό εργαλείο.
