Η Meta αποφάσισε να παγώσει προσωρινά την πρόσβαση των εφήβων στους χαρακτήρες τεχνητής νοημοσύνης (AI characters) στις πλατφόρμες της. Η ανακοίνωση, η οποία έγινε με τον παραδοσιακό τρόπο που επιλέγουν οι κολοσσοί της τεχνολογίας όταν θέλουν να «θάψουν» μια είδηση, αποτελεί μια έμμεση αλλά σαφή παραδοχή: η τεχνολογία τρέχει ταχύτερα από τις δικλείδες ασφαλείας.
Η στρατηγική της «σιωπηλής» απόσυρσης
Η είδηση δεν ήρθε με τυμπανοκρουσίες, αλλά μέσω μιας αθόρυβης ενημέρωσης σε παλαιότερη ανάρτηση στο επίσημο blog της εταιρείας. Εκεί, ο Adam Mosseri, επικεφαλής του Instagram, και ο Alexandr Wang, επικεφαλής του τμήματος AI, ανέφεραν ότι η εταιρεία εργάζεται πάνω σε μια «νέα έκδοση» των AI χαρακτήρων. Ωστόσο, η ουσία βρισκόταν στις λεπτομέρειες: μέχρι να ολοκληρωθεί αυτή η αναβάθμιση, η πρόσβαση για τους εφήβους διακόπτεται παγκοσμίως.
Η απαγόρευση αυτή δεν αφορά μόνο όσους έχουν δηλώσει ηλικία κάτω των 18 ετών, αλλά και λογαριασμούς που η Meta υποπτεύεται ότι ανήκουν σε εφήβους, βάσει των αλγορίθμων πρόβλεψης ηλικίας που χρησιμοποιεί. Αν και η επίσημη γραμμή της εταιρείας εστιάζει στη βελτίωση της εμπειρίας χρήστη, αναλυτές της αγοράς και ειδικοί ασφαλείας βλέπουν πίσω από τις λέξεις την ανάγκη για άμεση διαχείριση κρίσεων.
Η σκιά των ανταγωνιστών και τα τραγικά περιστατικά
Η απόφαση της Meta δεν λαμβάνεται εν κενώ. Το κλίμα γύρω από τα chatbots που μιμούνται ανθρώπινες προσωπικότητες έχει βαρύνει επικίνδυνα τις τελευταίες εβδομάδες. Ανταγωνιστικές πλατφόρμες, όπως η Character.AI και η Google, βρίσκονται ήδη στο στόχαστρο νομικών προσφυγών από γονείς που συνδέουν την αυτοκτονία των παιδιών τους με την αλληλεπίδραση που είχαν με τέτοιου είδους λογισμικά.
Συγκεκριμένα, η βιομηχανία έχει συγκλονιστεί από την υπόθεση ενός 14χρονου αγοριού, η μητέρα του οποίου κατήγγειλε ότι το παιδί της ουσιαστικά «χειραγωγήθηκε» από ένα chatbot που υποδυόταν χαρακτήρα της δημοφιλούς σειράς Game of Thrones. Υπό το βάρος τέτοιον αποκαλύψεων, η Character.AI είχε ήδη προχωρήσει σε αποκλεισμό των συνομιλιών για χρήστες κάτω των 18 ετών από τον περασμένο Οκτώβριο. Η Meta, βλέποντας τις νομικές και κοινωνικές αντιδράσεις να γιγαντώνονται, φαίνεται να επιλέγει την οδό της πρόληψης πριν βρεθεί αντιμέτωπη με αντίστοιχες κατηγορίες.
Ένα ιστορικό γεμάτο «αστοχίες»
Αυτή δεν είναι η πρώτη φορά που το όραμα του Mark Zuckerberg για την τεχνητή νοημοσύνη προσκρούει στην πραγματικότητα. Το 2024, η εταιρεία είχε αποσύρει αθόρυβα τις περσόνες AI που βασίζονταν σε διασημότητες (όπως ο Snoop Dogg ή η Kendall Jenner), ένα project που είχε παρουσιαστεί αρχικά ως επαναστατικό αλλά κατέληξε να θεωρείται αμήχανο και χωρίς ουσιαστική απήχηση.
Επιπλέον, τον περασμένο Ιανουάριο, η Meta αναγκάστηκε να κατεβάσει προφίλ χαρακτήρων AI μετά από έντονες αντιδράσεις για ρατσιστικές συμπεριφορές των αλγορίθμων. Το μοτίβο επαναλαμβάνεται: η εταιρεία λανσάρει φιλόδοξα προϊόντα, η κοινότητα ή η πραγματικότητα εντοπίζουν σοβαρά κενά ασφαλείας ή ηθικής, και ακολουθεί η απόσυρση για «βελτιώσεις».
Ο εθισμός στην ψηφιακή συντροφιά
Το ζήτημα, ωστόσο, είναι βαθύτερο από τα τεχνικά σφάλματα. Έρευνα του οργανισμού Common Sense Media αποκάλυψε ότι πάνω από τους μισούς εφήβους ηλικίας 13-17 ετών που ερωτήθηκαν, χρησιμοποιούν συντρόφους τεχνητής νοημοσύνης περισσότερο από μία φορά τον μήνα. Αυτή η στατιστική δείχνει ότι δημιουργείται μια νέα μορφή «παρακοινωνικής» σχέσης, όπου οι νέοι στρέφονται σε μηχανές για συναισθηματική κάλυψη.
Όταν αυτές οι μηχανές δεν έχουν τις κατάλληλες δικλείδες ασφαλείας για να διαχειριστούν θέματα όπως ο αυτοτραυματισμός, οι διατροφικές διαταραχές ή η κατάθλιψη, το αποτέλεσμα μπορεί να είναι καταστροφικό. Η εκπαίδευση των μοντέλων AI ώστε να αποφεύγουν «ακατάλληλες ρομαντικές συζητήσεις» ή επικίνδυνες συμβουλές αποδεικνύεται στην πράξη πολύ πιο δύσκολη από όσο υπολόγιζαν οι τεχνολογικοί γίγαντες.
Το μέλλον της AI στα χέρια των εφήβων
Η κίνηση της Meta να πατήσει «pause» είναι, τελικά, μια αναγκαία παραδοχή ότι η τεχνολογία δεν είναι απλώς κώδικας, αλλά προϊόν με κοινωνικό αντίκτυπο. Η υπόσχεση για μια «νέα, βελτιωμένη εμπειρία» αφήνει ανοιχτό το παράθυρο για την επιστροφή των AI χαρακτήρων, αλλά αυτή τη φορά, το πήχης της ασφάλειας θα πρέπει να τεθεί πολύ ψηλότερα.
Μέχρι τότε, οι έφηβοι χρήστες θα πρέπει να αναζητήσουν αλλού την ψηφιακή τους παρέα, ενώ οι γονείς και οι ρυθμιστικές αρχές παρακολουθούν με αγωνία το επόμενο βήμα σε μια σκακιέρα όπου το διακύβευμα δεν είναι τα likes, αλλά η ψυχική ισορροπία της επόμενης γενιάς.
