Τέλος στον αλγόριθμο για ανηλίκους: Ο αυστηρός νόμος της Καλιφόρνια για AI chatbots και social media

Σύνοψη

• Υπογραφή πακέτου 13 νομοσχεδίων από τον Κυβερνήτη Gavin Newsom με στόχο την προστασία των ανηλίκων στο διαδίκτυο και την αντιμετώπιση του ψηφιακού εθισμού.
• Πλήρης απαγόρευση του αλγοριθμικού feed (εξατομικευμένη ροή βάσει ιστορικού) και του autoplay για χρήστες κάτω των 16 ετών, χωρίς δυνατότητα παράκαμψης.
• Ο "Adam’s Law" επιβάλλει αυστηρούς κανόνες και πρωτόκολλα διαχείρισης κρίσεων στα AI chatbots που λειτουργούν ως εικονικοί σύντροφοι (companion AI), προβλέποντας μέχρι και ετήσιους ελέγχους.
• Επέκταση της νομοθεσίας για τη σεξουαλική εκμετάλλευση παιδιών, ώστε να συμπεριλαμβάνει ρητά ψηφιακά αλλοιωμένο υλικό και εικόνες παραγόμενες από αλγορίθμους Τεχνητής Νοημοσύνης.
• Η ταυτοποίηση της ηλικίας του χρήστη προωθείται πλέον σε επίπεδο λειτουργικού συστήματος (OS) ή καταστήματος εφαρμογών (App Store), ικανοποιώντας ένα μακροχρόνιο αίτημα μεγάλων τεχνολογικών κολοσσών όπως η Meta.
• Οι αλλαγές αναμένεται να επηρεάσουν τον κώδικα των πλατφορμών σε παγκόσμιο επίπεδο, επηρεάζοντας άμεσα και την ευρωπαϊκή αγορά λόγω της ενοποιημένης αρχιτεκτονικής των εφαρμογών.

Η Πολιτεία της Καλιφόρνια προχώρησε στην υιοθέτηση του πιο αυστηρού νομοθετικού πλαισίου παγκοσμίως σχετικά με την προστασία των ανηλίκων στο διαδίκτυο, υπογράφοντας ένα εκτενές πακέτο 13 διαφορετικών νομοσχεδίων. Ο Κυβερνήτης Gavin Newsom έθεσε σε ισχύ μια σειρά από ρυθμίσεις που στοχεύουν απευθείας στον πυρήνα του επιχειρηματικού μοντέλου των πλατφορμών κοινωνικής δικτύωσης και των εταιρειών ανάπτυξης Τεχνητής Νοημοσύνης, επιβάλλοντας ριζικές αλλαγές στον τρόπο με τον οποίο το λογισμικό αλληλεπιδρά με τους νεαρούς χρήστες. Οι νέοι κανόνες δεν αρκούνται σε απλές προειδοποιήσεις ή γονικές συναινέσεις, αλλά προχωρούν σε δομικές απαγορεύσεις λειτουργιών που έχουν σχεδιαστεί για να μεγιστοποιούν τον χρόνο παραμονής στις οθόνες.

Η πιο ηχηρή παρέμβαση του νέου νομοθετικού πλαισίου αφορά την πλήρη απαγόρευση των εξατομικευμένων αλγοριθμικών ροών (personalized feeds) για χρήστες κάτω των 16 ετών. Μέχρι σήμερα, η βιομηχανία των social media βασιζόταν αποκλειστικά στην ανάλυση του ιστορικού πλοήγησης, των αλληλεπιδράσεων και του προφίλ του κάθε χρήστη για να σερβίρει περιεχόμενο που τον κρατά εγκλωβισμένο στην πλατφόρμα. Ο νέος νόμος απαγορεύει ρητά αυτή την πρακτική για τη συγκεκριμένη ηλικιακή ομάδα, ενώ ταυτόχρονα βάζει τέλος και στην αυτόματη αναπαραγωγή βίντεο, η οποία αποτελεί βασικό εργαλείο διατήρησης της προσοχής σε εφαρμογές όπως το TikTok και το Instagram.

Η προσέγγιση της Καλιφόρνια διαφοροποιείται εντυπωσιακά από τις αντίστοιχες νομοθετικές πρωτοβουλίες άλλων χωρών και ηπείρων. Η Πράξη για τις Ψηφιακές Υπηρεσίες (Digital Services Act - DSA) της Ευρωπαϊκής Ένωσης απαιτεί από τις πλατφόρμες να παρέχουν μια επιλογή απενεργοποίησης της αλγοριθμικής ροής, δίνοντας ουσιαστικά το δικαίωμα της επιλογής στον χρήστη. Η Αυστραλία εξετάζει επίσης το ενδεχόμενο να αναγκάσει τις πλατφόρμες να προτρέπουν τους χρήστες να απενεργοποιήσουν την κατάταξη του περιεχομένου. Αντίθετα, η Καλιφόρνια αφαιρεί πλήρως την επιλογή και καθιστά τη χρονολογική ροή υποχρεωτική για τους ανηλίκους. Σύμφωνα με πρόσφατες δηλώσεις στελεχών της αγοράς, όπως ο Adam Mosseri του Instagram, όταν οι χρήστες επιλέγουν μόνοι τους το χρονολογικό feed, η αλληλεπίδραση μειώνεται στο μισό. Η επιβολή αυτής της αλλαγής σε ολόκληρο τον εφηβικό πληθυσμό της μεγαλύτερης πολιτείας των ΗΠΑ αναμένεται να παράσχει για πρώτη φορά μαζικά και αδιαμφισβήτητα δεδομένα σχετικά με το πώς συμπεριφέρονται οι έφηβοι όταν ο αλγόριθμος παύει να τους καθοδηγεί.

Ένα άλλο εξαιρετικά κρίσιμο κομμάτι του νομοσχεδίου επικεντρώνεται στην ραγδαία αναπτυσσόμενη αγορά της Τεχνητής Νοημοσύνης και πιο συγκεκριμένα στα αποκαλούμενα companion chatbots. Το νομοσχέδιο SB 1119, ευρύτερα γνωστό ως "Adam’s Law" προς τιμήν του Adam Raine, καθιερώνει το πιο αυστηρό ρυθμιστικό πλαίσιο για τους εικονικούς συντρόφους. Οι εταιρείες υποχρεούνται πλέον να ενσωματώνουν πρωτόκολλα διαχείρισης κρίσεων που θα ενεργοποιούνται αυτόματα σε περιπτώσεις όπου ο ανήλικος χρήστης εκφράζει αυτοκτονικές τάσεις. Επιπλέον, καθίστανται υποχρεωτικοί οι γονικοί έλεγχοι, ενώ οι γονείς θα λαμβάνουν άμεση ειδοποίηση σε περίπτωση που το παιδί τους προσπαθήσει να απενεργοποιήσει τις ρυθμίσεις ασφαλείας. Οι προγραμματιστές αυτών των συστημάτων θα πρέπει επίσης να υποβάλλονται σε ανεξάρτητους ελέγχους ασφάλειας παιδιών και να δημοσιεύουν ετήσιες εκτιμήσεις κινδύνου.

Ιδιαίτερο ενδιαφέρον παρουσιάζει η νομική αντιμετώπιση αυτών των chatbots, καθώς το συνοδευτικό νομοσχέδιο SB 867 τα κατατάσσει στην κατηγορία των παιχνιδιών. Η μετατόπιση της νομικής βάσης από το πεδίο της ελευθερίας του λόγου στο πεδίο της ασφάλειας καταναλωτικών προϊόντων αποτελεί μια ιδιοφυή νομοθετική κίνηση που παρακάμπτει πολλά νομικά εμπόδια που συχνά εγείρουν οι τεχνολογικές εταιρείες επικαλούμενες την Πρώτη Τροπολογία του αμερικανικού συντάγματος. Παράλληλα, η νομοθεσία επεκτείνει τον ορισμό της σεξουαλικής εκμετάλλευσης ανηλίκων ώστε να καλύπτει ρητά τις απεικονίσεις που έχουν παραχθεί μέσω εργαλείων AI (deepfakes) ή έχουν υποστεί ψηφιακή αλλοίωση, κλείνοντας ένα τεράστιο νομικό κενό που είχε προκύψει με την έλευση των γενετικών μοντέλων ανοιχτού κώδικα.

Το μεγάλο αγκάθι όλων αυτών των ρυθμίσεων παρέμενε πάντα ο τρόπος ελέγχου της ηλικίας, ένα πρόβλημα που έχει στοιχειώσει δεκάδες προηγούμενες νομοθετικές προσπάθειες. Η λύση που προκρίνεται μέσω του νομοσχεδίου AB 1856 επιβάλλει τη χρήση σημάτων επαλήθευσης ηλικίας σε επίπεδο λογισμικού συστήματος. Η επαλήθευση δεν θα γίνεται ξεχωριστά από την κάθε πλατφόρμα, αλλά θα ενσωματωθεί στο λειτουργικό σύστημα (iOS, Android) ή στο κατάστημα εφαρμογών. 

Πρόκειται για μια αρχιτεκτονική αλλαγή για την οποία η Meta ασκούσε έντονο lobbying τα τελευταία δύο χρόνια, υποστηρίζοντας πως είναι πιο ασφαλές και λιγότερο παρεμβατικό για την ιδιωτικότητα να γίνεται ο έλεγχος κεντρικά από την Apple ή την Google, αντί να συλλέγουν οι ίδιες οι εφαρμογές ευαίσθητα προσωπικά έγγραφα. Η προσέγγιση αυτή έρχεται σε ευθεία σύγκρουση με τους αυστηρούς ευρωπαϊκούς κανόνες απορρήτου, δημιουργώντας ένα εξαιρετικά περίπλοκο τοπίο για τους διεθνείς τεχνολογικούς παίκτες.

Παρά τον ενθουσιασμό για τη θωράκιση των ανηλίκων, τα κείμενα των νομοσχεδίων παρουσιάζουν σημαντικές ελλείψεις στον τομέα της επιβολής. Δεν προσδιορίζονται ξεκάθαρες ημερομηνίες έναρξης ισχύος, δεν ορίζονται συγκεκριμένα ποσά προστίμων, και το κυριότερο, δεν ανατίθεται ο έλεγχος της συμμόρφωσης σε κάποιο εξειδικευμένο ελεγκτικό όργανο. Ακόμη και η μεταφορά της επαλήθευσης ηλικίας στο λειτουργικό σύστημα παραμένει μια τεχνολογική πρόκληση που δεν έχει επιλυθεί πλήρως στην πράξη, παρά τις θεωρητικές προδιαγραφές.