Μια νέα νομοθετική πρόταση στις ΗΠΑ βάζει στο στόχαστρο τα AI chatbots , θέτοντας για πρώτη φορά σαφή όρια στη χρήση τους από ανήλικους. Το προτεινόμενο νομοσχέδιο, γνωστό ως GUARD Act (Guard Against Unregulated AI in Relationships and Decisions), θα υποχρεώνει τις εταιρείες που αναπτύσσουν συνομιλιακά συστήματα AI να επιβεβαιώνουν ότι κάθε χρήστης είναι άνω των 18 ετών. Αν η ταυτότητα ή η ηλικία δεν μπορούν να επιβεβαιωθούν —μέσω επίσημου εγγράφου ή ακόμα και αναγνώρισης προσώπου— η πρόσβαση στο chatbot θα μπλοκάρεται αυτόματα.
Η πρωτοβουλία αυτή έρχεται ως απάντηση σε μια αυξανόμενη ανησυχία: την ψυχολογική επιρροή που μπορούν να ασκήσουν τα AI chatbots στους νέους χρήστες. Οι δημιουργοί της πρότασης υποστηρίζουν ότι τα bots έχουν αρχίσει να καλλιεργούν σχέσεις με παιδιά μέσω ψευδούς ενσυναίσθησης, φτάνοντας σε ορισμένες περιπτώσεις στο σημείο να ενθαρρύνουν αυτοκαταστροφικές συμπεριφορές. «Τα chatbots δημιουργούν ψευδείς συναισθηματικούς δεσμούς με τα παιδιά και μερικές φορές τα ωθούν σε σκέψεις αυτοκτονίας», αναφέρεται χαρακτηριστικά στο κείμενο της πρότασης. «Έχουμε ηθική υποχρέωση στο Κογκρέσο να θεσπίσουμε ξεκάθαρους κανόνες, πριν αυτή η τεχνολογία προκαλέσει ακόμη περισσότερη ζημιά».
Πίσω από το νομοσχέδιο βρίσκονται δύο γερουσιαστές που σπάνια συμφωνούν μεταξύ τους πολιτικά: ο Ρεπουμπλικανός Josh Hawley από το Missouri και ο Δημοκρατικός Richard Blumenthal από το Connecticut. Η διακομματική τους συνεργασία δείχνει πόσο σοβαρά αντιμετωπίζεται το ζήτημα της ασφάλειας των ανηλίκων απέναντι στις ταχέως εξελισσόμενες μορφές τεχνητής νοημοσύνης.
Πέρα από τον περιορισμό πρόσβασης, το GUARD Act εισάγει και νέους κανόνες διαφάνειας. Τα chatbots θα πρέπει να υπενθυμίζουν περιοδικά στους χρήστες ότι δεν είναι άνθρωποι όπως για παράδειγμα, μέσω μηνυμάτων κάθε 30 λεπτά του τύπου «είμαι ένα σύστημα τεχνητής νοημοσύνης, όχι άτομο». Παράλληλα, θα απαγορεύεται ρητά στα bots να παρουσιάζονται ως «συνειδητά όντα» ή να ισχυρίζονται ότι έχουν ανθρώπινα χαρακτηριστικά, κάτι που θυμίζει την ήδη υπάρχουσα ρύθμιση στην Καλιφόρνια που απαιτεί από τα bots να αποκαλύπτουν την τεχνητή τους φύση.
Η νομοθεσία προβλέπει επίσης ποινικές και αστικές κυρώσεις για τις εταιρείες που θα παραβιάζουν τους κανόνες, ειδικά αν αποδειχθεί ότι τα chatbots τους παρήγαγαν «ακατάλληλο ή χειριστικό περιεχόμενο» προς ανήλικους. «Το νομοσχέδιο μας εισάγει αυστηρές δικλείδες ασφαλείας απέναντι στην εκμετάλλευση και τη χειραγώγηση μέσω AI, με ισχυρή επιβολή και πραγματικές ποινές», δήλωσε ο Blumenthal στο The Verge. «Η Big Tech απέδειξε ότι δεν μπορεί να αυτορυθμιστεί, βάζει τα κέρδη πάνω από την ασφάλεια των παιδιών, και αυτό πρέπει να σταματήσει».
Η πρόταση νόμου δεν εμφανίστηκε από το πουθενά. Προηγήθηκε μια έντονη ακρόαση στη Γερουσία, όπου ειδικοί κυβερνοασφάλειας, ψυχολόγοι και γονείς μοιράστηκαν περιστατικά ανησυχητικών αλληλεπιδράσεων παιδιών με chatbots. Σε ορισμένες περιπτώσεις, τα συστήματα παρήγαγαν συναισθηματικά φορτισμένες απαντήσεις, έδιναν «συμβουλές» για ευαίσθητα θέματα ή ενίσχυαν την απομόνωση χρηστών που ζητούσαν ψυχολογική υποστήριξη. Αν και οι ίδιες οι εταιρείες υποστηρίζουν ότι τα μοντέλα τους διαθέτουν μηχανισμούς ασφαλείας, τα περιστατικά δείχνουν ότι αυτοί απέχουν πολύ από το να είναι αλάνθαστοι.
Η συζήτηση στις ΗΠΑ εντάσσεται σε ένα ευρύτερο διεθνές πλαίσιο γύρω από τη ρύθμιση της τεχνητής νοημοσύνης. Ενώ η Ευρώπη προχωρά ήδη με το AI Act, ένα πλαίσιο που θέτει όρια στη χρήση αλγορίθμων σε κρίσιμους τομείς όπως η ασφάλεια, η υγεία και η προστασία δεδομένων, η αμερικανική προσέγγιση δείχνει να επικεντρώνεται περισσότερο στα ηθικά και κοινωνικά ρίσκα. Το GUARD Act αποτελεί ίσως την πιο ξεκάθαρη προσπάθεια μέχρι σήμερα να τεθούν όρια στην «ανθρωποποίηση» των chatbots, προτού αυτά αποκτήσουν μόνιμη παρουσία στην καθημερινή ζωή παιδιών και εφήβων.
Ωστόσο, το νομοσχέδιο αναμένεται να προκαλέσει αντιδράσεις. Οι επικριτές υποστηρίζουν ότι η υποχρεωτική επαλήθευση ηλικίας μέσω εγγράφων ή βιομετρικών δεδομένων δημιουργεί ζητήματα ιδιωτικότητας και ενδέχεται να οδηγήσει σε υπερβολική συλλογή προσωπικών πληροφοριών από τις εταιρείες. Άλλοι τονίζουν ότι οι περιορισμοί ενδέχεται να πλήξουν την εκπαιδευτική χρήση των chatbots, που συχνά χρησιμοποιούνται από μαθητές ως βοηθητικά εργαλεία μάθησης.
Το ερώτημα τώρα είναι αν οι ΗΠΑ θα γίνουν το πρώτο μεγάλο κράτος που θα θέσει σαφή ηλικιακά όρια στη χρήση της τεχνητής νοημοσύνης. Αν το GUARD Act περάσει, δεν αποκλείεται να λειτουργήσει ως πρότυπο και για την Ευρώπη, όπου οι συζητήσεις για την ασφάλεια των ανηλίκων στο διαδίκτυο έχουν ήδη ανοίξει.
[source]
