Νέα νομοθεσία στην Καλιφόρνια: Οι AI συνομιλητές θα πρέπει να δηλώνουν ότι δεν είναι άνθρωποι

Μια νέα εποχή διαφάνειας στην αλληλεπίδραση ανθρώπου και τεχνητής νοημοσύνης εγκαινιάζει η πολιτεία της Καλιφόρνια. Ο κυβερνήτης Gavin Newsom υπέγραψε πρόσφατα τον νόμο Senate Bill 243, μια πρωτοβουλία που χαρακτηρίζεται ήδη ως η πρώτη του είδους της στις ΗΠΑ. Σύμφωνα με τον νέο νόμο, οι δημιουργοί των AI chatbots θα είναι πλέον υποχρεωμένοι να ενημερώνουν ρητά τους χρήστες ότι συνομιλούν με ένα σύστημα τεχνητής νοημοσύνης και όχι με άνθρωπο.

Ο νόμος στοχεύει στην αντιμετώπιση ενός φαινομένου που έχει αρχίσει να απασχολεί έντονα την κοινωνία: την ολοένα και μικρότερη διαφορά ανάμεσα στην ανθρώπινη και την τεχνητή επικοινωνία. Καθώς οι αλγόριθμοι γίνονται πιο εξελιγμένοι, πολλοί χρήστες δυσκολεύονται να αντιληφθούν αν το άτομο στην άλλη πλευρά της οθόνης είναι πραγματικά άνθρωπος ή όχι. Ο νέος κανονισμός επιδιώκει να αποτρέψει τη σύγχυση αυτή, θέτοντας ξεκάθαρους κανόνες διαφάνειας για τις εταιρείες που αναπτύσσουν «συνοδευτικούς» ή «συντροφικούς» chatbots.

Σύμφωνα με το νομοθετικό κείμενο, εάν ένας μέσος χρήστης θα μπορούσε εύλογα να πιστέψει ότι συνομιλεί με άνθρωπο, τότε το chatbot οφείλει να τον ενημερώνει με σαφήνεια πως πρόκειται για τεχνητή νοημοσύνη. Με άλλα λόγια, οι εταιρείες που αναπτύσσουν τέτοιες εφαρμογές πρέπει να διασφαλίζουν ότι δεν υπάρχει περιθώριο παρερμηνείας σχετικά με τη φύση του συνομιλητή.

Ωστόσο, ο νόμος δεν επεκτείνεται σε όλες τις μορφές τεχνητής νοημοσύνης. Εξαιρούνται τα chatbots εξυπηρέτησης πελατών και οι φωνητικοί βοηθοί – όπως αυτοί που χρησιμοποιούνται σε ιστοσελίδες υποστήριξης ή σε συσκευές τύπου smart home – καθώς εκεί η σχέση μεταξύ χρήστη και AI είναι περιστασιακή και όχι συνεχής. Αντίθετα, στο στόχαστρο βρίσκονται πλατφόρμες όπως το ChatGPT, το Gemini και το Claude, που έχουν τη δυνατότητα να δημιουργούν πιο βαθιές, διαρκείς αλληλεπιδράσεις με τον χρήστη.

Η πρωτοβουλία αυτή του Gavin Newsom δεν ήρθε ως κεραυνός εν αιθρία. Τους τελευταίους μήνες, η συζήτηση γύρω από τα AI chatbots έχει πάρει διαστάσεις, καθώς πολλοί τα χρησιμοποιούν όχι μόνο για ενημέρωση ή εργασία, αλλά και για συντροφιά, ψυχαγωγία ή ακόμη και συναισθηματική υποστήριξη. Η ταχεία εξάπλωση εφαρμογών όπως οι «AI girlfriends» έχει προκαλέσει ανησυχία για τον ψυχολογικό και κοινωνικό αντίκτυπο που μπορεί να έχει η δημιουργία εικονικών σχέσεων με μηχανές.

Η ανησυχία αυτή εντάθηκε ύστερα από τραγικά περιστατικά, όπως ο θάνατος ενός εφήβου που φέρεται να είχε συνομιλήσει εκτενώς με το ChatGPT πριν αυτοκτονήσει. Το περιστατικό οδήγησε την OpenAI να λάβει πρόσθετα μέτρα ασφαλείας, προσθέτοντας νέες λειτουργίες γονικού ελέγχου και παρακολούθησης της χρήσης. Παρ’ όλα αυτά, ο κίνδυνος παραμένει, καθώς πολλές άλλες εταιρείες που αναπτύσσουν «συντροφικά» chatbots δεν διαθέτουν αντίστοιχες δικλείδες προστασίας.

Ο νέος νόμος της Καλιφόρνια στοχεύει ακριβώς σε αυτό: να προστατεύσει τους πολίτες από την πιθανότητα εξαπάτησης ή παραπλάνησης από ένα σύστημα τεχνητής νοημοσύνης που μιμείται με απόλυτη πειστικότητα τον ανθρώπινο λόγο και συναίσθημα. Όπως εξήγησε ο κυβερνήτης Newsom κατά την παρουσίαση του νομοσχεδίου, η ρύθμιση αυτή είναι ένα πρώτο βήμα προς μια εποχή όπου η AI θα λειτουργεί με υπευθυνότητα και διαφάνεια.

Ο νόμος Senate Bill 243 αποτελεί, λοιπόν, μια προσπάθεια να τεθούν βασικά όρια σε έναν τομέα που μέχρι τώρα λειτουργούσε χωρίς σαφές ρυθμιστικό πλαίσιο. Αν και ορισμένοι τον θεωρούν συμβολικό, άλλοι τον βλέπουν ως απαραίτητο πρώτο βήμα προς τη διαμόρφωση ενός πιο υπεύθυνου ψηφιακού περιβάλλοντος. Είναι πιθανό, μάλιστα, το παράδειγμα της Καλιφόρνια να αποτελέσει οδηγό για άλλες πολιτείες ή και χώρες που αναζητούν τρόπους να διαχειριστούν τις συνέπειες της τεχνητής νοημοσύνης.

[via]