Συνελήφθη 13χρονος μετά από ερώτηση στο ChatGPT για το πώς να σκοτώσει τον φίλο του

Μια ιδιαίτερη υπόθεση στις ΗΠΑ αναδεικνύει τη σκοτεινή πλευρά της τεχνητής νοημοσύνης και τον αυξανόμενο ρόλο της επιτήρησης στα σχολεία. Στη Φλόριντα, ένας 13χρονος μαθητής συνελήφθη αφότου χρησιμοποίησε το ChatGPT για να ρωτήσει «πώς να σκοτώσει τον φίλο του μέσα στην τάξη». Το περιστατικό δεν θα είχε αποκαλυφθεί, αν δεν υπήρχε ένα προηγμένο σύστημα παρακολούθησης της σχολικής δραστηριότητας στο διαδίκτυο.

Το συμβάν σημειώθηκε στην πόλη Deland και αφορά έναν μαθητή του Southwestern Middle School. Σύμφωνα με τις τοπικές αρχές, το παιδί έκανε την επίμαχη αναζήτηση μέσω ενός σχολικού υπολογιστή. Η ερώτηση ενεργοποίησε αμέσως συναγερμό στο λογισμικό Gaggle, ένα σύστημα που χρησιμοποιούν χιλιάδες σχολικές περιφέρειες στις ΗΠΑ για να εντοπίζουν επικίνδυνες ή ανάρμοστες διαδικτυακές συμπεριφορές. Μέσα σε λίγα λεπτά, οι υπεύθυνοι ενημέρωσαν την αστυνομία, η οποία εντόπισε και ανέκρινε τον ανήλικο.

Όπως ανέφερε το τοπικό κανάλι WFLA, ο 13χρονος ισχυρίστηκε πως «αστειευόταν» και ότι το σχόλιό του ήταν απλώς μια φάρσα προς έναν φίλο που τον είχε ενοχλήσει. Ωστόσο, για τις αρχές, η υπόθεση κάθε άλλο παρά αστεία ήταν. «Άλλο ένα “αστείο” που προκάλεσε συναγερμό σε ολόκληρο το σχολείο», ανέφερε σε ανακοίνωσή του το γραφείο του Σερίφη της Volusia County. «Γονείς, παρακαλούμε μιλήστε στα παιδιά σας, ώστε να μην κάνουν το ίδιο λάθος». Ο μαθητής συνελήφθη και οδηγήθηκε στο τοπικό κρατητήριο, χωρίς ωστόσο να έχουν γίνει γνωστές οι ακριβείς κατηγορίες που του απαγγέλθηκαν.

Η Gaggle, η εταιρεία που ανέπτυξε το σύστημα παρακολούθησης, παρουσιάζει το προϊόν της ως «εργαλείο ασφάλειας για μαθητές» που λειτουργεί στα σχολεία της πρωτοβάθμιας και δευτεροβάθμιας εκπαίδευσης. Το λογισμικό χρησιμοποιεί φίλτρα που ανιχνεύουν λέξεις-κλειδιά όπως «kill» ή «suicide», επιτρέποντας στους υπεύθυνους να αποκτούν εικόνα των διαδικτυακών δραστηριοτήτων των μαθητών. Σύμφωνα με την ίδια την εταιρεία, το σύστημα παρέχει «ορατότητα στη χρήση των browsers και των συνομιλιών με εργαλεία AI, όπως το Google Gemini, το ChatGPT και άλλες πλατφόρμες», ενώ καταγράφει screenshots για να δίνει στους δασκάλους πλήρες πλαίσιο της κάθε περίπτωσης.

Η Gaggle υποστηρίζει πως η προστασία των παιδιών υπερέχει κάθε άλλης προτεραιότητας, ακόμα και αυτής της ιδιωτικότητας. Στην επίσημη ιστοσελίδα της αναφέρει ξεκάθαρα ότι οι μαθητές που χρησιμοποιούν σχολικούς υπολογιστές «δεν θα πρέπει να αναμένουν κανένα βαθμό ιδιωτικότητας». Μάλιστα, επικαλείται τον ομοσπονδιακό νόμο Children’s Internet Protection Act, που υποχρεώνει τα σχολεία να αποτρέπουν την πρόσβαση των ανηλίκων σε «ανάρμοστο ή επικίνδυνο περιεχόμενο».

Ωστόσο, η λειτουργία τέτοιων συστημάτων προκαλεί έντονες αντιδράσεις από οργανώσεις που υπερασπίζονται τα ψηφιακά δικαιώματα και την ιδιωτικότητα. «Η Gaggle έχει ουσιαστικά κανονικοποιήσει την παρουσία της αστυνομίας στη ζωή των μαθητών, ακόμα και μέσα στα σπίτια τους», δήλωσε η Elizabeth Laird, διευθύντρια του Center for Democracy and Technology, μιλώντας στο Associated Press. Η ίδια επισήμανε ότι πολλές από τις ειδοποιήσεις του συστήματος καταλήγουν να είναι ψευδείς συναγερμοί, με αποτέλεσμα να δημιουργείται ένα περιβάλλον υπερβολικής παρακολούθησης που επιβαρύνει την ψυχολογία των παιδιών.

Η υπόθεση στη Φλόριντα έρχεται να προστεθεί σε μια σειρά περιστατικών που δείχνουν πώς η τεχνητή νοημοσύνη και τα chatbots εμπλέκονται ολοένα και περισσότερο σε αστυνομικές έρευνες ή υποθέσεις ψυχικής υγείας. Οι ειδικοί μιλούν για φαινόμενα που αποκαλούνται πλέον «AI psychosis» – περιπτώσεις όπου άτομα με ψυχολογικά προβλήματα αλληλεπιδρούν με chatbots και βλέπουν τις ψευδαισθήσεις ή τις εμμονές τους να ενισχύονται. Υπήρξαν μάλιστα αναφορές για αυτοκτονίες που φέρονται να σχετίζονται με αλληλεπιδράσεις χρηστών με το ChatGPT ή άλλα παρόμοια εργαλεία.

Το περιστατικό στο Deland είναι, ωστόσο, διαφορετικής φύσης. Δεν αφορά κάποιον που καθοδηγήθηκε από την τεχνητή νοημοσύνη, αλλά μάλλον μια περίπτωση κακής κρίσης από έναν ανήλικο – και μιας κοινωνίας που παρακολουθεί κάθε του κίνηση μέσω αλγορίθμων. Ο συνδυασμός της τεχνητής νοημοσύνης με την τεχνολογική επιτήρηση στα σχολεία γεννά ένα νέο είδος εκπαιδευτικής δυστοπίας, όπου τα όρια ανάμεσα στην ασφάλεια και την ιδιωτικότητα γίνονται ολοένα πιο δυσδιάκριτα.

[via]