Η Google ανακοίνωσε ένα νέο πακέτο μέτρων για την καταπολέμηση της διασποράς μη συναινετικών προσωπικών εικόνων (Non-Consensual Intimate Imagery – NCII) μέσω της μηχανής αναζήτησής της. Η εταιρεία ενώνει πλέον τις δυνάμεις της με το StopNCII.org, ένα δωρεάν εργαλείο που δημιουργήθηκε για να στηρίξει τα θύματα της συγκεκριμένης μορφής ψηφιακής κακοποίησης.
Η στρατηγική της Google είναι να εντοπίζει και να αφαιρεί περιεχόμενο που παραβιάζει την πολιτική της απέναντι στο NCII πριν αυτό αποκτήσει μεγαλύτερη διάδοση. Μέσα στους επόμενους μήνες, η εταιρεία θα αξιοποιήσει την τεχνολογία του StopNCII, η οποία βασίζεται στη δημιουργία hashes – δηλαδή ψηφιακών αποτυπωμάτων – για εικόνες και βίντεο που έχουν ανέβει χωρίς συναίνεση.
Τα hashes αυτά δημιουργούνται με τη συμβολή ανθρώπων των οποίων οι προσωπικές εικόνες βρέθηκαν στο διαδίκτυο χωρίς άδεια. Με τον τρόπο αυτό, δίνεται η δυνατότητα στους συνεργάτες του οργανισμού να εντοπίζουν γρήγορα ίδιες ή παρόμοιες εικόνες στις πλατφόρμες τους και να τις αφαιρούν όταν παραβιάζουν τις πολιτικές προστασίας από κακοποίηση.
Η έννοια του NCII δεν περιορίζεται αποκλειστικά σε φωτογραφίες ή βίντεο που διαρρέουν διαδικτυακά χωρίς συναίνεση. Μπορεί να αφορά και υλικό που διαμοιράζεται offline, αλλοιωμένες φωτογραφίες ή ακόμη και deepfakes που έχουν παραχθεί μέσω τεχνητής νοημοσύνης και εμφανίζουν ανθρώπους σε σεξουαλικά περιβάλλοντα χωρίς τη συγκατάθεσή τους.
Με την αυξανόμενη χρήση εργαλείων παραγωγικής AI, ο κίνδυνος για τη δημιουργία ψεύτικου αλλά πειστικού περιεχομένου έχει πολλαπλασιαστεί. Η Google αναγνωρίζει ότι η κατάσταση έχει γίνει πιο περίπλοκη και δηλώνει πως έχει λάβει σοβαρά υπόψη της τις ανησυχίες τόσο των θυμάτων όσο και οργανισμών που δραστηριοποιούνται στον χώρο. Όπως επισημαίνει, η έκταση του ανοιχτού διαδικτύου καθιστά αναγκαία την ανάληψη πιο αποφασιστικής δράσης ώστε να μειωθεί το βάρος που σηκώνουν τα ίδια τα θύματα.
Η εταιρεία έχει ήδη κάνει βήματα στο παρελθόν για να περιορίσει την προβολή NCII στο Google Search, αλλά και για να διευκολύνει τους χρήστες που επιθυμούν να ζητήσουν την αφαίρεση τέτοιου περιεχομένου. Με τις αλλαγές που ανακοίνωσε, ουσιαστικά επεκτείνει την υπάρχουσα στρατηγική της, υιοθετώντας πιο ενεργητικά εργαλεία πρόληψης.
Το StopNCII.org δεν είναι καινούργιος οργανισμός. Πρόκειται για μια πρωτοβουλία που ανήκει στο South West Grid for Learning (SWGfL), ένα φιλανθρωπικό ίδρυμα με έδρα το Ηνωμένο Βασίλειο. Ήδη συνεργάζεται με μεγάλους παίκτες της τεχνολογίας όπως η Microsoft, η Meta, η TikTok, το Reddit και το Snapchat.
Η Microsoft μάλιστα είχε ανακοινώσει από το προηγούμενο έτος ότι θα ενσωματώσει το εργαλείο hashes του StopNCII για να εντοπίζει και να αφαιρεί μη συναινετικές εικόνες από τη μηχανή αναζήτησης Bing. Από την πλευρά της, η Meta βρέθηκε μεταξύ των 50 μη κυβερνητικών οργανισμών που στήριξαν την εκκίνηση του StopNCII.org το 2021.
Το νέο άνοιγμα της Google προς το StopNCII.org σηματοδοτεί μια ακόμη πιο διευρυμένη διεθνή συμμαχία απέναντι σε μια μορφή διαδικτυακής κακοποίησης που έχει πάρει ανησυχητικές διαστάσεις. Στην ουσία, οι μεγάλες εταιρείες του χώρου αντιλαμβάνονται ότι η αντιμετώπιση τέτοιων φαινομένων απαιτεί συνεργασία και όχι μεμονωμένες κινήσεις.
Η Google δεν κρύβει ότι το NCII αποτελεί μια από τις πιο επιβλαβείς μορφές κακόβουλου περιεχομένου, με σημαντικές ψυχολογικές και κοινωνικές συνέπειες για τα θύματα. Το γεγονός ότι συνδυάζει πλέον τις δικές της προσπάθειες με εκείνες μιας διεθνούς πρωτοβουλίας ενισχύει την πιθανότητα πιο αποτελεσματικής καταπολέμησης του φαινομένου.
Αν και οι τεχνολογίες πρόληψης και αφαίρεσης αποτελούν ισχυρά εργαλεία, η Google αναγνωρίζει ότι το πρόβλημα είναι σύνθετο και απαιτεί διαρκή επαγρύπνηση. Ο συνδυασμός τεχνητής νοημοσύνης, ψηφιακών αποτυπωμάτων και συνεργασίας ανάμεσα στις μεγάλες πλατφόρμες ίσως αποτελέσει την πιο ελπιδοφόρα κατεύθυνση για την προστασία της αξιοπρέπειας και της ιδιωτικότητας στον ψηφιακό κόσμο.
[via]
