Σύνοψη
- Ο εισαγγελέας του Σαν Φρανσίσκο απέστειλε επιστολές cease-and-desist σε Apple και Google, απαιτώντας την άμεση αφαίρεση 13 εφαρμογών παραγωγής μη συναινετικού γυμνού υλικού.
- Οι επίμαχες εφαρμογές παρακάμπτουν τους ελέγχους, καθώς καταχωρούνται ως αθώα εργαλεία "face-swap", κρύβοντας τον πραγματικό αλγόριθμο επεξεργασίας στους servers τους.
- Το νομικό γραφείο κατηγορεί τις δύο εταιρείες για έμμεση συνέργεια ("aiding and abetting"), καθώς διατηρούν μερίδιο έως 30% από τα in-app payments, αποκομίζοντας εκατομμύρια δολάρια.
- Η Google επιβεβαίωσε τη διαγραφή εκατοντάδων εφαρμογών με λειτουργίες "nudifying", ενώ η Apple αυστηροποίησε ήδη από τον Ιούνιο τους όρους του App Store για το παραγόμενο από AI περιεχόμενο.
Η αυξανόμενη εμπορευματοποίηση των παραγωγικών μοντέλων τεχνητής νοημοσύνης δημιουργεί τεράστια νομικά και ηθικά κενά στα οικοσυστήματα εφαρμογών. Σε μια πρωτοφανή νομική επίθεση, ο εισαγγελέας της πόλης του Σαν Φρανσίσκο προχώρησε στην αποστολή επιστολών cease-and-desist προς την Apple και την Google. Στόχος του είναι η άμεση απομάκρυνση 13 συγκεκριμένων εφαρμογών που χρησιμοποιούν παραγωγική AI για τη δημιουργία μη συναινετικών, γυμνών deepfake εικόνων.
Η συγκεκριμένη υπόθεση ξεπερνά τα όρια της απλής παραβίασης των όρων χρήσης των καταστημάτων εφαρμογών (App Store και Google Play). Εγείρει σοβαρά ζητήματα νομικής συνευθύνης των ίδιων των τεχνολογικών κολοσσών, οι οποίοι διεκπεραιώνουν τις πληρωμές των συνδρομητών και παρακρατούν ποσοστά από αυτές τις παράνομες δραστηριότητες.
Ο μηχανισμός συγκάλυψης των AI Nudify Apps
Οι συγκεκριμένες εφαρμογές αποτελούν τεχνικά περιβλήματα (wrappers) που συνδέονται μέσω API με ισχυρά μοντέλα διάχυσης (diffusion models) σε απομακρυσμένους servers. Για να καταφέρουν να προσπεράσουν τον αυτοματοποιημένο και χειροκίνητο έλεγχο τόσο της Apple όσο και της Google κατά την υποβολή τους στο store, ακολουθούν μια μεθοδολογία παραπλάνησης:
- Κατηγοριοποίηση "Face-Swap": Καταχωρούνται συνήθως στην κατηγορία Photo & Video ως εργαλεία για αλλαγή προσώπου ή δημιουργία αστείων memes.
- Λειτουργία Trojan Horse: Κατά τη διάρκεια της αξιολόγησης από τους reviewers του App Store, η εφαρμογή εμφανίζει περιορισμένα, αθώα φίλτρα. Μετά την έγκριση και τη διάθεση στο κοινό, οι προγραμματιστές ενεργοποιούν μέσω server-side αναβαθμίσεων τις λειτουργίες επεξεργασίας που αφαιρούν ψηφιακά τα ρούχα από τις φωτογραφίες ("undressing").
- Εξωτερική επεξεργασία: Η παραγωγή του deepfake δεν γίνεται τοπικά στον επεξεργαστή (NPU) του smartphone, αλλά αποστέλλεται η φωτογραφία σε εξωτερικούς servers, καθιστώντας αδύνατο τον εκ των προτέρων εντοπισμό του αλγορίθμου από τα εργαλεία στατικού ελέγχου κώδικα της Google ή της Apple.
Η οικονομική διάσταση και τα Extractable Data
Το πιο ισχυρό χαρτί του εισαγγελέα δεν είναι η ύπαρξη των εφαρμογών, αλλά ο τρόπος εμπορικής εκμετάλλευσης τους. Μέσω των In-App αγορών, οι χρήστες αγοράζουν "credits" για να επεξεργαστούν φωτογραφίες ανυποψίαστων ατόμων.
Τα βασικά σημεία της νομικής σύγκρουσης:
- Προμήθεια πλατφόρμας: Η Apple και η Google λαμβάνουν σταθερά το 15% έως 30% από κάθε συναλλαγή που πραγματοποιείται μέσα σε αυτές τις εφαρμογές.
- Κέρδη εκατομμυρίων: Οι εκτιμήσεις του νομικού γραφείου αναφέρουν ότι οι πλατφόρμες έχουν αποκομίσει εκατομμύρια δολάρια διευκολύνοντας την πώληση ψηφιακού πορνογραφικού υλικού που βασίζεται σε πραγματικά, μη συναινούντα πρόσωπα.
- Στόχευση: 8 εφαρμογές εντοπίστηκαν αποκλειστικά στο iOS App Store της Apple και 5 εφαρμογές στο Google Play Store.
Οι επίσημες απαντήσεις και η τεχνική καταστολή
Οι εταιρείες αναγκάστηκαν να επιταχύνουν τους ρυθμούς αντίδρασης, καθώς η κατακραυγή αυξάνεται ραγδαία. Η Google προχώρησε σε εκκαθάριση της πλατφόρμας της, με εκπρόσωπο της εταιρείας να επιβεβαιώνει πως διαγράφηκαν "εκατοντάδες" εφαρμογές με τέτοια χαρακτηριστικά, συμπεριλαμβανομένων των 5 που αναφέρονταν ονομαστικά στην επιστολή του Σαν Φρανσίσκο. Οι αλγόριθμοι της Google αναβαθμίζονται τώρα ώστε να εντοπίζουν μοτίβα συμπεριφοράς και μεταδεδομένα που υποδεικνύουν σύνδεση με nudify API servers.
Η Apple, η οποία παραδοσιακά διατηρεί ένα πολύ πιο αυστηρό οικοσύστημα, είχε ήδη προχωρήσει αθόρυβα σε αλλαγές. Από τον Ιούνιο, η εταιρεία αυστηροποίησε τη γλώσσα στους κανόνες του App Store Review Guidelines, καθιστώντας απόλυτα υπεύθυνους τους developers για το περιεχόμενο που παράγεται από τα μοντέλα τεχνητής νοημοσύνης μέσα στις εφαρμογές τους, αποκλείοντας ρητά την παραγωγή πορνογραφικού υλικού.
Η εικόνα στην Ευρώπη
Το συγκεκριμένο περιστατικό στις ΗΠΑ λειτουργεί ως προειδοποίηση για την ευρωπαϊκή αγορά. Στην Ευρωπαϊκή Ένωση, η εφαρμογή του νέου AI Act τοποθετεί τέτοιου είδους συστήματα στην κατηγορία "Υψηλού Κινδύνου", επιβάλλοντας δυσβάσταχτα πρόστιμα (έως 7% του παγκόσμιου τζίρου) στις εταιρείες που διευκολύνουν την ύπαρξη τους.
Στην Ελλάδα, το νομοθετικό πλαίσιο γύρω από την "εκδικητική πορνογραφία" (revenge porn) έχει πρόσφατα ενισχυθεί, καθιστώντας τη διακίνηση τέτοιου υλικού κακούργημα υπό προϋποθέσεις. Ωστόσο, η Δίωξη Ηλεκτρονικού Εγκλήματος καλείται πλέον να διαχειριστεί όχι απλώς υποκλαπέντα αρχεία, αλλά συνθετικό περιεχόμενο. Για τον Έλληνα χρήστη, η μεγαλύτερη απειλή εντοπίζεται στα ανήλικα θύματα. Σύμφωνα με αναφορές των τελευταίων μηνών, η χρήση nudify bots στο Telegram έχει λάβει ανησυχητικές διαστάσεις και στα ελληνικά σχολεία. Ο αποκλεισμός αυτών των εφαρμογών από τα επίσημα stores των Apple και Google μειώνει δραματικά την προσβασιμότητά τους στο ευρύ κοινό, αλλά δεν εξαφανίζει το πρόβλημα, το οποίο μετατοπίζεται στο σκοτεινό διαδίκτυο ή σε κρυπτογραφημένες πλατφόρμες ανταλλαγής μηνυμάτων.
Το γεγονός ότι οι δύο κολοσσοί αντιμετωπίζουν την απειλή της οικονομικής συνενοχής ενδέχεται να αλλάξει οριστικά τους αλγορίθμους εγκρίσεων. Οι ομάδες ανάπτυξης λογισμικού που στοχεύουν στο ελληνικό και ευρωπαϊκό κοινό θα πρέπει πλέον να εφαρμόζουν τοπικά φίλτρα ασφαλείας (NSFW classifiers) ενσωματωμένα στον κώδικα της εφαρμογής τους, αποδεικνύοντας στις Apple και Google ότι το περιεχόμενο ελέγχεται προτού φτάσει στην οθόνη του χρήστη.
