Η Apple απαγορεύει οριστικά AI deepfakes και εφαρμογές nudification από το App Store

Σύνοψη

• Η Apple προχώρησε σε εκτεταμένη αναθεώρηση των κανόνων του App Store, επιβάλλοντας την άμεση και προληπτική αφαίρεση περιεχομένου deepfake που δημιουργείται από εργαλεία Τεχνητής Νοημοσύνης.
• Ο νέος κανονισμός 1.2 υποχρεώνει τους προγραμματιστές να ενσωματώσουν φίλτρα που θα αποτρέπουν τη δημιουργία μη συναινετικών, ρεαλιστικών εικόνων απευθείας μέσα από τις εφαρμογές τους.
• Η οδηγία 2.5.19 βάζει στο στόχαστρο την πρακτική εξαπάτησης "bait-and-switch", τιμωρώντας με οριστική διαγραφή τους δημιουργούς που κρύβουν εργαλεία "nudification" κατά τη διάρκεια του αρχικού ελέγχου στο οικοσύστημα της Apple.
• Η αυστηροποίηση των όρων επεκτείνεται ρητά (Ενότητα 5) και στα εναλλακτικά καταστήματα εφαρμογών (τρίτων κατασκευαστών), αποτρέποντας τη διακίνηση υλικού εκμετάλλευσης στα third-party app stores εντός της Ευρωπαϊκής Ένωσης.

Η Apple ανακοίνωσε την επιβολή νέων, αυστηρότερων κανονισμών ασφαλείας για το οικοσύστημα του App Store, βάζοντας ξεκάθαρα στο στόχαστρο την ανεξέλεγκτη παραγωγή και διακίνηση μη συναινετικών, τεχνητά δημιουργημένων εικόνων. Με τις πρόσφατες τροποποιήσεις στους όρους χρήσης για τους προγραμματιστές λογισμικού, η εταιρεία καθιστά σαφές ότι η ευθύνη για την πρόληψη και την άμεση διαγραφή κακόβουλου AI περιεχομένου μεταβιβάζεται πλέον ολοκληρωτικά στους δημιουργούς των εφαρμογών. Οι ελεγκτικοί μηχανισμοί της εταιρείας αποκτούν μεγαλύτερη αυστηρότητα και οι προγραμματιστές κινδυνεύουν με οριστική αποβολή από το Apple Developer Program εάν δεν συμμορφωθούν άμεσα με το νέο πλαίσιο προστασίας των χρηστών.

Ο ανανεωμένος κανόνας 1.2 του App Store εστιάζει κατά κύριο λόγο στις εφαρμογές παραγωγής περιεχομένου μέσω συστημάτων Παραγωγικής Τεχνητής Νοημοσύνης (Generative AI). Μέχρι πρότινος, η Apple απαγόρευε τη φιλοξενία σεξουαλικά ρητού υλικού, ωστόσο, η εξέλιξη των εργαλείων επεξεργασίας εικόνας δημιούργησε ένα τεράστιο κενό ασφαλείας, επιτρέποντας στους επιτήδειους να παράγουν ρεαλιστικές, αλλά απόλυτα ψευδείς εικόνες πραγματικών προσώπων χωρίς την παραμικρή συγκατάθεσή τους. Πλέον, οι δημιουργοί λογισμικού υποχρεούνται να ενσωματώνουν προηγμένα φίλτρα ελέγχου (content moderation) στον πηγαίο κώδικα των εφαρμογών τους και να λειτουργούν προληπτικά, αποτρέποντας την παραγωγή και τον διαμοιρασμό τέτοιων αρχείων πριν καν αυτά δημιουργηθούν από τους τελικούς χρήστες. 

Το νέο νομικό και τεχνικό πλαίσιο επηρεάζει άμεσα δημοφιλείς πλατφόρμες και εξελιγμένα chatbots που ενσωματώνουν λειτουργίες παραγωγής εικόνων, όπως το Grok της xAI, το οποίο βρέθηκε πρόσφατα στο επίκεντρο έντονων αντιδράσεων εξαιτίας της αδυναμίας του να περιορίσει τον σχεδιασμό deepfake υλικού από τους συνδρομητές του. Η Apple είχε μάλιστα προειδοποιήσει την xAI νωρίτερα, απαιτώντας την άμεση ενσωμάτωση ισχυρών δικλείδων ασφαλείας, γεγονός που οδήγησε σε μια πλήρως αναβαθμισμένη και αυστηρότερα ελεγχόμενη έκδοση της πλατφόρμας κοινωνικής δικτύωσης.

Ακόμη μεγαλύτερη τεχνολογική βαρύτητα διαθέτει η προσθήκη του κανονισμού 2.5.19, ο οποίος θεσπίστηκε με αποκλειστικό σκοπό να καταπολεμήσει την επικίνδυνη πρακτική της παραπλάνησης (bait-and-switch) κατά τη διαδικασία υποβολής μιας νέας εφαρμογής προς επίσημη έγκριση. Πολλοί προγραμματιστές κακόβουλου λογισμικού, ειδικότερα όσοι ασχολούνται με την ανάπτυξη των αποκαλούμενων "nudification" εφαρμογών (ψηφιακά εργαλεία που χρησιμοποιούν αλγορίθμους μηχανικής μάθησης για να αφαιρούν τα ρούχα από απλές φωτογραφίες), υπέβαλαν τις δημιουργίες τους στο App Store παρουσιάζοντάς τες ως αθώα εργαλεία επεξεργασίας φωτογραφιών, εφαρμογές φίλτρων ομορφιάς ή παιχνίδια αναβάθμισης πορτρέτων. Μόλις το λογισμικό περνούσε τον αυστηρό αρχικό έλεγχο της Apple, οι προγραμματιστές ενεργοποιούσαν κρυφά χαρακτηριστικά μέσω απομακρυσμένων servers, παρέχοντας στους ανυποψίαστους χρήστες πρόσβαση σε εξελιγμένους αλγορίθμους παραγωγής μη συναινετικού γυμνού περιεχομένου. 

Η Apple διευκρινίζει ότι οποιαδήποτε προσθήκη λειτουργικότητας η οποία δεν δηλώθηκε ξεκάθαρα και δεν βρισκόταν εξ αρχής στη διάθεση των ελεγκτών κατά την αρχική φάση εξέτασης, θα οδηγεί σε άμεση, απροειδοποίητη και αμετάκλητη διαγραφή ολόκληρου του λογαριασμού του προγραμματιστή. Η απόκρυψη πραγματικών δυνατοτήτων συνιστά θεμελιώδη παραβίαση της σχέσης εμπιστοσύνης που απαιτεί η εταιρεία από τους συνεργάτες της, καθιστώντας σαφές ότι τα αυτοματοποιημένα συστήματα ελέγχου του App Store θα λειτουργούν με μηδενική ανοχή απέναντι στις συγκεκριμένες τεχνικές εξαπάτησης.

Η επέκταση των κανόνων στα εναλλακτικά οικοσυστήματα

Παράλληλα με τα παραπάνω μέτρα, η Apple προχώρησε στην ανανέωση της ενότητας 5 των κανονισμών ασφαλείας, εστιάζοντας σε ακόμα πιο κρίσιμα νομικά ζητήματα, όπως η εμπορία ανθρώπων, ο εξαναγκασμός και η παιδική εκμετάλλευση. Το πιο κομβικό στοιχείο αυτής της αναβάθμισης εντοπίζεται στο γεγονός ότι οι αυστηροί αυτοί κανόνες επεκτείνονται πλέον ρητά και στα εναλλακτικά κανάλια διανομής εφαρμογών. Με την ευρωπαϊκή νομοθεσία για τις ψηφιακές αγορές (Digital Markets Act) να έχει υποχρεώσει την Apple να επιτρέψει τη λειτουργία τρίτων καταστημάτων λογισμικού (όπως το AltStore PAL ή το Setapp Mobile) εντός της Ευρωπαϊκής Ένωσης, είχε δημιουργηθεί η βάσιμη ανησυχία ότι τα εναλλακτικά οικοσυστήματα ενδέχεται να μετατραπούν σε ανεξέλεγκτα καταφύγια για εφαρμογές που δεν πληρούν τα θεμελιώδη πρότυπα ασφάλειας. Η Apple επιβάλλει, ωστόσο, καθολική συμμόρφωση στις βασικές αρχές προστασίας, ανεξάρτητα από τον τρόπο ή την πλατφόρμα με την οποία ο τελικός καταναλωτής επιλέγει να εγκαταστήσει το λογισμικό στην iOS συσκευή του. Οι προγραμματιστές που παραβιάζουν αυτούς τους στοιχειώδεις κανόνες θα αποκλείονται από το Notarization process της Apple, γεγονός που πρακτικά σημαίνει ότι το λογισμικό τους δεν θα μπορεί να τρέξει σε κανένα iPhone, ανεξάρτητα από το πού ακριβώς το κατέβασε ο χρήστης.

Η τεχνική πρόκληση για τους προγραμματιστές

Αυτές οι σημαντικές αλλαγές δεν αποτελούν απλώς μια θεωρητική νομική κατοχύρωση για τον τεχνολογικό κολοσσό, αλλά δημιουργούν τεράστιες πρακτικές και λειτουργικές προκλήσεις για τις εταιρείες ανάπτυξης λογισμικού που χρησιμοποιούν ανοιχτού κώδικα μοντέλα Τεχνητής Νοημοσύνης (open-source AI models) για τις λειτουργίες τους. Η αυτοματοποιημένη ανίχνευση και ο άμεσος αποκλεισμός μη συναινετικών εικόνων μέσα από το ίδιο το app προϋποθέτει τη διάθεση τεράστιων υπολογιστικών πόρων και την ανάπτυξη εξαιρετικά πολύπλοκων αλγορίθμων ελέγχου. 

Οι προγραμματιστές καλούνται να δημιουργήσουν συστήματα τα οποία θα μπορούν να διαφοροποιήσουν με ακρίβεια την αθώα καλλιτεχνική δημιουργία ή τη σατιρική παραγωγή εικόνων από την κακόβουλη και παράνομη παραγωγή ρεαλιστικού, πορνογραφικού υλικού. Επιπλέον, το υψηλό οικονομικό κόστος της συνεχούς επιτήρησης των δεδομένων ενδέχεται να αποθαρρύνει τις μικρότερες εταιρείες και τους ανεξάρτητους δημιουργούς λογισμικού από την ενσωμάτωση λειτουργιών Generative AI στα προϊόντα τους, παραχωρώντας ένα τεράστιο και αθέμιτο πλεονέκτημα στους μεγάλους τεχνολογικούς παίκτες που διαθέτουν την απαραίτητη υποδομή, τα κεφάλαια και τα τμήματα moderation για να υποστηρίξουν μια τέτοια κλίμακα ελέγχου.