Πώς η νέα αναβάθμιση του Signal προστατεύει τις συνομιλίες από την τεχνητή νοημοσύνη

Το Signal εφαρμόζει αυστηρούς περιορισμούς στη λήψη screenshots, αποτρέποντας τα ενσωματωμένα AI agents των λειτουργικών συστημάτων από την παραβίαση της ιδιωτικότητας και την ανάγνωση των κρυπτογραφημένων μηνυμάτων σας.

Add as preferred source on Google

Σύνοψη 

  • Το Signal ενεργοποιεί προηγμένους μηχανισμούς αποκλεισμού των screenshots για να σταματήσει την ανεξέλεγκτη πρόσβαση των AI βοηθών στα μηνύματα.
  • Η end-to-end κρυπτογράφηση παραμένει άθικτη, ωστόσο η απειλή εστιάζεται στο λειτουργικό σύστημα της συσκευής (endpoint), όπου τα δεδομένα εμφανίζονται αποκρυπτογραφημένα στην οθόνη.
  • Εργαλεία τεχνητής νοημοσύνης όπως το Meta Muse και το Microsoft Recall κατηγορούνται ότι παρακάμπτουν τα μοντέλα ασφαλείας των εφαρμογών σαρώντας ειδοποιήσεις και το οπτικό περιεχόμενο του UI.
  • Η πρόεδρος του Signal, Meredith Whittaker, υπογραμμίζει την επιτακτική ανάγκη για ρητή συγκατάθεση του χρήστη (opt-in) και αυστηρότερα εργαλεία περιορισμού της τεχνητής νοημοσύνης σε επίπεδο hardware.

Η έννοια της ασφαλούς επικοινωνίας δοκιμάζεται πλέον σε εντελώς νέα επίπεδα, καθώς η εξέλιξη των ενσωματωμένων μοντέλων τεχνητής νοημοσύνης μετατοπίζει την απειλή από τα δίκτυα μεταφοράς δεδομένων απευθείας στην οθόνη του χρήστη. 

Το Signal, η πιο αναγνωρισμένη πλατφόρμα κρυπτογραφημένων μηνυμάτων παγκοσμίως, προχώρησε στην άμεση εφαρμογή αυστηρών περιορισμών στη λήψη screenshots, εντοπίζοντας ένα εξαιρετικά κρίσιμο κενό ασφαλείας. Το πρόβλημα δεν εντοπίζεται στον αλγόριθμο end-to-end κρυπτογράφησης, ο οποίος παραμένει θεωρητικά και πρακτικά απαραβίαστος, αλλά στη συμπεριφορά των σύγχρονων λειτουργικών συστημάτων που φιλοξενούν ψηφιακούς βοηθούς τεχνητής νοημοσύνης.

Εφαρμογές όπως το Muse της Meta, αλλά και το αμφιλεγόμενο Recall της Microsoft, λειτουργούν διαβάζοντας διαρκώς το τι εμφανίζεται στην οθόνη της συσκευής. Αυτοί οι AI agents καταγράφουν ειδοποιήσεις, οπτικοποιούν τις συνομιλίες, εξάγουν κείμενο μέσω τεχνικών οπτικής αναγνώρισης χαρακτήρων (OCR) και ουσιαστικά δημιουργούν μια πλήρη εικόνα της ψηφιακής ζωής του χρήστη. Όταν τα κρυπτογραφημένα δεδομένα του Signal φτάνουν στη συσκευή σας και αποκρυπτογραφούνται για να τα διαβάσετε, οι αλγόριθμοι τεχνητής νοημοσύνης βρίσκουν ανοιχτή την πόρτα για να συλλέξουν τις πιο ευαίσθητες πληροφορίες σας.

Για την αντιμετώπιση αυτής της παραβίασης της ιδιωτικότητας στο επίπεδο του τελικού χρήστη, η ομάδα ανάπτυξης του Signal ενσωμάτωσε δικλείδες ασφαλείας που θυμίζουν τις τεχνολογίες διαχείρισης ψηφιακών δικαιωμάτων (DRM), τις οποίες χρησιμοποιούν πλατφόρμες όπως το Netflix για να αποτρέψουν την πειρατεία. Κλειδώνοντας τη δυνατότητα του ίδιου του λειτουργικού συστήματος να τραβάει screenshots ή να διαβάζει τα pixels όταν η εφαρμογή βρίσκεται στο προσκήνιο, το Signal δημιουργεί ένα απομονωμένο περιβάλλον, αόρατο για τα αδιάκριτα μάτια της τεχνητής νοημοσύνης. Η εφαρμογή προστατεύει ενεργά όχι μόνο το ιστορικό των συνομιλιών, αλλά και τις ειδοποιήσεις (push notifications), αποτρέποντας την ανάγνωση τους από εργαλεία τρίτων κατασκευαστών.

Η πρόεδρος του οργανισμού, Meredith Whittaker, αναφέρει ότι η αρχιτεκτονική των σύγχρονων AI agents καταστρέφει συστηματικά τα μοντέλα ασφαλείας που έχτισαν οι προγραμματιστές σε επίπεδο εφαρμογής. Όταν το λειτουργικό σύστημα του smartphone δρα ως ανεξέλεγκτος ενδιάμεσος (man-in-the-middle) που φωτογραφίζει την οθόνη δέκα φορές το λεπτό, καμία κρυπτογράφηση δεν έχει ουσιαστικό νόημα. Η προσέγγιση του Signal απαιτεί από τις εταιρείες ανάπτυξης λειτουργικών συστημάτων να δημιουργήσουν ξεκάθαρα και προτυποποιημένα API, μέσω των οποίων οι εφαρμογές που προάγουν την ιδιωτικότητα θα μπορούν να εξαιρούνται καθολικά από οποιαδήποτε διαδικασία σάρωσης.

Πρέπει να τονιστεί πως η διασφάλιση της ιδιωτικότητας ενάντια στα AI agents δημιουργεί σημαντικές τεχνικές προκλήσεις. Η εφαρμογή περιορισμών οθόνης στο Android ενεργοποιείται αποτελεσματικά, ωστόσο, η ποικιλομορφία του οικοσυστήματος αφήνει πολλές συσκευές διαφόρων κατασκευαστών εκτεθειμένες εξαιτίας κακών υλοποιήσεων του λογισμικού τους. Αντίστοιχα, οι υπολογιστές Mac και οι συσκευές με Windows απαιτούν συνεχή ενημέρωση των πρωτοκόλλων ασφαλείας για να αποκλειστεί η πρόσβαση μέσω αδειών προσβασιμότητας, τις οποίες τα μοντέλα AI εκμεταλλεύονται ως παρακαμπτήρια οδό. Οι αναφορές σχετικά με το Muse της Meta υποδεικνύουν πως η τεχνητή νοημοσύνη μπορούσε να αναγνώσει δεδομένα τραπεζικών λογαριασμών και ιδιωτικών μηνυμάτων χρησιμοποιώντας ακριβώς αυτές τις άδειες, γεγονός που καθιστά την παρέμβαση του Signal επιτακτική.

Καθώς η βιομηχανία οδεύει προς μια κατεύθυνση όπου οι ψηφιακοί βοηθοί θα λειτουργούν προληπτικά στο παρασκήνιο για να εκτελούν εργασίες εκ μέρους των χρηστών, οι προγραμματιστές του Signal υπογραμμίζουν ότι οι άνθρωποι δεν θα έπρεπε να αναγκάζονται να θυσιάσουν την ιδιωτικότητα τους στον βωμό της τεχνολογικής εξέλιξης. Το ζήτημα υπερβαίνει την απλή ανταλλαγή κειμένων και αγγίζει τον πυρήνα των πολιτικών ελέγχου των δεδομένων. Χωρίς ρητά όρια, οτιδήποτε εμφανίζεται στην οθόνη μιας συσκευής μετατρέπεται σε τροφή για την εκπαίδευση μοντέλων ή την εξόρυξη δεδομένων. 

Το νέο χαρακτηριστικό Screen Security αποτελεί μια πρώτη και άκρως απαραίτητη γραμμή άμυνας, η οποία ωστόσο προαναγγέλλει έναν μακρόχρονο πόλεμο μεταξύ των εφαρμογών προστασίας απορρήτου και των λειτουργικών συστημάτων επόμενης γενιάς.

Loading