Meta Smart Glasses: Δοκιμές λογισμικού αναγνώρισης προσώπου με «στρατιωτικές» ρίζες

Σύνοψη

• Η Meta δοκίμασε λογισμικό αναγνώρισης προσώπου από την εταιρεία Rank One Computing (ROC) για χρήση στα έξυπνα γυαλιά της.
• Η Rank One είναι γνωστή για την προμήθεια συστημάτων βιομετρικής παρακολούθησης στην αστυνομία των ΗΠΑ, στον στρατό και σε ομοσπονδιακές υπηρεσίες.
• Ο σχετικός κώδικας (εσωτερικά γνωστός ως NameTag) ενσωματώθηκε στην εφαρμογή Meta AI σε εκατομμύρια συσκευές χρηστών, αλλά παρέμεινε ανενεργός.
• Η άδεια που εξασφάλισε η Meta κάλυπτε λειτουργία αναγνώρισης ζωντάνιας (liveness detection) και υποστήριζε έως 10 εκατομμύρια βιομετρικά πρότυπα.

Η ανάπτυξη έξυπνων γυαλιών φέρνει τις τεχνολογικές εταιρείες αντιμέτωπες με κρίσιμα όρια γύρω από την ιδιωτικότητα και τη συλλογή βιομετρικών δεδομένων. Πρόσφατη έρευνα αποκαλύπτει ότι η Meta πειραματίστηκε με συστήματα αναγνώρισης προσώπου, τα οποία αναπτύχθηκαν από την Rank One Computing, έναν οργανισμό που εξυπηρετεί κατεξοχήν πελάτες από τον χώρο του αμερικανικού στρατού και της επιβολής του νόμου.

Η συγκεκριμένη συνεργασία αναδεικνύει την αδιαφανή μεταφορά τεχνολογιών επιτήρησης σε καταναλωτικά προϊόντα ευρείας κυκλοφορίας, δημιουργώντας εύλογα ερωτήματα για τις μελλοντικές προσθήκες στο λογισμικό των Meta Ray-Ban smart glasses.

Η σύνδεση της Meta με στρατιωτικούς προμηθευτές

Η Meta εξασφάλισε άδεια χρήσης λογισμικού από την Rank One Computing για την ανάπτυξη τεχνολογίας αναγνώρισης προσώπου, η οποία ενσωματώθηκε σε δοκιμαστικές εκδόσεις της εφαρμογής Meta AI. Η συγκεκριμένη άδεια αφορούσε τεχνολογίες liveness detection και διαχείριση έως και 10 εκατομμυρίων προσώπων.

Τα δεδομένα που εξάγονται από τις άδειες λογισμικού δείχνουν ότι η Meta επιδίωξε να δοκιμάσει έτοιμες, υψηλής ακρίβειας λύσεις της αγοράς αντί να αναπτύξει αποκλειστικά in-house τεχνολογία. Η Rank One Computing (ROC) ιδρύθηκε το 2015 στο Ντένβερ και αντλεί περίπου το 80% των εσόδων της από κυβερνητικά συμβόλαια, ενώ η ηγεσία της εταιρείας αποτελείται από πρώην υψηλόβαθμα στελέχη της CIA, του FBI και του Πενταγώνου.

Το πελατολόγιο της Rank One περιλαμβάνει:

• Την Αμερικανική Υπηρεσία Marshals: Χρήση βιομετρικής αναγνώρισης για την ταυτοποίηση κρατουμένων χωρίς αποτυπώματα κατά τη μεταγωγή τους.
• Το Naval Criminal Investigative Service (NCIS): Χρήση του συστήματος ανάλυσης βίντεο ROC Watch.
• Την Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ (SOCOM): Ανάπτυξη αλγορίθμων ικανών να αναγνωρίσουν ένα πρόσωπο από απόσταση ενός χιλιομέτρου.

Η μετάβαση μιας τέτοιας τεχνολογίας από το πεδίο των ειδικών δυνάμεων στα γυαλιά ηλίου του μέσου καταναλωτή καταδεικνύει τον ρυθμό με τον οποίο εκσυγχρονίζεται το consumer hardware.

Το κρυφό project NameTag στην εφαρμογή Meta AI

Η προσπάθεια της Meta δεν περιορίστηκε στα εργαστήρια, καθώς ο κώδικας που ενσωμάτωνε τις ρουτίνες της Rank One φορτώθηκε στις τελικές συσκευές των χρηστών. Ο μηχανισμός εντοπίστηκε μέσα στην εφαρμογή Meta AI, η οποία μετρά πάνω από 50 εκατομμύρια λήψεις παγκοσμίως.

Εσωτερικά, το σύστημα αναγνώρισης προσώπου ονομαζόταν "NameTag". Τα τεχνικά χαρακτηριστικά της υλοποίησης δείχνουν ότι η εφαρμογή είχε την ικανότητα να σαρώνει το οπτικό πεδίο του χρήστη, να επεξεργάζεται τα πρόσωπα και να αντιπαραβάλλει τα δεδομένα με βιομετρικά πρότυπα. Ο κώδικας υποστήριζε εντοπισμό "ζωντάνιας" (liveness detection), ένα χαρακτηριστικό που διασφαλίζει ότι η κάμερα σαρώνει ένα πραγματικό πρόσωπο και όχι μια τυπωμένη φωτογραφία ή μάσκα, λειτουργία απαραίτητη για συστήματα ασφαλείας.

Παρά την παρουσία του κώδικα στις συσκευές, το NameTag δεν ενεργοποιήθηκε ποτέ από την εταιρεία και δεν ήταν προσβάσιμο στους απλούς χρήστες. Η Meta προχώρησε στη σιωπηρή διαγραφή ολόκληρου του συστήματος από τον κώδικα της εφαρμογής στις 5 Ιουνίου, μόλις μία ημέρα μετά τις πρώτες δημοσιογραφικές αποκαλύψεις του αμερικανικού Τύπου, αρνούμενη να δώσει περαιτέρω εξηγήσεις για τον σκοπό ή τη διάρκεια της συμφωνίας.

Ακρίβεια αλγορίθμων και προβλήματα μεροληψίας

Η χρήση συστημάτων αναγνώρισης προσώπου από δημόσιους και ιδιωτικούς φορείς αντιμετωπίζει σταθερά το πρόβλημα των λανθασμένων ταυτοποιήσεων, οι οποίες συχνά επηρεάζονται από τα δημογραφικά χαρακτηριστικά. Οι δοκιμές του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας των ΗΠΑ (NIST) για την τεχνολογία της Rank One έχουν αναδείξει τέτοια ζητήματα.

Τα δεδομένα του NIST καταγράφουν ότι η συχνότητα των λανθασμένων ταυτοποιήσεων ποικίλλει σημαντικά ανάλογα με το φύλο και την περιοχή καταγωγής. Συγκεκριμένα, το σύστημα λειτουργεί με τα χαμηλότερα ποσοστά σφάλματος για άτομα με καταγωγή από την Ανατολική Ευρώπη, ενώ εμφανίζει συστηματικά υψηλότερα ποσοστά αστοχίας στις γυναίκες σε σύγκριση με τους άνδρες. Αν ένα τέτοιο σύστημα αφεθεί ελεύθερο να συλλέγει δεδομένα στον δρόμο μέσω smart glasses, η πιθανότητα λανθασμένων αναγνωρίσεων αυξάνεται δραματικά.

Το κενό στη νομοθεσία και η καταναλωτική αγορά

Στις ΗΠΑ απουσιάζει ένα αυστηρό ομοσπονδιακό πλαίσιο για τη χρήση αναγνώρισης προσώπου, επιτρέποντας στις εταιρείες να πειραματίζονται με ελάχιστους περιορισμούς. Η ενσωμάτωση τέτοιων εργαλείων σε wearable συσκευές παρακάμπτει συχνά τη συναίνεση των τρίτων, αφού η κάμερα σαρώνει ανυποψίαστους περαστικούς.

Ο πρώην υπεύθυνος πολιτικής των Meta Reality Labs, Joseph Jerome, ανέφερε σχολιάζοντας το γεγονός ότι οι τεχνολογίες που ξεκίνησαν από τον στρατό ιστορικά βρίσκουν τον δρόμο τους προς τα καταναλωτικά προϊόντα. Ωστόσο, οι ειδικοί προστασίας δεδομένων προειδοποιούν ότι η μεταφορά λογισμικού που χρησιμοποιείται για την εύρεση υπόπτων σε συσκευές ψυχαγωγίας εγκυμονεί τεράστιους κινδύνους μαζικής παραβίασης της ιδιωτικότητας.

Με τη ματιά του Techgear

Η τοποθέτηση κώδικα "στρατιωτικού" επιπέδου μέσα στις συσκευές των χρηστών, έστω και σε αδρανή μορφή, αποδεικνύει ότι οι εταιρείες τεχνολογίας ετοιμάζουν επιθετικές στρατηγικές για τα wearables της επόμενης πενταετίας. Για την ευρωπαϊκή και κατά συνέπεια την ελληνική αγορά, η λειτουργία ενός συστήματος όπως το NameTag συγκρούεται ευθέως με τις θεμελιώδεις αρχές του GDPR.

Η συλλογή βιομετρικών δεδομένων περαστικών χωρίς την άμεση συναίνεση τους είναι αδύνατον να νομιμοποιηθεί στην Ε.Ε. υπό τις παρούσες συνθήκες. Η Meta το γνωρίζει καλά αυτό, έχοντας ήδη απενεργοποιήσει βασικές λειτουργίες τεχνητής νοημοσύνης (όπως το Meta AI assistant) στην Ευρώπη εξαιτίας των κανονιστικών πιέσεων.

Το περιστατικό με την Rank One Computing λειτουργεί, ωστόσο, ως προειδοποίηση. Οι τεχνολογικοί κολοσσοί δεν προσπαθούν απλώς να φτιάξουν τον καλύτερο φωνητικό βοηθό, αλλά επιδιώκουν να χαρτογραφήσουν βιομετρικά τον φυσικό χώρο.