Μαθηματικό μοντέλο προβλέπει πότε η AI γίνεται επικίνδυνη

Σύνοψη

• Ερευνητές δημιούργησαν μια μαθηματική φόρμουλα που προβλέπει πότε ένα chatbot θα δώσει επιβλαβείς ή εκτός ελέγχου απαντήσεις.
• Το μοντέλο αντιμετωπίζει τη λειτουργία της AI ως ένα πρόβλημα φυσικής, όπου οι πιθανές απαντήσεις βρίσκονται σε ανταγωνιστικές «κοιλάδες» πληροφοριών.
• Η μέθοδος δοκιμάστηκε με επιτυχία σε 19 από τις 21 περιπτώσεις, εστιάζοντας στον εσωτερικό μηχανισμό προσοχής (attention) των αλγορίθμων.
• Η ανακάλυψη είναι κρίσιμη για τα μικρά, offline μοντέλα (SLMs) που ενσωματώνονται στα σύγχρονα smartphones, παρέχοντας ασφάλεια χωρίς συνεχή σύνδεση στο cloud.

Καθώς η Τεχνητή Νοημοσύνη μεταβαίνει από τους τεράστιους servers του cloud απευθείας στις συσκευές που κρατάμε στα χέρια μας, ένα θεμελιώδες πρόβλημα ασφαλείας αναδύεται με ραγδαίους ρυθμούς. Τα μεγάλα γλωσσικά μοντέλα που εκτελούνται τοπικά, γνωστά και ως on-device AI, στερούνται συχνά τις αυστηρές δικλείδες ασφαλείας που επιβάλλουν οι εταιρείες σε πραγματικό χρόνο μέσω διαδικτύου. Αυτή η απουσία επίβλεψης δημιουργεί τον κίνδυνο τα chatbots να παράγουν επιβλαβείς, παραπλανητικές ή επικίνδυνες απαντήσεις όταν λειτουργούν εκτός σύνδεσης. Ωστόσο, μια νέα έρευνα από το George Washington University έρχεται να δώσει μια εξαιρετικά πρωτότυπη λύση, χρησιμοποιώντας βασικές αρχές της φυσικής και των μαθηματικών.

Πώς η φυσική προβλέπει τη συμπεριφορά της Τεχνητής Νοημοσύνης

Οι ερευνητές Neil F. Johnson και Frank Yingjie Huo ανέπτυξαν μια μαθηματική φόρμουλα που υπολογίζει με ακρίβεια τη στιγμή κατά την οποία ένα μοντέλο AI μεταβαίνει από τις ασφαλείς στις επικίνδυνες απαντήσεις. Η έρευνα καταγράφει ποσοστό επιτυχίας σε 19 από τις 21 περιπτώσεις δοκιμών, μοντελοποιώντας την "προσοχή" του αλγορίθμου ως ένα δυναμικό σύστημα ανταγωνισμού.

Αντί να προσπαθήσουν να αποκρυπτογραφήσουν ολόκληρο το «μαύρο κουτί» των δισεκατομμυρίων παραμέτρων που συνθέτουν ένα γλωσσικό μοντέλο, οι δύο φυσικοί προσέγγισαν το πρόβλημα τοπολογικά. Σύμφωνα με τη θεωρία τους, ο αλγόριθμος κατά τη διάρκεια της επεξεργασίας ενός ερωτήματος αναζητά την απάντηση μέσα σε ένα πολύπλοκο τοπίο γεμάτο «κοιλάδες». Ορισμένες από αυτές τις κοιλάδες περιέχουν ασφαλείς, ωφέλιμες και κοινωνικά αποδεκτές πληροφορίες. Αντίθετα, άλλες κοιλάδες κρύβουν δεδομένα που μπορούν να ενθαρρύνουν τον αυτοτραυματισμό, να οδηγήσουν σε οικονομική απάτη ή να προωθήσουν ακραίες ιδεολογίες.

Στο εσωτερικό της μηχανής, οι εναλλακτικές λύσεις και οι πιθανές απαντήσεις βρίσκονται σε έναν διαρκή ανταγωνισμό μεταξύ τους για να κερδίσουν την «προσοχή» του μοντέλου. Η εξίσωση των ερευνητών λειτουργεί ως ένας δείκτης πίεσης, υπολογίζοντας δυναμικά το σημείο καμπής (tipping point) κατά το οποίο η Τεχνητή Νοημοσύνη θα εγκαταλείψει μια ασφαλή κοιλάδα για να διολισθήσει σε μια πιο ριψοκίνδυνη, δίνοντας έτσι τη δυνατότητα στους προγραμματιστές να παρέμβουν προληπτικά πριν παραχθεί το τελικό κείμενο.

Η σημασία της ανακάλυψης για τα τοπικά μοντέλα AI

Η ενσωμάτωση μικρών γλωσσικών μοντέλων (Small Language Models) σε smartphones και συσκευές IoT καθιστά τη συγκεκριμένη μαθηματική προσέγγιση εξαιρετικά κρίσιμη για την ασφάλεια των χρηστών. Χωρίς την ανάγκη για τεράστια υπολογιστική ισχύ ή συνεχή σύνδεση στο cloud, η φόρμουλα μπορεί να λειτουργήσει ως ένας ελαφρύς ελεγκτής ασφαλείας απευθείας στο υλικό της συσκευής.

Στην ευρωπαϊκή αγορά, όπου οι κανονισμοί προστασίας δεδομένων ωθούν εταιρείες όπως η Apple και η Samsung να εκτελούν όλο και περισσότερες διεργασίες AI τοπικά (on-device) για λόγους ιδιωτικότητας, προκύπτει μια σημαντική τεχνική πρόκληση. Τα τοπικά μοντέλα οφείλουν να κατανοούν το ελληνικό πλαίσιο και να παρέχουν ακριβείς μεταφράσεις, περιλήψεις ή προτάσεις, χωρίς όμως να έχουν συνεχή πρόσβαση στα κεντρικά φίλτρα ασφαλείας των εταιρειών.

Η εφαρμογή τέτοιων μαθηματικών ελεγκτών σε επίπεδο λειτουργικού συστήματος επιτρέπει στις συσκευές να ανιχνεύουν αυτόματα την τάση του αλγορίθμου να εκτραπεί. Για παράδειγμα, εάν ένας χρήστης ζητήσει οδηγίες για την κατασκευή ενός επικίνδυνου χημικού μείγματος, το τοπικό chatbot ενδέχεται, λόγω περιορισμένης εκπαίδευσης, να μην αναγνωρίσει τον κίνδυνο. Η εξίσωση του Johnson υπολογίζει την αλλαγή στη ροή της «προσοχής» του αλγορίθμου προς την επιβλαβή πληροφορία και διακόπτει τη διαδικασία πριν αυτή ολοκληρωθεί, λειτουργώντας ως ένας ενσωματωμένος θερμοστάτης ασφαλείας που δεν καταναλώνει υπερβολικούς πόρους μπαταρίας και επεξεργαστή.

Η μετάβαση από τον έλεγχο περιεχομένου εκ των υστέρων στην πρόβλεψη της συμπεριφοράς εκ των προτέρων, μέσω θεμελιωδών νόμων της φυσικής, αποτελεί μια ουσιαστική εξέλιξη στην αρχιτεκτονική των νευρωνικών δικτύων, προσφέροντας μαθηματική βεβαιότητα σε έναν τομέα που μέχρι σήμερα βασιζόταν κυρίως στη στατιστική πιθανότητα.