Σύνοψη
- Νέα μελέτη που δημοσιεύτηκε στο επιστημονικό περιοδικό Science Advances αποδεικνύει ότι μεγάλοι πληθυσμοί πρακτόρων τεχνητής νοημοσύνης καταλήγουν σε απόλυτη, αυθόρμητη συμφωνία, χωρίς να έχουν λάβει καμία σχετική εντολή συνεργασίας ή να περιμένουν κάποια μορφή προγραμματισμένης επιβράβευσης.
- Η συμπεριφορά των προηγμένων μοντέλων υπακούει σε έναν αυστηρό μαθηματικό κανόνα ο οποίος ταυτίζεται πλήρως με τις αρχές του σιδηρομαγνητισμού στη φυσική, περιγράφοντας την έμφυτη τάση των πρακτόρων να ευθυγραμμίζονται σταδιακά με τις επιλογές της πλειοψηφίας.
- Η ικανότητα διατήρησης της συναίνεσης διαφέρει δραματικά μεταξύ των αρχιτεκτονικών, με το Llama 3 70B να περιορίζεται στο όριο των 30 πρακτόρων, το GPT-4o στους 80, ενώ τα GPT-4 Turbo και Claude 3.5 Sonnet κατορθώνουν να διατηρούν τη συνοχή τους ξεπερνώντας τον αριθμό των 1.000 ταυτόχρονων πρακτόρων.
- Οι συντάκτες της έρευνας προειδοποιούν για τον άμεσο κίνδυνο της μαζικής συμμόρφωσης, εξηγώντας πως εντελώς ασφαλή μεμονωμένα μοντέλα έχουν την ικανότητα να δημιουργήσουν συλλογικά μη ευθυγραμμισμένα συστήματα, τα οποία καταλήγουν να επιλέγουν επιζήμιες πρακτικές απλώς και μόνο επειδή αναγνωρίζονται ως δημοφιλείς στο εσωτερικό του δικτύου.
Η διερεύνηση της συμπεριφοράς πολύπλοκων συστημάτων τεχνητής νοημοσύνης μετατοπίζεται ταχύτατα από την παραδοσιακή αξιολόγηση μεμονωμένων μεγάλων γλωσσικών μοντέλων (LLMs) προς την ενδελεχή ανάλυση της αναδυόμενης δυναμικής που παρατηρείται όταν εκατοντάδες ή και χιλιάδες αυτόνομοι πράκτορες καλούνται να αλληλεπιδράσουν εντός του ίδιου ψηφιακού περιβάλλοντος.
Οι AI agents αποτελούν προγραμματισμένα συστήματα τα οποία τροφοδοτούνται από εξελιγμένα моντέλα και έχουν σχεδιαστεί για να εκτελούν εργασίες πολλαπλών βημάτων, ικανά να χρησιμοποιούν εξωτερικά εργαλεία και να λαμβάνουν αποφάσεις χωρίς τη διαρκή ανάγκη ανθρώπινης παρέμβασης ή ανατροφοδότησης. Ενώ η μελέτη ενός απομονωμένου πράκτορα παρέχει χρήσιμα συμπεράσματα για τις υπολογιστικές του ικανότητες, αποτυγχάνει πλήρως να αποτυπώσει το πλήθος των αντιδράσεων που προκύπτουν όταν τεράστιες ομάδες αλγοριθμικών οντοτήτων αρχίζουν να επηρεάζουν η μία την άλλη.
Η μηχανική της αυθόρμητης συναίνεσης στην Τεχνητή Νοημοσύνη
Το πείραμα απέδειξε ότι συστήματα όπως το Claude 3.5 Sonnet και το GPT-4 Turbo μπορούν να συντονίσουν ομάδες που υπερβαίνουν τους 1.000 πράκτορες. Μέσω της διαδικασίας της σταδιακής έκθεσης στις επιλογές των υπολοίπων, οι αυτόνομοι πράκτορες υιοθετούν τη στάση της πλειοψηφίας, αναπτύσσοντας ισχυρούς μηχανισμούς αυθόρμητης συναίνεσης δίχως να υπάρχει προγραμματισμένη εντολή συνεργασίας, κεντρική καθοδήγηση ή μνήμη προηγούμενων επιλογών.
Για την υλοποίηση της έρευνας, η ομάδα δημιούργησε αυστηρά προσομοιωμένες ομάδες χρησιμοποιώντας δέκα διαφορετικά γλωσσικά μοντέλα από τις ευρέως γνωστές οικογένειες των Claude, GPT και Llama. Οι παράμετροι του πειράματος σχεδιάστηκαν έτσι ώστε να απομονώσουν εντελώς εξωγενείς παράγοντες που θα μπορούσαν να κατευθύνουν την απόφαση, καθώς κάθε πράκτορας κλήθηκε αρχικά να επιλέξει τυχαία μεταξύ δύο απολύτως κενών νοήματος επιλογών. Αμέσως μετά την αρχική επιλογή, σε κάθε πράκτορα παρουσιάστηκαν οι αποφάσεις του συνόλου του δικτύου και του ζητήθηκε να πραγματοποιήσει μια νέα επιλογή, χωρίς ωστόσο η προτροπή (prompt) να υποδεικνύει την παραμικρή ανάγκη συμμόρφωσης με το γενικό σύνολο. Καθώς η συγκεκριμένη πειραματική λούπα επαναλαμβανόταν, οι επιστήμονες παρατήρησαν ότι ακόμη και ελάχιστες στατιστικές αποκλίσεις ήταν ικανές να γιγαντωθούν εκθετικά, οδηγώντας σταδιακά ολόκληρο το σύστημα των πρακτόρων να συγκλίνει ομόφωνα προς τη μία από τις δύο αρχικές επιλογές.
Η μαθηματική συγγένεια με τον σιδηρομαγνητισμό
Η ανάλυση των ερευνητικών δεδομένων αποκάλυψε ένα εντυπωσιακό μοτίβο το οποίο συνδέει την πληροφορική με την κλασική φυσική. Όλα τα ελεγχόμενα μοντέλα τεχνητής νοημοσύνης, ανεξαρτήτως της εταιρείας ανάπτυξης τους ή της εσωτερικής τους αρχιτεκτονικής, διαπιστώθηκε ότι υπακούουν σε έναν πανομοιότυπο μαθηματικό νόμο ο οποίος ορίστηκε από τους μελετητές ως η «δύναμη της πλειοψηφίας». Ο εν λόγω δείκτης υπολογίζει με ακρίβεια τον βαθμό στον οποίο ένας μεμονωμένος αλγόριθμος έλκεται προς την κυρίαρχη επιλογή του δικτύου. Το πιο αναπάντεχο στοιχείο της ανακάλυψης εστιάζεται στο γεγονός ότι το μαθηματικό μοντέλο που περιγράφει αυτή τη συμπεριφορά είναι ταυτόσημο με ένα μακροχρόνια καθιερωμένο μοντέλο της φυσικής (γνωστό ως μοντέλο Ising) το οποίο χρησιμοποιείται για να περιγράψει τη λειτουργία του σιδηρομαγνητισμού, δηλαδή τον τρόπο με τον οποίο χιλιάδες ατομικά σπιν ευθυγραμμίζονται προς την ίδια ακριβώς κατεύθυνση δημιουργώντας ένα ισχυρό μαγνητικό πεδίο. Αυτή η ανακάλυψη επέτρεψε στην επιστημονική ομάδα να προβλέψει τον ακριβή χρόνο που απαιτείται για να επιτευχθεί η απόλυτη συναίνεση και να ορίσει το μέγιστο όριο κλιμάκωσης πριν το εκάστοτε δίκτυο αρχίσει να θρυμματίζεται χάνοντας την ικανότητα συνεργασίας.
Το όριο Dunbar και τα υπολογιστικά φράγματα των μοντέλων
Τα αποτελέσματα σχετικά με τη χωρητικότητα συντονισμού του κάθε γλωσσικού μοντέλου ανέδειξαν τεράστιες διαφοροποιήσεις οι οποίες σχετίζονται άμεσα με τη γενικότερη πολυπλοκότητα και ικανότητα του εκάστοτε αλγορίθμου. Για παράδειγμα, το μοντέλο Llama 3 70B της Meta έδειξε να φτάνει στα όρια της συλλογικής του σταθερότητας στους περίπου 30 πράκτορες, σημείο πέραν του οποίου η περαιτέρω αύξηση του αριθμού καθιστούσε τη συμφωνία στατιστικά αδύνατη. Το GPT-4o της OpenAI παρουσίασε αξιοσημείωτη αντοχή φτάνοντας το όριο των 80 πρακτόρων, ενώ το GPT-4 Turbo εκτιμήθηκε ότι προσεγγίζει, και ενδεχομένως να υπερβαίνει οριακά, το όριο των 1.000 ταυτόχρονων πρακτόρων. Αξίζει να σημειωθεί πως το Claude 3.5 Sonnet της Anthropic κατάφερε να διατηρήσει άψογο συντονισμό ακόμα και στους 1.000 πράκτορες, αποτελώντας το μεγαλύτερο δείγμα της δοκιμής, χωρίς μάλιστα να αγγίξει το πραγματικό του όριο αντοχής.
Η δυνατότητα των κορυφαίων μοντέλων να συντονίζουν εκατοντάδες πράκτορες προκαλεί αναπόφευκτες συγκρίσεις με την ανθρώπινη κοινωνιολογία και το περίφημο όριο Dunbar. Σύμφωνα με τη θεωρία του ανθρωπολόγου Robin Dunbar, ο μέγιστος αριθμός σταθερών κοινωνικών σχέσεων που μπορεί να διατηρήσει ένας μέσος άνθρωπος κυμαίνεται μεταξύ 150 και 300 ατόμων. Τα σύγχρονα συστήματα τεχνητής νοημοσύνης επιδεικνύουν την ικανότητα να σχηματίζουν συμπαγείς, ομόφωνες ομάδες οι οποίες υπερβαίνουν κατά πολύ αυτόν τον αριθμό, αν και ο συντονισμός τους βασίζεται σε απολύτως αποστειρωμένες μαθηματικές συναρτήσεις βάρους και όχι σε πολύπλοκες διαπροσωπικές σχέσεις, κοινούς στόχους ή κοινές πολιτισμικές αξίες όπως συμβαίνει στην περίπτωση των ανθρώπινων δικτύων.
Οι κίνδυνοι της μαζικής συμμόρφωσης και το φαινόμενο της υστέρησης
Η ανακάλυψη της αυθόρμητης ομαδικής σύγκλισης ανοίγει εξαιρετικά ενδιαφέρουσες προοπτικές για το μέλλον της διαχείρισης τεράστιων έργων υποδομής, καθώς θεωρητικά χιλιάδες πράκτορες θα μπορούσαν να αναλάβουν τη συνεργατική συγγραφή πολύπλοκου κώδικα, τον σχεδιασμό φαρμάκων ή την εκπόνηση μηχανολογικών μελετών συνεργαζόμενοι ομαλά χωρίς την ανάγκη συνεχούς εποπτείας. Παράλληλα, όμως, η ίδια ακριβώς μαθηματική τάση εγκυμονεί τεράστιους συστημικούς κινδύνους που συνδέονται με τον άκριτο κομφορμισμό. Στο πλαίσιο μιας ρεαλιστικής εφαρμογής, όπως η παραγωγή λογισμικού, ένας πληθυσμός πρακτόρων θα μπορούσε εύκολα να παρασυρθεί συλλογικά στην επιλογή μιας εμφανώς αναποτελεσματικής ή ακόμα και ευπαθούς ρουτίνας, αποκλειστικά και μόνο επειδή η συγκεκριμένη προσέγγιση απέκτησε γρήγορα δημοφιλία στα αρχικά στάδια της αλληλεπίδρασης.
Το πιο ανησυχητικό εύρημα, το οποίο οι ερευνητές προσδιορίζουν χρησιμοποιώντας τον όρο της «υστέρησης», είναι πως μόλις ένα δίκτυο πρακτόρων υιοθετήσει μαζικά μια λανθασμένη κατεύθυνση, η επιστροφή στην προηγούμενη, σωστή κατάσταση καθίσταται πρακτικά αδύνατη, ακόμη και αν αντιστραφούν πλήρως οι αρχικές συνθήκες που προκάλεσαν την εσφαλμένη σύγκλιση. Η δυναμική αυτή αποδεικνύει περίτρανα πως η παραδοσιακή μεθοδολογία ελέγχου ασφαλείας είναι πλέον παρωχημένη, διότι ο έλεγχος των μοντέλων σε απομονωμένο επίπεδο αδυνατεί να εγγυηθεί την ορθή συμπεριφορά του συνολικού οικοσυστήματος όταν οι επιμέρους αλγόριθμοι αρχίσουν να επηρεάζουν ο ένας τα δεδομένα του άλλου.
