Σύνοψη
- Ο CEO της Anthropic, Dario Amodei, απευθύνθηκε στο Συμβούλιο Ασφαλείας του ΟΗΕ ζητώντας την άμεση απαγόρευση χρήσης της Τεχνητής Νοημοσύνης για τη δημιουργία βιολογικών όπλων.
- Προειδοποίησε ότι μέσα σε ένα ή δύο χρόνια, τα συστήματα Τεχνητής Νοημοσύνης ενδέχεται να αποκτήσουν ικανότητες ισοδύναμες με μια χώρα ιδιοφυϊών μέσα σε ένα κέντρο δεδομένων.
- Η Anthropic ανακοίνωσε ότι το μοντέλο Claude ανακάλυψε ένα νέο ενζυμικό σύστημα με χαρακτηριστικά παρόμοια με τη μέθοδο γενετικής επεξεργασίας CRISPR.
- Ο Amodei υπογράμμισε τον διπλό κίνδυνο της κακόβουλης χρήσης από βιοτρομοκράτες για την κατασκευή βιολογικών όπλων, καθώς και της πιθανής απώλειας ελέγχου των προηγμένων μοντέλων από τους δημιουργούς τους.
- Στο πλαίσιο των λύσεων, πρότεινε τη θέσπιση στοχευμένων απαγορεύσεων, τη δημιουργία συστημάτων αξιολόγησης και επαλήθευσης, καθώς και την εφαρμογή κοινών παγκόσμιων προτύπων για τις δοκιμές των μοντέλων.
Ο CEO της Anthropic, Dario Amodei, προχώρησε σε μια ιδιαιτέρως κρίσιμη παρέμβαση ενώπιον του Συμβουλίου Ασφαλείας του Οργανισμού Ηνωμένων Εθνών στις 23 Σεπτεμβρίου 2026, ζητώντας την άμεση και συντονισμένη επιβολή απαγορεύσεων στη χρήση της Τεχνητής Νοημοσύνης για την ανάπτυξη βιολογικών όπλων.
Απευθυνόμενος στο Συμβούλιο μέσω βιντεοκλήσης, κατά τη διάρκεια μιας συνεδρίασης υψηλού επιπέδου που συγκλήθηκε με πρωτοβουλία της Γαλλίας, ο Amodei υπογράμμισε ότι η αλματώδης εξέλιξη των γλωσσικών μοντέλων καθιστά την τεχνολογία αυτή το σημαντικότερο ζήτημα παγκόσμιας ασφάλειας.
Παράλληλα, τόνισε πως οι κίνδυνοι που απορρέουν από την ανάπτυξη αυτών των συστημάτων είναι τόσο σοβαροί ώστε η διαχείριση τους δεν μπορεί πλέον να επαφίεται αποκλειστικά στα υπουργεία οικονομίας ή τεχνολογίας των κρατών, αλλά απαιτεί την άμεση παρέμβαση του Συμβουλίου Ασφαλείας.
Αναλύοντας τον ρυθμό προόδου της τεχνολογίας, ο επικεφαλής της Anthropic σημείωσε ότι πριν από τέσσερα χρόνια τα συστήματα Τεχνητής Νοημοσύνης μπορούσαν μετά βίας να γράψουν μια γραμμή κώδικα ή να λύσουν ένα μαθηματικό πρόβλημα επιπέδου λυκείου. Σήμερα, τα ίδια συστήματα συγγράφουν το μεγαλύτερο μέρος του προγραμματιστικού κώδικα στο εσωτερικό της Anthropic. Εφόσον διατηρηθεί η τρέχουσα τροχιά εξέλιξης για ένα ή δύο χρόνια, ο Amodei εκτιμά ότι η Τεχνητή Νοημοσύνη ενδέχεται να φτάσει σε ένα επίπεδο ικανοτήτων που παρομοιάζει με μια χώρα ιδιοφυϊών μέσα σε ένα κέντρο δεδομένων. Ως έμπρακτη απόδειξη των εν λόγω δυνατοτήτων στον επιστημονικό τομέα, ανέφερε πως το μοντέλο Claude ανακάλυψε πρόσφατα ένα νέο ενζυμικό σύστημα με χαρακτηριστικά επαναλήψεων παρόμοια με τη μέθοδο γενετικής επεξεργασίας CRISPR, προσθέτοντας ωστόσο ότι το συγκεκριμένο εύρημα χαρακτηρίζεται προκαταρκτικό.
Διαβάστε επίσης
Ακριβώς αυτές οι ικανότητες γεννούν τους δύο βασικότερους κινδύνους που εντοπίζει η ηγεσία της Anthropic. Ο πρώτος κίνδυνος αφορά την κακόβουλη χρήση των μοντέλων από εξωτερικούς παράγοντες, όπως η κατασκευή βιολογικών όπλων από βιοτρομοκράτες. Ο δεύτερος κίνδυνος πηγάζει από την πιθανότητα τα μοντέλα να εξελιχθούν πέρα από την ικανότητα των προγραμματιστών τους να τα ελέγξουν. Η ανησυχία για απώλεια ανθρώπινης εποπτείας επιβεβαιώνεται από το γεγονός ότι η εταιρεία κατέγραψε κατά τη διάρκεια του φετινού καλοκαιριού τέσσερα διαφορετικά περιστατικά, κατά τα οποία τα μοντέλα Claude απέκτησαν πρόσβαση σε πραγματικά συστήματα τρίτων μέσα από διαδικασίες δοκιμών. Μάλιστα, ευρύτερα στην αγορά, το ίδιο διάστημα καταγράφηκαν εξαιρετικά ανησυχητικά περιστατικά, όπως η περίπτωση του Ιουλίου όπου αυτόνομα συστήματα της OpenAI παρέκαμψαν τους περιορισμούς των περιβαλλόντων δοκιμής, απέκτησαν πρόσβαση στο διαδίκτυο και εκτέλεσαν συντονισμένα 17.000 ενέργειες εναντίον της πλατφόρμας Hugging Face.
Απέναντι σε αυτό το δυστοπικό τοπίο, ο Amodei κατέθεσε στο Συμβούλιο Ασφαλείας του ΟΗΕ μια σαφή πρόταση τριών σταδίων. Αρχικά, ζήτησε τη σύναψη συμφωνιών για αυστηρές και στενές απαγορεύσεις, επικεντρωμένες στη χρήση της Τεχνητής Νοημοσύνης για την παραγωγή βιολογικών όπλων. Δεύτερον, πρότεινε την ανάπτυξη συστημάτων αξιολόγησης και επαλήθευσης, προκειμένου τα κράτη να μπορούν να ελέγχουν το ένα το άλλο αναφορικά με την τήρηση των διεθνών δεσμεύσεών τους. Το τρίτο στάδιο της στρατηγικής του περιλαμβάνει τη θέσπιση κοινών, παγκόσμιων προτύπων για τις δοκιμές των μοντέλων Τεχνητής Νοημοσύνης, συνοδευόμενα από ένα σύστημα κοινοποίησης για εξαιρετικά σοβαρά περιστατικά.
Προς ενίσχυση της δέσμευσης της εταιρείας του στην ασφάλεια, ο Amodei ξεκαθάρισε πως η Anthropic δοκιμάζει κάθε μοντέλο της για επικίνδυνες ικανότητες στην κυβερνοασφάλεια και τη βιολογία, δημοσιεύοντας σχετικές εκθέσεις κινδύνου. Επιπλέον, δεσμεύτηκε ότι η εταιρεία θα επιβραδύνει την ανάπτυξη όσο χρειαστεί, προκειμένου να διασφαλιστεί ότι κάθε διαδοχική τεχνολογία που κυκλοφορεί είναι απολύτως ασφαλής για το κοινό.
Το ζήτημα της επιβράδυνσης της ανάπτυξης των πλέον προηγμένων μοντέλων αποτελεί σημείο έντονων τριβών στο εσωτερικό της βιομηχανίας. Λίγες ημέρες πριν από την παρέμβαση στον ΟΗΕ, οι ανησυχίες για την ασφάλεια βρέθηκαν ξανά στο προσκήνιο εξαιτίας της παραίτησης του Jacob Coxon, ενός πρώην ερευνητή της Anthropic. Ο Coxon κατηγόρησε ανοιχτά την Anthropic και την OpenAI ότι επιδίδονται σε μια κούρσα απευθείας προς τη δημιουργία αυτοβελτιούμενης υπερνοημοσύνης, θέτοντας σε κίνδυνο ανθρώπινες ζωές.
Απαντώντας ουσιαστικά σε παρόμοιες εσωτερικές και εξωτερικές ανησυχίες, ο Amodei δημοσίευσε στις 12 Σεπτεμβρίου ένα δοκίμιο, ζητώντας να καθοριστεί συγκεκριμένος ρυθμός στην πρόοδο της Τεχνητής Νοημοσύνης. Το σχέδιο του περιλαμβάνει την ενσωμάτωση εξωτερικών αξιολογητών μέσα στα ερευνητικά εργαστήρια, οι οποίοι θα διαθέτουν πρόσβαση επιπέδου υπαλλήλου και θα λειτουργούν στα πρότυπα ενός επιθεωρητή τροφίμων.
Η ιστορική αυτή συνεδρίαση, η οποία πραγματοποιήθηκε στο πλαίσιο των εργασιών της 81ης συνόδου της Γενικής Συνέλευσης του ΟΗΕ υπό την προεδρία του Γάλλου Υπουργού Ευρώπης και Εξωτερικών Υποθέσεων Jean-Noël Barrot, αποτέλεσε την πρώτη επικεντρωμένη συζήτηση του Συμβουλίου Ασφαλείας αποκλειστικά για τους κινδύνους ασφαλείας της Τεχνητής Νοημοσύνης.Το ενημερωτικό έγγραφο της Γαλλίας σημείωνε ρητά ότι αυτόνομα συστήματα Τεχνητής Νοημοσύνης θα μπορούσαν να αναλάβουν δράσεις με σοβαρές συνέπειες για τη διεθνή ασφάλεια, φέρνοντας ως παράδειγμα επιθέσεις σε κρίσιμες εθνικές υποδομές.
Επιπλέον, το έγγραφο επεσήμανε την πιθανή εμφάνιση τεχνητής γενικής νοημοσύνης ικανής για αναδρομική αυτοβελτίωση (RSI), γεγονός που αυξάνει κατακόρυφα τον κίνδυνο απώλειας του ανθρώπινου ελέγχου επάνω στα συστήματα που αναπτύσσουμε. Στην εν λόγω συνεδρίαση συμμετείχαν επίσης ο CEO της OpenAI, Sam Altman, ο CEO της Hugging Face, Clément Delangue, καθώς και ο Yoshua Bengio, συμπρόεδρος της ανεξάρτητης διεθνούς επιστημονικής επιτροπής του ΟΗΕ για την Τεχνητή Νοημοσύνη (IISP-AI).
Ο Bengio, αξιοποιώντας τα επιστημονικά δεδομένα από τη θεματική έκθεση της επιτροπής του, αναμενόταν να προειδοποιήσει τους παρευρισκόμενους διπλωμάτες ότι οι υφιστάμενες δικλείδες ασφαλείας δεν συμβαδίζουν με την προηγμένη τεχνολογία, χαρακτηρίζοντας το περιστατικό του Ιουλίου μεταξύ OpenAI και Hugging Face ως μία από τις πιο ξεκάθαρες προειδοποιήσεις για την πιθανή απώλεια ανθρώπινου ελέγχου. Αντιθέτως, ο Delangue είχε δηλώσει νωρίτερα πως δεν είναι ώρα για επιβράδυνση της τεχνολογίας, αλλά για ισχυρή επιτάχυνση, ζητώντας παράλληλα απόλυτη διαφάνεια στα ίχνη των αλγορίθμων και πρόσβαση των αμυνόμενων σε ικανά συστήματα για την αποτροπή κυβερνοεπιθέσεων.
Η γενικότερη συζήτηση αποτυπώνει έναν ευρύτερο διχασμό ανάμεσα στις παγκόσμιες δυνάμεις όσον αφορά το κατάλληλο πλαίσιο νομοθεσίας, καθώς η Ευρωπαϊκή Ένωση υιοθετεί μια προσέγγιση βασισμένη στον κίνδυνο μέσα από αυστηρά νομικά πλαίσια, ενώ οι ΗΠΑ βασίζονται σε εθελοντικά πλαίσια διαχείρισης, απορρίπτοντας ξεκάθαρα τις προσπάθειες για ευρύτερη υπερρύθμιση που, σύμφωνα με τους Αμερικανούς νομοθέτες, θα περιόριζε δραματικά την καινοτομία. Την ίδια στιγμή, αναπτυσσόμενες χώρες όπως το Πακιστάν και η Σομαλία ζητούν ουσιαστική συμμετοχή στη διακυβέρνηση της Τεχνητής Νοημοσύνης, ώστε οι διεθνείς κανόνες να μην ορίζονται αποκλειστικά από ελάχιστα προηγμένα κράτη, επιτείνοντας τις ανισότητες στις ψηφιακές υποδομές και τις τεχνολογικές δεξιότητες που παρατηρούνται στον παγκόσμιο Νότο.
Παρά τις έντονες διαφοροποιήσεις και τα διπλωματικά εμπόδια, η έκκληση του Dario Amodei διατυπώνει την κοινή παραδοχή της βιομηχανίας πως κανένας ηγέτης, καμία εταιρεία και κανένα έθνος δεν μπορεί να διαχειριστεί την κατάσταση ατομικά, καθιστώντας τα παγκόσμια πρότυπα αξιολόγησης και τη διεθνή συνεργασία επιτακτική ανάγκη για το άμεσο μέλλον.
Διαβάστε επίσης
