OpenAI και Anthropic ζητούν παγκόσμιο έλεγχο της Τεχνητής Νοημοσύνης από τον ΟΗΕ

Σύνοψη

• Πρόταση για τη σύσταση ενός διεθνούς φορέα ελέγχου στα πρότυπα της Διεθνούς Οργάνωσης Ατομικής Ενέργειας για τα μοντέλα τεχνητής νοημοσύνης αιχμής.
• Επιβολή ορίων υπολογιστικής ισχύος και διεξαγωγή υποχρεωτικών ελέγχων ασφαλείας στα κέντρα δεδομένων πριν από την κυκλοφορία νέων αλγορίθμων.
• Κριτική από αναλυτές οι οποίοι θεωρούν ότι οι αυστηροί κανονισμοί αποσκοπούν στον στραγγαλισμό του ανταγωνισμού και την περιθωριοποίηση των μοντέλων ανοιχτού κώδικα.
• Ανησυχία για τον τρόπο με τον οποίο το νέο κανονιστικό πλαίσιο θα εφαρμοστεί στην ευρωπαϊκή και την ελληνική αγορά παράλληλα με το ήδη υπάρχον AI Act.

Οι κορυφαίοι εκπρόσωποι της βιομηχανίας της τεχνητής νοημοσύνης, Sam Altman από την OpenAI και Dario Amodei από την Anthropic, προχώρησαν σε μια ιστορική κοινή εμφάνιση ενώπιον του Συμβουλίου Ασφαλείας του Οργανισμού Ηνωμένων Εθνών, καταθέτοντας ένα εξαιρετικά λεπτομερές πλαίσιο προτάσεων για την παγκόσμια διακυβέρνηση των μοντέλων επόμενης γενιάς. 

Η παρουσία των δύο διευθυνόντων συμβούλων στο ανώτατο διεθνές όργανο ασφαλείας σηματοδοτεί την κλιμάκωση της ρητορικής γύρω από τους υπαρξιακούς κινδύνους της τεχνολογίας, καθώς οι εταιρείες τους προετοιμάζονται για την εκπαίδευση αλγορίθμων που απαιτούν δισεκατομμύρια δολάρια σε υπολογιστική ισχύ και ενέργεια. 

Μέσω της επίσημης ενημέρωσης που παρείχαν στους αντιπροσώπους των κρατών μελών, οι Altman και Amodei επιχείρησαν να μεταφέρουν τον έλεγχο της τεχνητής νοημοσύνης από το στενό επίπεδο των μεμονωμένων εθνικών νομοθεσιών στο επίπεδο της διεθνούς διπλωματίας και των παγκόσμιων συνθηκών ασφαλείας.

Κατά τη διάρκεια της εκτενούς τοποθέτησης τους, οι επικεφαλής των δύο κορυφαίων εργαστηρίων υπογράμμισαν την κατεπείγουσα ανάγκη ίδρυσης ενός νέου διεθνούς οργανισμού, ο οποίος θα λειτουργεί με πρότυπο την αντίστοιχη αρχή για τον έλεγχο της ατομικής ενέργειας και θα διαθέτει τη δικαιοδοσία να διενεργεί αιφνιδιαστικούς ελέγχους στα κέντρα δεδομένων σε ολόκληρο τον πλανήτη. Το προτεινόμενο σχέδιο περιλαμβάνει την υποχρεωτική καταγραφή των συστοιχιών επεξεργαστών που υπερβαίνουν ένα προκαθορισμένο όριο απόδοσης, διασφαλίζοντας έτσι ότι κανένα κράτος και καμία ιδιωτική οντότητα δεν θα μπορεί να αναπτύξει αλγορίθμους που θα απειλούν την παγκόσμια σταθερότητα. Ο Dario Amodei, του οποίου η εταιρεία έχει δομήσει την εταιρική της ταυτότητα γύρω από την απόλυτη προτεραιότητα στην ασφάλεια, εστίασε ιδιαίτερα στον κίνδυνο αυτόνομης δημιουργίας βιολογικών ή χημικών όπλων από προηγμένα μοντέλα τα οποία ενδέχεται να ξεφύγουν από τον έλεγχο των δημιουργών τους.

Από την πλευρά του, ο Sam Altman επανέλαβε τη πάγια θέση του υπέρ της δημιουργίας μιας ρυθμιστικής ασπίδας η οποία θα προστατεύει την ανθρωπότητα χωρίς να ανακόπτει τον ρυθμό της τεχνολογικής προόδου, προτείνοντας παράλληλα ένα σύστημα αδειοδότησης για τα μοντέλα που αγγίζουν τα όρια της γενικής τεχνητής νοημοσύνης. Η σύμπλευση των δύο ανδρών στο βήμα του ΟΗΕ αναδεικνύει την κοινή τους στρατηγική απέναντι στους νομοθέτες, επιχειρώντας να προκαταλάβουν τυχόν ασύνδετες και σπασμωδικές νομοθετικές παρεμβάσεις από μεμονωμένες χώρες οι οποίες θα μπορούσαν να περιπλέξουν τα επιχειρηματικά τους σχέδια. Παρόλο που οι εθνικές κυβερνήσεις εξετάζουν ήδη τα δικά τους πλαίσια, η επιδίωξη των δύο στελεχών παραμένει η καθιέρωση ενός ενιαίου παγκόσμιου προτύπου το οποίο θα τεθεί υπό την αιγίδα των Ηνωμένων Εθνών και θα εξαλείψει τον κίνδυνο μεταφοράς των ερευνητικών κέντρων σε κράτη με χαλαρότερη νομοθεσία.

Οι αντιδράσεις και η κριτική απέναντι στην «κινδυνολογία» των CEOs

Πάντως, η παρουσία των δύο ηγετών της τεχνολογίας στο Συμβούλιο Ασφαλείας δεν έμεινε στο απυρόβλητο από την ευρύτερη ακαδημαϊκή και δημοσιογραφική κοινότητα. Πολλοί ανεξάρτητοι ερευνητές και αναλυτές της αγοράς αντιμετωπίζουν την ομιλία τους ως μια καλοστημένη παράσταση ρυθμιστικής αιχμαλωσίας, υποστηρίζοντας ότι η έντονη έμφαση στους υπαρξιακούς κινδύνους αποτελεί έναν προσεκτικά μεθοδευμένο μηχανισμό αποτροπής νέων ανταγωνιστών. Επιβάλλοντας κολοσσιαίες οικονομικές απαιτήσεις για την πιστοποίηση της ασφάλειας και απαιτώντας γραφειοκρατικούς ελέγχους τους οποίους μπορούν να υποστηρίξουν μόνο εταιρείες με αποτιμήσεις δισεκατομμυρίων, οι OpenAI και Anthropic εξασφαλίζουν το μονοπώλιο τους στην αγορά. Οι επικριτές σημειώνουν ότι η ενορχηστρωμένη έκκληση για αυστηρούς κανόνες λειτουργεί ως ένα αόρατο τείχος που εμποδίζει τις νεοφυείς επιχειρήσεις και την κοινότητα του ανοιχτού κώδικα να ανταγωνιστούν επί ίσοις όροις στην ανάπτυξη θεμελιωδών μοντέλων τεχνητής νοημοσύνης.

Οι προσεγγίσεις των δύο εταιρειών, παρότι φαινομενικά ευθυγραμμισμένες απέναντι στο ευρύ κοινό, κρύβουν βαθιές φιλοσοφικές διαφοροποιήσεις όσον αφορά την αρχιτεκτονική διαχείρισης των αλγορίθμων τους. Η Anthropic δημιουργήθηκε από πρώην στελέχη της OpenAI τα οποία αποχώρησαν εκφράζοντας έντονες διαφωνίες σχετικά με την ταχύτητα κυκλοφορίας εμπορικών προϊόντων εις βάρος των ελέγχων ασφαλείας, αναπτύσσοντας την αρχιτεκτονική του «Συνταγματικού AI» το οποίο υπαγορεύει ηθικούς κανόνες εγγενώς στον κώδικα. Αντιθέτως, η OpenAI ακολουθεί μια εξαιρετικά επιθετική στρατηγική εμπορευματοποίησης, προσπαθώντας να ενσωματώσει τις υπηρεσίες της σε λειτουργικά συστήματα και εταιρικές υποδομές προτού προλάβουν οι ανταγωνιστές να εδραιώσουν την παρουσία τους στην αγορά. Αυτή η θεμελιώδης διαφωνία καθιστά την κοινή τους παρουσία στον Οργανισμό Ηνωμένων Εθνών εξαιρετικά ενδιαφέρουσα, καταδεικνύοντας ότι ανεξάρτητα από την ιδεολογική τους αφετηρία, οι κολοσσοί της τεχνολογίας αναγνωρίζουν την αναγκαιότητα επιβολής παγκόσμιων ορίων τα οποία θα προστατεύουν πρωτίστως τις δικές τους επενδύσεις από απρόβλεπτες νομοθετικές παρεμβάσεις.

Ο αντίκτυπος στην Ευρωπαϊκή Ένωση

Το ζήτημα της ρύθμισης αποκτά ακόμα μεγαλύτερη πολυπλοκότητα όταν μεταφέρουμε την ανάλυση στο ευρωπαϊκό οικοσύστημα και κατ' επέκταση στην ελληνική πραγματικότητα, όπου το AI Act βρίσκεται ήδη σε φάση σταδιακής εφαρμογής. Μια πιθανή υιοθέτηση των αυστηρών αμερικανικών προτάσεων σε επίπεδο Οργανισμού Ηνωμένων Εθνών θα μπορούσε να δημιουργήσει πολλαπλά επίπεδα κανονιστικής συμμόρφωσης για τις ευρωπαϊκές εταιρείες που προσπαθούν να αναπτύξουν τα δικά τους προϊόντα παραγωγικής τεχνητής νοημοσύνης. 

Οι επιχειρήσεις που εξειδικεύονται στην επεξεργασία δεδομένων και στην ανάπτυξη λογισμικού τεχνητής νοημοσύνης θα κληθούν πιθανότατα να εγκαταλείψουν κάθε φιλοδοξία εκπαίδευσης δικών τους θεμελιωδών αλγορίθμων, καταφεύγοντας αποκλειστικά στη μίσθωση υπηρεσιών μέσω API από τους αμερικανικούς κολοσσούς. Αυτή η εξέλιξη εγείρει σοβαρά ερωτήματα σχετικά με την ψηφιακή κυριαρχία της Ευρώπης και τον βαθμό εξάρτησης των τοπικών αγορών από τις αποφάσεις που λαμβάνονται στα διοικητικά συμβούλια της Silicon Valley υπό το πρόσχημα της παγκόσμιας ασφάλειας.

Επιπλέον, το ερώτημα σχετικά με την πρακτική δυνατότητα του Οργανισμού Ηνωμένων Εθνών να επιβάλει έναν τέτοιο παγκόσμιο κανονισμό παραμένει αναπάντητο, λαμβάνοντας υπόψη τον κατακερματισμό των γεωπολιτικών συμφερόντων. Οι χώρες οι οποίες παραδοσιακά επενδύουν τεράστια κρατικά κεφάλαια στην ανάπτυξη αυτόνομων συστημάτων επιτήρησης και ανάλυσης δεδομένων, δύσκολα θα συναινέσουν στην παραχώρηση δικαιωμάτων επιθεώρησης των κορυφαίων κέντρων δεδομένων τους από έναν διεθνή οργανισμό. 

Η προοπτική δημιουργίας μιας υπηρεσίας στα πρότυπα της Διεθνούς Οργάνωσης Ατομικής Ενέργειας προϋποθέτει μια άνευ προηγουμένου συναίνεση μεταξύ των τεχνολογικών υπερδυνάμεων, η οποία υπό τις τρέχουσες συνθήκες του διεθνούς ανταγωνισμού για την κυριαρχία στον τομέα των ημιαγωγών και των αλγορίθμων φαντάζει εξαιρετικά απίθανη. Η προσπάθεια επιβολής ορίων στην υπολογιστική ισχύ προσκρούει άμεσα στα εθνικά δόγματα κυβερνοασφάλειας, μετατρέποντας το ζήτημα της ρύθμισης της τεχνητής νοημοσύνης από αμιγώς τεχνολογικό προβληματισμό σε αυστηρά διπλωματικό πεδίο αντιπαράθεσης.

Η ανάλυση της τεχνολογικής υποδομής που απαιτείται για την υποστήριξη αυτών των μοντέλων αποκαλύπτει το πραγματικό μέγεθος του προβλήματος, καθώς η κατασκευή συστοιχιών οι οποίες φιλοξενούν εκατοντάδες χιλιάδες επιταχυντές γραφικών απορροφά ενέργεια ισοδύναμη με τις ανάγκες ολόκληρων πόλεων. Ο έλεγχος αυτών των τεράστιων βιομηχανικών εγκαταστάσεων απαιτεί έναν ελεγκτικό μηχανισμό στελεχωμένο με κορυφαίους μηχανικούς και επιστήμονες υπολογιστών, οι οποίοι συχνά προτιμούν τις υπέρογκες αμοιβές του ιδιωτικού τομέα από την εργασία σε διεθνείς οργανισμούς. Συνεπώς, η πρακτική εφαρμογή της πρότασης των Altman και Amodei εγείρει τεράστια προβλήματα τα οποία αφορούν την επάρκεια και την τεχνογνωσία των επιθεωρητών που θα κληθούν να κατανοήσουν και να ελέγξουν αλγορίθμους των οποίων η λειτουργία παραμένει εν μέρει αδιαφανής ακόμα και για τους ίδιους τους δημιουργούς τους.

Οι αποφάσεις που θα ληφθούν το προσεχές διάστημα στα διεθνή κέντρα αποφάσεων θα καθορίσουν την πορεία της καινοτομίας για τις επόμενες δεκαετίες και θα διαμορφώσουν το τοπίο μέσα στο οποίο καλούνται να δραστηριοποιηθούν οι προγραμματιστές σε ολόκληρο τον κόσμο. Η προσπάθεια εγκαθίδρυσης ενός διεθνούς ρυθμιστικού οργάνου για την τεχνητή νοημοσύνη αντικατοπτρίζει την ωρίμανση του κλάδου, όμως παράλληλα υπενθυμίζει τους κινδύνους που ελλοχεύουν όταν η χάραξη πολιτικής υπαγορεύεται αποκλειστικά από τις εμπορικές οντότητες που διαθέτουν το μεγαλύτερο οικονομικό συμφέρον. 

Ανεξάρτητα από τις προθέσεις των επικεφαλής της OpenAI και της Anthropic, η διατήρηση ενός ανοιχτού, προσβάσιμου και πολυσυλλεκτικού τεχνολογικού οικοσυστήματος απαιτεί τη συμμετοχή ανεξάρτητων φορέων οι οποίοι θα λειτουργούν ως αντιστάθμισμα απέναντι στις επιδιώξεις των μεγάλων πολυεθνικών εταιρειών.