Νέα ηχηρή παραίτηση με προειδοποιήσεις για την AI, αυτή τη φορά από την Google DeepMind
Σύνοψη
- Ο Bilal Chughtai αποχώρησε από την ομάδα έρευνας ασφαλείας AGI της Google DeepMind τον Ιούλιο, εκφράζοντας πλέον δημόσια την έντονη ανησυχία του για την ανεξέλεγκτη πορεία της τεχνητής νοημοσύνης.
- Σύμφωνα με τον ίδιο, η συνεχιζόμενη κούρσα ταχύτητας μεταξύ των μεγάλων τεχνολογικών εταιρειών εγκυμονεί υπαρξιακούς κινδύνους για την ανθρωπότητα, τονίζοντας την ανάγκη για άμεσο συντονισμό και επιβράδυνση της ανάπτυξης.
- Η δήλωσή του έρχεται λίγες ημέρες μετά την αντίστοιχη παραίτηση του Jacob Coxon από την Anthropic, αναδεικνύοντας ένα ευρύτερο ρήγμα στους κόλπους των ερευνητών ασφαλείας που παρακολουθούν από κοντά την εξέλιξη των μεγάλων γλωσσικών μοντέλων.
- Ανώτατα στελέχη της βιομηχανίας, νομοθέτες της αμερικανικής γερουσίας και ευρωπαϊκοί ρυθμιστικοί φορείς παρακολουθούν στενά το ζήτημα, ετοιμάζοντας παρεμβάσεις για την επιβολή κανόνων στους προγραμματιστές συστημάτων υψηλού κινδύνου.
Ο Bilal Chughtai αποχώρησε από το τμήμα έρευνας ευθυγράμμισης και ασφάλειας AGI της Google DeepMind τον Ιούλιο του 2026 (κοινοποιήθηκε μόλις τώρα ωστόσο..), δηλώνοντας δημόσια πως η ταχύτητα ανάπτυξης της τεχνολογίας απειλεί άμεσα την ανθρωπότητα. Η επισήμανση του επικεντρώνεται στην ανάγκη ουσιαστικού συντονισμού μεταξύ των εταιρειών, ώστε να επιβραδυνθεί ο ρυθμός προόδου των αλγορίθμων σε επίπεδα που η κοινωνία μπορεί ρεαλιστικά να διαχειριστεί και να αφομοιώσει με ασφάλεια.
Οι αποχωρήσεις υψηλόβαθμων επιστημόνων από τα εργαστήρια έρευνας τεχνητής νοημοσύνης δεν αποτελούν ένα απλό φαινόμενο εναλλαγής προσωπικού, αλλά αναδεικνύουν μια βαθύτατη ρωγμή στη φιλοσοφία διαχείρισης του ρίσκου από τις διοικήσεις των εταιρειών τεχνολογίας. Ο Bilal Chughtai, ο οποίος αφιέρωσε την καριέρα του στην κατανόηση της ευθυγράμμισης των μοντέλων, παρατήρησε από πρώτο χέρι τον τρόπο με τον οποίο τα τμήματα ανάπτυξης προτεραιοποιούν την αύξηση της υπολογιστικής ισχύος και των δυνατοτήτων των μοντέλων έναντι των ασφαλιστικών δικλείδων. Μέσα από την ανάρτηση του, καθιστά σαφές πως η προεπιλεγμένη τροχιά της έρευνας, όπως διαμορφώνεται σήμερα από την αδυσώπητη πίεση για εμπορική επικράτηση, οδηγεί αναπόφευκτα σε σενάρια υπαρξιακής απειλής, τα οποία αδυνατούμε να προβλέψουμε με ακρίβεια.
Η χρονική απόσταση των δύο μηνών ανάμεσα στην παραίτηση του και τη δημόσια τοποθέτηση του προσδίδει στο μήνυμα του χαρακτήρα δομημένης προειδοποίησης μάλλον, παρά αυθόρμητης αντίδρασης. Ο ίδιος επέλεξε να μιλήσει ακριβώς τη στιγμή που η συζήτηση για την επιβράδυνση του ρυθμού ανάπτυξης έχει φτάσει στο αποκορύφωμα της, συνεισφέροντας τον δικό του προβληματισμό σε έναν ήδη φλέγοντα διάλογο. Το επιχείρημά του εστιάζει στην εξάλειψη του μανιώδους ανταγωνισμού μεταξύ των ηγέτιδων δυνάμεων της αγοράς, προτείνοντας μια ρυθμισμένη μετάβαση σε όλο και πιο ισχυρά συστήματα, προκειμένου να δοθεί χρόνος στις ρυθμιστικές αρχές, τους νομοθέτες και την ίδια την κοινωνία να προσαρμοστούν στα νέα δεδομένα.
Διαβάστε επίσης
Αναλύοντας το ευρύτερο τοπίο, παρατηρούμε πως η στάση του εναρμονίζεται απόλυτα με τις πρόσφατες δηλώσεις άλλων κορυφαίων επιστημόνων του χώρου. Ο Jacob Coxon, με πολυετή θητεία στην OpenAI και μετέπειτα στην Anthropic, άνοιξε τον χορό των παραιτήσεων στις αρχές Σεπτεμβρίου, προειδοποιώντας ότι τα εργαστήρια τρέχουν προς μια υπερ-νοημοσύνη з ικανότητα αυτοβελτίωσης, παίζοντας με τις ζωές όλων μας. Ερευνητές αντίπαλων εταιρειών έσπευσαν να τον υποστηρίξουν δημόσια, όπως ο Evan Hubinger της Anthropic, ο οποίος τοποθέτησε τον εσωτερικά υπολογισμένο κίνδυνο εξαφάνισης του ανθρώπινου είδους μέσα στην τρέχουσα δεκαετία σε ποσοστό άνω του 10%. Ακόμη και ο πρωτοπόρος Geoffrey Hinton, ευρέως γνωστός ως νονός της τεχνητής νοημοσύνης, αναγνώρισε ανοιχτά πως τα νούμερα αυτά δεν στερούνται λογικής βάσης.
Η αντίδραση της πολιτικής σκηνής απέναντι σε αυτές τις κραυγές αγωνίας χαρακτηρίζεται από έντονη διχογνωμία και διαφορετικές προσεγγίσεις ως προς τη σοβαρότητα του προβλήματος. Ορισμένοι αξιωματούχοι, όπως ο επικεφαλής τεχνολογίας του αμερικανικού Πενταγώνου Emil Michael, υποβαθμίζουν τις προειδοποιήσεις, θεωρώντας τες τμήμα μιας υπερβολικής κινδυνολογίας, υποστηρίζοντας παράλληλα πως η ελεύθερη αγορά και η στενή συνεργασία με τις κυβερνήσεις μπορούν να αποτρέψουν τα χειρότερα χωρίς να απαιτείται καμία απολύτως παύση στην έρευνα. Την ίδια στιγμή, νομοθέτες της Γερουσίας βρίσκονται σε προχωρημένες διαπραγματεύσεις για την ψήφιση νομοσχεδίων που θα επιβάλλουν αυστηρά καθήκοντα φροντίδας και εποπτείας στους κατασκευαστές θεμελιωδών μοντέλων, ώστε να σχεδιάζουν τα προϊόντα τους με πρωταρχικό γνώμονα την αποτροπή καταστροφικών συμβάντων.
Για την ευρωπαϊκή και την ελληνική αγορά, οι εξελίξεις αυτές δεν αποτελούν μια μακρινή διένεξη θεωρητικού επιπέδου, αλλά επηρεάζουν άμεσα τον τρόπο με τον οποίο οι τοπικές επιχειρήσεις ενσωματώνουν τα νέα εργαλεία. Οι ελληνικές εταιρείες λογισμικού και οι πάροχοι ψηφιακών υπηρεσιών εξαρτώνται όλο και περισσότερο από τα APIs των μοντέλων της Google, της OpenAI και της Anthropic για την ανάπτυξη νέων προϊόντων υποστήριξης πελατών, ανάλυσης δεδομένων και αυτοματοποίησης.
Η αβεβαιότητα γύρω από την ασφάλεια των βασικών υποδομών υπογραμμίζει την επιτακτική ανάγκη εφαρμογής των κατευθυντήριων γραμμών του Ευρωπαϊκού Κανονισμού για την Τεχνητή Νοημοσύνη (AI Act), υποχρεώνοντας τις εταιρείες να ελέγχουν διπλά τις εξαρτήσεις τους από αλγορίθμους που αναπτύσσονται υπό συνθήκες ακραίου ανταγωνισμού στις ΗΠΑ.
Οποιαδήποτε απότομη επιβολή κανονιστικών φρένων στην Αμερική, ως αντίδραση στις προειδοποιήσεις των ερευνητών, θα μεταβάλει αστραπιαία το κόστος και τη διαθεσιμότητα των εργαλείων τεχνητής νοημοσύνης που έχουν ήδη ξεκινήσει να ριζώνουν στο εγχώριο εταιρικό οικοσύστημα.
Διαβάστε επίσης
