ScreenDNA: OpenAI, Anthropic και Google κατά της χρήσης AI για τη δημιουργία βιολογικών όπλων

Σύνοψη

• Ηγέτες της τεχνολογίας, συμπεριλαμβανομένων των Sam Altman (OpenAI), Demis Hassabis (Google DeepMind) και Dario Amodei (Anthropic), συνυπέγραψαν την ανοιχτή επιστολή ScreenDNA.
• Το κείμενο καλεί τους νομοθέτες να επιβάλουν αυστηρούς, υποχρεωτικούς ελέγχους ταυτοποίησης στις εταιρείες που κατασκευάζουν και εμπορεύονται συνθετικό DNA.
• Στόχος είναι η αποτροπή χρήσης των σύγχρονων μοντέλων AI για τον σχεδιασμό και την παραγωγή βιολογικών όπλων ή νέων παθογόνων μικροοργανισμών από μη εξειδικευμένους χρήστες.
• Τα σημερινά γλωσσικά μοντέλα διαθέτουν εξαιρετικές γνώσεις ιολογίας, μειώνοντας δραματικά τα εμπόδια πρόσβασης στη δημιουργία επικίνδυνων βιολογικών παραγόντων.

Η ταχύτατη εξέλιξη της παραγωγικής τεχνητής νοημοσύνης έχει φέρει στο προσκήνιο πρωτοφανείς δυνατότητες στον τομέα της επιστημονικής έρευνας, αλλά και νέες, ασύμμετρες απειλές. Σε μια σπάνια σύμπνοια απόψεων, κορυφαία στελέχη της τεχνολογίας ένωσαν τις φωνές τους μέσα από την ιστοσελίδα ScreenDNA.org, καταθέτοντας αίτημα για άμεση νομοθετική παρέμβαση στο αμερικανικό Κογκρέσο, με διεθνείς προεκτάσεις. Ανάμεσα στους υπογράφοντες βρίσκονται ο Demis Hassabis (βραβευμένος με Νόμπελ Χημείας και CEO της Google DeepMind), ο Sam Altman (OpenAI), ο Dario Amodei (Anthropic), ο Mustafa Suleyman (Microsoft AI) και επιστήμονες κορυφαίων πανεπιστημίων.

Το βασικό επιχείρημα της επιστολής εστιάζει στην ενίσχυση της ασφάλειας στην αλυσίδα εφοδιασμού της βιοτεχνολογίας. Σήμερα, ένας ερευνητής μπορεί να παραγγείλει συνθετικό γενετικό υλικό online, το οποίο στη συνέχεια εκτυπώνεται στο εργαστήριο του παρόχου και αποστέλλεται ταχυδρομικά. Η επιστολή ζητά αυτό το βήμα να συνοδεύεται υποχρεωτικά από αυστηρό screening: έλεγχο ταυτοπροσωπίας του πελάτη (Know Your Customer) και ανάλυση της αλληλουχίας του DNA για την ανίχνευση δυνητικά τοξικών ή μολυσματικών παραγόντων.

Πώς η AI "εκδημοκρατίζει" τις βιολογικές απειλές

Τα σύγχρονα μοντέλα τεχνητής νοημοσύνης ξεπερνούν πλέον τους ειδικούς ιολόγους διδακτορικού επιπέδου σε εξαιρετικά τεχνικές ερωτήσεις εργαστηριακών διαδικασιών. Αν και η πρόσβαση σε εργαστήρια παραμένει απαραίτητη, η AI εξαλείφει τα γνωστικά εμπόδια, επιτρέποντας σε κακόβουλους χρήστες να βρουν τρόπους παράκαμψης των ελέγχων και να σχεδιάσουν επικίνδυνους παθογόνους μικροοργανισμούς γρήγορα και στοχευμένα.

Για δεκαετίες, η κατασκευή ενός βιολογικού όπλου αποτελούσε ένα εγχείρημα που απαιτούσε κρατικούς πόρους, εξειδικευμένες εγκαταστάσεις (BSL-4) και επιστήμονες με βαθιά γνώση της μοριακής βιολογίας. Σήμερα, η συνθήκη αυτή αλλάζει. Τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) εκπαιδεύονται σε δισεκατομμύρια σελίδες επιστημονικών δημοσιεύσεων, διπλωμάτων ευρεσιτεχνίας και ιατρικών δεδομένων (όπως το PubMed). Ως αποτέλεσμα, η τεχνητή νοημοσύνη μπορεί να λειτουργήσει ως ένας άψογος «εικονικός καθοδηγητής» για τη σύνθεση ιών.

Το ζήτημα δεν είναι απλώς θεωρητικό. Ήδη από το 2017, Καναδοί ερευνητές απέδειξαν ότι μπορούν να ανακατασκευάσουν τον εξαφανισμένο ιό της ευλογιάς των αλόγων (horsepox) χρησιμοποιώντας συνθετικό DNA κόστους 100.000 δολαρίων. Σήμερα, το κόστος αυτό είναι συντριπτικά χαμηλότερο. Όπως επισημαίνει η επιστολή, τα συστήματα AI μπορούν να υποδείξουν ακριβώς πού να απευθυνθεί κάποιος για να βρει εταιρείες που δεν ελέγχουν τις παραγγελίες τους, αλλά και πώς να τροποποιήσει την αλληλουχία του DNA ώστε να ξεγελάσει το λογισμικό ασφαλείας. Μια πρόσφατη έρευνα της Microsoft απέδειξε μάλιστα ότι η AI μπορεί να προτείνει τροποποιημένες πρωτεϊνικές δομές που φέρουν την ίδια τοξικότητα με γνωστές απειλές, αλλά διαφεύγουν της συμβατικής αλγοριθμικής ανίχνευσης.

Ο τεχνικός ρόλος των εταιρειών σύνθεσης νουκλεϊκών οξέων

Οι εταιρείες βιοτεχνολογίας χρησιμοποιούν εμπορικούς συνθετήρες για να "εκτυπώσουν" γενετικές αλληλουχίες (DNA/RNA) κατά παραγγελία. Παρότι τα μέλη της κοινοπραξίας International Gene Synthesis Consortium ελέγχουν τις παραγγελίες μέσω εξειδικευμένου λογισμικού από το 2009, υπάρχουν πάροχοι που δεν εφαρμόζουν ελέγχους. Η νέα πρόταση ζητά νομική υποχρέωση ταυτοποίησης πελατών και καταγραφής κάθε βιολογικής αλληλουχίας.

Η αυτοματοποιημένη σύνθεση DNA, η οποία βασίζεται κυρίως στη χημεία των φωσφοραμιδιτών, είναι το θεμέλιο της σύγχρονης επιστήμης. Χωρίς αυτήν, η ταχύτατη ανάπτυξη των εμβολίων mRNA δεν θα ήταν εφικτή. Αντιλαμβανόμενες τον κίνδυνο, μεγάλες εταιρείες όπως η Twist Bioscience και η Ansa Biotechnologies δημιούργησαν το International Gene Synthesis Consortium (IGSC) εφαρμόζοντας εθελοντικούς ελέγχους.

Το πρόβλημα ωστόσο έγκειται στους "παίκτες" εκτός της κοινοπραξίας. Εφόσον οι κανόνες δεν είναι νομοθετικά κατοχυρωμένοι, ένας κακόβουλος χρήστης μπορεί απλώς να απευθυνθεί σε κατασκευαστές στο εξωτερικό που αγνοούν τα μέτρα ασφαλείας για λόγους κόστους. Η επιστολή υπογραμμίζει πως η ενίσχυση του software (περιορισμοί στα ίδια τα μοντέλα AI) δεν αρκεί. Ο μόνος τρόπος να αποφευχθεί το μοιραίο είναι η εφαρμογή αυστηρού ελέγχου στο φυσικό hardware, δηλαδή στον εξοπλισμό κατασκευής γενετικού υλικού, ελέγχοντας σε πραγματικό χρόνο τις αλληλουχίες που εξάγονται από τον εκτυπωτή.

Με τη ματιά του Techgear

Η επιστολή των ηγετών της Silicon Valley αποτελεί ουσιαστικά μια στρατηγική προληπτικής νομικής θωράκισης. Αναγνωρίζοντας ότι τα γλωσσικά μοντέλα δεν μπορούν να περιοριστούν απόλυτα σε επίπεδο λογισμικού, μεταφέρουν την ευθύνη ελέγχου στο φυσικό hardware: τους εκτυπωτές DNA. Είναι μια ξεκάθαρη προσπάθεια να αποφύγουν τις κατηγορίες περί συνυπαιτιότητας σε ενδεχόμενη βιολογική κρίση.

Οι εταιρείες όπως η OpenAI και η Google DeepMind γνωρίζουν πολύ καλά το λεγόμενο "Jailbreak" (την παράκαμψη των δικλείδων ασφαλείας των LLMs). Ξέρουν πως όσο και αν εκπαιδεύσουν τα μοντέλα τους να αρνούνται να δώσουν συνταγές για ιούς, πάντα θα υπάρχει τρόπος να εξαχθεί η πληροφορία. Με το να πρωτοστατούν στη δημιουργία νομικού πλαισίου γύρω από τους προμηθευτές DNA, οριοθετούν τον χώρο της δικής τους ευθύνης. Εάν κάποιος κατασκευάσει ένα βιολογικό όπλο στο μέλλον, το σφάλμα δεν θα βαρύνει τον αλγόριθμο που του έδωσε τη γνώση, αλλά τον πάροχο που δεν έκανε σωστό έλεγχο στην παραγγελία του γενετικού υλικού. Πρόκειται για μια σαφή μετάθεση της κανονιστικής πίεσης από τον ψηφιακό κόσμο των data centers, στον φυσικό κόσμο της βιοτεχνολογίας.