Η Anthropic μπλόκαρε έρευνα για βιολογικά όπλα και απέτρεψε υποκλοπές από κινεζικές εταιρείες

Σύνοψη

• Η Anthropic δημοσίευσε την αναφορά Threat Intelligence Report τον Σεπτέμβριο του 2026, αποκαλύπτοντας σοβαρές παραβιάσεις των συστημάτων της.
• Τα συστήματα ασφαλείας του Claude εντόπισαν και μπλόκαραν ερευνητές που προσπαθούσαν να χρησιμοποιήσουν το μοντέλο για την ανάπτυξη βιολογικών όπλων.
• Κινεζικές εταιρείες τεχνολογίας, συμπεριλαμβανομένων των Alibaba, Moonshot AI και DeepSeek, διεξήγαγαν μαζικές εκστρατείες «distillation» για να εκπαιδεύσουν τα δικά τους μοντέλα χρησιμοποιώντας δεδομένα του Claude.
• Οι επιθέσεις αυτές αναδεικνύουν τις διπλές προκλήσεις της βιομηχανίας AI: την αποτροπή καταστροφικών χρήσεων και την προστασία της πνευματικής ιδιοκτησίας από αθέμιτο ανταγωνισμό.

Η πρόσφατη δημοσιοποίηση της έκθεσης Threat Intelligence Report από την Anthropic για τον Σεπτέμβριο του 2026 αποκαλύπτει τις κρίσιμες προκλήσεις ασφαλείας που αντιμετωπίζουν τα κορυφαία μοντέλα παραγωγικής τεχνητής νοημοσύνης απέναντι σε συντονισμένες κακόβουλες ενέργειες. 

Οι νέες πληροφορίες καταδεικνύουν ότι οι δημιουργοί των Μεγάλων Γλωσσικών Μοντέλων (LLMs) καλούνται πλέον να διαχειριστούν όχι μόνο τεχνικά σφάλματα, αλλά οργανωμένες επιθέσεις που εκτείνονται από την προσπάθεια σύνθεσης βιολογικών όπλων μέχρι τη συστηματική κλοπή πνευματικής ιδιοκτησίας από κορυφαίους παίκτες της ασιατικής αγοράς.

Το Claude στο στόχαστρο της βιοτρομοκρατίας

Η Anthropic εντόπισε και απέκλεισε επιστήμονες που προσπαθούσαν να χρησιμοποιήσουν το μοντέλο Claude για την προώθηση ερευνών ανάπτυξης βιολογικών όπλων, καταγράφοντας περιστατικά όπου οι χρήστες επιχείρησαν να παρακάμψουν τις δικλείδες ασφαλείας του συστήματος αντλώντας επικίνδυνα δεδομένα.

Σύμφωνα με τα αναλυτικά στοιχεία που παρουσιάστηκαν από την εταιρεία έρευνας και ανάπτυξης τεχνητής νοημοσύνης, οι ενσωματωμένοι μηχανισμοί ασφαλείας του Claude ενεργοποιήθηκαν εγκαίρως όταν ανίχνευσαν επαναλαμβανόμενα μοτίβα εξειδικευμένων ερωτημάτων τα οποία στόχευαν στη σύνθεση παθογόνων μικροοργανισμών και στην παράκαμψη των διεθνών πρωτοκόλλων βιοασφάλειας. 

Οι ερευνητές προσπάθησαν να εκμεταλλευτούν την τεράστια βάση επιστημονικών δεδομένων του μοντέλου για να επιταχύνουν διαδικασίες που κανονικά θα απαιτούσαν μήνες ερευνών σε φυσικά εργαστήρια, εγείροντας σοβαρά ερωτήματα σχετικά με την προσβασιμότητα εργαλείων διπλής χρήσης.

Οι ομάδες κυβερνοασφάλειας της εταιρείας παρατήρησαν ότι οι επιτιθέμενοι χρησιμοποίησαν πολύπλοκες τεχνικές «jailbreaking», διατυπώνοντας τα ερωτήματά τους ως θεωρητικά ακαδημαϊκά σενάρια προκειμένου να ξεγελάσουν τους αλγόριθμους ευθυγράμμισης του συστήματος, γεγονός που αποδεικνύει την αυξανόμενη επιτήδευση των απειλών. Η έγκαιρη αναγνώριση αυτών των συμπεριφορών οδήγησε στον άμεσο αποκλεισμό των λογαριασμών και στην ενίσχυση των φίλτρων περιεχομένου, υπογραμμίζοντας την επιτακτική ανάγκη για συνεχή παρακολούθηση των αλληλεπιδράσεων σε επίπεδο API.

Η υποκλοπή δεδομένων και η πρακτική του distillation από την Κίνα

Κινεζικοί τεχνολογικοί κολοσσοί, συμπεριλαμβανομένων των Alibaba, Moonshot AI και DeepSeek, διεξήγαγαν οργανωμένες εκστρατείες «distillation» εναντίον της Anthropic, εξάγοντας δεδομένα από το Claude για να εκπαιδεύσουν τα δικά τους ανταγωνιστικά μοντέλα τεχνητής νοημοσύνης.

Παράλληλα με τις ακραίες βιολογικές απειλές, τα δεδομένα ανάλυσης ρίχνουν φως σε ένα ευρύτατο δίκτυο βιομηχανικής κατασκοπείας νέας γενιάς που διαμορφώνει την τρέχουσα δυναμική του παγκόσμιου τεχνολογικού ανταγωνισμού. Η τεχνική του model distillation περιλαμβάνει τη μαζική και αυτοματοποιημένη εξαγωγή απαντήσεων υψηλής ποιότητας από ένα ανώτερο, ακριβό στην εκπαίδευση μοντέλο όπως το Claude 3.5 Sonnet, με αποκλειστικό σκοπό τη χρήση αυτού του υλικού για την εκπαίδευση υποδεέστερων συστημάτων. 

Οι κινεζικές εταιρείες τεχνητής νοημοσύνης φαίνεται πως αξιοποίησαν χιλιάδες ψεύτικους λογαριασμούς και αυτοματοποιημένα scripts για να βομβαρδίσουν τους servers της Anthropic με πολύπλοκα λογικά και μαθηματικά προβλήματα, συλλέγοντας τις ορθές απαντήσεις μαζί με τα βήματα συλλογιστικής για να βελτιώσουν τα δικά τους δωρεάν ή φθηνότερα μοντέλα. 

Η πρακτική αυτή παραβιάζει κατάφωρα τους όρους χρήσης όλων των μεγάλων παρόχων AI, καθώς επιτρέπει στους ανταγωνιστές να παρακάμψουν το τεράστιο οικονομικό και υπολογιστικό κόστος που απαιτείται για τη βασική εκπαίδευση ενός μοντέλου, κλέβοντας ουσιαστικά την τεχνογνωσία μέσω του API. 

Η Anthropic χρειάστηκε να αναπτύξει νέα προηγμένα συστήματα τηλεμετρίας για να ξεχωρίσει τη νόμιμη κίνηση των προγραμματιστών από τις τεράστιες, αυτοματοποιημένες ροές των κινεζικών bots, επιβάλλοντας επιθετικά rate limits και μόνιμους αποκλεισμούς IP διευθύνσεων που σχετίζονταν με τα κέντρα δεδομένων αυτών των εταιρειών.