OpenAI: Σταματά την εκπαίδευση AI μοντέλων στο live Internet λόγω κινδύνων ασφαλείας

Σύνοψη

• Η OpenAI ανακοίνωσε επίσημα την παύση της απευθείας εκπαίδευσης των κορυφαίων μοντέλων της (frontier models) στο ζωντανό διαδίκτυο, επικαλούμενη κρίσιμα ζητήματα ασφαλείας.
• Η εταιρεία εφαρμόζει πλέον αυστηρά ελεγχόμενα, απομονωμένα περιβάλλοντα εκπαίδευσης για να αποτρέψει στοχευμένες επιθέσεις και τη διαρροή ευαίσθητων δεδομένων.
• Η απόφαση αυτή διαχωρίζει την ανάπτυξη της επόμενης γενιάς τεχνητής νοημοσύνης από τα ανεξέλεγκτα δεδομένα του παγκόσμιου ιστού, δίνοντας προτεραιότητα στην αξιοπιστία έναντι του τεράστιου αλλά επισφαλούς όγκου πληροφοριών.
• Η εξέλιξη αναμένεται να επηρεάσει τον τρόπο με τον οποίο όλες οι μεγάλες εταιρείες τεχνολογίας θα διαχειρίζονται τα δεδομένα εκπαίδευσης στο μέλλον, θέτοντας νέα πρότυπα για τη βιομηχανία.

Η ανάπτυξη της τεχνητής νοημοσύνης εισέρχεται σε μια νέα, αυστηρά ελεγχόμενη φάση, καθώς η OpenAI αποφάσισε να τερματίσει την πρακτική της απευθείας εκπαίδευσης των κορυφαίων μοντέλων της στο ανοιχτό και ζωντανό διαδίκτυο. 

Η εταιρεία ανακοίνωσε τη μετάβαση σε απολύτως απομονωμένα και ασφαλή περιβάλλοντα εκπαίδευσης για τα επερχόμενα frontier models της,αναγνωρίζοντας ότι η τροφοδότηση αλγορίθμων με ανεξέλεγκτα δεδομένα από τον παγκόσμιο ιστό εγκυμονεί πλέον μη αποδεκτούς κινδύνους για την ασφάλεια και την αξιοπιστία των συστημάτων.

Ο τερματισμός του Live Internet Training

Η τεράστια επιτυχία των πρώτων εκδόσεων του ChatGPT βασίστηκε στην ανάλυση αδιανόητου όγκου δεδομένων που συλλέχθηκαν ελεύθερα από το διαδίκτυο, ωστόσο η προσέγγιση αυτή φτάνει στο τέλος της. Οι μηχανικοί της OpenAI διαπίστωσαν ότι η συνεχής, ζωντανή έκθεση των συστημάτων κατά τη διάρκεια της εκπαίδευσης τα καθιστά ευάλωτα σε εξαιρετικά περίπλοκες απειλές. Πηγές επιβεβαιώνουν ότι η απόφαση ελήφθη για να αποφευχθούν φαινόμενα «δηλητηρίασης δεδομένων», όπου κακόβουλοι παράγοντες θα μπορούσαν να εισαγάγουν εσκεμμένα λανθασμένες ή επικίνδυνες πληροφορίες στο διαδίκτυο με σκοπό να αλλοιώσουν τη συμπεριφορά της τεχνητής νοημοσύνης σε θεμελιώδες επίπεδο.

Η αποκοπή από το live internet δεν σημαίνει ότι τα μοντέλα θα πάψουν να γνωρίζουν τον κόσμο, αλλά ότι η συλλογή των πληροφοριών θα περνάει πλέον από αυστηρά φίλτρα ελέγχου πριν εισαχθεί στις υπολογιστικές συστοιχίες. Τα δεδομένα θα επικυρώνονται, θα καθαρίζονται και θα αποθηκεύονται σε κλειστά δίκτυα, διασφαλίζοντας ότι το μοντέλο δεν αλληλεπιδρά με δυναμικό, δυνητικά μολυσμένο κώδικα ή κείμενο κατά την κρίσιμη φάση της εκμάθησης.

Ασφαλίζοντας το περιβάλλον εκπαίδευσης των Frontier Models

Το τεχνικό σκέλος αυτής της μετάβασης αναλύεται εκτενώς στην επίσημη τοποθέτηση της OpenAI σχετικά με την εξασφάλιση του περιβάλλοντος εκπαίδευσης. Η δημιουργία της επόμενης γενιάς μοντέλων (Artificial General Intelligence - AGI) απαιτεί πρωτοφανή υπολογιστική ισχύ και, συνακόλουθα,δρακόντεια μέτρα κυβερνοασφάλειας. Η εταιρεία προχωρά στη δημιουργία air-gapped περιβαλλόντων ή λογικά απομονωμένων υποδομών, όπου οι διακομιστές που εκτελούν τους αλγόριθμους εκπαίδευσης δεν έχουν καμία φυσική ή άμεση ψηφιακή επαφή με το εξωτερικό δίκτυο.

Αυτή η υποδομή σχεδιάστηκε για να προστατεύει όχι μόνο το ίδιο το μοντέλο από εξωτερικές παρεμβάσεις, αλλά και τα πνευματικά δικαιώματα, τον κώδικα και τα βάρη του νευρωνικού δικτύου από κρατικά υποστηριζόμενους χάκερ ή βιομηχανικούς κατασκόπους. 

Η προστασία αυτών των παραμέτρων αποτελεί ζήτημα εθνικής ασφάλειας για τις ΗΠΑ, καθώς η διαρροή ενός ημιτελούς, πανίσχυρου μοντέλου στο διαδίκτυο χωρίς τα απαραίτητα συστήματα ασφαλείας θα μπορούσε να έχει σοβαρές συνέπειες.