Σύνοψη
- Ο συνιδρυτής της Microsoft διατυπώνει ακραίες ανησυχίες για την πιθανότητα μαζικών απωλειών εάν η τεχνητή νοημοσύνη χρησιμοποιηθεί για την ανάπτυξη βιολογικών όπλων ή κυβερνοεπιθέσεων.
- Σύμφωνα με διεθνή αναλυτικά ρεπορτάζ, η έλλειψη διαφάνειας στα μεγάλα γλωσσικά μοντέλα ενδέχεται να προσφέρει σε κακόβουλους δρώντες εργαλεία πρωτοφανούς καταστροφικής ισχύος.
- Η Ευρωπαϊκή Ένωση εντείνει τις διαδικασίες επιβολής του AI Act, προετοιμάζοντας αυστηρά πρόστιμα και περιορισμούς για τις εταιρείες που δεν συμμορφώνονται με τους κανόνες ασφαλείας.
- Οι ευρωπαϊκοί ρυθμιστικοί φορείς μετατοπίζουν πλέον το ενδιαφέρον τους από τη θεωρητική νομοθέτηση στην πρακτική αστυνόμευση των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου.
Ο συνιδρυτής της Microsoft, Bill Gates, προχώρησε σε μια εξαιρετικά αυστηρή τοποθέτηση σχετικά με την ταχεία και συχνά ανεξέλεγκτη εξέλιξη της τεχνητής νοημοσύνης, διατυπώνοντας την εκτίμηση πως η κακή χρήση των σύγχρονων μοντέλων μηχανικής μάθησης θα μπορούσε να οδηγήσει σε καταστροφικές συνέπειες για την ανθρωπότητα.
Σύμφωνα με το ρεπορτάζ του Bloomberg, οι ανησυχίες του Gates επικεντρώνονται κυρίως στην πιθανότητα αξιοποίησης προηγμένων αλγορίθμων και αυτόνομων πρακτόρων από μη κρατικούς ή κακόβουλους δρώντες, οι οποίοι ενδέχεται να αποκτήσουν πρόσβαση σε πληροφορίες ικανές να υποστηρίξουν τον σχεδιασμό βιολογικών όπλων ή την πρόκληση ανεπανόρθωτων βλαβών σε κρίσιμες ενεργειακές υποδομές, φτάνοντας στο θεωρητικό σημείο να απειλήσουν έως και ένα δισεκατομμύριο ζωές. Το μέγεθος αυτού του ρίσκου καθιστά επιτακτική την ανάγκη για άμεση δημιουργία διεθνών μηχανισμών ελέγχου, οι οποίοι θα διασφαλίζουν ότι τα συστήματα τεχνητής νοημοσύνης θα αναπτύσσονται αυστηρά κάτω από συνθήκες διαφάνειας και λογοδοσίας.
Οι πραγματικοί κίνδυνοι της Τεχνητής Νοημοσύνης σύμφωνα με τον Bill Gates
Ο Bill Gates προειδοποιεί πως τα ανοιχτά μοντέλα τεχνητής νοημοσύνης, εάν αφεθούν χωρίς αυστηρό εποπτικό πλαίσιο, μπορούν να προσφέρουν τεχνογνωσία μαζικής καταστροφής σε τρομοκρατικές ομάδες. Ο κύριος κίνδυνος δεν προέρχεται από την αυτεπίγνωση των μηχανών, αλλά από την ικανότητα της AI να επιταχύνει δραματικά την έρευνα και την παραγωγή βιολογικών ή χημικών απειλών, καθιστώντας τις προηγμένες επιθέσεις προσβάσιμες σε άτομα χωρίς εξειδικευμένο επιστημονικό υπόβαθρο.
Το ζήτημα δεν αφορά πλέον το εάν η τεχνητή νοημοσύνη θα ξεπεράσει την ανθρώπινη νοημοσύνη, αλλά το πώς η ήδη υπάρχουσα υπολογιστική ισχύς εκδημοκρατίζει την ικανότητα πρόκλησης μαζικής ζημιάς. Οι ειδικοί στον τομέα της κυβερνοασφάλειας παρατηρούν ήδη μια ραγδαία αύξηση στον βαθμό πολυπλοκότητας των επιθέσεων phishing και του κακόβουλου λογισμικού που παράγεται μέσω γενετικής τεχνητής νοημοσύνης, επιβεβαιώνοντας πως η απειλή είναι ενεργή και εξελίσσεται με εκθετικούς ρυθμούς. Η έλλειψη περιορισμών στα ανοιχτού κώδικα μοντέλα επιτρέπει σε οποιονδήποτε διαθέτει βασικές γνώσεις προγραμματισμού να παρακάμψει τους ηθικούς φραγμούς που ενσωματώνουν οι εταιρείες ανάπτυξης, δημιουργώντας ένα κενό ασφαλείας το οποίο οι παραδοσιακές δομές άμυνας αδυνατούν να αντιμετωπίσουν αποτελεσματικά με τα σημερινά μέσα.
Η απάντηση της Ευρωπαϊκής Ένωσης και η ενεργοποίηση του AI Act
Η Ευρωπαϊκή Ένωση προχωρά πλέον στο επόμενο και πιο κρίσιμο στάδιο της στρατηγικής της, μεταβαίνοντας από την ψήφιση του ευρωπαϊκού νόμου για την τεχνητή νοημοσύνη (AI Act) στην αυστηρή εφαρμογή και επιβολή των κανόνων του. Οι ευρωπαϊκοί μηχανισμοί ελέγχου οργανώνονται με ταχύτατους ρυθμούς για να επιβάλουν κυρώσεις και να απαιτήσουν ελέγχους ασφαλείας από τις μεγάλες εταιρείες τεχνολογίας, στοχεύοντας στην εξάλειψη των συστημάτων που κρίνονται ως «υψηλού κινδύνου» για την κοινωνία και τη δημοκρατία.
Οι ρυθμιστικές αρχές της Ευρώπης δημιουργούν ειδικά γραφεία εποπτείας τα οποία θα έχουν τη δικαιοδοσία να ελέγχουν τον κώδικα, τα δεδομένα εκπαίδευσης και τις διαδικασίες αξιολόγησης (red-teaming) των μεγάλων γλωσσικών μοντέλων προτού αυτά κυκλοφορήσουν στην ευρωπαϊκή αγορά. Το βάρος πέφτει πλέον αποκλειστικά στις εταιρείες κολοσσούς να αποδείξουν έμπρακτα πως τα προϊόντα τους δεν ενέχουν συστημικούς κινδύνους, αντιμετωπίζοντας τον κίνδυνο επιβολής προστίμων που μπορούν να φτάσουν έως και το 7% του παγκόσμιου ετήσιου τζίρου τους. Αυτή η αυστηρή προσέγγιση αναμένεται να λειτουργήσει ως παγκόσμιο πρότυπο (το φαινόμενο των Βρυξελλών), αναγκάζοντας τις αμερικανικές και ασιατικές εταιρείες να προσαρμόσουν τις αρχιτεκτονικές των συστημάτων τους στις ευρωπαϊκές προδιαγραφές, προκειμένου να διατηρήσουν την πρόσβασή τους σε μια από τις μεγαλύτερες αγορές του πλανήτη.
Η άποψη του Techgear
Η κινδυνολογία του Bill Gates για μαζικούς θανάτους, αν και φαντάζει ακραία, στοχεύει περισσότερο στο να γίνει ντόρος στα κοινωνικά δίκτυα και τα fora, αλλά και για να ταρακουνήσει τους μετόχους των μεγάλων τεχνολογικών ομίλων προκειμένου να μετακινήσουν κονδύλια από την έρευνα και ανάπτυξη νέων δυνατοτήτων προς την ενίσχυση των πρωτοκόλλων ασφαλείας.
Από την πλευρά της Ευρώπης, η επιβολή του AI Act αποτελεί μια κάποια ασπίδα προστασίας απέναντι στην αλόγιστη διάθεση ημιτελών μοντέλων στην αγορά, αλλά σε καμία περίπτωση δεν μπορεί να σταματήσει την ανεξέλεγκτη εξέλιξη της AI στο εσωτερικό των εταιρειών. Για να είμαστε ειλικρινείς, κανένας κανόνας και κανένα ρυθμιστικό πλαίσιο σε παγκόσμιο επίπεδο δεν μπορεί να σταματήσει την πρόοδο, επομένως, το μπαλάκι βρίσκεται ξεκάθαρα στα χέρια των επικεφαλής των εταιρειών τεχνολογίας. Το αν θα προχωρήσουν με γνώμονα το συμφέρον της ανθρωπότητας και όχι του κέρδους, θα φανεί μέσα στα επόμενα χρόνια.
Διαβάστε επίσης
