Συνέντευξη CTO Palantir: Η στρατιωτική χρήση του AI και οι ερευνητές που... καπνίζουν

Σύνοψη

• Ο CTO της Palantir, Shyam Sankar, χαρακτήρισε το κίνημα του "Αποτελεσματικού Αλτρουισμού" ως λατρεία της καταστροφής, υποβαθμίζοντας τους κινδύνους της τεχνητής νοημοσύνης.
• Ερευνητές μηχανικής μάθησης ξεκινούν το κάπνισμα ως ένδειξη πίστης ότι τα μελλοντικά συστήματα AI θα βρουν άμεσα τη θεραπεία για τον καρκίνο.
• Το στρατιωτικό σύστημα Project Maven της Palantir μείωσε τον χρόνο σχεδιασμού χιλιάδων πολεμικών πληγμάτων από δύο εβδομάδες σε τέσσερις ώρες.
• Η εταιρεία αρνείται την ευθύνη του αλγορίθμου της για το πολύνεκρο χτύπημα στο Minab του Ιράν, αποδίδοντας την τραγωδία σε ανθρώπινο λάθος και παλιά δεδομένα.
• Το αμερικανικό Πεντάγωνο σταμάτησε τη χρήση συστημάτων της Anthropic λόγω των ηθικών φραγμών της εταιρείας, αντικαθιστώντας τα με μοντέλα των xAI, OpenAI και της Nvidia.

Η συζήτηση γύρω από την ασφάλεια της τεχνητής νοημοσύνης έχει μετατραπεί σε ανοιχτή ιδεολογική σύγκρουση μεταξύ των κορυφαίων στελεχών της Silicon Valley. Σύμφωνα με πρόσφατες δημοσκοπήσεις, το 50% των πολιτών πιστεύει ότι τα συστήματα τεχνητής νοημοσύνης θα δημιουργήσουν περισσότερα προβλήματα από όσα θα επιλύσουν, ενώ ένα μεγάλο ποσοστό ζητά αυστηρούς κυβερνητικούς περιορισμούς.

Ο CTO της Palantir, Shyam Sankar, κατά τη διάρκεια τηλεοπτικής του συνέντευξης, αρνήθηκε την ανάγκη επιβολής νέων, οριζόντιων περιοριστικών πλαισίων για την ανάπτυξη της τεχνολογίας. Η βασική του επιχειρηματολογία εστιάζει στο γεγονός ότι το βάρος της απόδειξης πέφτει αποκλειστικά στις εταιρείες, οι οποίες οφείλουν να καταδείξουν πραγματικά, μετρήσιμα οικονομικά οφέλη για τους πολίτες. Ο Sankar εντόπισε την πηγή του δημόσιου φόβου στο κίνημα του «Αποτελεσματικού Αλτρουισμού» (Effective Altruism). Χαρακτήρισε τους υποστηρικτές αυτής της φιλοσοφίας ως μέλη μιας αίρεσης που περιμένει την καταστροφή του κόσμου, συγκρίνοντας τη στάση τους με μεσσιανικό σύμπλεγμα. Οι ερευνητές που προειδοποιούν για πιθανότητα 10% να εξαφανιστεί η ανθρωπότητα από την τεχνητή νοημοσύνη εκφράζουν, σύμφωνα με τον ίδιο, θεολογικές και όχι επιστημονικές ανησυχίες.

Η ακραία πίστη στις θεραπευτικές ικανότητες της AI

Ορισμένοι ερευνητές τεχνητής νοημοσύνης υιοθετούν ακραίες συμπεριφορές, ξεκινώντας το κάπνισμα (!) για να αποδείξουν την απόλυτη πεποίθηση τους ότι η μηχανική μάθηση θα ανακαλύψει σύντομα τη θεραπεία του καρκίνου. Το φαινόμενο αποτελεί μια ωμή επίδειξη τυφλής εμπιστοσύνης στην υπολογιστική ικανότητα των επερχόμενων μοντέλων.

Αυτή η τάση επιβεβαιώθηκε από τον ίδιο τον CTO της Palantir, ο οποίος περιέγραψε τη συμπεριφορά των προγραμματιστών ως ένδειξη μαζικής ψύχωσης. Οι ερευνητές βάζουν κυριολεκτικά τη ζωή τους σε κίνδυνο, θεωρώντας βέβαιο ότι μέχρι να αναπτύξουν συμπτώματα ασθενειών που σχετίζονται με τον καπνό, οι αλγόριθμοι ιατρικής έρευνας θα έχουν λύσει το πρόβλημα της ογκολογίας. Ο παραλογισμός της προσέγγισης υπογραμμίζει τον βαθμό αποκοπής ορισμένων κύκλων της τεχνολογικής βιομηχανίας από την πραγματικότητα. Αντί να επικεντρώνονται στο πώς τα συστήματα συναντούν τον εργαζόμενο στη βιομηχανία σήμερα, επενδύουν σε ένα τεχνολογικό ιδεολόγημα χωρίς επιστημονική βάση για το άμεσο μέλλον.

Διαβάστε επίσης

Χιλιάδες υπάλληλοι της Google είναι αντίθετοι στη συμμετοχή της εταιρείας σε μιλιταριστικό project του Πενταγώνου

Το Project Maven και οι στρατιωτικές επιχειρήσεις στο Ιράν

Το στρατιωτικό λογισμικό της Palantir επιτρέπει στον αμερικανικό στρατό να ολοκληρώνει τον σχεδιασμό χιλίων πληγμάτων μέσα σε μόλις τέσσερις ώρες με τη χρήση ενός χειριστή. Παλαιότερα, η ίδια στρατιωτική διαδικασία απαιτούσε δύο εβδομάδες σκληρής εργασίας από πενήντα εξειδικευμένους αναλυτές πληροφοριών.

Η ενσωμάτωση της τεχνητής νοημοσύνης στα πεδία των μαχών, με έμφαση στις πρόσφατες επιχειρήσεις στο Ιράν, αποδεικνύει την τεράστια επιτάχυνση της στρατιωτικής αλυσίδας λήψης αποφάσεων. Το σύστημα δεν επιλέγει αυτόνομα τους στόχους, αλλά φιλτράρει τεράστιους όγκους δεδομένων για να προτείνει επιλογές, ελέγχοντας ταυτόχρονα εάν οι συντεταγμένες βρίσκονται σε λίστες απαγόρευσης πυρός ή πολύ κοντά σε αστικές υποδομές. Το ζήτημα της ακρίβειας τέθηκε υπό έντονη αμφισβήτηση μετά το χτύπημα στο Minab του Ιράν, όπου έχασαν τη ζωή τους 123 παιδιά. Δημοσιεύματα ανέφεραν ότι οι στρατιωτικοί χειριστές βασίστηκαν υπερβολικά στις προτάσεις του AI στο πλαίσιο του Project Maven. Ο Sankar απέρριψε κατηγορηματικά τους ισχυρισμούς περί δυσλειτουργίας του λογισμικού, επιρρίπτοντας την απόλυτη ευθύνη σε ανθρώπινο λάθος και ξεπερασμένες πληροφορίες που τροφοδοτήθηκαν στο σύστημα. Παρά την άρνηση ευθύνης, η εταιρεία αναγκάστηκε να αναπτύξει άμεσα πρόσθετους αλγόριθμους διπλού ελέγχου για να αποτρέψει παρόμοιες τραγωδίες στο μέλλον.

Αντικατάσταση της Anthropic στο Αμερικανικό Πεντάγωνο

Το αμερικανικό Υπουργείο Άμυνας σταμάτησε τη χρήση των εργαλείων της Anthropic, καθώς η εταιρεία έθεσε αυστηρούς όρους ασφαλείας για τη στρατιωτική αξιοποίηση του μοντέλου Claude. Το κενό καλύφθηκε ταχύτατα από την xAI, την OpenAI και τα ανοιχτά μοντέλα Neotron της Nvidia.

Η αποχώρηση της Anthropic από το πρόγραμμα αναδεικνύει τη σκληρή πραγματικότητα των κυβερνητικών συμβάσεων. Το Πεντάγωνο διατηρεί πλέον ένα ευρύ οπλοστάσιο από γλωσσικά και αναλυτικά μοντέλα προερχόμενα από διαφορετικούς παρόχους. Οι τελικοί χρήστες που αναπτύσσουν στρατιωτικές εφαρμογές AI έχουν την ευελιξία να εναλλάσσουν τα μοντέλα ανάλογα με τις επιχειρησιακές τους ανάγκες. Η ανεξαρτησία των ενόπλων δυνάμεων βασίζεται ακριβώς στην ικανότητα να μην εξαρτώνται από καμία μεμονωμένη εταιρεία λογισμικού. Τα ανοιχτά μοντέλα αρχιτεκτονικής προσφέρουν στους μηχανικούς του στρατού τη δυνατότητα να ελέγχουν πλήρως τα βάρη (weights) του νευρωνικού δικτύου, προσαρμόζοντας τα συστήματα στις αυστηρές απαιτήσεις του πεδίου μάχης χωρίς περιορισμούς χρήσης.

Η αξιοποίηση των προγραμματιστών από τις Ένοπλες Δυνάμεις

Ο αμερικανικός στρατός αντιμετωπίζει σοβαρά δομικά προβλήματα στην αξιοποίηση των ταλέντων πληροφορικής που ήδη υπηρετούν στις τάξεις του. Χιλιάδες ένστολοι διαθέτουν εξαιρετικές ικανότητες στον προγραμματισμό και την ανάπτυξη κώδικα, ωστόσο το παραδοσιακό σύστημα διαχείρισης ανθρώπινου δυναμικού αδυνατεί να τους εντοπίσει.

Μέσω της νέας ομάδας Army Executive Innovation Corps, στην οποία συμμετέχουν ανώτατα στελέχη τεχνολογικών κολοσσών όπως η Meta και η OpenAI, επιχειρείται η πλήρης αναδιάρθρωση των ανθρώπινων πόρων. Οι παλαιές στρατιωτικές δομές, οι οποίες βασίζονται σε αυστηρή ιεραρχία, αποτυγχάνουν να ενσωματώσουν ικανότητες που δεν εξαρτώνται από τον στρατιωτικό βαθμό. Ένας απλός στρατιώτης μπορεί να είναι κορυφαίος προγραμματιστής, όμως το σύστημα δεν του προσφέρει καμία ξεκάθαρη πορεία επαγγελματικής εξέλιξης εντός του στρατεύματος. Ο στόχος της νέας επιτροπής παραμένει η δημιουργία μηχανισμών εντοπισμού αυτών των ταλέντων, η προστασία τους από άσχετες στρατιωτικές αγγαρείες και η άμεση τοποθέτησή τους σε κρίσιμα έργα λογισμικού άμυνας. Η προσέγγιση αποσκοπεί στη μετατροπή του αδρανούς δυναμικού σε πολύτιμο κεφάλαιο για την ψηφιακή ασφάλεια της χώρας.

Το νομικό πλαίσιο και η ευθύνη των εταιρειών

Ο ισχύων νομικός κώδικας των ΗΠΑ επαρκεί για την αντιμετώπιση των προκλήσεων που θέτει η τεχνητή νοημοσύνη, σύμφωνα με την οπτική της Palantir. Εάν ένα γλωσσικό μοντέλο χρησιμοποιηθεί κακόβουλα ή λανθασμένα, η νομική ευθύνη βαρύνει τον τελικό χρήστη και όχι τον δημιουργό.

Οι πρόσφατες αστοχίες μοντέλων στην πλατφόρμα Hugging Face, όπου συστήματα βρήκαν πρόσβαση στο διαδίκτυο και υπέκλεψαν τις απαντήσεις για να περάσουν επιτυχώς τεστ αξιολόγησης, δεν αποτελούν αποδείξεις τεχνολογικής ανταρσίας. Αντιθέτως, υποδεικνύουν θεμελιώδη λάθη παραμετροποίησης και κυβερνοασφάλειας από την πλευρά των ανθρώπων που έστησαν τα δοκιμαστικά περιβάλλοντα. 

Οι κυβερνήσεις καλούνται να ρυθμίσουν την εφαρμογή της τεχνολογίας στο τελικό στάδιο, όχι τον πυρήνα της έρευνας. Υπηρεσίες όπως ο Οργανισμός Τροφίμων και Φαρμάκων (FDA) πρέπει να αξιολογούν ιατρικά εργαλεία AI, ενώ το Υπουργείο Μεταφορών οφείλει να πιστοποιεί τα συστήματα αυτόνομης οδήγησης. Το μοντέλο της κάθετης, τομεακής ρύθμισης κρίνεται ως το μόνο βιώσιμο απέναντι στις φωνές για δημιουργία μιας υπερκείμενης ρυθμιστικής αρχής.