up_icon
Technology Robots Science

ΟΗΕ: Δεν επήλθε συμφωνία για τα «ρομπότ - δολοφόνους»

21 Δεκεμβρίου 2021 Antonia Gouvedari

ΟΗΕ: Δεν επήλθε συμφωνία για τα «ρομπότ - δολοφόνους»

Έχετε ακουστά τα αυτόνομα killer robots; Πρόκειται για αυτόνομα οπλικά συστήματα – γνωστά ως ρομπότ δολοφόνοι – τα οποία, όπως αναφέρει πρόσφατη έρευνα του Συμβουλίου Ασφαλείας των Ηνωμένων Εθνών, χρησιμοποιήθηκαν πέρυσι στον εμφύλιο πόλεμο στη Λιβύη και έκαναν πράξη τον σκοπό της ύπαρξης τους.

Η Σύμβαση για Συγκεκριμένα Συμβατικά Όπλα των Ηνωμένων Εθνών που ιδρύθηκε το 1983 ενημερώνεται ανά τακτά χρονικά διαστήματα για τον περιορισμό των πιο σκληρών όπλων παγκοσμίως. Ωστόσο, στη διάσκεψη που έλαβε χώρα στη Γενεύη στις 13-17 Δεκεμβρίου το ζήτημα της απαγόρευσης των αυτόνομων όπλων δεν κατέληξε σε κοινή συμφωνία. Το ζήτημα παραμένει ακόμα «ανοικτό» και σύμφωνα με τα πρακτικά, μπορεί να τεθεί θέμα αναθεώρησης σε πέντε χρόνια από τώρα.

Τα αυτόνομα killer robots μπορούν να λειτουργούν ανεξάρτητα, επιλέγοντας στόχους χωρίς να χρειαστεί να πάρει την σκληρή απόφαση ένας άνθρωπος. Σύμφωνα με τον James Dawes, καθηγητή Αγγλικών στο Macalester College, υπάρχουν τέσσερις επιτακτικοί κίνδυνοι με τα αυτόνομα killer robots.

Το πρώτο είναι το πρόβλημα της εσφαλμένης αναγνώρισης. Κατά την επιλογή ενός στόχου, τα αυτόνομα όπλα θα μπορούν να διακρίνουν μεταξύ εχθρικών στρατιωτών και 12χρονων που παίζουν με όπλα;

Επί της ουσίας, ο Dawes αναφέρει ότι η διαφορά μεταξύ ανθρώπινου και αλγοριθμικού λάθους είναι σαν τη διαφορά μεταξύ της αποστολής μιας επιστολής και ενός tweet. Η κλίμακα, το εύρος και η ταχύτητα των συστημάτων των αυτόνομων killers robots – που διέπονται από έναν αλγόριθμο στόχευσης - θα μπορούσε κάλλιστα να κάνει τις εσφαλμένες αναγνωρίσεις στόχων σε μεμονωμένους ανθρώπους να φαίνονται σαν απλά σφάλματα.

Όπως έχουν δείξει πολλές μελέτες για τα αλγοριθμικά σφάλματα σε όλους τους κλάδους, οι καλύτεροι αλγόριθμοι μπορούν να δίνουν σωστά αποτελέσματα στις εσωτερικές δοκιμές, αλλά τρομερά σφάλματα όταν προχωρά η εφαρμογή τους στην πράξη σε μεγάλους πληθυσμούς.

Αυτομάτως λοιπόν προκύπτει ο δεύτερος κίνδυνος, καθώς όταν τα συστήματα τεχνητής νοημοσύνης κάνουν λάθη, τα λάθη είναι μαζικά. Και όταν κάνουν λάθος, ούτε οι κατασκευαστές τους δεν μπορούν να διακρίνουν τις αιτίες, ούτε να προσδιορίσουν τρόπους διόρθωσης.

Οι επόμενοι δύο κίνδυνοι είναι τα προβλήματα του χαμηλού και υψηλού επιπέδου διάδοσης. O Dawes, δηλαδή, εξηγεί ότι ακόμη και οι στρατοί που αναπτύσσουν αυτού του είδους τα όπλα λειτουργούν με το σκεπτικό ότι θα συγκρατήσουν και θα ελέγξουν τη χρήση των αυτόνομων όπλων. Αλλά, εάν έχουμε διδαχθεί κάτι στην ιστορία της τεχνολογίας των όπλων είναι ότι τα όπλα εξαπλώνονται.

Στην περίπτωση δε που η εξάπλωση των αυτόνομων όπλων γίνει με γρήγορους ρυθμούς, μπορούμε εύκολα να φανταστούμε μέχρι πού θα είναι διατεθειμένα τα έθνη να φτάσουν για να υπερισχύσουν. Τα έθνη θα μπορούσαν να ανταγωνιστούν για την ανάπτυξη ολοένα και πιο καταστροφικών αυτόνομων όπλων (χημικά, βιολογικά, ραδιολογικά και πυρηνικά όπλα). Επομένως, το συμπέρασμα είναι ένα: περισσότερα αυτόνομα όπλα, περισσότεροι πόλεμοι.

Τέλος, τα αυτόνομα όπλα θα υπονόμευαν εν τέλει τους διεθνείς νόμους του πολέμου, αυτούς που θεωρητικά κρατούν τους ανθρώπους μακριά από φρικαλεότητες και εγκλήματα πολέμου. Βάσει αυτών των νόμων, οι άνθρωποι λογοδοτούν για τις πράξεις τους ακόμη και σε καιρό πολέμου – το δικαίωμα να σκοτώσουν άλλους στρατιώτες κατά τη διάρκεια μιας μάχης, δεν δίνει το δικαίωμα δολοφονίας άμαχου πληθυσμού.

Και εδώ εγείρονται τα εξής ερωτήματα: Σε ποιον μπορούν να λογοδοτήσουν τα αυτόνομα όπλα; Ποιος ευθύνεται για ένα ρομπότ που διαπράττει εγκλήματα πολέμου; Ποιος θα δικαζόταν;

Η ύπαρξη των νόμων του πολέμου θα αποδυναμωθεί σημαντικά. Σαν να ξεκινάει ένας πόλεμος και όλοι οι στρατιώτες, αντάρτες, διεθνείς και εγχώριοι τρομοκράτες να διαθέτουν απεριόριστη θανατηφόρα δύναμη με μηδενικό κίνδυνο σε τόπους και ανθρώπους της επιλογής τους, χωρίς να προκύπτει καμία νομική ευθύνη.

*Ακολουθήστε το Techgear.gr στο Google News για να ενημερώνεστε άμεσα για όλα τα νέα άρθρα! Όσοι χρησιμοποιείτε υπηρεσία RSS (π.χ. Feedly), μπορείτε να προσθέσετε το techgear.gr στη λίστα σας με αντιγραφή και επικόλληση της διεύθυνσης https://www.techgear.gr/feed στο αντίστοιχο πεδίο της υπηρεσίας σας. Αν προτιμάτε το Twitter, θα μας βρείτε στο προφίλ @techgeargr

[TheConversation]

Antonia Gouvedari

Μία ενθουσιώδης millennial δημοσιογράφος που εισήλθε στον digital κόσμο και μαγεύτηκε εξ ολοκλήρου! Τρέφω ιδιαίτερη αδυναμία στις σειρές και τις ταινίες και είμαι υπέρ το δέον εθισμένη στα social platforms! Μέλημα μου; Η ακριβέστερη και συνάμα πιο απλουστευμένη παρεχόμενη τεχνολογική πληροφόρηση για τα μάτια σας και μόνο!

ΣΧΟΛΙΑ
read more

Bruce Willis: Ο πρώτος ηθοποιός που πούλησε τα δικαιώματα χρήσης της εικόνας του για deepfakes

30 Σεπτεμβρίου 2022 Christos Elpidis

Η στροφή (και) της βιομηχανίας του κινηματογράφου στις νέες τεχνολογίες είναι εμφανής τα τελευταία χρόνια με πληθώρα παραδειγμάτων, όπως η απεικόνιση του Robert De Niro σε διάφορες ηλικίες στην ταινία The ...

James Earl Jones: Η φωνή του Darth Vader θα ζει...για πάντα μέσω AI

26 Σεπτεμβρίου 2022 Christos Elpidis

Πέρασαν 45 χρόνια από τότε που ο James Earl Jones έδωσε για πρώτη φορά την χαρακτηριστική φωνή του στον Darth Vader, αλλά τώρα, σε ηλικία 91 ετών αντιλαμβάνεται πως ήρθε το πλήρωμα του χρόνου για να βρεθεί ο ...

Vodafone: Σε κίνδυνο ο στόχος της ΕΕ για «έξυπνες πόλεις» μέχρι το 2030

22 Σεπτεμβρίου 2022 Techgear Team

Νέα έκθεση της Vodafone για την ψηφιοποίηση των πόλεων σε πανευρωπαϊκό επίπεδο αποκαλύπτει ότι θα απαιτηθούν επείγοντα μέτρα προκειμένου να ξεπεραστούν τα υπάρχοντα εμπόδια και να στεφθεί με επιτυχία ο ...

LG Rollable: Το ακυρωμένο smartphone με την τυλισσόμενη οθόνη σε hands-on video

21 Σεπτεμβρίου 2022 Christos Elpidis

Η LG πειραματιζόταν για αρκετό καιρό με τις εύκαμπτες οθόνες της προκειμένου να προσφέρει μια διαφορετική προσέγγιση στην κατηγορία των smartphones. Σε αντίθεση με όσα έχουμε δει μέχρι σήμερα, δηλαδή τα ...

YouTuber δοκιμάζει αν λειτουργεί το Crash Detection της Apple [Video]

21 Σεπτεμβρίου 2022 Christos Elpidis

Στο πρόσφατο Apple Event για την παρουσίαση των νέων iPhone 14 και των Apple Watch Series 8, Apple Watch Ultra, η εταιρεία στάθηκε ιδιαίτερα στη λειτουργία Crash Detection των νέων συσκευών της για την αυτόματη...

ΗΠΑ: Χρηματόδοτηση ύψους $900 εκατ. για σταθμούς φόρτισης ηλεκτρικών οχημάτων

16 Σεπτεμβρίου 2022 Christos Elpidis

Η κυβέρνηση των ΗΠΑ εντείνει ακόμη περισσότερο τις ενέργειες της για ένα μέλλον με ηλεκτρικά οχήματα, καθώς ο πρόεδρος Biden επιβεβαίωσε πως θα χρηματοδοτήσει με περισσότερα από $900 εκατομμύρια την τοποθέτηση ...

Wi-Fi 7: Νέα επίδειξη του προτύπου από Intel και Broadcom, έπιασαν ταχύτητα 5Gbps

13 Σεπτεμβρίου 2022 Christos Elpidis

Η δουλειά επάνω στο πρότυπο Wi-Fi 7 έχει ξεκινήσει από τον περασμένο Ιανουάριο, όταν η MediaTek πραγματοποίησε την πρώτη επίδειξη, ενώ ακολούθησε η Qualcomm τον Μάιο με την παρουσίαση των πρώτων Wi-Fi 7 ...

Η κυβέρνηση Biden θέτει κανόνες για να «περιορίσει» την τεχνολογική ανάπτυξη της Κίνας

09 Σεπτεμβρίου 2022 Christos Elpidis

Μόλις τον προηγούμενο μήνα η κυβέρνηση Biden ενέκρινε το πρόγραμμα CHIPS για την ενίσχυση της βιομηχανίας ημιαγωγών στις ΗΠΑ, με μια επένδυση που θα ξεπεράσει τα $280 δισεκατομμύρια για έρευνες και ανάπτυξη ...

Λύση στο ενεργειακό πρόβλημα με παραγωγή καύσιμου υδρογόνου από ελάχιστη υγρασία

07 Σεπτεμβρίου 2022 Christos Elpidis

Δεν είναι η πρώτη φορά που διαβάζουμε για έρευνες σχετικά με την παραγωγή καύσιμου υδρογόνου για την λύση του ενεργειακού προβλήματος, αλλά το επίτευγμα των ερευνητών του University of Melbourne παρουσιάζει ...

USB4 Version 2.0: Το νέο πρότυπο για ταχύτητα μεταφοράς δεδομένων έως 80 Gbps

05 Σεπτεμβρίου 2022 Christos Elpidis

Σχεδόν 3μιση χρόνια πέρασαν από την πρώτη παρουσίαση του προτύπου USB 4.0 από την Intel και τώρα έφτασε η ώρα να ανακοινωθεί επίσημα από το USB Promoter Group (σε αυτό συμμετέχουν μεταξύ άλλων οι Microsoft, ...

Loader
techgear_icon