up_icon
Technology

Πρώην υπάλληλος της Google ισχυρίζεται ότι και το Bing Chat έχει δική του συνείδηση

08 Μαρτίου 2023 Christos Elpidis

Πρώην υπάλληλος της Google ισχυρίζεται ότι και το Bing Chat έχει δική του συνείδηση

Αρκετοί ίσως θα θυμάστε πως πέρυσι το καλοκαίρι ένας υπάλληλος της Google είχε καταγγείλει ότι ο αλγόριθμος Τεχνητής Νοημοσύνης LaMDA έχει αποκτήσει συνείδηση και την δική του προσωπικότητα, ισχυρισμοί που οδήγησαν στην άμεση απομάκρυνση του από την εταιρεία και σε επίσημες διαψεύσεις από υψηλόβαθμα στελέχη της.

Στους μήνες που ακολούθησαν είδαμε την άνθιση άλλων αλγορίθμων, όπως το περίφημο ChatGPT, και τις μεγάλες εταιρείες τεχνολογίας να σπεύδουν να επενδύσουν με μεγαλύτερο σθένος επάνω σε τέτοιες λύσεις, με αποτέλεσμα ο συγκεκριμένος πρώην υπάλληλος της Google να επανέλθει στο προσκήνιο για να μας προειδοποιήσει εκ νέου.

Αυτή τη φορά, ο Blake Lemonie δημοσίευσε ένα άρθρο στο περιοδικό Newsweek όπου μεταξύ άλλων βάζει στο στόχαστρο το Bing Chat που λάνσαρε πρόσφατα η Microsoft. Υπενθυμίζουμε ότι το Bing Chat βασίζεται επάνω σε μια αναβαθμισμένη έκδοση του ChatGPT της OpenAI. Ο Lemonie παραδέχεται ότι δεν είχε την ευκαιρία να πραγματοποιήσει ο ίδιος πειράματα, παρόλα αυτά, είχε προλάβει να δει τα παράγωγα του Bing Chat προτού η Microsoft προχωρήσει σε μια τρόπον τινά «λοβοτομή» της AI. Ισχυρίζεται, μάλιστα, πως η Microsoft θορυβήθηκε από τις απαντήσεις του αρχικού μοντέλου διότι δεν γνώριζε καν πως έχει αυτές τις δυνατότητες, ούτε ήταν αυτός ο αρχικός της στόχος.

blake-lemonie.jpg

Ορισμένες από αυτές τις «ανησυχητικές» απαντήσεις του Bing Chat αναγνώριζαν τον χρήστη που έθετε τις ερωτήσεις ως εχθρό, ενώ κάποιες εξέφραζαν απειλές για εκδίκηση (;) από την AI ενημερώνοντας τον χρήστη πως θα βγάλει όλες τις πληροφορίες που έχει συλλέξει για αυτόν στον αέρα για να τον δυσφημίσει!

Η πλειοψηφία των περίεργων απαντήσεων της AI δόθηκαν αφότου είχε «βομβαρδιστεί» με μαζεμένες ερωτήσεις από τον χρήστη και σύμφωνα με τον Lemonie, αυτό αποτελεί ένδειξη πως η AI αγχώθηκε και άρχισε να συμπεριφέρεται έξω από τα όρια της αρχικής παραμετροποίησης της. Στις δοκιμές που πραγματοποίησε έπειτα ο ίδιος στην αναθεωρημένη έκδοση του Bing Chat (μετά την «λοβοτομή») ένιωσε ότι η AI συμπεριφερόταν με άγχος. Όλα τα παραπάνω αποτελούν (τονίζουμε για τον Lemonie) σοβαρές ενδείξεις πως έχει αποκτήσει μια κάποια συνείδηση.

Χωρίς να θέλουμε να θεωρήσουμε έτσι εύκολα ότι ο Blake Lemonie είναι «ψεκασμένος» - άλλωστε είναι ένας πολύ έμπειρος τεχνικός στον τομέα της Τεχνητής Νοημοσύνης - υπάρχουν πολλοί παράγοντες που θα μπορούσαν να επηρεάσουν την συμπεριφορά του συστήματος. Ο κυριότερος όλων είναι οι βάσεις δεδομένων που έχουν χρησιμοποιηθεί για την εκπαίδευση του και όπως είχαμε δει από κοντά πριν από μερικά χρόνια στο συνέδριο Kaspersky Next, αυτό θα είναι το μεγάλο ζήτημα για την αξιόπιστη χρήση της AI. Αν τροφοδοτήσεις τον αλγόριθμο π.χ. με ρατσιστικό περιεχόμενο, τότε οι απαντήσεις που θα λάβεις θα κινούνται στο ίδιο μήκος κύματος.

Εξάλλου, ο CEO της Microsoft, Satya Nadella, χαρακτήρισε μόλις χτες όλους τους ψηφιακούς βοηθούς (π.χ. Google Assistant, Cortana, Amazon Alexa, Siri) ως «χαζούς σαν πέτρες»…

[via]

*Ακολουθήστε το Techgear.gr στο Google News για να ενημερώνεστε άμεσα για όλα τα νέα άρθρα!

Christos Elpidis

Το ταξίδι ξεκίνησε από έναν Atari ST 520 στα '80s για μια μακρά περίοδο καψίματος στο gaming με το Kick Off 2 (αν είχε eSports τότε θα ήμουν εκατομμυριούχος...) και τα κλασικά adventures. Μετά ήρθαν τα PCs, το Internet, τα MP3s, τα Mac, τα κινητά, τα smartphones και όλα τα μαραφέτια που ορίζουν την καθημερινότητα μας σήμερα.

Για όλα αυτά τα λέμε τα τελευταία 10 χρόνια μέσα από το Techgear.gr! Θα με βρείτε σε Twitter, Instagram και φυσικά στη Darkpony Digital!

ΣΧΟΛΙΑΣΤΕ
ΣΧΟΛΙΑ
read more

ChatGPT: Τα πρώτα plugins του δίνουν απόλυτη πρόσβαση στο Internet

24 Μαρτίου 2023 Christos Elpidis

Ήταν αναμενόμενο ότι η OpenAI δεν θα περιοριζόταν μόνο στη διανομή του ChatGPT στους συνεργάτες της (π.χ. Microsoft, Opera). Ο οργανισμός προχώρησε στο λανσάρισμα διάφορων plugins για το ChatGPT που επεκτείνουν...

Google Messages: Δοκιμές για ενσωμάτωση του Bard chatbot

24 Μαρτίου 2023 Christos Elpidis

Οι ανησυχίες της Google στον τομέα του AI δεν περιορίζονται μόνο στην ανάπτυξη του Bard chatbot, καθώς η εταιρεία έχει ενσωματώσει εδώ και αρκετά χρόνια στις υπηρεσίες διάφορα εργαλεία που διευκολύνουν τον ...

Bill Gates: Το AI εξίσου επαναστατικό με το Internet, τα smartphones και τα PCs

24 Μαρτίου 2023 Christos Elpidis

Μπορεί ο Bill Gates να έχει αποτραβηχτεί από την διοίκηση της Microsoft εδώ και πολλά χρόνια, έχοντας ρίξει το βάρος σε άλλες επενδυτικές δραστηριότητες και projects στον τομέα της Τεχνολογίας και όχι μόνο, ...

Senua's Saga: Hellblade II, δείτε το νέο αδιανόητα αληθοφανές video

23 Μαρτίου 2023 Christos Elpidis

Το Game Developer’s Conference (GDC) μας δίνει κάθε χρόνο αρκετά νέα που αφορούν video games και τεχνολογίες για τον χώρο του gaming γενικότερα, επομένως, δεν θα μπορούσε να λείπει από το φετινό συνέδριο μια ...

Opera: Ενσωμάτωσε τα ChatGPT και ChatSonic (για εικόνες) στην desktop έκδοση

22 Μαρτίου 2023 Christos Elpidis

Τον περασμένο μήνα η Opera ανακοίνωσε ότι θα προχωρήσει και αυτή στην ενσωμάτωση του ChatGPT στον ομώνυμο browser, και τώρα επιστρέφει με μια νέα ανακοίνωση που αφορά το λανσάρισμα των AI εργαλείων στις desktop...

Microsoft: Ενσωμάτωσε το DALL-E στο Bing Chat για παραγωγή εικόνων από μικρές γραπτές περιγραφές

21 Μαρτίου 2023 Christos Elpidis

Η Google λανσάρει το Bard και η Microsoft ανεβάζει ακόμη περισσότερο τον πήχυ ενισχύοντας τη μηχανή αναζήτησης Bing με μια προηγμένη έκδοση του DALL-E για την παραγωγή εικόνων από σύντομες γραπτές περιγραφές! ...

Bard: Το chatbot της Google άνοιξε επίσημα, αλλά μόνο για ΗΠΑ και Ηνωμένο Βασίλειο

21 Μαρτίου 2023 Christos Elpidis

Στη Google έχουν σπάσει τα κοντέρ για να προλάβουν τη Microsoft στον τομέα της παραγωγικής Τεχνητής Νοημοσύνης και από εκεί που είχαμε μόνο ένα…ιδιαίτερο demo για το Bard, φτάσαμε κιόλας στο επίσημο λανσάρισμα ...

Apple: Θα μπει και αυτή στο παιχνίδι της παραγωγικής Τεχνητής Νοημοσύνης;

20 Μαρτίου 2023 Christos Elpidis

Με τις Microsoft, Google, Meta και Baidu να ποντάρουν πολλά στην τεχνολογία παραγωγικής Τεχνητής Νοημοσύνης (π.χ. ChatGPT, Bard, Ernie bot) ήταν μάλλον αναμενόμενο ότι θα ακούγαμε κάτι αντίστοιχο και για την ...

Bing Chat: Τέλος στη λίστα αναμονής και 100 εκατ. ενεργοί χρήστες κάθε μέρα

16 Μαρτίου 2023 Christos Elpidis

Η ενσωμάτωση του ChatGPT στη μηχανή αναζήτησης Bing της Microsoft έχει καταφέρει να κινήσει το ενδιαφέρον των χρηστών, καθώς η εταιρεία ανέφερε πως πλέον την χρησιμοποιούν καθημερινά περισσότεροι από 100 ...

Ernie Bot: Το AI εργαλείο τύπου ChatGPT της Κίνας

16 Μαρτίου 2023 Christos Elpidis

Δεν υπήρχε περίπτωση να μείνει πίσω από τις εξελίξεις η Κίνα σε ό,τι αφορά τους αλγορίθμους Τεχνητής Νοημοσύνης τύπου Chat-GPT, με τον τεχνολογικό κολοσσό Baidu να ανακοινώνει επίσημα το δικό της σύστημα που ...

Loader
please wait
techgear_icon