Σύνοψη
- Η OpenAI παρουσίασε το Trusted Contact, ένα προαιρετικό χαρακτηριστικό ασφαλείας για ενήλικους χρήστες του ChatGPT.
- Η λειτουργία επιτρέπει τον ορισμό ενός ατόμου εμπιστοσύνης το οποίο θα ειδοποιείται σε περιπτώσεις που εντοπιστούν ενδείξεις αυτοτραυματισμού ή κρίσης.
- Κάθε ειδοποίηση ελέγχεται πρώτα από εξειδικευμένη ομάδα ανθρώπων, με στόχο την ολοκλήρωση της αξιολόγησης σε λιγότερο από μία ώρα.
- Για την προστασία της ιδιωτικότητας, οι ειδοποιήσεις δεν περιλαμβάνουν αποσπάσματα κειμένου ή λεπτομέρειες από το ιστορικό της συνομιλίας.
- Το εργαλείο αναπτύχθηκε σε συνεργασία με την Αμερικανική Ψυχολογική Εταιρεία (APA) και το Παγκόσμιο Δίκτυο Ιατρών της OpenAI.
Η OpenAI προχωρά στην ενσωμάτωση ενός νέου επιπέδου ασφαλείας στο ChatGPT, στοχεύοντας στην υποστήριξη χρηστών που αντιμετωπίζουν συναισθηματική δυσφορία ή διανύουν κρίσιμες στιγμές. Το εργαλείο Trusted Contact αποτελεί μια προσπάθεια σύνδεσης της ψηφιακής αλληλεπίδρασης με την πραγματική, ανθρώπινη υποστήριξη. Παρακάτω, αναλύουμε τεχνικά και πρακτικά τα δεδομένα που προκύπτουν από τις επίσημες ανακοινώσεις.
Η λειτουργία Trusted Contact είναι ένα νέο, προαιρετικό χαρακτηριστικό ασφαλείας του ChatGPT για χρήστες άνω των 18 ετών. Επιτρέπει την προσθήκη μιας έμπιστης επαφής, η οποία ειδοποιείται (μέσω email, SMS ή in-app notification) κατόπιν ελέγχου από ειδική ομάδα, εάν τα αυτοματοποιημένα συστήματα εντοπίσουν ενδείξεις πιθανού αυτοτραυματισμού, διατηρώντας ταυτόχρονα το περιεχόμενο των συνομιλιών απολύτως ιδιωτικό.
Η ενσωμάτωση της νέας επιλογής πραγματοποιείται μέσα από το περιβάλλον ρυθμίσεων του ChatGPT. Ο χρήστης δηλώνει τα στοιχεία ενός ενήλικα της επιλογής του. Μετά την αποστολή του αιτήματος, το υποδεικνυόμενο πρόσωπο λαμβάνει μια πρόσκληση η οποία εξηγεί αναλυτικά τον ρόλο του. Η συγκεκριμένη πρόσκληση παραμένει ενεργή για μία εβδομάδα. Αν δεν υπάρξει αποδοχή, το αίτημα ακυρώνεται και ο χρήστης καλείται να επιλέξει διαφορετικό πρόσωπο.
Όταν ενεργοποιηθεί η σύνδεση, ο αλγόριθμος αναλαμβάνει την παθητική παρακολούθηση της ροής των δεδομένων. Εάν τα γλωσσικά μοντέλα εντοπίσουν μοτίβα κειμένου που παραπέμπουν σε σοβαρό κίνδυνο ή πρόθεση αυτοτραυματισμού, το σύστημα δεν δρα αυτοματοποιημένα προς τα έξω. Αρχικά, η διεπαφή του ChatGPT ενημερώνει τον ίδιο τον χρήστη, προτείνοντάς του να επικοινωνήσει με την επαφή του και του προσφέρει μάλιστα έτοιμες προτάσεις για να ξεκινήσει τη συζήτηση.
Παράλληλα, το περιστατικό μεταβιβάζεται σε μια εξειδικευμένη ομάδα αξιολογητών. Οι εκπαιδευμένοι υπάλληλοι εξετάζουν το πλαίσιο για να φιλτράρουν πιθανά false positives. Εάν επιβεβαιώσουν τη σοβαρότητα της κατάστασης, αποστέλλεται η τελική ειδοποίηση στην επαφή. Η OpenAI δηλώνει ότι ο στόχος διεκπεραίωσης κάθε τέτοιου συμβάντος (από τη στιγμή του εντοπισμού έως την αποστολή της ειδοποίησης) τίθεται κάτω από τη μία ώρα.
Ιδιωτικότητα και διαχείριση δεδομένων
Το πιο κρίσιμο στοιχείο στη σχεδίαση του Trusted Contact αφορά τη διαχείριση της ιδιωτικότητας. Η εταιρεία έχει διασφαλίσει ότι η ειδοποίηση προς τον παραλήπτη περιορίζεται αποκλειστικά στη μετάδοση του σήματος κινδύνου.
Το μήνυμα αναφέρει τον γενικό λόγο ανησυχίας και προτρέπει την επαφή να επικοινωνήσει άμεσα με τον χρήστη. Δεν υπάρχει καμία απολύτως διαρροή ή μεταφορά κειμένου από τη συνομιλία του χρήστη με την Τεχνητή Νοημοσύνη. Επιπρόσθετα, η ειδοποίηση συνοδεύεται από έναν σύνδεσμο με κατευθυντήριες οδηγίες από ειδικούς για το πώς πρέπει να διαχειριστεί κάποιος μια τέτοια ευαίσθητη επικοινωνία. Αμφότερες οι πλευρές (χρήστης και επαφή) διατηρούν τον πλήρη έλεγχο και μπορούν να απενεργοποιήσουν τη λειτουργία ή να διακόψουν τη σύνδεση ανά πάσα στιγμή.
Επιστημονική θεμελίωση
Η υλοποίηση δεν βασίστηκε αποκλειστικά σε προγραμματιστές, αλλά προέκυψε από στενή συνεργασία με το Παγκόσμιο Δίκτυο Ιατρών της OpenAI (το οποίο περιλαμβάνει πάνω από 260 πιστοποιημένους ιατρούς σε 60 χώρες) και την Αμερικανική Ψυχολογική Εταιρεία (APA).
Όπως σημειώνει ο Dr. Arthur Evans, CEO της APA, η κοινωνική σύνδεση αποτελεί έναν από τους ισχυρότερους προστατευτικούς παράγοντες κατά τη διάρκεια περιόδων συναισθηματικής δυσφορίας. Η δημιουργία ενός δομημένου τρόπου ειδοποίησης προστατεύει την αυτονομία του ατόμου, ενώ παράλληλα εξασφαλίζει ότι θα υπάρχει βοήθεια στον φυσικό κόσμο όταν πραγματικά χρειάζεται.
Το ChatGPT συνεχίζει να λειτουργεί παράλληλα με τις τοπικές γραμμές ψυχολογικής υποστήριξης. Το σύστημα είναι προγραμματισμένο να αρνείται την παροχή οδηγιών για αυτοτραυματισμό και αντ' αυτού να ανακατευθύνει τον χρήστη σε ασφαλείς απαντήσεις, εμφανίζοντας τα τηλέφωνα των εθνικών υπηρεσιών έκτακτης ανάγκης.
*Μπορείτε πλέον να προσθέσετε το Techgear.gr ως Προτιμώμενη Πηγή ενημέρωσης για τις αναζητήσεις σας στο Google Search!
