Σύνοψη
- Η χρήση chatbots τεχνητής νοημοσύνης (AI) αποτελεί πλέον τον σημαντικότερο κίνδυνο στην τεχνολογία υγείας, σύμφωνα με αμερικανικό οργανισμό ασφάλειας ασθενών.
- Οι χρήστες ενδέχεται να μοιραστούν εξαιρετικά ευαίσθητες προσωπικές πληροφορίες με συστήματα που υστερούν σε νομικές υποχρεώσεις και πρακτικές προστασίας έναντι των νοσοκομείων.
- Μελέτη του Πανεπιστημίου της Οξφόρδης καταδεικνύει ότι τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) προσφέρουν συχνά ένα μείγμα σωστών και λανθασμένων συμβουλών.
- Τα ιατρικά δεδομένα που εισάγονται στα συστήματα αυτά διατηρούν την αξία τους μακροπρόθεσμα και προσελκύουν κυβερνοεγκληματίες για απάτες και εκβιασμούς.
- Η τεχνητή νοημοσύνη μπορεί να λειτουργήσει συμπληρωματικά, αλλά αδυνατεί να υποκαταστήσει την ανθρώπινη ιατρική κρίση.
Η ραγδαία εξέλιξη της παραγωγικής τεχνητής νοημοσύνης μετασχηματίζει ταχύτατα κρίσιμους τομείς, ωστόσο η ενσωμάτωσή της στον ευαίσθητο χώρο της υγειονομικής περίθαλψης εγείρει σοβαρά προβλήματα. Οι μεγαλύτερες εταιρείες τεχνολογίας αναπτύσσουν ήδη εξειδικευμένες υπηρεσίες. Εργαλεία όπως το Copilot Health, το ChatGPT Health και το HealthAI της Amazon σχεδιάστηκαν για να βοηθούν το κοινό στην ερμηνεία ιατρικών αρχείων, καθώς και στην παροχή απαντήσεων σχετικά με συμπτώματα, αποτελέσματα εργαστηριακών εξετάσεων ή πιθανές θεραπευτικές επιλογές.
Παρά την ευκολία που προσφέρουν πλατφόρμες όπως το ChatGPT Health και το Copilot Health, η ανάθεση του ρόλου του γιατρού στην τεχνητή νοημοσύνη κρύβει σημαντικούς κινδύνους. Ο Phil Muncaster από την ESET, κορυφαία εταιρεία στον τομέα της κυβερνοασφάλειας, προειδοποιεί ότι οι κίνδυνοι αφορούν τόσο την πιθανότητα λήψης λανθασμένων ιατρικών συμβουλών όσο και την έκθεση εξαιρετικά ευαίσθητων προσωπικών δεδομένων σε τρίτους φορείς, χωρίς τις αυστηρές δικλείδες ασφαλείας ενός νοσοκομείου.
Η τεράστια απήχηση αυτών των εφαρμογών οφείλεται στην αμεσότητα και την προσβασιμότητά τους. Όπως επισημαίνει η Microsoft, τα θέματα υγείας (τόσο τα προσωπικά όσο και των οικείων προσώπων) κυριαρχούν στις αναζητήσεις που πραγματοποιούν οι χρήστες μέσω κινητών συσκευών. Τα chatbots παραμένουν διαθέσιμα όλο το εικοσιτετράωρο, παρέχοντας απαντήσεις με έναν τόνο βεβαιότητας που συχνά καθησυχάζει τους ασθενείς. Παράλληλα, με τα εθνικά συστήματα υγείας να δέχονται τεράστια πίεση, η πρακτική της «οικιακής διάγνωσης» μέσω AI φαντάζει ιδιαίτερα ελκυστική, εξοικονομώντας χρόνο, κόπο και πιθανά έξοδα.
Η ψευδαίσθηση της ιατρικής αυθεντίας και το πρόβλημα των «ψευδαισθήσεων»
Το σημαντικότερο άμεσο πρόβλημα εστιάζεται στην τεχνική ακρίβεια των απαντήσεων. Σύμφωνα με έρευνα του Πανεπιστημίου της Οξφόρδης που δημοσιεύθηκε τον Φεβρουάριο στο έγκριτο επιστημονικό περιοδικό Nature Medicine, τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) παρουσιάζουν σοβαρές αδυναμίες.
Τα βασικά ευρήματα της μελέτης καταδεικνύουν τα εξής:
- Οι χρήστες δυσκολεύονται να διακρίνουν ποιες πληροφορίες είναι ασφαλές να μοιραστούν με τα LLMs.
- Ερωτήσεις με ελάχιστες διαφοροποιήσεις οδηγούν τα συστήματα στην παραγωγή εντελώς διαφορετικών απαντήσεων.
- Τα chatbots προσφέρουν συχνά ένα κράμα σωστών και λανθασμένων ιατρικών συμβουλών, το οποίο είναι εξαιρετικά δύσκολο να αποκωδικοποιηθεί από τον μέσο χρήστη.
Η Δρ Rebecca Payne, επικεφαλής της συγκεκριμένης ερευνήτριας, ξεκαθαρίζει πως η τεχνολογία δεν είναι έτοιμη να αναλάβει ιατρικά καθήκοντα. Οι ασθενείς πρέπει να κατανοήσουν ότι η αναζήτηση διάγνωσης μέσω AI ενέχει άμεσο κίνδυνο για την υγεία τους, καθώς το μοντέλο μπορεί να αποτύχει να αναγνωρίσει επείγουσες καταστάσεις που χρήζουν άμεσης ιατρικής παρέμβασης. Η ESET τονίζει πως μια καθησυχαστική απάντηση από μια μηχανή δεν πρέπει ποτέ να οδηγεί στην αγνόηση σοβαρών συμπτωμάτων.
Ο αόρατος κίνδυνος για την ιδιωτικότητα και τα δεδομένα
Πέρα από τα αμιγώς ιατρικά ζητήματα, ανακύπτουν τεράστιες προκλήσεις στον τομέα της κυβερνοασφάλειας. Η εισαγωγή ευαίσθητων πληροφοριών υγείας σε ένα chatbot μπορεί να οδηγήσει σε διαρροές. Ιστορικά, έχουν καταγραφεί περιστατικά όπου μοντέλα τεχνητής νοημοσύνης αποκάλυψαν στοχευμένα δεδομένα προηγούμενων χρηστών.
Η διαχείριση αυτών των δεδομένων διαφέρει σημαντικά ανάλογα με την πλατφόρμα. Ορισμένες εταιρείες αξιοποιούν τις συνομιλίες για τη βελτίωση των αλγορίθμων τους (εκτός εάν ο χρήστης επιλέξει το opt-out), ενώ άλλες δεσμεύονται να μην επεξεργάζονται ιατρικά δεδομένα για εκπαίδευση. Ακόμη και τα εξειδικευμένα chatbots που υπόσχονται την εξαίρεση των δεδομένων από τις διαδικασίες εκπαίδευσης, ενδέχεται να μην παρέχουν επαρκείς εγγυήσεις για τη μη κοινοποίησή τους σε τρίτους. Προσωπικά ιατρικά στοιχεία είναι πιθανό να μεταβιβαστούν σε εταιρείες διαμεσολάβησης δεδομένων ή να καταλήξουν, έστω και ανωνυμοποιημένα, σε διαφημιστές. Ο Phil Muncaster διευκρινίζει πως, λόγω της εξαιρετικής ευαισθησίας αυτών των στοιχείων, η ανωνυμοποίηση δεν αποτελεί πανάκεια και δεν μηδενίζει τον κίνδυνο ταυτοποίησης του ατόμου.
Σε αντίθεση με τα οικονομικά στοιχεία (π.χ. μια κλεμμένη πιστωτική κάρτα που ακυρώνεται άμεσα), τα δεδομένα υγείας συνιστούν ένα μόνιμο ψηφιακό αποτύπωμα που ακολουθεί το άτομο εφ' όρου ζωής.
Κυβερνοεπιθέσεις και η αξία των ιατρικών δεδομένων
Όσο περισσότεροι οργανισμοί εμπλέκονται στη διακίνηση ιατρικών πληροφοριών, τόσο αυξάνεται η πιθανότητα επιτυχούς κυβερνοεπίθεσης. Είναι χαρακτηριστικό πως Αμερικανοί γερουσιαστές εκτιμούν ζημίες που αγγίζουν τα 21 δισεκατομμύρια δολάρια από παραβιάσεις που σχετίζονται άμεσα με εταιρείες διαμεσολάβησης δεδομένων.
Τα δεδομένα αυτά αποτελούν πρωταρχικό στόχο για τους κυβερνοεγκληματίες διότι:
- Δεν ανανεώνονται και διατηρούν την εμπορική τους αξία μακροπρόθεσμα.
- Περιέχουν ασφαλιστικά στοιχεία που χρησιμοποιούνται για την υποβολή ψευδών αιτήσεων αποζημίωσης ή την υφαρπαγή ιατρικών υπηρεσιών.
- Αποτελούν ιδανικό υλικό για εκβιαστικές τακτικές και σύνθετες μορφές ψηφιακής απάτης.
Σύμφωνα με την ESET, η αποκέντρωση αυτών των πληροφοριών προσφέρει στους απατεώνες πολλαπλές ευκαιρίες διείσδυσης. Παράλληλα, στις ΗΠΑ, παρατηρείται ένα νομικό κενό, καθώς αρκετά εργαλεία AI υγείας δεν καλύπτονται από τους αυστηρούς κανονισμούς προστασίας προσωπικών δεδομένων που επιβάλλονται σε παραδοσιακούς οργανισμούς υγείας.
Πρακτικές συμβουλές προστασίας από την ESET
Για την ελαχιστοποίηση των κινδύνων, η ESET συστήνει στους ασθενείς την αποφυγή γενικών chatbots για ιατρικά ζητήματα, προκρίνοντας πλατφόρμες ειδικά σχεδιασμένες για αυτόν τον σκοπό. Πριν την οποιαδήποτε χρήση, οι πολίτες οφείλουν να ελέγχουν τις πολιτικές της εκάστοτε υπηρεσίας σχετικά με τη διαχείριση δεδομένων, την κοινοποίηση σε τρίτους και τη συμμόρφωση με τη νομοθεσία προστασίας προσωπικών δεδομένων.
Βασικοί κανόνες ψηφιακής υγιεινής περιλαμβάνουν:
- Τη μη μεταφόρτωση ιατρικών εγγράφων και εξετάσεων, εάν δεν είναι σαφής η χρήση τους.
- Την αποφυγή παροχής ονομάτων, διευθύνσεων, στοιχείων ασφάλισης ή αριθμών μητρώου ασθενών.
- Την απενεργοποίηση των λειτουργιών αποθήκευσης ιστορικού και εκπαίδευσης του μοντέλου.
- Τον διαμοιρασμό μόνο των απολύτως απαραίτητων πληροφοριών, υποθέτοντας πάντα ότι τα δεδομένα ενδέχεται να καταγραφούν ή να εκτεθούν.
Οι πληροφορίες θα πρέπει να επαληθεύονται μέσω επίσημων πηγών ή επαγγελματιών υγείας, και οι χρήστες δεν πρέπει να εμπιστεύονται τυφλά τα αποτελέσματα της μηχανής, ακόμη και όταν παρατίθενται σύνδεσμοι ή πηγές.
