Η OpenAI φαίνεται έτοιμη να κάνει ένα ακόμη βήμα στον χώρο της ιατρικής τεχνητής νοημοσύνης, με τη δημιουργία ενός νέου ειδικού εργαλείου στο ChatGPT που φέρει την ονομασία Clinician Mode. Αν και δεν έχει υπάρξει επίσημη ανακοίνωση, οι πρώτες ενδείξεις δείχνουν πως η εταιρεία εξετάζει τη δυνατότητα παροχής ιατρικών συμβουλών με τρόπο πιο ασφαλή και ελεγχόμενο, βασισμένο αποκλειστικά σε επιστημονικά δεδομένα και έγκυρες πηγές.
Η πληροφορία προήλθε από τον Tibor Blaho, μηχανικό της εταιρείας AIPRM, ο οποίος εντόπισε σχετικές αναφορές στον κώδικα της διαδικτυακής έκδοσης του ChatGPT. Σύμφωνα με την ανάλυσή του, η νέα λειτουργία φαίνεται να έχει σχεδιαστεί ως ένα ειδικό περιβάλλον χρήσης για την αναζήτηση ιατρικών πληροφοριών – κάτι σαν έναν «προστατευμένο χώρο» παρόμοιο με τα όρια που έχουν τεθεί για τους εφήβους χρήστες της πλατφόρμας.
Παρότι οι λεπτομέρειες δεν έχουν γίνει γνωστές, η ύπαρξη αυτής της επιλογής υποδηλώνει ότι η OpenAI εξετάζει ενεργά τη δυνατότητα παροχής αξιόπιστων απαντήσεων σε ερωτήματα υγείας, αποφεύγοντας την παραπληροφόρηση που κατά καιρούς έχει συνδεθεί με τα μεγάλα γλωσσικά μοντέλα.
Σύμφωνα με τον προγραμματιστή Justin Angel, που σχολίασε σχετικά στο X, το Clinician Mode ενδέχεται να λειτουργεί όπως το “Medical Mode” που ανακοίνωσε πρόσφατα η εταιρεία Consensus. Εκεί, η τεχνητή νοημοσύνη περιορίζει τις απαντήσεις της αποκλειστικά σε δεδομένα που προέρχονται από επιστημονικές ιατρικές δημοσιεύσεις και ελεγμένες βάσεις δεδομένων, αποφεύγοντας οποιαδήποτε πληροφορία που δεν έχει επαληθευθεί. Ουσιαστικά, το σύστημα θα «κόβει» οποιαδήποτε πηγή δεν ανήκει στο πεδίο της τεκμηριωμένης ιατρικής γνώσης. Αν ισχύει κάτι αντίστοιχο και για το ChatGPT, τότε θα μιλάμε για ένα σημαντικό βήμα προς τη δημιουργία ενός πιο αξιόπιστου ψηφιακού εργαλείου υγείας.
Το ενδιαφέρον της OpenAI για τον ιατρικό τομέα δεν είναι καινούργιο. Πριν από λίγους μήνες, η εταιρεία συνεργάστηκε με την Penda Health για τη δοκιμή ενός «ιατρικού βοηθού τεχνητής νοημοσύνης». Σύμφωνα με τα πρώτα αποτελέσματα, το σύστημα κατάφερε να μειώσει τα ποσοστά διαγνωστικών λαθών κατά 16%, επιβεβαιώνοντας τις δυνατότητες της τεχνητής νοημοσύνης στην υποστήριξη των γιατρών. Παράλληλα, το Stanford School of Medicine αναπτύσσει το ChatEHR, ένα εργαλείο που επιτρέπει στους γιατρούς να επικοινωνούν με τα ιατρικά αρχεία μέσω φυσικής γλώσσας, διευκολύνοντας την πρόσβαση σε δεδομένα και την ταχύτερη λήψη αποφάσεων.
Ωστόσο, η προοπτική ενός Clinician Mode δεν παύει να εγείρει ανησυχίες. Ένα άρθρο που δημοσιεύτηκε πρόσφατα στο περιοδικό Scientific Reports προειδοποιεί για τους κινδύνους που εγκυμονεί η χρήση συστημάτων όπως το ChatGPT στην ιατρική πράξη. Οι ερευνητές σημειώνουν ότι, παρά τις προόδους, υπάρχει ακόμη μεγάλος κίνδυνος «ψευδαισθήσεων» – δηλαδή περιπτώσεων όπου η AI παράγει λανθασμένες ή ανακριβείς πληροφορίες με πειστικό τρόπο. Επιπλέον, η υπερβολική χρήση τεχνικής ορολογίας ή περίπλοκης φρασεολογίας μπορεί να καταστήσει τις απαντήσεις δύσκολες στην ερμηνεία τόσο για τους επαγγελματίες υγείας όσο και για τους απλούς πολίτες.
Η OpenAI φαίνεται να προσπαθεί να αντιμετωπίσει ακριβώς αυτά τα προβλήματα. Η ιδέα ενός Clinician Mode θα μπορούσε να διασφαλίσει ότι το ChatGPT αντλεί τις απαντήσεις του μόνο από αυστηρά επιλεγμένες, αξιόπιστες πηγές, όπως ιατρικά περιοδικά, αναγνωρισμένες βάσεις δεδομένων ή κλινικές οδηγίες. Ένα τέτοιο μοντέλο θα μπορούσε να περιορίσει σημαντικά τον κίνδυνο λανθασμένων ή επικίνδυνων συμβουλών – ένα φαινόμενο που έχει προκαλέσει ήδη περιστατικά, όπως εκείνο που αναφέρθηκε πρόσφατα για έναν ασθενή που οδηγήθηκε σε ψυχωτικό επεισόδιο εξαιτίας εσφαλμένης πληροφορίας που έλαβε από την AI.
Η ιδέα μιας τεχνητής νοημοσύνης που μπορεί να παρέχει ιατρικές συμβουλές βασισμένες αποκλειστικά σε επιστημονικά δεδομένα είναι αναμφίβολα ελκυστική. Θα μπορούσε να βοηθήσει τους γιατρούς στην καθημερινή πρακτική, να διευκολύνει την ενημέρωση των ασθενών και να μειώσει τον φόρτο εργασίας στα συστήματα υγείας. Από την άλλη πλευρά, η ανάγκη για αυστηρούς ελέγχους, εποπτεία και σαφή όρια παραμένει κρίσιμη. Η τεχνητή νοημοσύνη μπορεί να αποτελέσει πολύτιμο εργαλείο, αλλά όχι υποκατάστατο της ιατρικής κρίσης.
Το αν το Clinician Mode θα αποτελέσει πραγματικά τομή ή απλώς ένα πείραμα που θα μείνει στα χαρτιά, μένει να φανεί.
[via]
