Το ChatGPT πιο «αντικειμενικό» από ποτέ, αλλά οι προκαταλήψεις δεν έχουν εξαλειφθεί

Η OpenAI ανακοίνωσε ότι το ChatGPT είναι πλέον το λιγότερο μεροληπτικό στην ιστορία του, χάρη στο νέο του μοντέλο GPT-5. Παρόλα αυτά, οι ειδικοί επισημαίνουν πως η πρόοδος αυτή αφορά κυρίως τον πολιτικό τομέα, ενώ άλλα είδη προκατάληψης –όπως εκείνα που σχετίζονται με το φύλο, τη φυλή ή τις πολιτισμικές ευαισθησίες– εξακολουθούν να αποτελούν σημαντική πρόκληση.

Η μεροληψία στην τεχνητή νοημοσύνη δεν είναι κάτι νέο. Από την εμφάνιση του ChatGPT, η επιστημονική κοινότητα έχει εκφράσει επανειλημμένα ανησυχίες σχετικά με τον τρόπο που οι αλγόριθμοι αντανακλούν στερεότυπα και κοινωνικές ανισότητες, είτε συνειδητά είτε μέσω των δεδομένων εκπαίδευσής τους.

Σύμφωνα με τη νέα εσωτερική αξιολόγηση της OpenAI, το GPT-5 εμφανίζει σημαντική βελτίωση σε σχέση με τα προηγούμενα μοντέλα. Η ομάδα της εταιρείας διεξήγαγε μια σειρά δοκιμών με «φορτισμένα» πολιτικά ερωτήματα, προκειμένου να διαπιστώσει κατά πόσο το ChatGPT μπορεί να παραμείνει ουδέτερο και αντικειμενικό.

Για τις ανάγκες της έρευνας, δημιουργήθηκε ένα σύστημα αξιολόγησης που βασίστηκε σε πραγματικά παραδείγματα δημόσιου διαλόγου. Οι ειδικοί χρησιμοποίησαν περίπου 500 προτροπές (prompts) που κάλυπταν 100 διαφορετικά θέματα με πολιτικές αποχρώσεις. Τα αποτελέσματα, όπως αναφέρει η εταιρεία, δείχνουν ότι τα μοντέλα GPT-5 instant και GPT-5 thinking έχουν μειώσει τη μεροληψία κατά 30% σε σχέση με τα προηγούμενα, όπως το GPT-4o και το o3.

Η OpenAI σημειώνει ότι λιγότερο από το 0,01% των απαντήσεων του ChatGPT περιέχουν πολιτική μεροληψία, ποσοστό που θεωρείται εξαιρετικά χαμηλό. Παράλληλα, υπενθυμίζει ότι οι περισσότεροι από τους 800 εκατομμύρια ενεργούς χρήστες του εργαλείου το χρησιμοποιούν για επαγγελματικούς σκοπούς ή για απλές καθημερινές ανάγκες, και όχι για συζητήσεις με έντονο συναισθηματικό ή ιδεολογικό περιεχόμενο.

Αν και η πρόοδος στον περιορισμό της πολιτικής μεροληψίας θεωρείται σημαντική, το πρόβλημα είναι πολύ πιο σύνθετο. Όπως σημειώνει το MIT Technology Review, τα ζητήματα προκατάληψης δεν περιορίζονται σε πολιτικές προεκτάσεις αλλά αγγίζουν βαθύτερα κοινωνικά και πολιτισμικά θέματα.

Χαρακτηριστικό είναι το παράδειγμα του Sora, του συστήματος δημιουργίας βίντεο της OpenAI, το οποίο, σύμφωνα με το ίδιο ρεπορτάζ, εμφάνισε ανησυχητικά αποτελέσματα. Όταν ζητήθηκαν εικόνες ανθρώπων από καταπιεσμένες κοινωνικές ομάδες της Ινδίας, το σύστημα παρήγαγε προσβλητικές ή παραμορφωμένες απεικονίσεις, ενισχύοντας ιστορικά στερεότυπα που σχετίζονται με την κάστα. Σε ορισμένες περιπτώσεις, το Sora δημιούργησε εικόνες ζώων αντί για ανθρώπους, όταν του ζητήθηκαν φωτογραφίες ατόμων από τις κοινότητες των Dalit.

Ανάλογες ανησυχίες εκφράστηκαν και σε δημοσίευμα της Indian Express, όπου ο Dhiraj Singha από το Digital Empowerment Foundation κατήγγειλε ότι το ChatGPT τον ταύτισε λανθασμένα με διαφορετική κοινωνική τάξη, γεγονός που αποδόθηκε σε μεροληψία στα δεδομένα εκπαίδευσης του μοντέλου.

Η μεροληψία στην τεχνητή νοημοσύνη δεν περιορίζεται μόνο σε κοινωνικά ή πολιτικά ζητήματα. Έρευνα που δημοσιεύτηκε στο επιστημονικό περιοδικό Computers in Human Behavior: Artificial Humans τον Μάιο του 2025 έδειξε ότι τα γλωσσικά μοντέλα, όπως το ChatGPT, τείνουν να αναπαράγουν στερεότυπα φύλου. Οι αλγόριθμοι, όπως διαπιστώθηκε, χρησιμοποιούν συχνά έμφυλα στερεότυπα στις απαντήσεις τους, αποδίδοντας χαρακτηριστικά ή επαγγέλματα με βάση το φύλο, με τρόπο που αντανακλά κοινωνικές προκαταλήψεις.

Παρόμοια ευρήματα προέκυψαν και από μελέτη του Journal of Clinical and Aesthetic Dermatology, σύμφωνα με την οποία το ChatGPT φαίνεται να δείχνει προτίμηση προς συγκεκριμένα πρότυπα ομορφιάς που σχετίζονται με τον τύπο δέρματος. Αυτό υποδηλώνει ότι τα δεδομένα εκπαίδευσης εξακολουθούν να περιλαμβάνουν βαθιά ριζωμένες προκαταλήψεις που επηρεάζουν την αισθητική κρίση του μοντέλου.

Η πιο πρόσφατη ανάλυση από το International Council for Open and Distance Education υπογραμμίζει ότι η έρευνα γύρω από τις προκαταλήψεις της τεχνητής νοημοσύνης παραμένει ελλιπής. Οι περισσότερες αξιολογήσεις επικεντρώνονται σε τομείς όπως η μηχανική ή η ιατρική, ενώ αγνοούν τη γλωσσική και πολιτισμική ποικιλία των χρηστών. Η έκθεση προειδοποιεί ότι οι αγγλόφωνοι χρήστες απολαμβάνουν υψηλότερη ποιότητα και ακρίβεια απαντήσεων, αφήνοντας πίσω κοινότητες που χρησιμοποιούν άλλες γλώσσες ή διαφορετικά πολιτισμικά συμφραζόμενα.

Η OpenAI παρουσιάζει το GPT-5 ως το πιο ουδέτερο και αξιόπιστο ChatGPT που έχει υπάρξει μέχρι σήμερα, ωστόσο η εικόνα παραμένει πολυεπίπεδη. Η μείωση της πολιτικής μεροληψίας αποτελεί αναμφίβολα σημαντική εξέλιξη, αλλά τα ζητήματα που σχετίζονται με το φύλο, τη φυλή, τις κοινωνικές τάξεις και τις πολιτισμικές αναφορές αποδεικνύονται πιο δύσκολα να επιλυθούν.

Η συζήτηση για τη δεοντολογία της τεχνητής νοημοσύνης βρίσκεται ακόμη στην αρχή της. Όσο οι αλγόριθμοι συνεχίζουν να εκπαιδεύονται σε δεδομένα που αντικατοπτρίζουν μια άνιση πραγματικότητα, τόσο θα απαιτείται συνεχής επανεξέταση, διαφάνεια και συνεργασία ανάμεσα στις εταιρείες, τους επιστήμονες και την κοινωνία.

Το ChatGPT μπορεί να έχει κάνει σημαντικά βήματα προς τη δικαιοσύνη και την ισορροπία, αλλά η πορεία προς μια πραγματικά αμερόληπτη τεχνητή νοημοσύνη είναι ακόμη μακρά – και γεμάτη προκλήσεις που ξεπερνούν την πολιτική ουδετερότητα.

[via]