Παιδόφιλοι μετατρέπουν πραγματικές φωτογραφίες παιδιών σε πορνογραφία μέσω AI

Η χρήση της παραγωγικής Τεχνητής Νοημοσύνης έχει πολλά καλά, αλλά και πολλά στραβά που προκύπτουν από την ανεξέλεγκτη χρήση της, κάτι που προσπαθούν να λύσουν οι αρμόδιες ρυθμιστικές αρχές παγκοσμίως θέτοντας κανονισμούς και υποχρεώσεις για τις εταιρείες που αναπτύσσουν τέτοια εργαλεία.

Ένα από τα πιο σοβαρά προβλήματα αναδεικνύεται από την έρευνα της εφημερίδας The Times στο Ηνωμένο Βασίλειο, η οποία ανακάλυψε πως υπάρχουν παιδόφιλοι που εκμεταλλεύονται το Midjourney για να δημιουργήσουν πορνογραφικό περιεχόμενο τροφοδοτώντας το AI εργαλείο με πραγματικές φωτογραφίες παιδιών που βρίσκουν ελεύθερα στο Διαδίκτυο.

Οι δυνατότητες του Midjourney στην παραγωγή πολύ αληθοφανών εικόνων έχουν γίνει γνωστές εδώ και καιρό, με αρκετούς χρήστες στο Twitter να περνούν για αληθινή μια φωτογραφία του Πάπα Φραγκίσκου μέσα σε ένα φουσκωτό λευκό μπουφάν, ενώ πέρυσι μια από τις ψεύτικες δημιουργίες κέρδισε βραβείο Φωτογραφίας σε διαγωνισμό στις ΗΠΑ. Μάλιστα, έχει κυκλοφορήσει και μια νέα έκδοση του AI εργαλείου με ακόμα πιο εντυπωσιακές δυνατότητες, ανοίγοντας νέους ορίζοντες σε εκατομμύρια χρήστες παγκοσμίως που το χρησιμοποιούν καθημερινά.

Οι The Times εντόπισαν το επικίνδυνο περιεχόμενο και απευθύνουν έκκληση στους γονείς να μην ανεβάζουν στο Διαδίκτυο φωτογραφίες των παιδιών τους, κάτι που γενικότερα ΦΩΝΑΖΟΥΜΕ εδώ και χρόνια και μέσα από το Techgear.gr σε κάθε ευκαιρία. Στην προκειμένη περίπτωση, το παιδοφιλικό πορνογραφικό περιεχόμενο κατάφερε να βγει στη δημοσιότητα παρά το γεγονός ότι παραβιάζει τους Όρους Χρήσης τόσο του Midjourney, όσο και της πλατφόρμας Discord.

Γίνεται σαφές πως οι δημιουργοί AI εργαλείων θα πρέπει να δείξουν πολύ μεγαλύτερη υπευθυνότητα για τις υπηρεσίες που παρέχουν, αλλά και να πραγματοποιούν εκτεταμένους ελέγχους στο περιεχόμενο που παράγεται από την Τεχνητή Νοημοσύνη. Ήδη εκπρόσωπος του Midjourney δήλωσε στη The Times πως μπλοκάρουν τους χρήστες που παραβιάζουν τους Όρους Χρήσης, ενώ ο CEO και ιδρυτής, David Holz, δήλωσε τα εξής:

Τους τελευταίους μήνες εργαζόμαστε επάνω στη δημιουργία ενός συστήματος ελέγχου μέσω AI, το οποίο τέθηκε σε δοκιμαστική λειτουργία την περασμένη εβδομάδα.

[via]