up_icon
Internet Technology

Παιδόφιλοι μετατρέπουν πραγματικές φωτογραφίες παιδιών σε πορνογραφία μέσω AI

03 Μαΐου 2023 Christos Elpidis

Παιδόφιλοι μετατρέπουν πραγματικές φωτογραφίες παιδιών σε πορνογραφία μέσω AI

Η χρήση της παραγωγικής Τεχνητής Νοημοσύνης έχει πολλά καλά, αλλά και πολλά στραβά που προκύπτουν από την ανεξέλεγκτη χρήση της, κάτι που προσπαθούν να λύσουν οι αρμόδιες ρυθμιστικές αρχές παγκοσμίως θέτοντας κανονισμούς και υποχρεώσεις για τις εταιρείες που αναπτύσσουν τέτοια εργαλεία.

Ένα από τα πιο σοβαρά προβλήματα αναδεικνύεται από την έρευνα της εφημερίδας The Times στο Ηνωμένο Βασίλειο, η οποία ανακάλυψε πως υπάρχουν παιδόφιλοι που εκμεταλλεύονται το Midjourney για να δημιουργήσουν πορνογραφικό περιεχόμενο τροφοδοτώντας το AI εργαλείο με πραγματικές φωτογραφίες παιδιών που βρίσκουν ελεύθερα στο Διαδίκτυο.

Οι δυνατότητες του Midjourney στην παραγωγή πολύ αληθοφανών εικόνων έχουν γίνει γνωστές εδώ και καιρό, με αρκετούς χρήστες στο Twitter να περνούν για αληθινή μια φωτογραφία του Πάπα Φραγκίσκου μέσα σε ένα φουσκωτό λευκό μπουφάν, ενώ πέρυσι μια από τις ψεύτικες δημιουργίες κέρδισε βραβείο Φωτογραφίας σε διαγωνισμό στις ΗΠΑ. Μάλιστα, έχει κυκλοφορήσει και μια νέα έκδοση του AI εργαλείου με ακόμα πιο εντυπωσιακές δυνατότητες, ανοίγοντας νέους ορίζοντες σε εκατομμύρια χρήστες παγκοσμίως που το χρησιμοποιούν καθημερινά.

Οι The Times εντόπισαν το επικίνδυνο περιεχόμενο και απευθύνουν έκκληση στους γονείς να μην ανεβάζουν στο Διαδίκτυο φωτογραφίες των παιδιών τους, κάτι που γενικότερα ΦΩΝΑΖΟΥΜΕ εδώ και χρόνια και μέσα από το Techgear.gr σε κάθε ευκαιρία. Στην προκειμένη περίπτωση, το παιδοφιλικό πορνογραφικό περιεχόμενο κατάφερε να βγει στη δημοσιότητα παρά το γεγονός ότι παραβιάζει τους Όρους Χρήσης τόσο του Midjourney, όσο και της πλατφόρμας Discord.

Γίνεται σαφές πως οι δημιουργοί AI εργαλείων θα πρέπει να δείξουν πολύ μεγαλύτερη υπευθυνότητα για τις υπηρεσίες που παρέχουν, αλλά και να πραγματοποιούν εκτεταμένους ελέγχους στο περιεχόμενο που παράγεται από την Τεχνητή Νοημοσύνη. Ήδη εκπρόσωπος του Midjourney δήλωσε στη The Times πως μπλοκάρουν τους χρήστες που παραβιάζουν τους Όρους Χρήσης, ενώ ο CEO και ιδρυτής, David Holz, δήλωσε τα εξής:

Τους τελευταίους μήνες εργαζόμαστε επάνω στη δημιουργία ενός συστήματος ελέγχου μέσω AI, το οποίο τέθηκε σε δοκιμαστική λειτουργία την περασμένη εβδομάδα.

[via]

*Ακολουθήστε το Techgear.gr στο Google News για να ενημερώνεστε άμεσα για όλα τα νέα άρθρα!

Christos Elpidis

Το ταξίδι ξεκίνησε από έναν Atari ST 520 στα '80s για μια μακρά περίοδο καψίματος στο gaming με το Kick Off 2 (αν είχε eSports τότε θα ήμουν εκατομμυριούχος...) και τα κλασικά adventures. Μετά ήρθαν τα PCs, το Internet, τα MP3s, τα Mac, τα κινητά, τα smartphones και όλα τα μαραφέτια που ορίζουν την καθημερινότητα μας σήμερα.

Για όλα αυτά τα λέμε τα τελευταία 10+ χρόνια μέσα από το Techgear.gr! Θα με βρείτε σε Twitter, Instagram και φυσικά στη Darkpony Digital!

ΣΧΟΛΙΑΣΤΕ
ΣΧΟΛΙΑ
read more

Web browsers: Νέα πτώση για τον Microsoft Edge, κερδίζει κι άλλο έδαφος ο Safari

01 Ιουνίου 2023 Christos Elpidis

Ήρθε στη δημοσιότητα η νέα μηνιαία αναφορά της Statcounter για το μερίδιο που κατέχει ο κάθε web browser στην αγορά, με τον Google Chrome να παραμένει φυσικά με άνεση στην κορυφή τόσο στα desktops, όσο και στις...

Kaspersky: Για την αποτροπή επιθέσεων DDoS σε εκπαιδευτικά ιδρύματα κλειδί η επαρκής προετοιμασία

31 Μαΐου 2023 Techgear Team

Η Kaspersky τοποθετήθηκε με αφορμή τα προβλήματα που προέκυψαν από την πρόσφατη επίθεση DDoS στην Τράπεζα Θεμάτων. Όπως αναφέρει ο Alexander Gutnikov, ειδικός ασφάλειας στην Kaspersky,Οι ψηφιακές επιθέσεις...

Τέλος εποχής: Έκλεισε το RARBG!

31 Μαΐου 2023 Christos Elpidis

Τέλος εποχής για ένα από τα ιστορικότερα torrent sites στον κόσμο, καθώς το RARBG αποχαιρέτησε και επίσημα τους εκατομμύρια επισκέπτες του! Με μια σύντομη ανακοίνωση που αναρτήθηκε στην κεντρική σελίδα, οι ...

Google Flood Hub: Προβλέψεις πλημμύρων και στην Ελλάδα

31 Μαΐου 2023 Techgear Team

Το Flood Hub επεκτείνεται σε 80 χώρες, συμπεριλαμβανομένης της Ελλάδας, παρέχοντας προβλέψεις έως και 7 ημέρες πριν από μια πλημμύρα, σε 460 εκατομμύρια ανθρώπους. Όπως αναφέρεται σε σχετική ανακοίνωση, ...

Επιθέσεις ransomware: Από που ξεκινούν συνήθως

30 Μαΐου 2023 Techgear Team

Μια νέα έκθεση της Kaspersky έδειξε ότι η πλειονότητα των επιθέσεων ransomware το 2022 ξεκίνησε με την εκμετάλλευση public-facing εφαρμογών, λήψη δεδομένων από παραβιασμένους λογαριασμούς χρηστών και κακόβουλα ...

Πέντε απλές στρατηγικές για να μείνετε κάτω από το ραντάρ στο διαδίκτυο

29 Μαΐου 2023 Techgear Team

Πόσες φορές χρειάστηκε να δώσετε τη διεύθυνση του email σας ή τον αριθμό του τηλεφώνου σας για να εγγραφείτε σε μια ηλεκτρονική υπηρεσία, να αποκτήσετε πρόσβαση σε κάποια ιστοσελίδα ή κάποια εφαρμογή, για να ...

Τέλος για τα YouTube Stories, το βάρος στα Community posts και τα YouTube Shorts

26 Μαΐου 2023 Christos Elpidis

Με το βάρος να έχει πείσει, φυσιολογικά, στα YouTube Shorts, ήταν αναμενόμενο ότι η Google θα προχωρούσε σε ορισμένες αλλαγές στη δημοφιλή υπηρεσία για να μην υπερφορτώνονται οι servers της και μπερδεύονται οι ...

Google: Ξεκίνησε το λανσάρισμα του νέου τρόπου αναζήτησης μέσω AI

26 Μαΐου 2023 Christos Elpidis

Από τις σημαντικότερες ανακοινώσεις της Google στο πρόσφατο συνέδριο Google I/O 2023 ήταν η νέα προσέγγιση στον τρόπο αναζήτησης μέσα από το Google Search, η οποία είναι αφήνει στην άκρη τα κλασικά links και ...

Deepfake: Τα τρία απειλητικά σενάρια που αντιμετωπίζουν οι χρήστες το 2023

25 Μαΐου 2023 Techgear Team

Σύμφωνα με το Παγκόσμιο Οικονομικό Φόρουμ (WEF), o αριθμός των deepfake βίντεο στο διαδίκτυο αυξάνεται ετησίως περίπου κατά 900%. Πολλές περιπτώσεις απάτης μέσω deepfake έχουν πάρει μεγάλη δημοσιότητα, με τις ...

Η Microsoft ενσωματώνει τη μηχανή αναζήτησης Bing στο ChatGPT!

24 Μαΐου 2023 Christos Elpidis

Το ChatGPT δεν χρειάζεται πλέον να βασίζεται σε δικά του μοντέλα ή plugins για να παρέχει πληροφορίες στους χρήστες: Η Microsoft ανακοίνωσε στο συνέδριο BUILD 2023 ότι το Bing Search ενσωματώνεται στο ChatGPT ...

Loader
please wait
techgear_icon