Μια από τις πιο ηχηρές κινήσεις στον χώρο των social media ανακοινώθηκε χθες, όταν η TikTok προχώρησε σε εκτεταμένες απολύσεις εκατοντάδων εργαζομένων στη Βρετανία και την Ασία, στο πλαίσιο της στρατηγικής του να αντικαταστήσει σε μεγάλο βαθμό τη χειροκίνητη εποπτεία περιεχομένου με εργαλεία τεχνητής νοημοσύνης. Η απόφαση της κινεζικής εταιρείας έχει ήδη προκαλέσει έντονες αντιδράσεις, τόσο από συνδικαλιστικούς φορείς όσο και από οργανισμούς που ασχολούνται με την ασφάλεια στο διαδίκτυο.
Σύμφωνα με δημοσίευμα της Wall Street Journal, η εταιρεία δεν διευκρίνισε πόσοι εργαζόμενοι απομακρύνθηκαν από το σύνολο των περίπου 2.500 υπαλλήλων που διατηρεί στο Ηνωμένο Βασίλειο. Το μόνο που ανέφερε είναι ότι όσοι χάσουν τη δουλειά τους θα έχουν προτεραιότητα σε νέες θέσεις, εφόσον πληρούν συγκεκριμένα – αλλά αδιευκρίνιστα – κριτήρια.
Η είδηση πυροδότησε αντιδράσεις σχεδόν άμεσα. Ο John Chadfield, εθνικός τεχνολογικός εκπρόσωπος της Communications Workers Union (CWU), δήλωσε στο BBC ότι το TikTok «βάζει την εταιρική απληστία πάνω από την ασφάλεια των εργαζομένων και του κοινού». Ο ίδιος προειδοποίησε πως οι εργαζόμενοι είχαν εδώ και καιρό εκφράσει ανησυχίες για τις συνέπειες που μπορεί να έχει η αντικατάσταση ανθρώπινων ομάδων ελέγχου με «ανώριμες» τεχνολογίες τεχνητής νοημοσύνης.
Από την πλευρά της, η εταιρεία απέρριψε αυτές τις ανησυχίες, επιμένοντας ότι η στροφή στην AI δεν γίνεται εις βάρος της ασφάλειας. Σε ανακοίνωσή της υποστήριξε ότι η τεχνολογία που χρησιμοποιεί είναι ήδη «ολοκληρωμένη» και σχεδιασμένη να προστατεύει όχι μόνο τους χρήστες, αλλά και τους ίδιους τους moderators από την ψυχολογική φθορά που προκαλεί η συνεχής έκθεση σε επιβλαβές περιεχόμενο.
«Συνεχίζουμε μια αναδιοργάνωση που ξεκίνησε πέρυσι με στόχο να ενισχύσουμε το παγκόσμιο μοντέλο λειτουργίας μας σε θέματα Trust and Safety, συγκεντρώνοντας τις δραστηριότητές μας σε λιγότερα κέντρα παγκοσμίως», ανέφερε χαρακτηριστικά η ανακοίνωση.
Η πλατφόρμα τόνισε επίσης ότι έχει επενδύσει αρκετά χρόνια στη μελέτη και ενσωμάτωση συστημάτων AI, με στόχο να βελτιώσει την ταχύτητα και την αποτελεσματικότητα της εποπτείας περιεχομένου.
Η απόφαση για τη μαζική μετάβαση στην τεχνητή νοημοσύνη δεν μπορεί να αποσυνδεθεί από το αυστηρότερο ρυθμιστικό πλαίσιο που εισάγει το Ηνωμένο Βασίλειο. Από τον Ιούλιο, ο νέος Online Safety Act προβλέπει πρόστιμα έως και 10% του παγκόσμιου τζίρου για εταιρείες που δεν συμμορφώνονται με τα εθνικά πρότυπα ασφάλειας. Το TikTok επικαλέστηκε τις νέες απαιτήσεις, υπογραμμίζοντας ότι η AI είναι αναγκαία για να μπορέσει να ανταποκριθεί στον αυξημένο όγκο υποχρεώσεων που προκύπτει από τη νομοθεσία.
Στο ίδιο πλαίσιο, η εταιρεία δήλωσε ότι τα συστήματα AI που ήδη εφαρμόζει καταφέρνουν να αφαιρούν περίπου το 85% των αναρτήσεων που παραβιάζουν τις πολιτικές της πλατφόρμας. Ωστόσο, δεν παρουσίασε συγκεκριμένα στοιχεία ή μελέτες που να επιβεβαιώνουν τον ισχυρισμό αυτό.
Η συζήτηση γύρω από την ασφάλεια του TikTok δεν είναι καινούργια. Στη Βρετανία, η Αρχή Προστασίας Δεδομένων (Information Commissioner’s Office) είχε ξεκινήσει ήδη από τον Μάρτιο έρευνα για το πώς η εφαρμογή συλλέγει και χρησιμοποιεί τα προσωπικά δεδομένα των χρηστών ηλικίας 13 έως 17 ετών. Το γεγονός ότι η εταιρεία στρέφεται τώρα περισσότερο στην τεχνητή νοημοσύνη για τη διαχείριση περιεχομένου δημιουργεί νέα ερωτήματα για το κατά πόσο μπορεί να ανταποκριθεί στις απαιτήσεις προστασίας ανηλίκων.
Η απόφαση του TikTok φέρνει στο προσκήνιο μια ευρύτερη συζήτηση για το μέλλον της εργασίας στα social media. Από τη μία πλευρά, η αυτοματοποίηση υπόσχεται ταχύτητα, χαμηλότερο κόστος και μεγαλύτερη συνέπεια. Από την άλλη, η ανθρώπινη κρίση παραμένει κρίσιμη σε περιπτώσεις που η τεχνολογία αδυνατεί να ερμηνεύσει το κοινωνικό ή πολιτισμικό πλαίσιο.
Το μόνο βέβαιο είναι ότι η κίνηση του TikTok σηματοδοτεί μια ιστορική καμπή στον τρόπο με τον οποίο τα κοινωνικά δίκτυα αντιλαμβάνονται την εποπτεία περιεχομένου, με ό,τι κινδύνους ή ευκαιρίες μπορεί να συνεπάγεται αυτό.
[via]
