Το 2022 ο Κάι ήταν τότε 16 ετών και χάζευε με το κινητό του στην εφαρμογή του TikTok. Από τα πρώτα βίντεο που είδε ήταν αυτό ενός χαριτωμένου σκύλου… Μετά όλα άλλαξαν και το κινητό του γέμισε… εφιάλτες. Από το πουθενά του προτάθηκαν βίντεο με κάποιον που χτυπήθηκε από αυτοκίνητο, ένας μονόλογος από έναν influencer που μοιραζόταν μισογυνιστικές απόψεις και αποσπάσματα από βίαιους καβγάδες.
Στο Δουβλίνο, ο Άντριου Κουάνγκ εργαζόταν ως αναλυτής ασφάλειας χρηστών στο TikTok, μια θέση που κατείχε για 19 μήνες, από τον Δεκέμβριο του 2020 έως τον Ιούνιο του 2022. O Άντριου και ένας συνάδελφός του αποφάσισαν να εξετάσουν τι προτεινόταν στους χρήστες στο Ηνωμένο Βασίλειο από τους αλγόριθμους της εφαρμογής, συμπεριλαμβανομένων και κάποιων 16χρονων. Παλιότερα, είχε εργαστεί για την ανταγωνιστική εταιρεία Meta, η οποία κατέχει το Instagram, μία ακόμη από τις πλατφόρμες που χρησιμοποιεί ο Κάι.
Όταν ο Άντριου κοίταξε το περιεχόμενο στο TikTok, ανησύχησε διαπιστώνοντας πως σε ορισμένα έφηβα αγόρια προβάλλονταν αναρτήσεις που περιείχαν βία και πορνογραφία, και προωθούσαν μισογυνιστικές απόψεις, όπως αναφέρει στο BBC Panorama. O Άντριου υποστήριξε ότι, γενικά, στα έφηβα κορίτσια προτείνονταν πολύ διαφορετικό περιεχόμενο με βάση τα ενδιαφέροντά τους.
Το TikTok και άλλες εταιρείες κοινωνικών μέσων χρησιμοποιούν εργαλεία τεχνητής νοημοσύνης για να αφαιρούν τη συντριπτική πλειονότητα επιβλαβούς περιεχομένου και να επισημαίνουν άλλο περιεχόμενο για έλεγχο από ανθρώπινους συντονιστές, ανεξαρτήτως του αριθμού προβολών που έχουν λάβει. Ωστόσο, τα εργαλεία τεχνητής νοημοσύνης δεν μπορούν να εντοπίσουν τα πάντα.
Ο Άντριου Κουάνγκ λέει ότι κατά τη διάρκεια της εργασίας του στο TikTok, όλα τα βίντεο που δεν αφαιρέθηκαν ή επισημάνθηκαν για τους ανθρώπινους συντονιστές από την τεχνητή νοημοσύνη ή αναφέρθηκαν από άλλους χρήστες στους συντονιστές θα επανεξετάζονταν χειροκίνητα μόνο αν έφταναν ένα ορισμένο όριο.
Επισημαίνει ότι κάποια στιγμή αυτό είχε οριστεί στις 10.000 προβολές ή περισσότερες. Φοβόταν ότι αυτό σήμαινε πως κάποιοι νεαρότεροι χρήστες εκτίθονταν σε επιβλαβή βίντεο.
Οι περισσότερες μεγάλες εταιρείες κοινωνικών μέσων επιτρέπουν σε άτομα ηλικίας 13 ετών και άνω να εγγράφονται.
Το TikTok λέει ότι το 99% του περιεχομένου που αφαιρεί για παραβίαση των κανόνων του, αφαιρείται από την τεχνητή νοημοσύνη ή ανθρώπους πριν φτάσει τις 10.000 προβολές. Επίσης, αναφέρει ότι πραγματοποιεί προληπτικές έρευνες σε βίντεο με λιγότερες από αυτόν τον αριθμό προβολών.
Όταν ο Άντριου Κουάνγκ εργαζόταν στη Meta από το 2019 έως τον Δεκέμβριο του 2020, δήλωσε ότι υπήρχε ένα διαφορετικό πρόβλημα. Αναφέρει ότι, ενώ η πλειονότητα των βίντεο αφαιρούνταν ή επισημαίνονταν για τους συντονιστές από εργαλεία τεχνητής νοημοσύνης, ο ιστότοπος βασιζόταν στους χρήστες να αναφέρουν άλλα βίντεο αφού τα είχαν ήδη δει.
Ο Άντριου εξέφρασε ανησυχίες και στις δύο εταιρείες, αλλά κυρίως αντιμετώπισε αδράνεια, επειδή, όπως λέει, υπήρχαν φόβοι για τον όγκο της δουλειάς ή το κόστος που θα εμπλέκονταν. Αναφέρει ότι στη συνέχεια έγιναν κάποιες βελτιώσεις στο TikTok και τη Meta, αλλά οι νεότεροι χρήστες, όπως ο Κάι, παρέμειναν σε κίνδυνο.
Αρκετοί πρώην υπάλληλοι από τις εταιρείες κοινωνικών μέσων έχουν πει στο BBC ότι οι ανησυχίες του Άντριου Κουάνγκ ήταν σύμφωνες με τις δικές τους γνώσεις και εμπειρίες.
Οι αλγόριθμοι όλων των μεγάλων εταιρειών κοινωνικών μέσων έχουν προτείνει επιβλαβές περιεχόμενο σε παιδιά, ακόμη και ακούσια, σύμφωνα με τον ρυθμιστικό φορέα του Ηνωμένου Βασιλείου, Ofcom, που δηλώνει στο BBC.
«Οι εταιρείες έχουν κλείσει τα μάτια και έχουν αντιμετωπίσει τα παιδιά όπως αντιμετωπίζουν τους ενήλικες», είπε η Almudena Lara, διευθύντρια ανάπτυξης πολιτικής για την ασφάλεια στο διαδίκτυο της Ofcom.
Το TikTok δήλωσε στο BBC ότι διαθέτει ρυθμίσεις ασφαλείας για εφήβους που είναι «οι κορυφαίες στη βιομηχανία» και απασχολεί περισσότερους από 40.000 ανθρώπους που εργάζονται για την ασφάλεια των χρηστών. Είπε ότι μόνο φέτος αναμένει να επενδύσει «πάνω από 2 δισεκατομμύρια δολάρια (1,5 δισεκατομμύρια λίρες) στην ασφάλεια», και ότι από το περιεχόμενο που αφαιρεί για παραβίαση των κανόνων του, το 98% το εντοπίζει προληπτικά.
Η Meta, η οποία κατέχει το Instagram και το Facebook, λέει ότι διαθέτει περισσότερα από 50 διαφορετικά εργαλεία, πόρους και χαρακτηριστικά για να προσφέρει στους εφήβους «θετικές και κατάλληλες για την ηλικία τους εμπειρίες».
Ο Κάι δήλωσε στο BBC ότι προσπάθησε να χρησιμοποιήσει ένα από τα εργαλεία του Instagram και ένα παρόμοιο στο TikTok για να δηλώσει ότι δεν ενδιαφέρεται για βίαιο ή μισογυνιστικό περιεχόμενο αλλά όπως αναφέρει ο ίδιος συνέχιζε να του προτείνεται τέτοιο περιεχόμενο.
Ο Κάι ενδιαφέρεται για το UFC (Πρωτάθλημα Απόλυτης Πάλης). Επίσης, διαπίστωσε ότι παρακολουθούσε βίντεο από αμφιλεγόμενους influencers όταν του τα πρότειναν, αλλά λέει ότι δεν ήθελε να του προτείνονται αυτά τα πιο ακραία περιεχόμενα.
«Σου έρχεται η εικόνα στο μυαλό και δεν μπορείς να την βγάλεις. Αυτό το γεγονός «λεκιάζει τον εγκέφαλό σου». Και έτσι το σκέφτεσαι για το υπόλοιπο της ημέρας», δήλωσε ο Κάι.
Ο Κάι αναφέρει επίσης ότι τα κορίτσια που γνωρίζει και είναι στην ίδια ηλικία τους προτείνονται βίντεο με θέματα όπως η μουσική και το μακιγιάζ, αντί για βία.
