Dietro le quinte di TikTok, dove IA e umani lottano contro le fake news
Anche se “TikTok non è l’app di riferimento per seguire notizie e politica”, come dalla piattaforma sottolineano spesso, decisamente non è più solo il regno di balletti, lip-sync e video divertenti. E non lo è più da tempo. E dunque anche TikTok si trova a lottare contro fake news, data breach, ransomware (cos’è?), disinformazione, cattiva informazione e teorie cospirazioniste.
“Non abbiamo subìto data breach e non siamo stati vittime di ransomware – ci ha detto Roland Cloutier, global chief security officer del sito – ma ci sono stati alcuni tentativi sventati. Insomma sono due minacce che prendiamo seriamente in considerazione”. Tanto che il social network, controllato dalla cinese ByteDance, ha un team dedicato, attivo tutti i giorni 24 ore su 24, proprio per affrontare questo tipo di problemi. Abbiamo incontrato virtualmente Cloutier, che si occupa di cybersicurezza da una trentina d’anni e ha lavorato per oltre un decennio per l’Air Force americana, durante una visita virtuale al Centro di Trasparenza e Responsabilità europeo di TikTok, che prossimamente sarà aperto a Dublino. Insieme con Cormac Keenan (che guida il team Trust & Safety), Jade Nester (responsabile della Data Public Policy per l’Europa) e il product manager Michael Satyapor ha la responsabilità non solo di quello che vediamo su TikTok, ma anche di quello che non vediamo. Inteso come quello che viene rimosso dalla piattaforma perché non risponde alle linee guida. Inteso come quello che potrebbe rendere l’esperienza su TikTok non solo meno gradevole, ma pure meno sicura.
Perché essere sicuri vuol dire anche essere informati per bene: “Usiamo insieme le capacità dell’intelligenza artificiale e quelle delle persone per trovare, valutare ed eventualmente rimuovere quello che è inappropriato”, ci ha spiegato Keenan. Semplificando, le IA si occupano del grosso del lavoro, filtrano i contenuti e segnalano ai colleghi umani quello che avrebbe bisogno di una seconda revisione: il team di moderatori può analizzare ogni singola clip avendo davanti le informazioni sul profilo che l’ha pubblicata, anche con la possibilità di controllare i vari frame alla ricerca di immagini inadatte. Con le fake news, la questione è più delicata: “Se possiamo agire da soli (se l’informazione è palesemente falsa o sbagliata, ndr), lo facciamo”, ci ha detto ancora Keenan. Altrimenti? “Altrimenti ci rivolgiamo ad alcuni fact-checker esterni, con cui collaboriamo in varie parti del mondo”. Per l’Italia, la scelta è ricaduta su Facta di Pagella Politica: “Inoltriamo a loro le clip su cui abbiamo dubbi, loro fanno le verifiche e poi ci suggeriscono come agire”.
La tutela dei ragazzini (e della privacy)
Come detto, fa tutto parte del programma di TikTok per rendere la piattaforma il più sicura possibile. Iniziando dai minorenni: l’app è destinata a persone dai 13 anni in su e sono previsti numerosi step di verifica (anche ripetuti nel tempo) per controllare che questo limite sia rispettato e che i profili che non lo rispettano vengano disattivati. Di più:
- quando un nuovo profilo viene creato da un 13-15enne, l’account è privato di default;
- ci sono limiti su chi può commentare i video creati dai 13-15enni;
- i 13-15enni non possono utilizzare i Messaggi Diretti e nemmeno avviare trasmissioni in diretta streaming;
- i profili dei 13-15enni non son di default fra quelli suggeriti altri altri utilizzatori di TikTok;
- Duetti e Stitch, le funzioni che permettono di ripostare i video degli altri o interagire con essi, sono disponibili solo oltre i 16 anni;
- è possibile scaricare e conservare soltanto i video creati da chi ha più di 16 anni.
Un altro aspetto importante di questa ricerca di sicurezza e trasparenza è ovviamente legato alla tutela dei dati personali degli iscritti: al momento, TikTok ha due data center, uno negli Stati Uniti e uno a Singapore, mentre un terzo dovrebbe essere aperto a Dublino nel corso del 2022. L’app, come fanno anche Facebook e Instagram, raccoglie molte informazioni sugli iscritti allo scopo di profilarli e proporre loro i contenuti più adatti: indirizzi di posta elettronica, data di nascita, interessi, like, testo dei commenti scritti, marca e modello e sistema operativo dello smartphone, indirizzo Ip e dettagli sull’operatore telefonico utilizzato e così via. E però, ci ha spiegato Nester, “in ogni momento è possibile accedere alla sezione Privacy delle Impostazioni, decidere di rendere privato il proprio profilo, stabilire chi può vederlo e chi no, anche scaricare tutti i dati che TikTok ha raccolto su di sé”.
Di nuovo, è più o meno quello che offrono anche gli altri social network, che per natura non sono esattamente culle di riservatezza: “Rispettiamo scrupolosamente le leggi e i regolamenti relativi alla protezione dei dati – hanno ribadito i responsabili dell’app – In Europa siamo conformi al Gdpr e negli Stati Uniti alle leggi di protezione dei dati federali, statali e locali. Il nostro nuovo team di Data Privacy, sotto la supervisione di un data protection officer, si impegna ad assicurare i più elevati standard di tutela dei dati”.
La lotta contro le bufale sul coronavirus
Allo stesso modo, TikTok cerca di combattere contro violenza verbale, discriminazione di genere, razza o etnia, bullismo e appunto disinformazione: “Di recente abbiamo firmato il codice di Condotta dell’Ue sulla Disinformazione e abbiamo ampliato le norme in materia per trasmettere con maggiore chiarezza l’obiettivo delle nostre attuali policy – ci hanno detto – Non consentiamo disinformazione che potrebbe causare danno alla community o al pubblico in generale e stiamo affrontando il tema investendo costantemente in tecnologia e nei team di revisione, introducendo funzionalità in-app, promuovendo informazioni attendibili da fonti autorevoli e sviluppando sistemi per prevenire la diffusione della disinformazione”.
In generale, ci sono pop-up che compaiono quando si visualizza un video il cui contenuto è dubbio o in via di verifica e anche che avvertono di questo problema quando si tenta di condividerli. Più in dettaglio, tantissimo lavoro viene fatto per quanto riguarda le bufale che vengono condivise relativamente al coronavirus e ai vaccini, che restano comunque ancora tantissime: già alla fine del 2020, TikTok ha creato un hub dedicato all’argomento al cui interno raccogliere tutte le informazioni affidabili e sicure.
Della community di TikTok fanno parte oltre 730 milioni di persone in tutto il mondo (12,5 milioni in Italia) e nel secondo semestre del 2020 dall’app sono stati rimossi oltre 89 milioni di video. Che sembrano tantissimi (e in effetti sono tantissimi), ma rappresentano meno dell’1% di quelli pubblicati. Di questi, oltre il 92% è stato individuato e rimosso prima di essere segnalato da qualcuno, oltre l’83% prima di venire visualizzato anche una sola volta e il 93,5% entro 24 ore dalla pubblicazione. Di nuovo, entrando nel dettaglio della questione coronavirus: l’hub dedicato è stato visualizzato oltre 2,6 miliardi di volte, i banner per linkarlo sono stati aggiunti a oltre 3 milioni di video e gli hashtag che indirizzano le persone alle informazioni dell’Oms sono stati cliccati oltre 38 miliardi di volte. Sempre nel secondo semestre dell’anno scorso, più di 51mila video sono stati rimossi perché contenevano notizie fuorvianti sulla pandemia: di questi, l’86% è stato rimosso prima di essere segnalato, l’87% entro 24 ore dalla pubblicazione e il 71% non ha ricevuto alcuna visualizzazione.
Fonte Corriere della Sera del 17/06/2021
VIDEO E PHOTO GALLERY
AIDR WEB TV
ITALIAN DIGITAL REVOLUTION
EVENTI ED INIZIATIVE
ITALIAN DIGITAL REVOLUTION
COME ASSOCIARSI
Condividi