Il CEO di Kinzen, Mark Little, sulla lotta alla disinformazione

In questa era della disinformazione, le fattorie di troll, le notizie false e l'incitamento all'odio sono impazziti e la verità è sempre più difficile da individuare. La moderazione dei contenuti può aiutarci a proteggere le comunità online dalle sue conseguenze?

Le fake news non sono un fenomeno recente, ma le piattaforme dei social media hanno fornito la perfetta camera d'eco per farle ingrassare e diffondersi a una grandezza senza precedenti e con conseguenze molto reali. Ma la tradizionale verifica dei fatti e i filtri automatizzati dei contenuti non possono competere con il potere dietro la disinformazione e la disinformazione. Ci vorrà una soluzione completamente nuova per affrontare il problema e Mark Little è una delle persone a capo della carica.

Mark è un giornalista pluripremiato e innovatore dei media digitali con una carriera nel settore dei notiziari radiotelevisivi che dura da oltre 20 anni, dal suo primo reportage su una rivolta carceraria a Dublino, al suo reportage pluripremiato dall'Afghanistan dilaniato dalla guerra. Nel 2010, dopo aver notato come i giovani utilizzassero i social media per segnalare ciò che stava accadendo, ha fondato Storyful, il primo canale di notizie sui social media al mondo che combinava un'agenzia di stampa tradizionale con contenuti autenticati generati dagli utenti. Nel 2015, dopo aver venduto Storyful a News Corp, Mark è entrato a far parte di Twitter come vicepresidente dei media e delle partnership per Twitter in Europa.

Un anno dopo, Mark si è dimesso dalla sua posizione quando si è reso conto che stava emergendo una nuova minaccia: quella che era iniziata come un'ondata democratica di risveglio dei social media veniva corrotta. Gli algoritmi e i modelli di business dietro queste piattaforme venivano usati come armi per produrre e diffondere propaganda e teorie del complotto. Insieme ad Áine Kerr, una collega giornalista che, all'epoca, gestiva collaborazioni giornalistiche globali per Facebook, iniziò a lavorare su una risposta a quel problema e nacque Kinzen.

"Per affrontare la sfida, stanno utilizzando una combinazione di apprendimento automatico e analisi umana in grado di scalare la risposta a livello globale"

Da allora, hanno lavorato per superare questa minaccia e proteggere le comunità online dalla pericolosa disinformazione e dall'incitamento all'odio che creano danni nel mondo reale. Per affrontare la sfida, stanno utilizzando una combinazione di apprendimento automatico e analisi umana in grado di scalare la risposta a livello globale. Mark rimane un ottimista sul potenziale democratico dei social network, ma è il primo ad ammettere che ha un disperato bisogno di una riprogettazione. Ed è qui che entra in gioco una moderazione dei contenuti più precisa.

Nella puntata di oggi, ci siamo incontrati con Mark per parlare dell'evoluzione del giornalismo, dell'aumento della disinformazione e di cosa possiamo fare per proteggere le comunità online da contenuti dannosi.

Ecco alcuni dei nostri asporto preferiti dalla conversazione:

• Il fallimento è incorporato nel processo di avvio della propria attività. Il segreto per essere un grande imprenditore non è la sopravvivenza, è la resilienza.
• Negli ultimi due anni, abbiamo assistito all'ascesa di "algospeak", che si verifica quando le comunità online cambiano determinate parole per evitare di essere contrassegnate dagli algoritmi di moderazione dei contenuti.
• Mark non sostiene una legislazione che vieti la disinformazione, ma piuttosto una moderazione dei contenuti più precisa che rilevi i contenuti dannosi pur consentendo la massima libertà di parola.
• Nel corso dei prossimi anni, Mark ritiene che più piattaforme cercheranno di decentralizzare il potere per consentire alle persone di impostare i propri filtri per ciò che vogliono vedere online.
• Combinando l'analisi umana e l'apprendimento automatico, possono rilevare elementi come ironia, slang o "algospeak" e ridimensionarli a livello globale.

Se ti piace la nostra discussione, dai un'occhiata ad altri episodi del nostro podcast. Puoi seguire su iTunes, Spotify, YouTube o prendere il feed RSS nel tuo lettore preferito. Quella che segue è una trascrizione leggermente modificata dell'episodio.

Risveglio politico

Liam Geraghty: Mark, grazie mille per esserti unito a noi. Sei il benvenuto allo spettacolo.

Mark Little: Mi fa piacere, Liam. Grazie per avermi.

Liam: Hai fatto un viaggio straordinario fino a questo punto prima di fondare Kinzen. Da dove nasce il tuo interesse per il giornalismo?

"Ero ossessionato da come funzionava il mondo e dal motivo per cui alcune persone sembravano vedere dietro l'angolo cosa sarebbe successo dopo"

Mark: Beh, io ero uno di quei bambini molto precoci. All'età di forse sei o sette anni, combattevo per l'Irish Times la mattina con mio padre. E verso le nove o dieci, mi sono reso conto di non aver mai avuto abbastanza talento naturale per essere la mia vera passione, che era quella di essere il centravanti del Liverpool. E fondamentalmente, la cosa su cui ricordo di essere ricaduta è stata quella che qualcuno, suppongo il mio insegnante di religione, mi ha fatto notare in una pagella quando avevo circa 14 anni. Disse che ero prematuramente cinico, avevo una feroce curiosità per il mondo, un certo scetticismo e una passione per il cambiamento.

Ero ossessionato da come funzionava il mondo e dal motivo per cui alcune persone sembravano vedere dietro l'angolo quello che sarebbe successo dopo in politica o negli affari. E questo è stato il nocciolo che è iniziato con il giornalismo ed è rimasto con me per tutta la mia carriera.

Liam: La politica era importante nella tua famiglia?

Marco: Assolutamente. Era davanti e al centro. Crescendo negli anni '70 e '80, se non eri interessato alla politica, non eri consapevole o sveglio. Vivevamo in Irlanda in quel momento, che era ancora dominata da una società molto regressiva dominata dalla chiesa. Eravamo ancora i poveri d'Europa. L'immigrazione era a livelli record; la disoccupazione era a livelli record. E guardando all'estero, quando stavo crescendo come attivista studentesco negli anni Ottanta, voglio dire... Tutto stava succedendo. In tutto il mondo, sembrava che ci fossero cambiamenti tettonici in tutto ciò che stava accadendo.

Tutto sembrava così consequenziale al punto in cui l'apocalisse nucleare è stata qualcosa a cui ho pensato profondamente negli anni '80 fino alla caduta del muro di Berlino. Questo è solo per darti un'idea di quanto sia stato consequenziale essere vivo in un periodo di grande ansia. Ma se avevi una mentalità politica, anche un'enorme eccitazione e sfida.

Disordini sociali a Londra

Liam: E ho letto bene che il tuo primo lavoro è stato nel dipartimento pubblicitario della rivista del Partito Comunista nel Regno Unito?

Mark: Sì, è stata una cosa divertente. All'epoca, c'erano molte persone a sinistra che erano molto interessate alla cultura e furono influenzate da ciò che stava accadendo con Glasnost e Perestroika. C'era questo gruppo di persone che sarebbe stato chiamato la nuova sinistra o gli eurocomunisti, e io ero affascinato da quella rivista. Si chiamava Marxismo Oggi.

Stavo lavorando in un parcheggio e da McDonald's, e mi è capitato di sbattere il braccio e dire: "Ehi, qualcuno va a Marxism Today?" E si è scoperto che uno dei lavori non era nemmeno vendere la pubblicità: era raccogliere la pubblicità. Avrei dovuto chiamare i produttori di granola e le persone che producono futon e pubblicizzare le vacanze in Bulgaria e minacciarli leggermente, chiedendo i soldi che si erano impegnati a pagare per la pubblicità. Era l'estate a Londra dell'87. Devo vedere Red Wedge e Billy Bragg. Lo sciopero dei minatori era appena terminato e c'era la sensazione che la Thatcher fosse la persona più importante della scena internazionale.

“La politica era in tutto in quel momento. Sembrava l'ossigeno che ci circondava"

Vivere a Londra nell'87 e far parte di un movimento di sinistra – non necessariamente un partito comunista, che era in via di estinzione – mi ha aperto gli occhi perché ero uno studente radicale. Ho avuto modo di essere in posti come il Trades Union Congress e incontrare alcune delle persone all'avanguardia che hanno davvero creato il cambiamento in Gran Bretagna. Ho anche imparato a girare gli hamburger e a cucinare il perfetto pollo McNugget.

Quella stessa estate dell'87 fu quando la campagna dell'IRA era al culmine. Ho lavorato in questo parcheggio e uno dei miei lavori era andare in giro, verso le 4:00 o le 5:00 del mattino, per controllare se ci fossero auto lì per più di una settimana perché temevano l'IRA stava per piazzare una bomba lì. E così ero lì, un giovane irlandese e collega pachistano, ed entrambi eravamo responsabili di riferire, alle filiali speciali che sono arrivate la mattina, quali macchine erano lì da troppo tempo. Ancora una volta, solo per ricordare che la politica era in tutto in quel momento. Sembrava l'ossigeno che ci circondava.

"Ero così giovane che, quando ho continuato a fare il mio grande lavoro a Washington, mi è stato detto di farmi crescere i baffi o di vestirmi di blu, il che a quanto pare ti fa sembrare più vecchio"

Liam: Wow, è pazzesco. Tutto ciò ha senso in termini di carriera nel giornalismo e passaggio alla National Broadcaster. Voglio dire, sei andato praticamente a lavorare per la National Broadcaster in Irlanda subito dopo il college.

Mark: Ero così giovane che quando ho ottenuto il mio grande lavoro a Washington, mi è stato detto di farmi crescere i baffi o di vestirmi di blu, il che a quanto pare ti fa sembrare più vecchio. Uscendo dal college, ho capito che non volevo fare politica. Non ero particolarmente ideologico alla fine della giornata. Non ero partigiano. Ed ero, come ho detto, affascinato dal cambiamento. Sono andato alla DCU per fare un corso di giornalismo e, prima ancora che quel corso finisse, RTE faceva pubblicità affinché le persone si unissero a loro, quindi l'ho fatto.

In circa 24 ore, il mio primo rapporto riguardava una rivolta carceraria fuori Phibsborough, a nord di Dublino. Ero in cima a un tetto e dovevo trasmettere il telegiornale delle 6:00 su un telefono cellulare, che, credetemi, era un'enorme innovazione tecnologica all'epoca. Ero così cattivo che quando sono tornato in ufficio, il mio capo ha detto: “Non rispondere a questo. Questo non ti ispirerà per il futuro". Ma a quel punto, avere la possibilità di iniziare un rapporto su grandi temi era un sogno diventato realtà.

Una nuova ondata di giornalismo

Liam: La tua carriera nel giornalismo è durata quasi 20 anni, vero?

Marco: Esatto.

Liam: Cosa ti ha spinto ad abbandonare il giornalismo dopo una carriera di enorme successo, come corrispondente da Washington e presentando Prime Time, uno dei grandi spettacoli in Irlanda?

Mark: Beh, ho iniziato a rendermi conto che le cose erano cambiate, per usare una vecchia frase. I mezzi di produzione del giornalismo e delle notizie erano cambiati dall'essere una persona come me, l'uomo della televisione, in piedi in zone di guerra. Ricordo di essere stato a Kandahar, nel sud dell'Afghanistan, ed è stato molto frustrante perché ero seduto lì ad ascoltare qualcuno che interpretava per me cosa stava succedendo sul terreno. E improvvisamente, mi sono reso conto che la vecchia età dell'oro del giornalismo era molto antidemocratica. Erano persone come me, i guardiani, che dicevano alle persone a casa che si sedevano a una certa ora di notte per ascoltare me, l'uomo in televisione, dicendo loro cosa era vero, cosa era reale.

"Cosa accadrebbe se potessimo combinare narrazione vecchio stile, verità e giornalismo con questo nuovo risveglio rivoluzionario democratico su queste piattaforme?"

Allo stesso tempo, ho visto emergere Twitter e YouTube e ricordo che c'è stata una protesta elettorale in Iran nel 2009. Ogni corrispondente estero ha una storia che gli passa sotto la pelle: l'Iran era la mia storia. Ricordo di aver visto ragazzi di 17 o 18 anni che usavano i social media per fornire il resoconto più viscerale e autentico di ciò che stava succedendo e ho pensato: "Oh mio Dio, questo cambierà tutto".

La maggior parte dei miei contemporanei era spaventata e impaurita da questa rivoluzione democratica. Ma ho visto questa opportunità. Cosa accadrebbe se potessimo combinare narrazione vecchio stile, verità e giornalismo con questo nuovo risveglio rivoluzionario democratico su queste piattaforme? Ho aspettato 25 anni e ho pensato: "Se non lo faccio ora, me ne pentirò per il resto della mia vita". Devi pensare a ciò che dice il Talmud, il grande testo religioso ebraico antico: “Se non io, chi? Se non ora quando?" Ho avuto quel momento e non c'era modo di tornare indietro.

Liam: Quindi hai creato Storyful. Adoro il grande slogan di Storyful, "notizie dal rumore dei social media". Com'è stato passare dal giornalismo alla fondazione di un'impresa?

Mark: Era come guardare l'acqua in inverno. Pensi: "Non sarebbe fantastico fare una nuotata?" E poi ci salti dentro e rimani paralizzato dal freddo. Non potevamo crescere per un anno nell'impresa con Storyful. Pensavo stessimo fallendo. È stato brutale. Avevo puntato tutto su questa impresa: la mia reputazione, tutti i miei soldi e sembrava che stesse fallendo.

“Il segreto per essere un grande imprenditore non è sopravvivere. È resilienza. E il fallimento è integrato nel modello”

Ricordo una vigilia di Natale, mentre guidavo per vedere la mia famiglia e sentivo il peso del mondo su di me, e ho realizzato il mio peggior pensiero: “Cusciremo dall'attività, ma troverò un lavoro e mi riprenderò da quello. " E ho imparato che quando affronti la tua peggiore paura, in particolare all'inizio, non ti perseguiterà mai più perché l'hai affrontata. Questo è il peggio che può succedere.

Ho iniziato a capire che, come giornalista, riguardavo la sopravvivenza. Dovevo essere un corrispondente di guerra. Mi sono ricordato dei giorni in cui potevo lavorare a una frazione di se sarei stato ucciso o ferito, ma non avevo mai pensato alla resilienza, a cosa succede quando devi alzarti ogni giorno ed è difficile. E questa era la grande differenza. Il segreto per essere un grande imprenditore non è sopravvivere. È resilienza. E il fallimento è integrato nel modello: è qualcosa che devi sopportare. È stato un vero cambio di mentalità. C'erano molte somiglianze, ma era necessario un grande cambiamento di mentalità.

Liam: Com'era? Perché, come hai detto, molti giornalisti ne avevano un po' paura. Ma questa è una forma completamente nuova di giornalismo, e probabilmente non lo sapevamo all'epoca.

“Abbiamo iniziato a sviluppare una collaborazione con le persone sul campo che sono state testimoni oculari della storia”

Mark: Beh, potremmo vederlo accadere nella pratica mentre le persone cercavano di lavorarci in teoria. Ad esempio, durante le rivolte arabe, iniziate nel 2010 in Tunisia e attraversate dall'Egitto e dalla Siria, abbiamo visto, nella nostra piccola startup in Irlanda, attivisti democratici sul campo che cercavano di tirare fuori la storia da luoghi come Aleppo. Hanno iniziato a rendersi conto che li stavamo guardando e che avremmo fatto cose come inclinare la telecamera per mostrare un minareto, il che ci avrebbe aiutato a geolocalizzare quell'immagine. Ci avrebbero aiutato pubblicando giornali e dicendoci che giorno era e in quale luogo si trovavano. E abbiamo iniziato a sviluppare una collaborazione con le persone sul campo che sono state testimoni oculari della storia.

E, naturalmente, stavamo portando rigore giornalistico. Quando Osama bin Laden è stato ucciso in Pakistan, siamo stati immediatamente coinvolti con le immagini satellitari per analizzare la natura dell'elicottero che si era schiantato ed era atterrato nel complesso. Potremmo indirizzare i giornalisti al luogo fisico perché è stato attribuito in modo errato.

Questa nuova forma di giornalismo open source era democratica perché le nostre fonti primarie erano persone sul campo e non altri giornalisti. Ma allo stesso tempo, aveva lo stesso rigore di giornalismo investigativo che avevamo sulla responsabilità. Non è emersa per caso, ma di certo non avevamo in programma di creare una nuova forma di giornalismo. Si è evoluto organicamente da questo risveglio che era la forza dominante nella prima ondata di social media. Oggi, molti degli ex alunni di Storyful lavorano in grandi testate giornalistiche come il New York Times, la CNN, la BBC o il Washington Post, e stanno portando quella nuova forma di giornalismo di cui facevamo parte con Storyful.

Armatura dei social media

Liam: Nel 2013 hai venduto Storyful a News Corp, ti sei trasferito a New York per aiutare con la transizione, ma alla fine sei tornato a Dublino per assumere il ruolo di amministratore delegato di Twitter, Dublino. Eri un po' bramoso per la prossima grande cosa da fare alle spalle di Storyful?

Marco: Non proprio. Voglio dire, a pensarci bene, ho avuto una carriera lavorando per Marxism Today, Rupert Murdoch, Jack Dorsey e il contribuente irlandese. Avevo una gamma abbastanza buona, almeno, da una prospettiva ideologica. E vengo da Storyful davvero affascinato da Twitter. Mi ero innamorato di Twitter, mi aveva cambiato la vita e volevo entrare nel cuore della macchina. Non avevo il desiderio di fare un'altra startup. In effetti, ho chiesto a un altro mio contemporaneo, un altro fondatore di startup di media, il permesso di non farlo più.

A quel punto, Twitter era una società abbastanza grande. Volevo vedere se potevo aiutare a portare un po' di cambiamento ed energia nel business di Twitter. Ecco perché ho scelto di farlo. È stata una vera opportunità per entrare in una piattaforma che aveva cambiato tutto nella mia attività per vedere se potevo avere un impatto. Solo per caso significava venire da New York, dove ero molto felice, tornare a Dublino, che era il quartier generale internazionale. Ma volevo prendermi una pausa dalla vita da startup e vedere come sarebbe se fossi all'interno di una grande azienda.

"Avevo visto molti dei problemi che avevamo individuato nelle rivolte arabe, dove le persone utilizzavano le piattaforme sociali non come strumento democratico ma come arma"

Liam: Da dove viene Kinzen? Sembra essere nato dalle fiamme di Storyful, in una certa misura.

Mark: È nato da una frustrazione per quella grande azienda chiamata Twitter. Mi è piaciuto lavorare lì, ma non era particolarmente ben gestito. E alla fine, il team di media partnership è stato praticamente eliminato. Avrei potuto rimanere in un bel lavoro aziendale, ma nel frattempo era il 2016 e le elezioni presidenziali statunitensi erano appena avvenute. Avevo visto molti dei problemi che avevamo individuato nella loro prima incarnazione nelle rivolte arabe, dove le persone usavano le piattaforme sociali non come uno strumento democratico ma come un'arma. Stavano usando la viralità dei video su luoghi come YouTube e Twitter per inventare storie false che erano propaganda o teorie del complotto.

La prima ondata di Internet è stata un risveglio democratico. E poi, quando è arrivato il 2016, ho capito: "Merda! Questo viene trasformato in un'arma". Non solo a causa di Donald Trump, c'erano problemi più profondi in cui, improvvisamente, la viralità, il modello di business e gli algoritmi venivano dirottati da persone contrarie alla democrazia. Quello è stato il luogo di nascita e l'idea che mi ha portato a tornare da Áine Kerr, che era la mia collega più fidata, che all'epoca era su Facebook, e dire: "E se facessimo qualcosa per restituire il potere ai cittadini, per consentire loro per proteggersi da questa minaccia emergente?" Ed entrambi abbiamo saltato.

Abbiamo deciso, per cominciare, di fornire alle persone un feed di notizie che potessero controllare, ma ovviamente, mentre andavamo avanti, come ogni startup, l'idea si è evoluta. La prima ondata di democrazia è stata sostituita da una nuova forza oscura su Internet e questa è stata l'ispirazione dietro Kinzen.

Liam: Per gli ascoltatori che non sanno, cos'è Kinzen? Chi è l'utente di Kinzen?

Mark: Aiutiamo le grandi piattaforme tecnologiche e le piattaforme emergenti a proteggere le conversazioni mondiali dai rischi legati all'informazione. E con questo intendiamo una pericolosa disinformazione che crea danni nel mondo reale, disinformazione organizzata e discorsi violenti e pieni di odio. I nostri clienti sono fidati professionisti della sicurezza, professionisti delle politiche e le persone all'interno di queste aziende che cercano disperatamente di anticipare queste minacce e rischi di informazioni invece di una verifica reattiva dei fatti.

"Stiamo ridimensionando la soluzione umana a questa particolare crisi dell'informazione"

Stiamo usando una combinazione di una buona analisi umana vecchio stile e le fasi successive dell'apprendimento automatico per risolvere il terribile problema che queste piattaforme devono affrontare. Questi sono, il numero uno, che gli esseri umani non sono in grado di adattarsi al problema e che le macchine non hanno l'intuizione per rilevare questi rischi per le informazioni in più lingue e in più formati diversi. Questo è il problema che Kinzen sta cercando di risolvere. Stiamo ridimensionando la soluzione umana a questa particolare crisi dell'informazione.

Liam: Quindi, stai prendendo quelle capacità editoriali da Storyful e le codifichi nelle macchine per dare loro quei valori.

Marco: Esattamente. Seguiamo un approccio umano e il loop machine learning, che è diventato davvero possibile solo negli ultimi due anni da quando abbiamo avuto accesso a questi grandi modelli linguistici. I nostri analisti stanno creando dati leggibili dalla macchina in una varietà di lingue, che sono stati inseriti nella macchina. La macchina sta trascrivendo, traducendo e cercando di capire, e i dati umani la stanno aiutando ad apprendere più velocemente. È un bellissimo ciclo di feedback tra un piccolo gruppo di esperti e sistemi di apprendimento automatico davvero avanzati che sono esponenzialmente maggiori nelle loro capacità ora rispetto a quattro anni fa.

Frenare la disinformazione

Liam: Quanto è grande la portata della disinformazione al momento?

“La questione chiave in questo momento non è se le persone stanno dicendo la cosa sbagliata su Internet; non si tratta di dispute tra persone sulla politica; non si tratta nemmeno di Donald Trump o di quello che ottiene su Twitter"

Mark: Beh, penso che quello che sta succedendo in questo momento è che sta peggiorando prima di migliorare. Non tutti online lo vedranno, ma ciò che sta accadendo nei luoghi in cui la disinformazione e la disinformazione sono particolarmente problematiche è nei luoghi in cui è vita o morte. In questo momento, in India, vediamo livelli di retorica quasi da genocidio provenienti dai sostenitori del governo nei confronti dei musulmani. Stiamo vedendo estremisti organizzati, gruppi di estrema destra e neonazisti in Europa che usano la viralità di queste piattaforme per diffondere il loro messaggio.

E ovviamente, lo stiamo vedendo nelle teorie del complotto su argomenti di salute, non solo sul COVID, ma nelle persone che cercano di promuovere il pensiero del complotto nelle conversazioni tradizionali. La questione chiave in questo momento non è se le persone stanno dicendo la cosa sbagliata su Internet; non si tratta di dispute tra persone sulla politica; non si tratta nemmeno di Donald Trump o di ciò che ottiene su Twitter. Quello che stiamo osservando è la moltitudine di lingue e minacce in cui ci sono effettivi danni nel mondo reale e possibilmente situazioni di vita o di morte.

Al momento abbiamo 13 lingue e presto ne avremo 26. È in posti come il Brasile, che a ottobre avrà elezioni estremamente consequenziali che potrebbero essere una replica di ciò che è accaduto nel 2020 negli Stati Uniti. Molte persone pensano che stiamo cercando di capire cosa è vero o falso. Non si tratta solo di questo o anche principalmente di quello: si tratta di dove possiamo impedire che qualcosa accada online che avrà un impatto sul mondo reale e, potenzialmente, un impatto sulla vita o sulla morte.

Liam: Hai menzionato le elezioni brasiliane lì, e ho sentito Áine Kerr in un altro podcast parlare di attori della disinformazione che si sono resi conto che frasi come "frode elettorale" e "elezioni truccate" stavano avvisando i moderatori dei contenuti che potevano rimuovere le loro false affermazioni, quindi allora questi attori hanno iniziato a sostituire queste frasi con cose come "Stiamo facendo una campagna per elezioni pulite". Ed è qui che i moderatori umani possono intervenire per individuare quei cambiamenti e aiutare le autorità a intercettare questi messaggi.

“Vediamo costantemente le parole modificate e cambiate. E, naturalmente, le macchine non sono in grado di stare al passo con questo”

Mark: Stiamo assistendo a quella che chiamiamo l'ascesa di "algospeak", ovvero quando le comunità si rendono conto che potrebbero esserci algoritmi di moderazione dei contenuti che osservano ciò che stanno dicendo e stanno cercando di evitarlo. Durante la pandemia, abbiamo visto attivisti anti-vax usare la parola panini invece di pandemia. Più di recente, in Germania, abbiamo visto la comunità anti-vax usare la parola puffo per indicare il vaccino perché, in tedesco, la pronuncia di quella parola suona molto simile alla pronuncia del personaggio televisivo dei bambini. L'anno scorso, in Scandinavia, abbiamo visto un gruppo neonazista cambiare una parola associata a un festival tradizionale per bambini in un insulto razziale.

Vediamo costantemente parole modificate e cambiate. E, naturalmente, le macchine non sono in grado di tenere il passo con questo. Quando accade qualcosa come la pandemia, all'improvviso, abbiamo tutti questi termini scientifici che entrano nella nostra lingua. La macchina semplicemente non è intrappolata, ed è qui che l'analisi umana è importante: per correggere la macchina.

E così, sempre di più, all'interno di Kinzen, stiamo iniziando a vedere la macchina cogliere l'evoluzione del linguaggio. Una parola connessa con un'altra. Puffo con vaccino. O per esempio, in posti come l'India, vediamo attivisti anti-musulmani che usano parole che possono sembrare totalmente innocue, ma possiamo vedere che fanno parte di un modello di intimidazione e incitamento all'odio.

Ecco perché la parte umana è così importante. Non sosteniamo una maggiore moderazione dei contenuti. Non sosteniamo le leggi o il divieto della disinformazione. Penso che sia assolutamente la strada sbagliata. Stiamo cercando una moderazione dei contenuti più precisa che possa prendere l'ago nel pagliaio che è pericoloso pur consentendo la massima libertà di parola. E questo è l'obiettivo a lungo termine per noi. Non possiamo avere la sicurezza per decreto e i governi che vietano i contenuti. Dobbiamo riprogettare le piattaforme in modo che le macchine e gli esseri umani che lavorano con moderazione dei contenuti diventino più precisi, più precisi e più tempestivi nell'affrontare il problema invece di reagire ad esso.

Una miscela di macchine e umani

Liam: La disinformazione è un problema tecnico, umano o un po' di entrambi?

Mark: Ascolta, questa è una di quelle domande esistenziali in cui le persone pensano che la tecnologia le abbia fatte fare o abbia reso il mondo stupido. Non vado per quello. Rimango un evangelista per il potenziale democratico delle tecnologie che ora diamo per scontate o che cominciamo a detestare intensamente. Il modello di business e il modo in cui gli algoritmi sono stati attivati ​​inizialmente con i social media sfruttano i nostri peggiori istinti, ma penso che possiamo riprogettare questa tecnologia per liberare le nostre migliori intenzioni. E parte di ciò è avere filtri molto migliori a cui la persona normale può accedere quando naviga in Internet.

"L'utente medio avrà più potenza e precisione nella moderazione dei contenuti"

In questo momento, lavoriamo con team di moderazione centralizzati all'interno delle piattaforme tecnologiche. La mia ipotesi è che, nei prossimi due o tre anni, sempre più piattaforme cercheranno di decentralizzare il potere affinché la persona comune possa impostare i propri filtri. Possono dire: "Ascolta, non voglio sentire un linguaggio estremo nel mio feed", oppure qualcun altro potrebbe dire: "Beh, lo voglio. Voglio vedere cosa sta pensando l'altra parte". L'utente medio avrà più potenza e precisione nella moderazione dei contenuti. Ma ci vorrà del tempo, e siamo solo all'inizio. Ricorda, le grandi piattaforme che esistono oggi saranno sostituite da nuove che vengono incubate da alcuni diciassettenni in questo momento.

Dobbiamo essere consapevoli di alcuni sviluppi che potrebbero peggiorare il problema prima che migliorino. In Kinzen, siamo pionieri della moderazione dei contenuti audio. Abbiamo analizzato il modo in cui disinformazione, disinformazione e incitamento all'odio si diffondono attraverso l'audio dal vivo e i podcast. E pensiamo che lo strato parlato di Internet sia un'area su cui dobbiamo concentrarci con un alto grado di importanza per i prossimi due anni.

Liam: Te lo stavo per chiedere prima di concludere. Ci sono solo innumerevoli ore di audio. Che problema si presenta a te e ai verificatori di fatti?

Mark: È come una tempesta perfetta. Ovviamente, con l'audio dal vivo, hai la velocità. Guardando i podcast, molti di questi durano ore e ore. E poi, la sfida più importante e più grande è la lingua. Ci sono migliaia di lingue parlate. Se stai analizzando qualcosa in India, potresti ascoltare qualcuno che parla in hindi, ma di tanto in tanto passerà all'inglese. Ciò di cui siamo molto consapevoli è che è qui che l'apprendimento automatico è così affascinante. Hai il riconoscimento vocale automatico. Ma ancora una volta, puoi modificarlo se sai cosa stai cercando con alcuni segnali umani. Possiamo consentire al modello linguistico di migliorare, di essere ottimizzato per ascoltare non solo il suono di una parola, ma anche la relazione tra le lingue.

"Possiamo iniziare ad accoppiare macchine e umani per interpretare il significato del linguaggio, e non solo quello che stanno dicendo, ma come lo stanno dicendo?"

Sono un giornalista, giusto? Non sono un tecnico per formazione. Molte di queste cose mi fanno meravigliare mentre cerco di starci dietro. Ma penso che ciò che è importante per l'audio è che stiamo prestando attenzione al modo in cui le persone parlano; il loro tono di voce. L'arabo, ad esempio, è una lingua se lo scrivi, ma più dialetti quando lo parli. E questo, per me, è ciò che è più preoccupante e anche più eccitante. Possiamo iniziare ad accoppiare macchine e umani per interpretare il significato del linguaggio, e non solo quello che stanno dicendo, ma come lo stanno dicendo? Questa è la grande sfida della moderazione audio, ma penso anche che sia una delle sfide più emozionanti su cui lavorare. Solo gli esseri umani sono in grado di rilevare cose come ironia, sarcasmo, slang o "algospeak". Ed è per questo che il nostro approccio non è solo più efficace, ma in definitiva più democratico. Vogliamo il minor tipo di intervento possibile ma il massimo livello di precisione, ed è qui che il mix di uomo e macchina è così vitale.

Liam: Brillante. Bene, Mark, grazie mille per esserti unito a me oggi.

Mark: Liam, è un piacere. Facciamolo di nuovo presto.