CEO-ul Kinzen, Mark Little, despre lupta împotriva dezinformarii

În această eră a dezinformarii, fermele de troli, știrile false și discursurile instigatoare la ură dau de cap, iar adevărul este din ce în ce mai greu de depistat. Ne poate ajuta moderarea conținutului să protejăm comunitățile online de consecințele sale?

Știrile false nu sunt un fenomen recent, dar platformele de social media au oferit camera de ecou perfectă pentru ca acestea să se răspândească și să se răspândească la o amploare fără precedent și cu consecințe foarte reale. Dar verificarea faptelor tradiționale și filtrele automate de conținut nu se potrivesc cu puterea din spatele dezinformării și dezinformării. Va fi nevoie de o soluție cu totul nouă pentru a rezolva problema, iar Mark Little este unul dintre oamenii care conduc acuzația.

Mark este un jurnalist premiat și inovator în media digitală, cu o carieră în domeniul știrilor de peste 20 de ani – de la primul său reportaj despre o revoltă din închisoarea din Dublin, până la reportajele sale premiate din Afganistanul devastat de război. În 2010, după ce a observat cum tinerii foloseau rețelele de socializare pentru a raporta ceea ce se întâmplă, el a fondat Storyful, primul serviciu de știri din lume care a combinat o agenție de știri tradițională cu conținut autentificat generat de utilizatori. În 2015, după ce a vândut Storyful către News Corp, Mark s-a alăturat Twitter ca vicepreședinte al mass-media și al parteneriatelor pentru Twitter în Europa.

Un an mai târziu, Mark și-a dat demisia din funcția sa când și-a dat seama că a apărut o nouă amenințare – ceea ce a început ca un val democratic de trezire a rețelelor sociale era corupt. Algoritmii și modelele de afaceri din spatele acestor platforme erau transformate în arme pentru a produce și a disemina propagandă și teorii ale conspirației. Împreună cu Áine Kerr, un coleg jurnalist care, la acea vreme, gestiona parteneriate jurnalistice globale pentru Facebook, el a început să lucreze la un răspuns la această problemă și s-a născut Kinzen.

„Pentru a face față provocării, ei folosesc o combinație de învățare automată și analiză umană care poate scala răspunsul la nivel global.”

De atunci, ei au lucrat pentru a trece înaintea acestei amenințări și pentru a proteja comunitățile online de dezinformarea periculoasă și discursurile instigatoare la ură care creează daune în lumea reală. Pentru a face față provocării, aceștia folosesc o combinație de învățare automată și analiză umană care poate scala răspunsul la nivel global. Mark rămâne un optimist cu privire la potențialul democratic al rețelelor de socializare, dar este primul care admite că are nevoie disperată de o reproiectare. Și aici intervine o moderare mai precisă a conținutului.

În episodul de astăzi, ne-am întâlnit cu Mark pentru a vorbi despre evoluția jurnalismului, creșterea dezinformării și ce putem face pentru a proteja comunitățile online de conținutul dăunător.

Iată câteva dintre concluziile noastre preferate din conversație:

• Eșecul este inclus în procesul de a începe propria afacere. Secretul de a fi un mare antreprenor nu este supraviețuirea, ci rezistența.
• În ultimii câțiva ani, am văzut o creștere a „algospeak”, care se întâmplă atunci când comunitățile online schimbă anumite cuvinte pentru a evita să fie semnalate de algoritmii de moderare a conținutului.
• Mark nu pledează pentru o legislație care interzice dezinformarea, ci mai degrabă o moderare mai precisă a conținutului, care detectează conținutul dăunător, permițând în același timp libertate maximă de exprimare.
• În următorii câțiva ani, Mark crede că mai multe platforme vor încerca să descentralizeze puterea pentru ca oamenii să își seteze propriile filtre pentru ceea ce doresc să vadă online.
• Combinând analiza umană și învățarea automată, aceștia pot detecta lucruri precum ironia, argoul sau „algovorbirea” și le pot scala la nivel global.

Dacă îți place discuția noastră, vezi mai multe episoade din podcastul nostru. Puteți urmări pe iTunes, Spotify, YouTube sau puteți prelua fluxul RSS în playerul dorit. Ceea ce urmează este o transcriere ușor editată a episodului.

Trezirea politică

Liam Geraghty: Mark, îți mulțumesc foarte mult că ni ești alături. Sunteți foarte bineveniți la spectacol.

Mark Little: Cu plăcere, Liam. Mulțumesc că m-ai primit.

Liam: Ai avut o călătorie remarcabilă până în acest punct înainte de a fonda Kinzen. De unde ți-a venit interesul pentru jurnalism?

„Eram obsedat de modul în care funcționează lumea și de ce anumiți oameni păreau să vadă după colț ce avea să se întâmple în continuare”

Mark: Ei bine, am fost unul dintre acei copii foarte precoci. La vârsta de șase sau șapte ani, obișnuiam să lupt pentru The Irish Times dimineața cu tatăl meu. Și pe la nouă sau zece ani, mi-am dat seama că nu am niciodată suficient talent natural pentru a fi adevărata mea pasiune, care trebuia să fiu înainte centru pentru Liverpool. Și, practic, lucrul la care îmi amintesc că am căzut înapoi a fost ceea ce cineva, presupun că profesorul meu de religie, mi-a subliniat într-un buletin de raport, când aveam aproximativ 14 ani. A spus că eram prematur cinic, aveam o curiozitate aprigă pentru lume, un anumit scepticism și o pasiune pentru schimbare.

Eram obsedat de modul în care funcționează lumea și de ce anumiți oameni păreau să vadă după colț ce urma să se întâmple în politică sau în afaceri. Și acesta a fost nucleul care a început cu jurnalismul și a rămas cu mine de-a lungul carierei mele.

Liam: A fost politica mare în familia ta?

Mark: Absolut. Era în față și în centru. Crescând în anii 1970 și 1980, dacă nu erai interesat de politică, nu erai conștient sau treaz. Trăiam chiar atunci în Irlanda, care era încă dominată de o societate foarte regresivă dominată de biserici. Eram încă oamenii săraci ai Europei. Imigrația a fost la un nivel record; șomajul a fost la un nivel record. Și privind în străinătate, când am crescut ca student activist în anii optzeci, vreau să spun... Totul se întâmpla. Peste tot în lume, s-a simțit ca și cum ar exista schimbări tectonice în tot ceea ce se întâmpla.

Totul s-a simțit atât de important, până la punctul în care apocalipsa nucleară a fost ceva la care m-am gândit profund în anii '80 până la căderea Zidului Berlinului. Asta doar pentru a-ți da o idee despre cât de important a fost să fii în viață într-o perioadă de anxietate uriașă. Dar dacă ai avea o minte politică, de asemenea, de mare entuziasm și provocare.

Tulburări sociale la Londra

Liam: Și am citit bine că primul tău concert a fost în departamentul de publicitate al revistei Partidului Comunist din Marea Britanie?

Mark: Da, a fost un lucru amuzant. Pe atunci, erau mulți oameni de stânga care erau foarte pasionați de cultură și erau influențați de ceea ce se întâmpla cu Glasnost și Perestroika. A existat acest grup de oameni care ar fi fost numiți noua stângă sau euro-comuniști și am fost fascinat de acea revistă. Se numea Marxism Today.

Lucram într-o parcare și la McDonald's și mi s-a întâmplat să-mi hazardez brațul și să spun: „Hei, vreun tip care merge în marxism astăzi?” Și s-a dovedit că unul dintre locuri de muncă nici măcar nu era vânzarea reclamelor, ci colectarea reclamelor. Ar trebui să sun pe producătorii de granola și pe cei care produc futonuri și să facă publicitate sărbătorilor în Bulgaria și să-i ameninț ușor, cerând banii pe care s-au angajat să plătească pentru publicitate. Asta a fost vara la Londra în '87. Am să-i văd pe Red Wedge și Billy Bragg. Greva minerilor tocmai se terminase și exista un sentiment real că Thatcher era cea mai mare persoană de pe scena internațională.

„Pe vremea aceea, politica era în orice. Se simțea cam ca oxigenul care ne înconjura”

A trăi la Londra în ’87 și a fi parte dintr-o mișcare de stânga – nu neapărat un partid comunist, care era oarecum pe cale de ieșire – a fost o adevărată deschidere a ochilor pentru că eram un student radical. Am ajuns să fiu în locuri precum Congresul Sindicatelor și să întâlnesc unii dintre oamenii de ultimă oră care au creat cu adevărat schimbarea în Marea Britanie. De asemenea, am învățat cum să răsturn burgeri și să gătesc puiul perfect McNugget.

În aceeași vară din '87 a fost când campania IRA a fost la apogeu. Am lucrat în această parcare, iar una dintre sarcinile mele a fost să conduc, pe la 4:00 sau 5:00 dimineața, la Parcarea pe termen lung pentru a verifica dacă erau mașini acolo pentru mai mult de o săptămână pentru că se temeau. IRA urma să pună o bombă acolo. Și așa eram, un tânăr irlandez și coleg pakistanez, și amândoi eram responsabili să raportăm, la filialele speciale care veneau dimineața, ce mașini fuseseră acolo de prea mult timp. Din nou, doar o reamintire că politica era în toate în acel moment. Se simțea cam ca oxigenul care ne înconjura.

„Eram atât de tânăr încât, când mi-am luat marea slujbă la Washington, mi s-a spus să îmi crească mustața sau să port albastru, ceea ce se pare că te face să arăți mai bătrân.”

Liam: Uau, asta e nebun. Toate acestea au sens în ceea ce privește cariera ta în jurnalism și trecerea la Radiodifuzorul Național. Adică, ai mers aproape să lucrezi pentru postul național de radiodifuzor din Irlanda, imediat după facultate.

Mark: Eram atât de tânăr încât, atunci când mi-am luat marele loc de muncă la Washington, mi s-a spus să îmi crească mustața sau să port albastru, ceea ce se pare că te face să arăți mai bătrân. Ieșind din facultate, mi-am dat seama că nu vreau să fiu în politică. Nu eram deosebit de ideologic la sfârșitul zilei. Nu am fost partizan. Și am fost, așa cum spuneam, fascinat de schimbare. Am fost la DCU pentru a face un curs de jurnalism și, înainte ca acel curs să se termine, RTE făcea reclamă pentru ca oamenii să li se alăture, așa că am făcut-o.

În aproximativ 24 de ore, primul meu raport a fost despre o revoltă din închisoare din Phibsborough, nordul Dublinului. Eram deasupra unui acoperiș și trebuia să transmit știrile de la ora 6:00 pe un telefon mobil, ceea ce, credeți-mă, era o inovație tehnologică masivă la acea vreme. Am fost atât de rău încât, când m-am întors la birou, șeful meu a spus: „Nu mai asculta. Asta nu te va inspira pentru viitor.” Dar, în acea etapă, să vi se ofere șansa de a începe un raport pe probleme mari a fost un vis devenit realitate.

Un nou val de jurnalism

Liam: Cariera ta în jurnalism a durat aproape 20 de ani, nu-i așa?

Mark: Așa este.

Liam: Ce te-a determinat să renunți la jurnalism după o carieră de mare succes, fiind corespondent la Washington și prezentând Prime Time, una dintre marile emisiuni din Irlanda?

Mark: Ei bine, am început să realizez că lucrurile s-au schimbat, ca să folosesc o frază veche. Mijloacele de producere a jurnalismului și a știrilor se schimbaseră de la a fi o persoană ca mine, omul de la televiziune, care stătea în zonele de război. Îmi amintesc că am fost în Kandahar, în sudul Afganistanului, și a fost foarte frustrant pentru că stăteam acolo și ascultam pe cineva care interpreta pentru mine ceea ce se întâmpla pe teren. Și dintr-o dată, mi-am dat seama că vechea epocă de aur a jurnalismului era foarte nedemocratică. Erau oameni ca mine, paznicii, care le spuneau oamenilor de acasă care stăteau noaptea la o anumită oră să mă asculte, omul de la televiziune, le spunea ce este adevărat, ce este real.

„Ce s-ar întâmpla dacă am putea combina povestirea de modă veche, adevărul și jurnalismul cu această nouă trezire democratică revoluționară pe aceste platforme?”

În același timp, am văzut Twitter și YouTube apariția și îmi amintesc că au fost alegeri cu proteste în Iran în 2009. Fiecare corespondent străin are o poveste care le intră sub piele – Iranul a fost povestea mea. Îmi amintesc că am văzut tineri de 17 sau 18 ani folosind rețelele de socializare pentru a transmite cea mai viscerală și autentică raportare despre ceea ce se întâmpla și s-au gândit: „O, Doamne, asta va schimba totul”.

Majoritatea contemporanilor mei erau speriați și se temeau de această revoluție democratică. Dar am văzut această oportunitate. Ce s-ar întâmpla dacă am putea combina povestirea de modă veche, adevărul și jurnalismul cu această nouă trezire democratică revoluționară pe aceste platforme? Am așteptat cu nerăbdare 25 de ani și m-am gândit: „Dacă nu fac asta acum, voi regreta asta pentru tot restul vieții”. Trebuie să vă gândiți la ceea ce spune Talmudul, marele text religios evreiesc vechi, „Dacă nu eu, cine? Daca nu acum, atunci cand?" Am avut acel moment și nu era cale de întoarcere.

Liam: Deci ai plecat și ai creat Storyful. Îmi place marele slogan de la Storyful, „știri din zgomotul rețelelor sociale”. Cum a fost să treci de la jurnalism la înființarea unei afaceri?

Mark: Era ca și cum ai privi apa iarna. Te gândești: „Nu ar fi grozav să mergi la înot?” Și apoi sari înăuntru și ești paralizat de frig. Nu am putut să lucrăm cu un an în afacere cu Storyful. Am crezut că o să ieșim din afacere. A fost brutal. Mizasem totul în această afacere – reputația mea, toți banii mei și părea că iese din afacere.

„Secretul de a fi un mare antreprenor nu este supraviețuirea. Este rezistenta. Și eșecul este încorporat în model”

Îmi amintesc de un Ajunul Crăciunului, conducând să-mi văd familia și simțind greutatea lumii asupra mea, și mi-am dat seama că cel mai rău gând al meu: „O să ieșim din afacere, dar voi găsi un loc de muncă și mă voi recupera din asta. ” Și am învățat că atunci când vă confruntați cu cea mai mare frică, în special într-un startup timpuriu, nu vă va mai bântui niciodată pentru că v-ați confruntat cu ea. Asta e cel mai rău care se poate întâmpla.

Am început să realizez că, ca jurnalist, eram despre supraviețuire. Trebuia să fiu corespondent de război. Mi-am amintit de zile în care puteam să lucrez la o fracțiune de a fi ucis sau rănit, dar nu m-am gândit niciodată la reziliență, la ce se întâmplă când trebuie să te trezești în fiecare zi și este greu. Și asta a fost marea diferență. Secretul de a fi un mare antreprenor nu este supraviețuirea. Este rezistenta. Și eșecul este încorporat în model – este ceva cu care trebuie să-l suportați. A fost o adevărată schimbare de mentalitate. Au fost multe asemănări, dar a fost necesară o mare schimbare de mentalitate.

Liam: Cum a fost? Pentru că, după cum ai spus, mulți jurnalişti le era oarecum frică de asta. Dar aceasta este o formă complet nouă de jurnalism și probabil că nu o știam la momentul respectiv.

„Am început să dezvoltăm o colaborare cu oamenii de pe teren care au fost martori oculari ai istoriei”

Mark: Ei bine, am putut să vedem cum se întâmplă în practică, în timp ce oamenii încercau să o lucreze în teorie. De exemplu, în timpul revoltelor arabe, care au început în 2010 în Tunisia și au traversat Egipt și Siria, am văzut, în micul nostru startup din Irlanda, activiști democratici la fața locului care încercau să scoată povestea din locuri precum Alep. Au început să-și dea seama că îi urmăream și ar face lucruri precum înclinarea camerei în sus pentru a arăta un minaret, ceea ce ne-ar ajuta să geolocalizăm acea imagine. Ne-ar ajuta punând ziare și spunându-ne ce zi a fost și în ce locație se aflau. Și am început să dezvoltăm o colaborare cu oamenii de pe teren care au fost martori oculari ai istoriei.

Și, desigur, aduceam rigoare jurnalistică. Când Osama bin Laden a fost ucis în Pakistan, am fost imediat cu imagini din satelit pentru a analiza natura elicopterului care se prăbușise și aterizase în complex. Am putea direcționa jurnaliștii către locația fizică pentru că a fost atribuită incorect.

Această nouă formă de jurnalism cu sursă deschisă era democratică, deoarece sursele noastre primare erau oamenii de acolo și nu alți jurnaliști. Dar, în același timp, avea aceeași rigoare a jurnalismului de investigație pe care o aveam în ceea ce privește responsabilitatea. Nu a apărut întâmplător, dar cu siguranță nu ne-am propus să creăm o nouă formă de jurnalism. A evoluat organic din această trezire care a fost forța dominantă în primul val de social media. Astăzi, mulți dintre absolvenții Storyful lucrează în mari organizații de știri precum New York Times, CNN, BBC sau Washington Post și aduc acea nouă formă de jurnalism din care am făcut parte cu Storyful.

Armonizarea rețelelor sociale

Liam: În 2013, ați vândut Storyful către News Corp, v-ați mutat la New York pentru a ajuta la tranziție, dar în cele din urmă v-ați întors la Dublin pentru a prelua rolul de director general al Twitter, Dublin. Tânjeai după următorul mare lucru pe care să-l faci din spatele Storyful?

Mark: Nu chiar. Adică, când te gândești la asta, am avut o carieră lucrând pentru Marxism Today, Rupert Murdoch, Jack Dorsey și contribuabilul irlandez. Am avut o gamă destul de bună din, cel puțin, o perspectivă ideologică. Și vin de la Storyful foarte fascinat de Twitter. Mă îndrăgostisem de Twitter, îmi schimbase viața și îmi doream să intru în inima mașinii. Nu aveam chef să fac un alt startup. De fapt, i-am cerut unui alt contemporan de-al meu, un alt fondator de startup-uri media, permisiunea de a nu mai face acest lucru.

În acel stadiu, Twitter era o corporație destul de mare. Am vrut să văd dacă pot contribui la aducerea unor schimbări și energie în afacerile Twitter. De aceea am ales să fac asta. A fost o șansă reală să intru într-o platformă care a schimbat totul în afacerea mea pentru a vedea dacă aș putea avea un impact. Doar întâmplător a însemnat să vin din New York, unde eram foarte fericit, înapoi la Dublin, care s-a întâmplat să fie sediul internațional. Dar am vrut să iau o pauză din viața de startup și să văd cum ar arăta dacă aș fi într-o mare corporație.

„Am văzut multe dintre problemele pe care le-am observat în revoltele arabe, în care oamenii foloseau platformele sociale nu ca un instrument democratic, ci ca o armă”

Liam: De unde a iesit Kinzen? Se pare că s-a născut din flăcările lui Storyful, într-o anumită măsură.

Mark: S-a născut dintr-o frustrare față de acea mare corporație numită Twitter. Mi-a plăcut să lucrez acolo, dar nu a fost foarte bine condus. Și, în cele din urmă, echipa de parteneriat media a scăpat practic de. Aș fi putut rămâne într-o slujbă corporativă drăguță, dar, între timp, era 2016 și tocmai se întâmplaseră alegerile prezidențiale din SUA. Am văzut multe dintre problemele pe care le-am observat în prima lor încarnare în revoltele arabe, în care oamenii foloseau platformele sociale nu ca un instrument democratic, ci ca o armă. Ei foloseau viralitatea videoclipurilor din locuri precum YouTube și Twitter pentru a crea povești false care erau fie propagandă, fie teorii ale conspirației.

Primul val al internetului a fost o trezire democratică. Și atunci, când s-a întâmplat anul 2016, mi-am dat seama: „La dracu! Aceasta este transformată într-o armă.” Nu doar din cauza lui Donald Trump – au existat probleme mai profunde în care, dintr-o dată, viralitatea, modelul de afaceri și algoritmii au fost deturnate de oameni care se opuneau democrației. Acesta a fost locul de naștere și ideea care m-a determinat să mă întorc la Áine Kerr, care era colegul meu cel mai de încredere, care era la Facebook la acea vreme, și să spun: „Dacă am face ceva pentru a reda puterea cetățenilor, pentru a permite să se protejeze împotriva acestei amenințări emergente?” Și am sărit amândoi.

Ne-am propus, pentru început, să oferim oamenilor un flux de știri pe care să-l controleze, dar evident, pe măsură ce am mers mai departe, ca orice startup, ideea a evoluat. Primul val al democrației era înlocuit de o nouă forță întunecată pe internet și aceasta a fost inspirația din spatele Kinzen.

Liam: Pentru ascultătorii care nu știu, ce este Kinzen? Cine este utilizatorul Kinzen?

Mark: Ajutăm marile platforme tehnologice și platformele emergente să protejeze conversațiile lumii de riscurile informaționale. Și prin asta, ne referim la dezinformări periculoase care creează vătămări în lumea reală, dezinformare organizată și discursuri violente și pline de ură. Clienții noștri sunt profesioniști de încredere în siguranță, profesioniști în politici și oamenii din interiorul acestor companii care încearcă cu disperare să treacă înaintea acestor amenințări și riscuri informaționale în loc de verificarea reactivă a faptelor.

„Scalăm soluția umană pentru această criză specială a informațiilor”

Folosim o combinație de analiză umană bună de modă veche și etapele ulterioare ale învățării automate pentru a rezolva problema rea ​​cu care se confruntă aceste platforme. Acestea sunt, numărul unu, că oamenii nu le pot scala pentru a se potrivi cu problema și că mașinile nu au capacitatea de a detecta aceste riscuri de informații în mai multe limbi și mai multe formate diferite. Aceasta este problema pe care Kinzen încearcă să o rezolve. Credem soluția umană la această criză specială a informațiilor.

Liam: Deci, iei acele abilități editoriale de la Storyful și le codezi în mașini pentru a le oferi acele valori.

Mark: Exact. Urmăm o abordare umană și cea de învățare automată în buclă, care a devenit cu adevărat posibilă abia în ultimii doi ani de când am avut acces la aceste modele mari de limbaj. Analiștii noștri creează date care pot fi citite de mașină într-o varietate de limbi, care au fost introduse în mașină. Aparatul transcrie, traduce și încearcă să înțeleagă, iar datele umane îl ajută să învețe mai repede. Este o buclă frumoasă de feedback între un grup mic de experți și sisteme de învățare automată cu adevărat avansate, care sunt exponențial mai mari în capacitatea lor acum decât erau chiar acum patru ani.

Limitarea dezinformării

Liam: Cât de mare este amploarea dezinformării în acest moment?

„Problema cheie în acest moment nu este dacă oamenii spun ceva greșit pe internet; nu e vorba de dispute între oameni în privința politicii; nici măcar nu este vorba despre Donald Trump sau despre ce primește pe Twitter”

Mark: Ei bine, cred că ceea ce se întâmplă acum este că se înrăutățește înainte de a se îmbunătăți. Nu toată lumea online o va vedea, dar ceea ce se întâmplă în locurile în care dezinformarea și dezinformarea sunt deosebit de problematice este în locurile în care este vorba de viață sau de moarte. Chiar acum, în India, vedem niveluri de retorică aproape de genocid care vin de la susținătorii guvernului față de musulmani. Vedem extremiști organizați, grupuri de extremă dreaptă și neo-naziști în Europa folosind viralitatea acestor platforme pentru a-și răspândi mesajul.

Și, evident, vedem asta în teoriile conspirației despre subiecte de sănătate, nu doar COVID, ci și oameni care încearcă să promoveze gândirea conspirativă în conversațiile de masă. Problema cheie în acest moment nu este dacă oamenii spun ceva greșit pe internet; nu e vorba de dispute între oameni în privința politicii; nici măcar nu este vorba despre Donald Trump sau despre ce primește pe Twitter. Ceea ce ne uităm este multitudinea de limbi și amenințări în care există vătămări reale în lumea reală și, posibil, situații de viață sau de moarte.

În prezent, avem 13 limbi și în curând vom avea 26. Este în locuri precum Brazilia, care vor avea alegeri extrem de importante în octombrie, care ar putea fi o reluare a ceea ce s-a întâmplat în 2020 în Statele Unite. Mulți oameni cred că încercăm să rezolvăm ce este adevărat sau fals. Nu este vorba doar despre asta sau chiar în primul rând despre asta – este vorba despre locul în care putem opri să se întâmple ceva online care va avea un impact în lumea reală și, potențial, un impact pe viață sau pe moarte.

Liam: Ați menționat alegerile din Brazilia acolo și am auzit-o pe Áine Kerr pe un alt podcast vorbind despre actorii de dezinformare care și-au dat seama că expresii precum „fraudă electorală” și „alegeri trucate” îi alertau pe moderatorii de conținut care își puteau renunța afirmațiile false, așa că atunci acești actori au început să înlocuiască aceste expresii cu lucruri precum „Facem campanie pentru alegeri curate”. Și aici pot interveni moderatorii umani pentru a identifica aceste schimbări și pentru a ajuta autoritățile să intercepteze aceste mesaje.

„Vedem în mod constant că cuvintele sunt modificate și schimbate. Și, desigur, mașinile nu sunt capabile să țină pasul cu asta”

Mark: Asistăm la ceea ce numim ascensiunea „algospeak”, adică atunci când comunitățile realizează că pot exista algoritmi de moderare a conținutului care se uită la ceea ce spun și încearcă să evite acest lucru. În timpul pandemiei, am văzut activiști anti-vax folosind cuvântul panini în loc de pandemie. Cel mai recent, în Germania, am văzut comunitatea anti-vax folosind cuvântul ștrum pentru vaccin pentru că, în germană, pronunția acelui cuvânt seamănă foarte mult cu pronunția personajului TV pentru copii. Anul trecut, în Scandinavia, am văzut un grup neo-nazist schimbând un cuvânt asociat cu un festival tradițional pentru copii pentru a deveni o insultă rasială.

Constatăm că cuvintele sunt modificate și schimbate. Și, desigur, mașinile nu sunt capabile să țină pasul cu asta. Când se întâmplă ceva de genul pandemiei, brusc, toți acești termeni științifici vin în limba noastră. Mașina pur și simplu nu este prinsă, și aici este importantă analiza umană - pentru a corecta mașina.

Și așa, din ce în ce mai mult, în interiorul Kinzen, începem să vedem mașina reluând evoluția limbajului. Un cuvânt legat de altul. Ştrumf cu vaccin. Sau, de exemplu, în locuri precum India, vedem activiști anti-musulmani folosind cuvinte care pot părea total inofensive, dar putem vedea că fac parte dintr-un model de intimidare și discurs instigator la ură.

Acesta este motivul pentru care partea umană este atât de importantă. Nu pledăm pentru mai multă moderare a conținutului. Nu pledăm pentru legi sau interzicerea dezinformării. Cred că este o cale absolut greșită. Căutăm o moderare mai precisă a conținutului, care să poată alege acul din carul de fân care este periculos, permițând în același timp libertate maximă de exprimare. Și acesta este obiectivul pe termen lung pentru noi. Nu putem avea siguranță prin decret și guvernele care interzic conținutul. Trebuie să reproiectăm platformele, astfel încât mașinile și oamenii care lucrează în moderarea conținutului să devină mai exacti, mai precisi și mai oportuni pentru a depăși problema în loc să reacționeze la ea.

Un amestec de mașini și oameni

Liam: Dezinformarea este o problemă tehnologică, o problemă umană sau un pic din ambele?

Mark: Ascultă, aceasta este una dintre acele întrebări existențiale în care oamenii cred că tehnologia i-a făcut să o facă sau a făcut lumea prostească. Eu nu merg pentru asta. Rămân un evanghelist pentru potențialul democratic al tehnologiilor pe care acum le luăm de la sine înțeles sau încep să le displace intens. Modelul de afaceri și modul în care algoritmii au fost pregătiți inițial cu rețelele sociale profită de cele mai rele instincte ale noastre, dar cred că putem reproiecta această tehnologie pentru a ne elibera cele mai bune intenții. Și o parte din asta constă în a avea filtre mult mai bune pe care omul obișnuit le poate accesa atunci când navighează pe internet.

„Utilizatorul mediu va avea mai multă putere și precizie în moderarea conținutului”

În acest moment, lucrăm cu echipe de moderare centralizată în cadrul platformelor tehnologice. Presupun că, în următorii doi-trei ani, tot mai multe platforme vor încerca să descentralizeze puterea pentru ca omul obișnuit să își seteze filtrele. Ei pot spune: „Ascultă, nu vreau să aud limbaj extrem în feedul meu”, sau altcineva ar putea spune: „Ei bine, da. Vreau să văd ce gândește partea cealaltă.” Utilizatorul mediu va avea mai multă putere și precizie în moderarea conținutului. Dar va dura timp și suntem abia la început. Nu uitați, marile platforme care există astăzi vor fi înlocuite cu altele noi care sunt incubate de niște tineri de 17 ani chiar acum.

Trebuie să fim conștienți de unele evoluții care ar putea înrăutăți problema înainte ca acestea să se amelioreze. La Kinzen, suntem pionierii moderării conținutului audio. Am analizat modul în care dezinformarea, dezinformarea și discursul instigator la ură se răspândesc prin audio live și podcasturi. Și credem că stratul vorbit al internetului este un domeniu pe care trebuie să ne concentrăm cu grade ridicate de importanță pentru următorii doi ani.

Liam: Voiam să te întreb despre asta înainte să încheiem. Există doar nenumărate ore de sunet. Ce problemă vă prezintă ție și verificatorilor de fapte?

Mark: Este ca o furtună perfectă. Evident, cu audio live, ai viteza. Privind podcasturi, multe dintre acestea durează ore și ore. Și apoi, cea mai importantă și cea mai mare provocare este limba. Sunt mii de limbi vorbite. Dacă analizezi ceva în India, s-ar putea să asculți pe cineva vorbind în hindi, dar va sări în engleză din când în când. Ceea ce suntem foarte conștienți este că aici este locul în care învățarea automată este atât de fascinantă. Ai recunoaștere automată a vorbirii. Dar din nou, puteți modifica asta dacă știți ce căutați cu unele semnale umane. Putem permite modelului lingvistic să se îmbunătățească, să fie optimizat pentru a asculta nu doar sunetul unui cuvânt, ci și relația dintre limbi.

„Putem începe să asociam mașini și oameni pentru a interpreta semnificația limbajului și nu doar ceea ce spun ei, ci și cum o spun?”

Sunt jurnalist, nu? Nu sunt un tehnist prin antrenament. Multe dintre aceste lucruri mă fac să mă întreb în timp ce încerc să țin pasul cu ele. Dar cred că ceea ce este important pentru audio este că ne uităm la felul în care vorbesc oamenii; tonul vocii lor. Araba, de exemplu, este o singură limbă dacă o notați, dar mai multe dialecte atunci când o vorbiți. Și asta, pentru mine, este ceea ce este cel mai tulburător și, de asemenea, cel mai incitant. Putem începe să asociam mașini și oameni pentru a interpreta semnificația limbajului și nu doar ceea ce spun ei, ci și cum o spun? Aceasta este marea provocare a moderarii audio, dar cred, de asemenea, că este una dintre cele mai interesante provocări la care să lucrezi. Doar oamenii sunt capabili să detecteze lucruri precum ironia, sarcasmul, argoul sau „algovorbirea”. Și de aceea abordarea noastră nu este doar mai eficientă, ci și în cele din urmă mai democratică. Ne dorim cel mai mic tip de intervenție posibil, dar cel mai înalt nivel de precizie și aici este atât de vital amestecul de om și mașină.

Liam: Genial. Ei bine, Mark, mulțumesc foarte mult că mi-ai venit astăzi.

Mark: Liam, îmi face plăcere. Să o facem din nou în curând.