Mark Little, CEO da Kinzen, sobre a luta contra a desinformação

Nesta era de desinformação, fazendas de trolls, notícias falsas e discursos de ódio correm soltas, e a verdade é cada vez mais difícil de detectar. A moderação de conteúdo pode nos ajudar a proteger as comunidades online de suas consequências?

As notícias falsas não são um fenômeno recente, mas as plataformas de mídia social forneceram a câmara de eco perfeita para que apodreçam e se espalhem em uma magnitude sem precedentes e com consequências muito reais. Mas a verificação de fatos tradicional e os filtros de conteúdo automatizados não são páreo para o poder por trás da desinformação e da desinformação. Será necessária uma solução totalmente nova para resolver o problema, e Mark Little é uma das pessoas que lidera o ataque.

Mark é um premiado jornalista e inovador em mídia digital com uma carreira de mais de 20 anos na transmissão de notícias – desde sua primeira reportagem sobre um motim em uma prisão em Dublin, até sua premiada reportagem sobre o Afeganistão devastado pela guerra. Em 2010, depois de perceber como os jovens estavam usando as mídias sociais para relatar o que estava acontecendo, ele fundou a Storyful, a primeira agência de notícias de mídia social do mundo que combinava uma agência de notícias tradicional com conteúdo autenticado gerado pelo usuário. Em 2015, depois de vender a Storyful para a News Corp, Mark ingressou no Twitter como vice-presidente de mídia e parcerias do Twitter na Europa.

Um ano depois, Mark renunciou ao cargo ao perceber que uma nova ameaça estava surgindo – o que havia começado como uma onda democrática de despertar nas mídias sociais estava sendo corrompido. Os algoritmos e modelos de negócios por trás dessas plataformas estavam sendo armados para produzir e disseminar propaganda e teorias da conspiração. Juntamente com Áine Kerr, uma colega jornalista que, na época, gerenciava parcerias globais de jornalismo para o Facebook, ele começou a trabalhar em uma resposta a esse problema, e assim nasceu Kinzen.

“Para enfrentar o desafio, eles estão usando uma combinação de aprendizado de máquina e análise humana que pode escalar a resposta para um nível global”

Desde então, eles têm trabalhado para se antecipar a essa ameaça e proteger as comunidades online de desinformação perigosa e discurso de ódio que cria danos no mundo real. Para enfrentar o desafio, eles estão usando uma combinação de aprendizado de máquina e análise humana que pode escalar a resposta para um nível global. Mark continua otimista sobre o potencial democrático das redes de mídia social, mas é o primeiro a admitir que precisa desesperadamente de uma reformulação. E é aí que entra a moderação de conteúdo mais precisa.

No episódio de hoje, sentamos com Mark para falar sobre a evolução do jornalismo, o aumento da desinformação e o que podemos fazer para proteger as comunidades online de conteúdo nocivo.

Aqui estão alguns dos nossos tópicos favoritos da conversa:

• O fracasso está embutido no processo de iniciar seu próprio negócio. O segredo de ser um grande empreendedor não é a sobrevivência – é a resiliência.
• Nos últimos dois anos, vimos o surgimento do “algospeak”, que acontece quando as comunidades online mudam certas palavras para evitar serem sinalizadas por algoritmos de moderação de conteúdo.
• Mark não defende uma legislação que proíba a desinformação, mas sim uma moderação de conteúdo mais precisa que detecta conteúdo nocivo enquanto permite a máxima liberdade de expressão.
• Nos próximos anos, Mark acredita que mais plataformas tentarão descentralizar o poder para que as pessoas definam seus próprios filtros para o que desejam ver online.
• Ao combinar análise humana e aprendizado de máquina, eles podem detectar coisas como ironia, gíria ou “algosfala” e escalá-las em nível global.

Se você gosta de nossa discussão, confira mais episódios do nosso podcast. Você pode seguir no iTunes, Spotify, YouTube ou pegar o feed RSS no player de sua escolha. O que se segue é uma transcrição levemente editada do episódio.

Despertar político

Liam Geraghty: Mark, muito obrigado por se juntar a nós. Você é muito bem-vindo ao show.

Mark Little: Prazer, Liam. Obrigado por me receber.

Liam: Você teve uma jornada notável até este ponto antes de fundar a Kinzen. De onde veio o seu interesse pelo jornalismo?

“Eu estava obcecado com a forma como o mundo funcionava e por que certas pessoas pareciam ver ao virar da esquina o que iria acontecer a seguir”

Mark: Bem, eu era uma daquelas crianças muito precoces. Com talvez seis ou sete anos, eu costumava lutar pelo The Irish Times de manhã com meu pai. E por volta dos nove ou 10 anos, percebi que nunca tive talento natural suficiente para ser minha verdadeira paixão, que era ser centroavante do Liverpool. E, basicamente, a única coisa que eu lembro de recorrer foi o que alguém, suponho que meu professor de religião, apontou para mim em um boletim quando eu tinha cerca de 14 anos. Ele disse que eu era prematuramente cínico, tinha uma curiosidade feroz sobre o mundo, um certo ceticismo e uma paixão pela mudança.

Eu estava obcecado com a forma como o mundo funcionava e por que certas pessoas pareciam ver ao virar da esquina o que iria acontecer a seguir na política ou nos negócios. E esse foi o núcleo que começou com o jornalismo e meio que permaneceu comigo durante toda a minha carreira.

Liam: A política era grande na sua família?

Marco: Com certeza. Estava na frente e no centro. Crescendo nas décadas de 1970 e 1980, se você não estava interessado em política, você não estava ciente ou acordado. Estávamos vivendo na Irlanda naquele momento, que ainda era dominada por uma sociedade muito regressiva e dominada pela igreja. Ainda éramos os pobres da Europa. A imigração atingiu um recorde; o desemprego atingiu um recorde. E olhando para o exterior, quando eu crescia como ativista estudantil nos anos 80, quero dizer... Tudo estava acontecendo. Em todo o mundo, parecia que havia mudanças tectônicas em tudo o que estava acontecendo.

Tudo parecia tão conseqüente ao ponto em que o apocalipse nuclear era algo que eu pensava profundamente nos anos 80 até a queda do Muro de Berlim. Isso é apenas para lhe dar uma noção de como era importante estar vivo em um período de grande ansiedade. Mas se você tivesse uma mentalidade política, de grande entusiasmo e desafio, também.

Agitação social em Londres

Liam: E eu li certo que seu primeiro show foi no departamento de publicidade da revista do Partido Comunista no Reino Unido?

Mark: Sim, foi uma coisa engraçada. Naquela época, havia muitas pessoas de esquerda que gostavam muito de cultura e eram influenciadas pelo que estava acontecendo com a Glasnost e a Perestroika. Havia esse grupo de pessoas que seriam chamadas de nova esquerda ou de eurocomunistas, e eu fiquei fascinado com aquela revista. Chamava-se Marxismo Hoje.

Eu estava trabalhando em um estacionamento e no McDonald's, e por acaso arrisquei meu braço e disse: “Ei, algum cara indo no Marxism Today?” E descobriu-se que um dos trabalhos não era nem vender a publicidade – era recolher a publicidade. Eu teria que ligar para produtores de granola e pessoas que produzem futons e propagandas de feriados na Bulgária e ameaçá-los levemente, exigindo o dinheiro que eles prometeram pagar pela publicidade. Isso foi no verão em Londres em 1987. Eu tenho que ver Red Wedge e Billy Bragg. A greve dos mineiros acabara de terminar e havia uma sensação real de que Thatcher era a maior pessoa do cenário internacional.

“A política estava em tudo naquela época. Parecia o oxigênio que nos cercava”

Morar em Londres em 1987 e fazer parte de um movimento de esquerda – não necessariamente um partido comunista, que estava meio que saindo – foi uma grande revelação porque eu era um estudante radical. Eu estive em lugares como o Trades Union Congress e conheci algumas das pessoas de ponta que realmente criaram mudanças na Grã-Bretanha. Também aprendi a virar hambúrgueres e cozinhar o McNugget de frango perfeito.

Naquele mesmo verão em 1987 foi quando a campanha do IRA estava no auge. Trabalhei neste estacionamento, e um dos meus trabalhos era dirigir por aí, por volta das 4h ou 5h da manhã, o Long Term Car Park para verificar se havia carros lá por mais de uma semana porque temiam o IRA ia plantar uma bomba lá. E lá estava eu, um jovem irlandês e colega paquistanês, e nós dois éramos responsáveis ​​por relatar, às agências especiais que vinham pela manhã, quais carros estavam lá há muito tempo. Mais uma vez, apenas um lembrete de que a política estava em tudo naquela época. Parecia o oxigênio que nos cercava.

“Eu era tão jovem que, quando consegui meu grande emprego em Washington, me disseram para talvez deixar um bigode ou usar azul, o que aparentemente faz você parecer mais velho”

Liam: Uau, isso é loucura. Tudo isso faz sentido em termos de sua carreira no jornalismo e na mudança para a National Broadcaster. Quero dizer, você praticamente foi trabalhar para a National Broadcaster na Irlanda logo após a faculdade.

Mark: Eu era tão jovem que quando consegui meu grande emprego em Washington, me disseram para deixar um bigode ou usar azul, o que aparentemente faz você parecer mais velho. Saindo da faculdade, percebi que não queria estar na política. Eu não era particularmente ideológico no final do dia. Eu não era partidário. E eu era, como digo, fascinado pela mudança. Eu fui para a DCU fazer um curso de jornalismo, e antes mesmo desse curso terminar, a RTE estava fazendo propaganda para as pessoas se juntarem a eles, então eu fiz.

Em cerca de 24 horas, meu primeiro relato foi de um motim na prisão de Phibsborough, norte de Dublin. Eu estava em cima de um telhado e tive que transmitir o noticiário das 6 horas em um celular, o que, acredite, foi uma grande inovação tecnológica na época. Eu estava tão mal que, quando voltei ao escritório, meu chefe disse: “Não dê ouvidos a isso. Isso não vai te inspirar para o futuro.” Mas, naquela fase, ter a chance de começar um relatório sobre grandes questões foi um sonho tornado realidade.

Uma nova onda de jornalismo

Liam: Sua carreira no jornalismo durou quase 20 anos, estou certo?

Marcos: Isso mesmo.

Liam: O que o levou a deixar o jornalismo depois de uma carreira de enorme sucesso, sendo correspondente em Washington e apresentando o Prime Time, um dos grandes shows da Irlanda?

Mark: Bem, comecei a perceber que as coisas haviam mudado, para usar uma frase antiga. Os meios de produção do jornalismo e das notícias haviam mudado de ser uma pessoa como eu, o homem da televisão, de pé em zonas de guerra. Lembro-me de estar em Kandahar, no sul do Afeganistão, e foi muito frustrante porque eu estava sentado lá ouvindo alguém interpretando para mim o que estava acontecendo no terreno. E de repente, percebi que a idade de ouro do jornalismo era muito antidemocrática. Eram pessoas como eu, os porteiros, dizendo às pessoas em casa que se sentavam em determinada hora da noite para me ouvir, o homem na televisão, dizendo a elas o que era verdade, o que era real.

“O que aconteceria se pudéssemos combinar a narrativa antiquada, a verdade e o jornalismo com esse novo e revolucionário despertar democrático nessas plataformas?”

Ao mesmo tempo, vi o Twitter e o YouTube surgindo, e lembro que foi uma eleição protestada no Irã em 2009. Todo correspondente estrangeiro tem uma história que os irrita – o Irã era a minha história. Lembro-me de assistir a jovens de 17 ou 18 anos usando as mídias sociais para fornecer as reportagens mais viscerais e autênticas do que estava acontecendo e pensar: “Oh meu Deus, isso vai mudar tudo”.

A maioria dos meus contemporâneos estava assustada e temerosa dessa revolução democrática. Mas eu vi essa oportunidade. O que aconteceria se pudéssemos combinar a narrativa antiquada, a verdade e o jornalismo com esse novo e revolucionário despertar democrático nessas plataformas? Eu esperei 25 anos e pensei: “Se eu não fizer isso agora, vou me arrepender pelo resto da minha vida”. Você tem que pensar sobre o que o Talmud, o grande e antigo texto religioso judaico, diz: “Se não eu, quem? Se não agora, quando?" Eu tive aquele momento e não havia como voltar atrás.

Liam: Então você saiu e criou Storyful. Adoro o ótimo slogan da Storyful, “notícias do barulho das mídias sociais”. Como foi passar do jornalismo para fundar um negócio?

Mark: Foi como observar a água no inverno. Você pensa: “Não seria ótimo dar um mergulho?” E então você pula e fica paralisado pelo frio. Não poderíamos levantar um ano para o empreendimento com a Storyful. Achei que íamos falir. Foi brutal. Eu havia apostado tudo nesse empreendimento – minha reputação, todo o meu dinheiro, e parecia que estava falindo.

“O segredo de ser um grande empreendedor não é a sobrevivência. É resiliência. E o fracasso está embutido no modelo”

Lembro-me de uma véspera de Natal, dirigindo para ver minha família e sentindo o peso do mundo sobre mim, e percebi meu pior pensamento: “Vamos fechar o negócio, mas vou conseguir um emprego e me recuperar disso. ” E aprendi que quando você enfrenta seu pior medo, principalmente em uma startup, ele nunca mais vai te assombrar porque você o enfrentou. Isso é o pior que pode acontecer.

Comecei a perceber que, como jornalista, eu era sobre sobrevivência. Eu tinha que ser um correspondente de guerra. Lembrei-me de dias em que podia trabalhar na fração de morrer ou ferido, mas nunca tinha pensado em resiliência, no que acontece quando você tem que se levantar todos os dias e é difícil. E essa foi a grande diferença. O segredo de ser um grande empreendedor não é a sobrevivência. É resiliência. E o fracasso está embutido no modelo – é algo que você tem que aguentar. Foi uma verdadeira mudança de mentalidade. Havia muitas semelhanças, mas havia uma grande mudança de mentalidade necessária.

Liam: Como foi? Porque, como você disse, muitos jornalistas estavam com medo disso. Mas esta é uma forma inteiramente nova de jornalismo, e provavelmente não sabíamos disso na época.

“Começamos a desenvolver uma colaboração com as pessoas no terreno que foram testemunhas oculares da história”

Mark: Bem, podíamos ver isso acontecendo na prática enquanto as pessoas tentavam trabalhar na teoria. Por exemplo, durante os levantes árabes, que começaram em 2010 na Tunísia e passaram pelo Egito e Síria, estávamos vendo, em nossa pequena startup na Irlanda, ativistas democráticos no terreno tentando divulgar a história de lugares como Aleppo. Eles começaram a perceber que estávamos os observando e faziam coisas como inclinar a câmera para mostrar um minarete, o que nos ajudaria a geolocalizar aquela imagem. Eles nos ajudavam colocando jornais e nos dizendo que dia era e em que local eles estavam. E começamos a desenvolver uma colaboração com as pessoas no terreno que eram testemunhas oculares da história.

E, claro, estávamos trazendo rigor jornalístico. Quando Osama bin Laden foi morto no Paquistão, recebemos imediatamente imagens de satélite para analisar a natureza do helicóptero que caiu e pousou no complexo. Poderíamos direcionar os jornalistas para o local físico porque foi atribuído incorretamente.

Essa nova forma de jornalismo de código aberto era democrática porque nossas fontes primárias eram pessoas ali mesmo e não outros jornalistas. Mas, ao mesmo tempo, tinha o mesmo rigor do jornalismo investigativo que tínhamos na prestação de contas. Não surgiu por acaso, mas certamente não planejamos criar uma nova forma de jornalismo. Evoluiu organicamente a partir desse despertar que foi a força dominante na primeira onda das mídias sociais. Hoje, muitos dos ex-alunos do Storyful estão trabalhando em grandes organizações de notícias como o New York Times, CNN, BBC ou Washington Post, e estão trazendo essa nova forma de jornalismo da qual fazíamos parte com o Storyful.

Armamento das redes sociais

Liam: Em 2013, você vendeu a Storyful para a News Corp, mudou-se para Nova York para ajudar na transição, mas acabou voltando para Dublin para assumir o cargo de diretor administrativo no Twitter, Dublin. Você estava ansiando pela próxima grande coisa a fazer na parte de trás do Storyful?

Marcos: Na verdade não. Quero dizer, quando você pensa sobre isso, eu tive uma carreira trabalhando para Marxism Today, Rupert Murdoch, Jack Dorsey e o contribuinte irlandês. Eu tinha um alcance muito bom, pelo menos, de uma perspectiva ideológica. E eu venho de Storyful realmente fascinado pelo Twitter. Eu me apaixonei pelo Twitter, ele mudou minha vida e eu queria entrar no coração da máquina. Eu não tinha vontade de fazer outra startup. Na verdade, pedi permissão a outro contemporâneo meu, outro fundador de startup de mídia, para não fazer isso novamente.

Naquela fase, o Twitter era uma corporação bastante grande. Eu queria ver se eu poderia ajudar a trazer alguma mudança e energia para o negócio do Twitter. Por isso escolhi fazer isso. Foi uma chance real de entrar em uma plataforma que mudou tudo no meu negócio para ver se eu poderia ter um impacto. Foi apenas por acaso que isso significou vir de Nova York, onde eu estava muito feliz, de volta a Dublin, que por acaso era a sede internacional. Mas eu queria fazer uma pausa na vida de startup e ver como seria se eu estivesse dentro de uma grande corporação.

“Eu tinha visto muitos dos problemas que identificamos nas revoltas árabes, onde as pessoas estavam usando as plataformas sociais não como uma ferramenta democrática, mas como uma arma”

Liam: De onde Kinzen saiu? Parece nascer das chamas de Storyful, até certo ponto.

Mark: Nasceu de uma frustração com aquela grande corporação chamada Twitter. Eu adorava trabalhar lá, mas não era particularmente bem administrado. E, no final, a equipe de parceria de mídia basicamente se livrou. Eu poderia ter ficado em um bom emprego corporativo, mas enquanto isso, era 2016 e a eleição presidencial dos EUA tinha acabado de acontecer. Eu tinha visto muitos dos problemas que havíamos identificado em sua primeira encarnação nas revoltas árabes, onde as pessoas estavam usando as plataformas sociais não como uma ferramenta democrática, mas como uma arma. Eles estavam usando a viralidade do vídeo em lugares como YouTube e Twitter para criar histórias falsas que eram propaganda ou teorias da conspiração.

A primeira onda da internet foi um despertar democrático. E então, quando 2016 aconteceu, eu percebi: “Puta merda! Isso está sendo transformado em uma arma.” Não apenas por causa de Donald Trump – havia questões mais profundas em que, de repente, a viralidade, o modelo de negócios e os algoritmos estavam sendo sequestrados por pessoas que se opunham à democracia. Esse foi o berço e a ideia que me levou a voltar para Áine Kerr, que era minha colega de maior confiança, que estava no Facebook na época, e dizer: “E se fizéssemos algo para devolver o poder aos cidadãos, para permitir que para se protegerem dessa ameaça emergente?” E nós dois pulamos.

Nós nos propusemos, para começar, dar às pessoas um feed de notícias que elas pudessem controlar, mas obviamente, à medida que avançamos, como toda startup, a ideia evoluiu. A primeira onda de democracia estava sendo substituída por uma nova força obscura na internet e essa foi a inspiração por trás de Kinzen.

Liam: Para os ouvintes que não sabem, o que é Kinzen? Quem é o usuário do Kinzen?

Mark: Ajudamos grandes plataformas de tecnologia e plataformas emergentes a proteger as conversas do mundo contra riscos de informação. E com isso, queremos dizer desinformação perigosa que cria danos no mundo real, desinformação organizada e discurso de ódio e violência. Nossos clientes são profissionais de segurança confiáveis, profissionais de políticas e as pessoas dentro dessas empresas que tentam desesperadamente se antecipar a essas ameaças e riscos de informações em vez de checagem reativa de fatos.

“Estamos escalando a solução humana para essa crise de informação específica”

Estamos usando uma combinação da boa e antiquada análise humana e os estágios posteriores do aprendizado de máquina para resolver o problema perverso que essas plataformas enfrentam. Estes são, em primeiro lugar, que os humanos não podem escalar para corresponder ao problema e que as máquinas não têm a capacidade de detectar esses riscos de informações em vários idiomas e vários formatos diferentes. Esse é o problema que Kinzen está tentando resolver. Estamos escalando a solução humana para essa crise de informação em particular.

Liam: Então, você está pegando essas habilidades editoriais do Storyful e codificando-as nas máquinas para dar a elas esses valores.

Marcos: Exatamente. Seguimos uma abordagem de aprendizado de máquina humano e de loop, que só se tornou possível nos últimos dois anos desde que tivemos acesso a esses grandes modelos de linguagem. Nossos analistas estão criando dados legíveis por máquina em vários idiomas, que foram inseridos na máquina. A máquina está transcrevendo, traduzindo e tentando entender, e os dados humanos estão ajudando a aprender mais rápido. É um belo ciclo de feedback entre um pequeno grupo de especialistas e sistemas de aprendizado de máquina realmente avançados que são exponencialmente maiores em sua capacidade agora do que eram há quatro anos.

Combatendo a desinformação

Liam: Quão grande é a escala de desinformação no momento?

“A questão chave agora não é se as pessoas estão dizendo a coisa errada na internet; não se trata de disputas entre pessoas sobre política; não é nem sobre Donald Trump ou o que ele recebe no Twitter”

Mark: Bem, acho que o que está acontecendo agora é que está piorando antes de melhorar. Nem todo mundo online vai ver, mas o que está acontecendo nos lugares onde a desinformação e a desinformação são particularmente problemáticas é em lugares onde é vida ou morte. Neste momento, na Índia, vemos níveis de retórica quase genocidas vindos de partidários do governo em relação aos muçulmanos. Estamos vendo extremistas organizados, grupos de extrema direita e neonazistas na Europa usando a viralidade dessas plataformas para espalhar sua mensagem.

E, obviamente, estamos vendo isso em teorias da conspiração em torno de tópicos de saúde, não apenas COVID, mas pessoas tentando promover o pensamento conspiratório em conversas convencionais. A questão chave agora não é se as pessoas estão dizendo a coisa errada na internet; não se trata de disputas entre pessoas sobre política; não é nem sobre Donald Trump ou o que ele recebe no Twitter. O que estamos vendo é a multiplicidade de linguagens e ameaças onde há danos reais no mundo real e possivelmente situações de vida ou morte.

Temos atualmente 13 idiomas e em breve teremos 26. É em lugares como o Brasil, que terá uma eleição de grande repercussão em outubro que pode ser uma reprise do que aconteceu em 2020 nos Estados Unidos. Muitas pessoas pensam que estamos tentando descobrir o que é verdadeiro ou falso. Não é apenas sobre isso ou principalmente sobre isso – é sobre onde podemos impedir que algo aconteça online que tenha um impacto no mundo real e, potencialmente, um impacto de vida ou morte.

Liam: Você mencionou as eleições brasileiras lá, e eu ouvi Áine Kerr em outro podcast falando sobre atores de desinformação percebendo que frases como “fraude eleitoral” e “eleição fraudada” estavam alertando moderadores de conteúdo que poderiam derrubar suas falsas alegações, então esses atores começaram a substituir essas frases por coisas como “Estamos fazendo campanha por eleições limpas”. E é aí que os moderadores humanos podem entrar para identificar essas mudanças e ajudar as autoridades a interceptar essas mensagens.

“Estamos constantemente vendo palavras sendo corrigidas e alteradas. E, claro, as máquinas não conseguem acompanhar isso”

Mark: Estamos vendo o que chamamos de “algospeak”, que é quando as comunidades percebem que pode haver algoritmos de moderação de conteúdo analisando o que estão dizendo e estão tentando evitá-lo. Durante a pandemia, vimos ativistas antivacinas usando a palavra panini em vez de pandemia. Mais recentemente, na Alemanha, vimos a comunidade antivacina usando a palavra smurf para vacina porque, em alemão, a pronúncia dessa palavra soa muito parecida com a pronúncia do personagem infantil da TV. No ano passado, na Escandinávia, vimos um grupo neonazista mudar uma palavra associada a um tradicional festival infantil para se tornar um insulto racial.

Estamos constantemente vendo palavras sendo corrigidas e alteradas. E, claro, as máquinas não são capazes de acompanhar isso. Quando algo como a pandemia acontece, de repente, temos todos esses termos científicos entrando em nossa linguagem. A máquina simplesmente não é apanhada, e é aí que a análise humana é importante – para corrigir a máquina.

E assim, cada vez mais, dentro do Kinzen, estamos começando a ver a máquina captando a evolução da linguagem. Uma palavra ligada a outra. Smurf com vacina. Ou, por exemplo, em lugares como a Índia, vemos ativistas antimuçulmanos usando palavras que podem parecer totalmente inócuas, mas podemos ver que fazem parte de um padrão de intimidação e discurso de ódio.

É por isso que a parte humana é tão importante. Não defendemos mais moderação de conteúdo. Não defendemos leis nem proibimos informações falsas. Eu acho que é absolutamente o caminho errado a seguir. Estamos procurando uma moderação de conteúdo mais precisa que possa pegar a agulha no palheiro que é perigosa, permitindo máxima liberdade de expressão. E esse é o objetivo de longo prazo para nós. Não podemos ter segurança por decreto e governos banindo conteúdo. Precisamos redesenhar as plataformas para que as máquinas e os humanos que trabalham com moderação de conteúdo sejam mais exatos, mais precisos e mais oportunos para se antecipar ao problema em vez de reagir a ele.

Uma mistura de máquinas e humanos

Liam: A desinformação é um problema técnico, um problema humano ou um pouco dos dois?

Mark: Ouça, essa é uma daquelas questões existenciais em que as pessoas pensam que a tecnologia as fez fazer isso ou tornou o mundo burro. Eu não vou para isso. Continuo um evangelista do potencial democrático das tecnologias que agora tomamos como certas ou começamos a não gostar intensamente. O modelo de negócios e a maneira como os algoritmos foram preparados inicialmente com as mídias sociais tiram vantagem de nossos piores instintos, mas acho que podemos redesenhar essa tecnologia para liberar nossas melhores intenções. E parte disso é ter filtros muito melhores que a pessoa comum pode acessar quando navega na internet.

“O usuário médio terá mais poder e precisão na moderação de conteúdo”

No momento, trabalhamos com equipes de moderação centralizadas dentro das plataformas de tecnologia. Meu palpite é que, nos próximos dois a três anos, mais e mais plataformas tentarão descentralizar o poder para a pessoa comum definir seus filtros. Eles podem dizer: “Olha, eu não quero ouvir linguagem extrema no meu feed”, ou alguém pode dizer: “Bem, eu quero. Quero ver o que o outro lado está pensando.” O usuário médio terá mais poder e precisão na moderação de conteúdo. Mas vai levar tempo, e estamos apenas no começo. Lembre-se, as grandes plataformas que existem hoje serão substituídas por novas que estão sendo incubadas por alguns jovens de 17 anos agora.

Temos que estar cientes de alguns desenvolvimentos que podem piorar o problema antes que eles melhorem. Na Kinzen, somos pioneiros na moderação de conteúdo de áudio. Estamos analisando a maneira como a desinformação, a desinformação e o discurso de ódio se espalham por meio de áudio e podcasts ao vivo. E achamos que a camada falada da internet é uma área na qual precisamos nos concentrar com alto grau de importância nos próximos dois anos.

Liam: Eu ia te perguntar sobre isso antes de encerrarmos. Há apenas incontáveis ​​horas de áudio. Que problema isso está apresentando a você e aos verificadores de fatos?

Mark: É como uma tempestade perfeita. Obviamente, com áudio ao vivo, você tem a velocidade. Olhando para podcasts, muitos deles têm horas e horas de duração. E então, o maior e mais importante desafio é o idioma. Existem milhares de línguas faladas. Se você está analisando algo na Índia, pode estar ouvindo alguém falando em hindi, mas eles vão pular para o inglês de vez em quando. O que estamos muito conscientes é que é aqui que o aprendizado de máquina é tão fascinante. Você tem reconhecimento automático de fala. Mas, novamente, você pode ajustar isso se souber o que está procurando com alguns sinais humanos. Podemos permitir que o modelo de linguagem melhore, seja otimizado para ouvir não apenas o som de uma palavra, mas a relação entre os idiomas.

“Podemos começar a emparelhar máquinas e humanos para interpretar o significado da linguagem, e não apenas o que eles estão dizendo, mas como eles estão dizendo?”

Eu sou jornalista, certo? Eu não sou um técnico por formação. Muitas dessas coisas me fazem pensar enquanto tento acompanhá-las. Mas acho que o importante para o áudio é que estamos atentos à maneira como as pessoas falam; seu tom de voz. O árabe, por exemplo, é um idioma se você o escrever, mas vários dialetos quando você o fala. E isso, para mim, é o mais preocupante e também o mais emocionante. Podemos começar a emparelhar máquinas e humanos para interpretar o significado da linguagem, e não apenas o que eles estão dizendo, mas como eles estão dizendo? Esse é o grande desafio da moderação de áudio, mas também acho que é um dos desafios mais empolgantes para se trabalhar. Apenas humanos são capazes de detectar coisas como ironia, sarcasmo, gíria ou “algosfala”. E é por isso que nossa abordagem não é apenas mais eficaz, mas, em última análise, mais democrática. Queremos o menor tipo de intervenção possível, mas o mais alto nível de precisão, e é aí que a mistura de humano e máquina é tão vital.

Liam: Brilhante. Bem, Mark, muito obrigado por se juntar a mim hoje.

Mark: Liam, é um prazer. Vamos fazer de novo em breve.