El CEO de Kinzen, Mark Little, sobre la lucha contra la desinformación

En esta era de la desinformación, las granjas de trolls, las noticias falsas y los discursos de odio se vuelven locos, y la verdad es cada vez más difícil de detectar. ¿Puede la moderación de contenido ayudarnos a proteger a las comunidades en línea de sus consecuencias?

Las noticias falsas no son un fenómeno reciente, pero las plataformas de redes sociales han proporcionado la cámara de eco perfecta para que se propaguen y propaguen a una magnitud sin precedentes y con consecuencias muy reales. Pero la verificación de hechos tradicional y los filtros de contenido automatizados no son rival para el poder detrás de la desinformación y la información errónea. Se necesitará una solución completamente nueva para abordar el problema, y ​​Mark Little es una de las personas que lidera el cambio.

Mark es un periodista galardonado e innovador de medios digitales con una carrera en la transmisión de noticias que abarca más de 20 años, desde su primer informe sobre un motín en una prisión en Dublín, hasta su reportaje galardonado sobre el Afganistán devastado por la guerra. En 2010, después de notar cómo los jóvenes usaban las redes sociales para informar lo que estaba sucediendo, fundó Storyful, el primer canal de noticias de redes sociales del mundo que combinaba una agencia de noticias tradicional con contenido autenticado generado por usuarios. En 2015, después de vender Storyful a News Corp, Mark se unió a Twitter como vicepresidente de medios y asociaciones de Twitter en Europa.

Un año después, Mark renunció a su cargo cuando se dio cuenta de que estaba surgiendo una nueva amenaza: lo que había comenzado como una ola democrática de despertar en las redes sociales estaba siendo corrompido. Los algoritmos y modelos comerciales detrás de estas plataformas se estaban utilizando como armas para producir y difundir teorías de conspiración y propaganda. Junto con Áine Kerr, una colega periodista que, en ese momento, administraba asociaciones de periodismo global para Facebook, comenzó a trabajar en una respuesta a ese problema, y ​​nació Kinzen.

“Para enfrentar el desafío, están utilizando una combinación de aprendizaje automático y análisis humano que puede escalar la respuesta a un nivel global”

Desde entonces, han estado trabajando para adelantarse a esta amenaza y proteger a las comunidades en línea de la desinformación peligrosa y el discurso de odio que crea daños en el mundo real. Para enfrentar el desafío, están utilizando una combinación de aprendizaje automático y análisis humano que puede escalar la respuesta a un nivel global. Mark sigue siendo optimista sobre el potencial democrático de las redes sociales, pero es el primero en admitir que necesita desesperadamente un rediseño. Y ahí es donde entra en juego una moderación de contenido más precisa.

En el episodio de hoy, nos sentamos con Mark para hablar sobre la evolución del periodismo, el aumento de la desinformación y lo que podemos hacer para proteger a las comunidades en línea del contenido dañino.

Estas son algunas de nuestras conclusiones favoritas de la conversación:

• El fracaso está integrado en el proceso de iniciar su propio negocio. El secreto de ser un gran emprendedor no es la supervivencia, es la resiliencia.
• En los últimos dos años, hemos visto el surgimiento de "algolenguaje", que ocurre cuando las comunidades en línea cambian ciertas palabras para evitar que los algoritmos de moderación de contenido los marquen.
• Mark no aboga por una legislación que prohíba la desinformación, sino por una moderación de contenido más precisa que detecte contenido dañino y permita la máxima libertad de expresión.
• En los próximos años, Mark cree que más plataformas intentarán descentralizar el poder para que las personas configuren sus propios filtros para lo que quieren ver en línea.
• Al combinar el análisis humano y el aprendizaje automático, pueden detectar cosas como la ironía, la jerga o el "lenguaje algorítmico" y escalarlo a nivel global.

Si disfruta de nuestra discusión, vea más episodios de nuestro podcast. Puede seguir en iTunes, Spotify, YouTube o tomar la fuente RSS en su reproductor de elección. Lo que sigue es una transcripción ligeramente editada del episodio.

Despertar político

Liam Geraghty: Mark, muchas gracias por acompañarnos. Eres muy bienvenido al espectáculo.

Mark Little: Un placer, Liam. Gracias por invitarme.

Liam: Has tenido un viaje extraordinario hasta este punto antes de fundar Kinzen. ¿De dónde surge su interés por el periodismo?

“Estaba obsesionado con cómo funcionaba el mundo y por qué ciertas personas parecían ver a la vuelta de la esquina lo que iba a suceder a continuación”

Mark: Bueno, yo era uno de esos niños muy precoces. A la edad de unos seis o siete años, solía pelear por las mañanas con mi padre para The Irish Times. Y alrededor de los nueve o diez años, me di cuenta de que nunca tuve el talento natural suficiente para ser mi verdadera pasión, que era ser el delantero centro del Liverpool. Y básicamente, recuerdo que recurrí a lo que alguien, supongo que mi profesor de religión, me señaló en una boleta de calificaciones cuando tenía unos 14 años. Dijo que yo era prematuramente cínico, tenía una feroz curiosidad por el mundo, cierto escepticismo y pasión por el cambio.

Estaba obsesionado con cómo funcionaba el mundo y por qué ciertas personas parecían ver a la vuelta de la esquina lo que sucedería a continuación en la política o los negocios. Y ese fue el núcleo que comenzó con el periodismo y se quedó conmigo a lo largo de mi carrera.

Liam: ¿La política era importante en tu familia?

Marcos: Absolutamente. Estaba al frente y al centro. Al crecer en las décadas de 1970 y 1980, si no estabas interesado en la política, no estabas consciente o despierto. Vivíamos en Irlanda en ese momento, que todavía estaba dominada por una sociedad dominada por la iglesia muy regresiva. Todavía éramos los pobres de Europa. La inmigración estaba en un nivel récord; el desempleo estaba en un nivel récord. Y mirando hacia el extranjero, cuando crecía como activista estudiantil en los años ochenta, quiero decir... Todo estaba pasando. En todo el mundo, se sentía como si hubiera cambios tectónicos en todo lo que estaba pasando.

Todo se sintió tan consecuente hasta el punto en que el apocalipsis nuclear fue algo en lo que pensé profundamente durante los años 80 hasta la caída del Muro de Berlín. Eso es solo para darle una idea de lo importante que se siente estar vivo en un período de gran ansiedad. Pero si tenía una mentalidad política, también de gran entusiasmo y desafío.

Malestar social en Londres

Liam: ¿Leí bien que tu primer trabajo fue en el departamento de publicidad de la revista del Partido Comunista en el Reino Unido?

Mark: Sí, fue algo divertido. En ese entonces, había mucha gente de izquierda que estaba muy interesada en la cultura y estaba influenciada por lo que estaba sucediendo con Glasnost y Perestroika. Había un grupo de personas que se habrían llamado la nueva izquierda o los eurocomunistas, y esa revista me fascinó. Se llamó Marxismo hoy.

Estaba trabajando en un estacionamiento y en McDonald's, y casualmente arriesgué mi brazo y dije: "Oye, ¿alguien va a Marxism Today?" Y resultó que uno de los trabajos ni siquiera era vender la publicidad, sino recopilar la publicidad. Tendría que llamar a los productores de granola ya la gente que produce futones y publicitar las vacaciones en Bulgaria y amenazarlos levemente, exigiéndoles el dinero que se habían comprometido a pagar por la publicidad. Eso fue el verano en Londres en el '87. Pude ver a Red Wedge y Billy Bragg. La huelga de los mineros acababa de terminar y había una sensación real de que Thatcher era la persona más importante en la escena internacional.

“La política estaba en todo en ese momento. Se sentía como el oxígeno que nos rodeaba”

Vivir en Londres en el '87 y ser parte de un movimiento de izquierda, no necesariamente un partido comunista, que estaba a punto de desaparecer, fue una verdadera revelación porque yo era un estudiante radical. Tuve la oportunidad de estar en lugares como el Congreso de Sindicatos y conocer a algunas de las personas de vanguardia que realmente habían creado un cambio en Gran Bretaña. También aprendí a voltear hamburguesas y a cocinar el McNugget de pollo perfecto.

Ese mismo verano del 87 fue cuando la campaña del IRA estaba en su apogeo. Yo trabajaba en este parking, y uno de mis trabajos era dar una vuelta, como a las 4:00 o 5:00 de la mañana, por el Parking de Larga Estancia para comprobar si había coches allí más de una semana porque tenían miedo el IRA iba a colocar una bomba allí. Y allí estaba yo, un joven irlandés y un colega paquistaní, y ambos éramos responsables de informar, a las sucursales especiales que llegaban por la mañana, qué autos habían estado allí demasiado tiempo. Nuevamente, solo un recordatorio de que la política estaba en todo en ese momento. Se sentía como el oxígeno que nos rodeaba.

“Era tan joven que, cuando conseguí mi gran trabajo en Washington, me dijeron que tal vez me dejara bigote o me vistiera de azul, lo que aparentemente te hace parecer mayor”

Liam: Wow, eso es una locura. Todo eso tiene sentido en términos de su carrera en el periodismo y su paso a la Emisora ​​Nacional. Quiero decir, prácticamente fuiste a trabajar para la Locutora Nacional en Irlanda justo después de la universidad.

Mark: Era tan joven que cuando conseguí mi gran trabajo en Washington, me dijeron que tal vez me dejara bigote o me vistiera de azul, lo que aparentemente te hace parecer mayor. Al salir de la universidad, me di cuenta de que no quería estar en política. Yo no era particularmente ideológico al final del día. Yo no era partidista. Y yo estaba, como digo, fascinado por el cambio. Fui a DCU para hacer un curso de periodismo, y antes de que terminara ese curso, RTE estaba anunciando que la gente se uniera a ellos, así que lo hice.

En aproximadamente 24 horas, mi primer informe fue sobre un motín en la prisión de Phibsborough, al norte de Dublín. Estaba en lo alto de un techo y tenía que transmitir las noticias de las 6:00 en un teléfono móvil, lo que, créanme, fue una innovación tecnológica masiva en ese momento. Estaba tan mal que cuando regresé a la oficina, mi jefe dijo: “No vuelvas a escuchar eso. Eso no te inspirará para el futuro”. Pero en ese momento, tener la oportunidad de comenzar un informe sobre grandes temas fue un sueño hecho realidad.

Una nueva ola de periodismo

Liam: Su carrera en el periodismo abarcó casi 20 años, ¿verdad?

Marcos: Así es.

Liam: ¿Qué te impulsó a dejar el periodismo después de una carrera enormemente exitosa, siendo corresponsal en Washington y presentando Prime Time, uno de los grandes espectáculos en Irlanda?

Mark: Bueno, comencé a darme cuenta de que las cosas habían cambiado, para usar una frase antigua. El medio de producción de periodismo y noticias había cambiado de ser una persona como yo, el hombre de la tele, parado en zonas de guerra. Recuerdo estar en Kandahar, en el sur de Afganistán, y fue muy frustrante porque estaba sentado allí escuchando a alguien que me interpretaba lo que sucedía sobre el terreno. Y de repente me di cuenta de que la vieja edad de oro del periodismo era muy antidemocrática. Era gente como yo, los porteros, diciéndole a la gente en casa que se sentaba a cierta hora de la noche a escucharme, el hombre de la tele, diciéndoles lo que era verdad, lo que era real.

“¿Qué pasaría si pudiéramos combinar la narración tradicional, la verdad y el periodismo con este nuevo y revolucionario despertar democrático en estas plataformas?”

Al mismo tiempo, vi surgir Twitter y YouTube, y recuerdo que hubo protestas en las elecciones de Irán en 2009. Todos los corresponsales extranjeros tienen una historia que les molesta: Irán fue mi historia. Recuerdo ver a jóvenes de 17 o 18 años usar las redes sociales para brindar los informes más viscerales y auténticos de lo que estaba sucediendo y pensar: "Oh, Dios mío, esto va a cambiarlo todo".

La mayoría de mis contemporáneos estaban asustados y temerosos de esta revolución democrática. Pero vi esta oportunidad. ¿Qué pasaría si pudiéramos combinar la narración a la antigua, la verdad y el periodismo con este nuevo y revolucionario despertar democrático en estas plataformas? Miré hacia adelante 25 años y pensé: "Si no hago esto ahora, lo lamentaré por el resto de mi vida". Tienes que pensar en lo que dice el Talmud, el gran texto religioso judío antiguo: “Si no soy yo, ¿quién? ¿Si no es ahora, cuando?" Tuve ese momento y no había vuelta atrás.

Liam: Así que te fuiste y creaste Storyful. Me encanta el gran eslogan de Storyful, "noticias del ruido de las redes sociales". ¿Cómo fue pasar del periodismo a fundar una empresa?

Mark: Era como mirar el agua en invierno. Piensas: "¿No sería genial ir a nadar?" Y luego saltas y te quedas paralizado por el frío. No pudimos recaudar un año en la empresa con Storyful. Pensé que nos íbamos a la quiebra. Fue brutal. Había apostado todo en esta empresa: mi reputación, todo mi dinero, y parecía que iba a la quiebra.

“El secreto de ser un gran emprendedor no es sobrevivir. Es resiliencia. Y el fracaso está integrado en el modelo”

Recuerdo una víspera de Navidad, manejando para ver a mi familia y sintiendo el peso del mundo sobre mí, y me di cuenta de mi peor pensamiento: “Cerraremos, pero conseguiré un trabajo y me recuperaré de eso. ” Y aprendí que cuando te enfrentas a tu peor miedo, especialmente en una etapa inicial, nunca más volverá a atormentarte porque ya lo has enfrentado. Eso es lo peor que puede pasar.

Empecé a darme cuenta de que, como periodista, mi objetivo era sobrevivir. Tenía que ser corresponsal de guerra. Recordé los días en que podía trabajar en la fracción de si me matarían o me herirían, pero nunca había pensado en la resiliencia, en lo que sucede cuando tienes que levantarte todos los días y es difícil. Y esa fue la gran diferencia. El secreto de ser un gran emprendedor no es sobrevivir. Es resiliencia. Y el fracaso está integrado en el modelo: es algo que tienes que soportar. Fue un verdadero cambio de mentalidad. Había muchas similitudes, pero se requería un gran cambio de mentalidad.

Liam: ¿Cómo fue? Porque, como dijiste, muchos periodistas le tenían miedo. Pero esta es una forma completamente nueva de periodismo, y probablemente no lo sabíamos en ese momento.

“Comenzamos a desarrollar una colaboración con las personas en el terreno que fueron testigos oculares de la historia”

Mark: Bueno, podríamos ver que sucediera en la práctica mientras la gente intentaba trabajar en teoría. Por ejemplo, durante los levantamientos árabes, que comenzaron en 2010 en Túnez y atravesaron Egipto y Siria, vimos, en nuestra pequeña startup en Irlanda, activistas democráticos sobre el terreno tratando de sacar la historia de lugares como Alepo. Comenzaron a darse cuenta de que los estábamos mirando y harían cosas como inclinar la cámara para mostrar un minarete, lo que nos ayudaría a geolocalizar esa imagen. Nos ayudaban colocando periódicos y diciéndonos qué día era y en qué lugar estaban. Y comenzamos a desarrollar una colaboración con las personas en el terreno que fueron testigos oculares de la historia.

Y, por supuesto, aportábamos rigor periodístico. Cuando mataron a Osama bin Laden en Pakistán, contamos de inmediato con imágenes de satélite para analizar la naturaleza del helicóptero que se había estrellado y aterrizado en el complejo. Pudimos dirigir a los periodistas a la ubicación física porque se asignó incorrectamente.

Esta nueva forma de periodismo de fuente abierta era democrática porque nuestras fuentes primarias eran personas en el terreno y no otros periodistas. Pero al mismo tiempo, tenía el mismo rigor de periodismo de investigación que teníamos sobre la rendición de cuentas. No surgió por accidente, pero ciertamente no planeábamos crear una nueva forma de periodismo. Evolucionó orgánicamente a partir de este despertar que fue la fuerza dominante en la primera ola de las redes sociales. Hoy en día, muchos de los ex alumnos de Storyful trabajan en grandes organizaciones de noticias como el New York Times, CNN, la BBC o el Washington Post, y aportan esa nueva forma de periodismo de la que formamos parte con Storyful.

Armamentización de las redes sociales

Liam: En 2013, vendiste Storyful a News Corp, te mudaste a Nueva York para ayudar con la transición, pero finalmente regresaste a Dublín para asumir el cargo de director administrativo en Twitter, Dublín. ¿Estabas anhelando la próxima gran cosa que hacer en la parte posterior de Storyful?

Marcos: No realmente. Quiero decir, cuando lo piensas, tuve una carrera trabajando para Marxism Today, Rupert Murdoch, Jack Dorsey y el contribuyente irlandés. Tenía un rango bastante bueno desde, al menos, una perspectiva ideológica. Y yo vengo de Storyful realmente fascinado por Twitter. Me había enamorado de Twitter, había cambiado mi vida y quería entrar en el corazón de la máquina. No tenía ganas de hacer otra startup. De hecho, le pedí permiso a otro contemporáneo mío, otro fundador de una startup de medios, para no volver a hacerlo.

En esa etapa, Twitter era una corporación bastante grande. Quería ver si podía ayudar a traer algo de cambio y energía al negocio de Twitter. Por eso elegí hacer eso. Era una oportunidad real de ingresar a una plataforma que había cambiado todo en mi negocio para ver si podía tener un impacto. Fue solo por accidente que significó venir de Nueva York, donde era muy feliz, de regreso a Dublín, que resultó ser la sede internacional. Pero quería tomarme un descanso de la vida de una startup y ver cómo sería si estuviera dentro de una gran corporación.

“Había visto muchos de los problemas que habíamos detectado en los levantamientos árabes, donde la gente usaba las plataformas sociales no como una herramienta democrática sino como un arma”

Liam: ¿De dónde salió Kinzen? Parece nacer de las llamas de Storyful, hasta cierto punto.

Mark: Nació de una frustración con esa gran corporación llamada Twitter. Me encantaba trabajar allí, pero no estaba particularmente bien dirigido. Y al final, el equipo de asociación de medios básicamente se deshizo. Podría haberme quedado en un buen trabajo corporativo, pero mientras tanto, era 2016 y las elecciones presidenciales de EE. UU. acababan de ocurrir. Había visto muchos de los problemas que habíamos detectado en su primera encarnación en los levantamientos árabes, donde la gente usaba las plataformas sociales no como una herramienta democrática sino como un arma. Estaban usando la viralidad del video en lugares como YouTube y Twitter para diseñar historias falsas que eran propaganda o teorías de conspiración.

La primera ola de Internet fue un despertar democrático. Y luego, cuando pasó el 2016, me di cuenta: “¡Mierda! Esto se está convirtiendo en un arma”. No solo por Donald Trump: hubo problemas más profundos en los que, de repente, la viralidad, el modelo comercial y los algoritmos estaban siendo secuestrados por personas que se oponían a la democracia. Ese fue el lugar de nacimiento y la idea que me llevó a volver a Áine Kerr, quien era mi colega de mayor confianza, que estaba en Facebook en ese momento, y decir: "¿Qué pasa si hacemos algo para devolver el poder a los ciudadanos, para permitir para protegerse contra esta amenaza emergente? Y los dos saltamos.

Para empezar, nos propusimos darle a la gente un suministro de noticias que pudieran controlar, pero obviamente, a medida que avanzábamos, como todas las empresas emergentes, la idea evolucionó. La primera ola de democracia estaba siendo reemplazada por una nueva fuerza oscura en Internet y esa fue la inspiración detrás de Kinzen.

Liam: Para los oyentes que no saben, ¿qué es Kinzen? ¿Quién es el usuario de Kinzen?

Mark: Ayudamos a las grandes plataformas tecnológicas y las plataformas emergentes a proteger las conversaciones del mundo de los riesgos de la información. Y con eso, nos referimos a información errónea peligrosa que crea daños en el mundo real, desinformación organizada y discurso violento y lleno de odio. Nuestros clientes son profesionales de seguridad de confianza, profesionales de políticas y las personas dentro de estas empresas que intentan desesperadamente adelantarse a estas amenazas y riesgos de información en lugar de la verificación de hechos reactiva.

“Estamos ampliando la solución humana a esta particular crisis de información”

Estamos utilizando una combinación de buen análisis humano antiguo y las etapas posteriores del aprendizaje automático para resolver el problema perverso que enfrentan estas plataformas. Estos son, en primer lugar, que los humanos no pueden escalar para resolver el problema, y ​​que las máquinas no tienen la perspectiva para detectar estos riesgos de información en múltiples idiomas y múltiples formatos diferentes. Ese es el problema que Kinzen está tratando de resolver. Estamos ampliando la solución humana a esta crisis de información en particular.

Liam: Entonces, estás tomando esas habilidades editoriales de Storyful y codificándolas en las máquinas para darles esos valores.

Marcos: Exacto. Seguimos un enfoque de aprendizaje humano y de máquina de bucle, que solo ha sido posible en los últimos años desde que tuvimos acceso a estos grandes modelos de lenguaje. Nuestros analistas están creando datos legibles por máquina en una variedad de idiomas, que se han introducido en la máquina. La máquina está transcribiendo, traduciendo y tratando de comprender, y los datos humanos la están ayudando a aprender más rápido. Es un hermoso circuito de retroalimentación entre un pequeño grupo de expertos y sistemas de aprendizaje automático realmente avanzados que tienen una capacidad exponencialmente mayor ahora que hace cuatro años.

Frenar la desinformación

Liam: ¿Qué tan grande es la escala de desinformación en este momento?

“La cuestión clave en este momento no es si las personas están diciendo algo incorrecto en Internet; no se trata de disputas entre personas sobre política; ni siquiera se trata de Donald Trump o lo que recibe en Twitter”

Mark: Bueno, creo que lo que está pasando ahora es que está empeorando antes de mejorar. No todo el mundo en línea lo verá, pero lo que sucede en los lugares donde la desinformación y la desinformación son particularmente problemáticas es en lugares donde es vida o muerte. En este momento, en la India, vemos niveles casi de genocidio en la retórica proveniente de los partidarios del gobierno hacia los musulmanes. Estamos viendo extremistas organizados, grupos de extrema derecha y neonazis en Europa que utilizan la viralidad de estas plataformas para difundir su mensaje.

Y obviamente, lo estamos viendo en teorías de conspiración sobre temas de salud, no solo de COVID, sino de personas que intentan promover el pensamiento de conspiración en las conversaciones principales. La cuestión clave en este momento no es si las personas están diciendo algo incorrecto en Internet; no se trata de disputas entre personas sobre política; ni siquiera se trata de Donald Trump o de lo que obtiene en Twitter. Lo que estamos viendo es la multitud de lenguajes y amenazas donde hay daño real en el mundo real y posiblemente situaciones de vida o muerte.

Actualmente tenemos 13 idiomas y pronto tendremos 26. Está en lugares como Brasil, que tendrá una elección de gran importancia en octubre que puede ser una repetición de lo que sucedió en 2020 en los Estados Unidos. Mucha gente piensa que estamos tratando de resolver lo que es verdadero o falso. No se trata solo de eso o incluso principalmente de eso: se trata de dónde podemos evitar que suceda algo en línea que tendrá un impacto en el mundo real y, potencialmente, un impacto de vida o muerte.

Liam: Mencionaste las elecciones brasileñas allí, y escuché a Áine Kerr en otro podcast hablando sobre los actores de desinformación que se dieron cuenta de que frases como "fraude electoral" y "elección amañada" estaban alertando a los moderadores de contenido que podrían eliminar sus afirmaciones falsas, entonces estos actores comenzaron a sustituir estas frases por cosas como: “Estamos haciendo campaña por elecciones limpias”. Y ahí es donde los moderadores humanos pueden intervenir para detectar esos cambios y ayudar a las autoridades a interceptar estos mensajes.

“Constantemente estamos viendo cómo se modifican y modifican las palabras. Y, por supuesto, las máquinas no pueden mantenerse al día con eso”.

Mark: Estamos viendo lo que llamamos el surgimiento del "lenguaje algorítmico", que es cuando las comunidades se dan cuenta de que puede haber algoritmos de moderación de contenido que analizan lo que dicen y están tratando de evitarlo. Durante la pandemia, vimos a activistas antivacunas usar la palabra panini en lugar de pandemia. Más recientemente, en Alemania, vimos a la comunidad antivacunas usar la palabra pitufo para vacuna porque, en alemán, la pronunciación de esa palabra se parece mucho a la pronunciación del personaje de televisión infantil. El año pasado, en Escandinavia, vimos a un grupo neonazi cambiar una palabra asociada con un festival infantil tradicional para convertirla en un insulto racial.

Constantemente vemos que las palabras se modifican y cambian. Y, por supuesto, las máquinas no pueden mantenerse al día con eso. Cuando sucede algo como la pandemia, de repente tenemos todos estos términos científicos en nuestro idioma. La máquina simplemente no está atrapada, y ahí es donde el análisis humano es importante: para corregir la máquina.

Y así, cada vez más, dentro de Kinzen, estamos empezando a ver que la máquina se da cuenta de la evolución del lenguaje. Una palabra conectada con otra. Pitufo con vacuna. O, por ejemplo, en lugares como India, vemos a activistas antimusulmanes usando palabras que pueden parecer totalmente inocuas, pero podemos ver que son parte de un patrón de intimidación y discurso de odio.

Por eso la parte humana es tan importante. No abogamos por una mayor moderación del contenido. No abogamos por leyes ni por prohibir la desinformación. Creo que es absolutamente el camino equivocado a seguir. Estamos buscando una moderación de contenido más precisa que pueda encontrar la aguja en el pajar que es peligroso mientras permite la máxima libertad de expresión. Y ese es el objetivo a largo plazo para nosotros. No podemos tener seguridad por decreto y gobiernos prohibiendo contenido. Necesitamos rediseñar las plataformas para que las máquinas y los humanos que trabajan en la moderación de contenido sean más exactos, más precisos y más oportunos para adelantarse al problema en lugar de reaccionar ante él.

Una mezcla de máquinas y humanos.

Liam: ¿La desinformación es un problema tecnológico, un problema humano o un poco de ambos?

Mark: Escucha, esa es una de esas preguntas existenciales donde la gente piensa que la tecnología los obligó a hacerlo o hizo que el mundo se volviera tonto. No voy por eso. Sigo siendo un evangelista del potencial democrático de las tecnologías que ahora damos por sentadas o que están empezando a disgustarnos intensamente. El modelo de negocios y la forma en que los algoritmos se prepararon inicialmente con las redes sociales se aprovechan de nuestros peores instintos, pero creo que podemos rediseñar esta tecnología para liberar nuestras mejores intenciones. Y parte de eso es tener filtros mucho mejores a los que la persona común puede acceder cuando navega por Internet.

“El usuario medio tendrá más poder y precisión en la moderación de contenidos”

En este momento, trabajamos con equipos de moderación centralizados dentro de las plataformas tecnológicas. Supongo que, en los próximos dos o tres años, más y más plataformas intentarán descentralizar el poder para que la persona común configure sus filtros. Pueden decir: "Escucha, no quiero escuchar lenguaje extremo en mi feed", o alguien más podría decir: "Bueno, sí quiero. Quiero ver qué está pensando el otro lado”. El usuario medio tendrá más poder y precisión en la moderación de contenidos. Pero tomará tiempo, y solo estamos al principio. Recuerde, las grandes plataformas que existen hoy en día serán reemplazadas por otras nuevas que están siendo incubadas por algunos jóvenes de 17 años en este momento.

Tenemos que ser conscientes de algunos acontecimientos que podrían empeorar el problema antes de que mejoren. En Kinzen, somos pioneros en la moderación de contenido de audio. Hemos estado analizando la forma en que la información errónea, la desinformación y el discurso de odio se propagan a través de podcasts y audio en vivo. Y creemos que la capa hablada de Internet es un área en la que debemos centrarnos con un alto grado de importancia durante los próximos dos años.

Liam: Iba a preguntarte sobre eso antes de terminar. Hay incontables horas de audio. ¿Qué problema les presenta eso a ustedes y a los verificadores de hechos?

Mark: Es como una tormenta perfecta. Obviamente, con audio en vivo, tienes la velocidad. En cuanto a los podcasts, muchos de estos duran horas y horas. Y luego, el desafío más importante y más grande es el idioma. Se hablan miles de idiomas. Si estás analizando algo en India, es posible que estés escuchando a alguien hablando en hindi, pero de vez en cuando saltan al inglés. De lo que somos muy conscientes es de que aquí es donde el aprendizaje automático es tan fascinante. Tiene reconocimiento de voz automático. Pero, de nuevo, puedes modificar eso si sabes lo que estás buscando con algunas señales humanas. Podemos permitir que el modelo de lenguaje mejore, que se optimice para escuchar no solo el sonido de una palabra, sino también la relación entre los idiomas.

“¿Podemos comenzar a emparejar máquinas y humanos para interpretar el significado del lenguaje, y no solo lo que dicen, sino cómo lo dicen?”

Soy periodista, ¿verdad? No soy un aficionado a la tecnología por formación. Muchas de estas cosas me hacen preguntarme mientras trato de mantenerme al día. Pero creo que lo que es importante para el audio es que nos fijamos en la forma en que habla la gente; su tono de voz. El árabe, por ejemplo, es un idioma si lo escribes, pero múltiples dialectos cuando lo hablas. Y eso, para mí, es lo más preocupante y también lo más emocionante. ¿Podemos empezar a emparejar máquinas y humanos para interpretar el significado del lenguaje, y no solo lo que dicen, sino cómo lo dicen? Ese es el gran desafío de la moderación de audio, pero también creo que es uno de los desafíos más emocionantes en los que trabajar. Solo los humanos pueden detectar cosas como la ironía, el sarcasmo, la jerga o el "lenguaje algorítmico". Y es por eso que nuestro enfoque no solo es más efectivo sino, en última instancia, más democrático. Queremos el menor tipo de intervención posible pero el más alto nivel de precisión, y ahí es donde la combinación de humanos y máquinas es tan vital.

Liam: Brillante. Bueno, Mark, muchas gracias por acompañarme hoy.

Marca: Liam, es un placer. Hagámoslo de nuevo pronto.