Mark Little, CEO von Kinzen, über den Kampf gegen Desinformation

In diesem Zeitalter der Desinformation laufen Trollfarmen, gefälschte Nachrichten und Hassreden Amok, und die Wahrheit ist immer schwerer zu erkennen. Kann uns die Moderation von Inhalten dabei helfen, Online-Communities vor ihren Folgen zu schützen?

Gefälschte Nachrichten sind kein neues Phänomen, aber Social-Media-Plattformen haben die perfekte Echokammer für sie bereitgestellt, in der sie in einem beispiellosen Ausmaß und mit sehr realen Konsequenzen schwären und sich verbreiten können. Aber herkömmliche Faktenprüfungen und automatisierte Inhaltsfilter sind der Macht hinter Desinformation und Fehlinformation nicht gewachsen. Es wird eine ganz neue Lösung brauchen, um das Problem anzugehen, und Mark Little ist einer der Anführer.

Mark ist ein preisgekrönter Journalist und Innovator für digitale Medien mit einer über 20-jährigen Karriere im Bereich Rundfunknachrichten – von seinem allerersten Bericht über einen Gefängnisaufstand in Dublin bis zu seiner preisgekrönten Berichterstattung aus dem vom Krieg zerrütteten Afghanistan. Nachdem ihm aufgefallen war, wie junge Menschen soziale Medien nutzten, um über Ereignisse zu berichten, gründete er 2010 Storyful, den weltweit ersten Social-Media-Nachrichtendienst, der eine traditionelle Nachrichtenagentur mit authentifizierten, nutzergenerierten Inhalten kombinierte. Nach dem Verkauf von Storyful an News Corp kam Mark 2015 als Vice President of Media and Partnerships für Twitter in Europa zu Twitter.

Ein Jahr später trat Mark von seiner Position zurück, als er erkannte, dass eine neue Bedrohung auftauchte – was als demokratische Welle des Erwachens der sozialen Medien begonnen hatte, wurde korrumpiert. Die Algorithmen und Geschäftsmodelle hinter diesen Plattformen wurden bewaffnet, um Propaganda und Verschwörungstheorien zu produzieren und zu verbreiten. Zusammen mit Áine Kerr, einer Journalistin, die zu dieser Zeit globale Journalismuspartnerschaften für Facebook verwaltete, begann er, an einer Antwort auf dieses Problem zu arbeiten, und Kinzen war geboren.

„Um die Herausforderung anzugehen, verwenden sie eine Kombination aus maschinellem Lernen und menschlicher Analyse, die die Reaktion auf eine globale Ebene skalieren kann.“

Seitdem arbeiten sie daran, dieser Bedrohung einen Schritt voraus zu sein und Online-Communities vor gefährlichen Fehlinformationen und Hassreden zu schützen, die in der realen Welt Schaden anrichten. Um die Herausforderung anzugehen, verwenden sie eine Kombination aus maschinellem Lernen und menschlicher Analyse, die die Reaktion auf eine globale Ebene skalieren kann. Mark bleibt ein Optimist in Bezug auf das demokratische Potenzial von Social-Media-Netzwerken, aber er ist der Erste, der zugibt, dass es dringend einer Neugestaltung bedarf. Und hier kommt eine präzisere Inhaltsmoderation ins Spiel.

In der heutigen Folge haben wir uns mit Mark zusammengesetzt, um über die Entwicklung des Journalismus, die Zunahme von Fehlinformationen und darüber zu sprechen, was wir tun können, um Online-Communities vor schädlichen Inhalten zu schützen.

Hier sind einige unserer Lieblingsmitnahmen aus dem Gespräch:

• Scheitern ist in den Prozess der Gründung eines eigenen Unternehmens eingebaut. Das Geheimnis eines großartigen Unternehmers ist nicht Überleben – es ist Belastbarkeit.
• In den letzten Jahren haben wir den Aufstieg von „Algospeak“ erlebt, was passiert, wenn Online-Communities bestimmte Wörter ändern, um nicht von Algorithmen zur Inhaltsmoderation gekennzeichnet zu werden.
• Mark plädiert nicht für Gesetze zum Verbot von Desinformation, sondern für eine präzisere Inhaltsmoderation, die schädliche Inhalte erkennt und gleichzeitig maximale Meinungsfreiheit zulässt.
• Mark glaubt, dass in den nächsten Jahren mehr Plattformen versuchen werden, die Macht zu dezentralisieren, damit die Menschen ihre eigenen Filter für das festlegen können, was sie online sehen möchten.
• Durch die Kombination von menschlicher Analyse und maschinellem Lernen können sie Dinge wie Ironie, Slang oder „Algospeak“ erkennen und auf globaler Ebene skalieren.

Wenn Ihnen unsere Diskussion gefällt, sehen Sie sich weitere Folgen unseres Podcasts an. Sie können auf iTunes, Spotify, YouTube folgen oder den RSS-Feed in Ihrem bevorzugten Player herunterladen. Was folgt, ist eine leicht bearbeitete Abschrift der Episode.

Politisches Erwachen

Liam Geraghty: Mark, vielen Dank, dass Sie sich uns angeschlossen haben. Sie sind herzlich willkommen in der Show.

Mark Little: Es freut mich, Liam. Danke für die Einladung.

Liam: Du hattest eine bemerkenswerte Reise bis zu diesem Punkt, bevor du Kinzen gegründet hast. Woher kommt Ihr Interesse am Journalismus?

„Ich war besessen davon, wie die Welt funktioniert und warum bestimmte Leute um die Ecke zu sehen schienen, was als nächstes passieren würde.“

Mark: Nun, ich war eines dieser sehr frühreifen Kinder. Im Alter von vielleicht sechs oder sieben Jahren habe ich morgens mit meinem Vater für die Irish Times gekämpft. Und mit ungefähr neun oder zehn wurde mir klar, dass ich nie genug natürliches Talent hatte, um meine wahre Leidenschaft zu sein, nämlich Mittelstürmer für Liverpool zu sein. Und im Grunde erinnere ich mich, dass ich darauf zurückgegriffen habe, was mir jemand, ich nehme an, mein Religionslehrer, in einem Zeugnis gezeigt hat, als ich ungefähr 14 Jahre alt war. Er sagte, ich sei verfrüht zynisch, habe eine starke Neugier auf die Welt, eine gewisse Skepsis und eine Leidenschaft für Veränderungen.

Ich war besessen davon, wie die Welt funktionierte und warum bestimmte Leute um die Ecke zu sehen schienen, was als nächstes in Politik oder Wirtschaft passieren würde. Und das war der Kern, der mit dem Journalismus begann und mich während meiner gesamten Karriere begleitet hat.

Liam: War Politik in Ihrer Familie groß?

Markus: Absolut. Es war vorne und in der Mitte. Als Sie in den 1970er und 1980er Jahren aufwuchsen, waren Sie nicht bewusst oder wach, wenn Sie sich nicht für Politik interessierten. Wir lebten damals in Irland, das immer noch von einer sehr regressiven, kirchendominierten Gesellschaft dominiert wurde. Wir waren immer noch die armen Leute Europas. Die Einwanderung war auf einem Rekordhoch; Die Arbeitslosigkeit war auf einem Rekordhoch. Und wenn ich ins Ausland schaue, als ich in den Achtzigern als studentische Aktivistin aufwuchs, meine ich… war alles im Gange. Auf der ganzen Welt fühlte es sich an, als gäbe es tektonische Verschiebungen in allem, was vor sich ging.

Alles fühlte sich so konsequent an, dass ich in den 80er Jahren bis zum Fall der Berliner Mauer intensiv über die nukleare Apokalypse nachdachte. Das soll Ihnen nur ein Gefühl dafür geben, wie folgenreich es sich angefühlt hat, in einer Zeit großer Angst am Leben zu sein. Aber wenn Sie politisch interessiert waren, auch von großer Aufregung und Herausforderung.

Soziale Unruhen in London

Liam: Und habe ich richtig gelesen, dass dein erster Auftritt in der Werbeabteilung des Magazins der Kommunistischen Partei in Großbritannien war?

Mark: Ja, es war eine lustige Sache. Damals gab es viele Linke, die sehr kulturinteressiert und von Glasnost und Perestroika beeinflusst waren. Es gab diese Gruppe von Leuten, die man die Neue Linke oder die Eurokommunisten genannt hätte, und ich war fasziniert von diesem Magazin. Es hieß „Marxism Today“.

Ich arbeitete auf einem Parkplatz und bei McDonald's, und ich wagte zufällig meinen Arm und sagte: "Hey, gehen irgendwelche Typen in Marxism Today?" Und es stellte sich heraus, dass einer der Jobs nicht einmal darin bestand, die Werbung zu verkaufen – er sammelte die Werbung. Ich müsste Müsliproduzenten und Hersteller von Futons und Urlaubswerbung in Bulgarien anrufen und sie leicht bedrohen, indem ich ihnen das zugesagte Geld für die Werbung abverlangte. Das war Sommer '87 in London. Ich habe Red Wedge und Billy Bragg gesehen. Der Streik der Bergleute war gerade zu Ende gegangen, und man hatte wirklich das Gefühl, dass Thatcher die größte Person auf der internationalen Szene war.

„Politik war damals in allem. Es fühlte sich an wie der Sauerstoff, der uns umgibt.“

1987 in London zu leben und Teil einer linken Bewegung zu sein – nicht unbedingt einer kommunistischen Partei, die auf dem Weg nach draußen war – war ein echter Augenöffner, weil ich ein radikaler Student war. Ich durfte an Orten wie dem Trades Union Congress sein und einige der hochmodernen Leute treffen, die wirklich Veränderungen in Großbritannien bewirkt haben. Ich habe auch gelernt, Burger umzudrehen und das perfekte Chicken McNugget zuzubereiten.

Im selben Sommer 1987 war die IRA-Kampagne auf ihrem Höhepunkt. Ich habe in diesem Parkhaus gearbeitet, und eine meiner Aufgaben war es, gegen 4:00 oder 5:00 Uhr morgens zum Langzeitparkplatz herumzufahren, um zu überprüfen, ob dort seit mehr als einer Woche Autos stehen, weil sie Angst haben die IRA wollte dort eine Bombe platzieren. Und da war ich also, ein irischer junger Bursche und ein pakistanischer Kollege, und wir beide waren dafür verantwortlich, den Sonderdienststellen, die morgens kamen, zu melden, welche Autos zu lange dort waren. Nochmals, nur eine Erinnerung daran, dass Politik damals alles war. Es fühlte sich an wie der Sauerstoff, der uns umgab.

„Ich war so jung, dass mir, als ich meinen großen Job in Washington bekam, gesagt wurde, ich solle mir vielleicht einen Schnurrbart wachsen lassen oder Blau tragen, was dich anscheinend älter aussehen lässt.“

Liam: Wow, das ist verrückt. All das macht Sinn im Hinblick auf Ihre Karriere im Journalismus und den Wechsel zum National Broadcaster. Ich meine, du hast praktisch direkt nach dem College für den National Broadcaster in Irland gearbeitet.

Mark: Ich war so jung, dass mir, als ich meinen großen Job in Washington bekam, gesagt wurde, ich solle mir vielleicht einen Schnurrbart wachsen lassen oder Blau tragen, was dich anscheinend älter aussehen lässt. Als ich mit dem College fertig war, wurde mir klar, dass ich nicht in die Politik gehen wollte. Ich war am Ende des Tages nicht besonders ideologisch. Ich war nicht parteiisch. Und ich war, wie gesagt, fasziniert von Veränderungen. Ich ging zur DCU, um einen Journalismuskurs zu machen, und noch bevor dieser Kurs zu Ende war, warb RTE für Leute, die sich ihnen anschließen wollten, also tat ich es.

Innerhalb von etwa 24 Stunden war mein erster Bericht über einen Gefängnisaufstand außerhalb von Phibsborough, Nord-Dublin. Ich war auf einem Dach und musste die 6-Uhr-Nachrichten auf einem Mobiltelefon übertragen, was, glauben Sie mir, zu dieser Zeit eine gewaltige technologische Innovation war. Ich war so schlecht, dass mein Chef, als ich ins Büro zurückkam, sagte: „Hören Sie sich das nicht an. Das wird Sie nicht für die Zukunft inspirieren.“ Aber zu diesem Zeitpunkt die Chance zu bekommen, einen Bericht über große Themen zu schreiben, war ein wahr gewordener Traum.

Eine neue Welle des Journalismus

Liam: Deine Karriere im Journalismus dauerte fast 20 Jahre, habe ich Recht?

Markus: Das stimmt.

Liam: Was hat Sie dazu bewogen, den Journalismus nach einer äußerst erfolgreichen Karriere als Korrespondent in Washington und als Moderator von Prime Time, einer der großen Shows in Irland, aufzugeben?

Mark: Nun, mir wurde allmählich klar, dass sich die Dinge geändert hatten, um einen alten Ausdruck zu verwenden. Die Produktionsmittel für Journalismus und Nachrichten hatten sich geändert, als eine Person wie ich, der Mann im Fernsehen, in Kriegsgebieten zu stehen. Ich erinnere mich, dass ich in Kandahar im Süden Afghanistans war, und es war sehr frustrierend, weil ich dort saß und jemandem zuhörte, der für mich dolmetschte, was vor Ort vor sich ging. Und plötzlich wurde mir klar, dass das alte goldene Zeitalter des Journalismus sehr undemokratisch war. Es waren Leute wie ich, die Torwächter, die den Leuten zu Hause, die sich nachts zu einer bestimmten Zeit hinsetzten, erzählten, um mir, dem Mann im Fernsehen, zuzuhören, ihnen zu sagen, was wahr war, was wirklich war.

„Was würde passieren, wenn wir altmodisches Geschichtenerzählen, Wahrsagen und Journalismus mit diesem revolutionären neuen demokratischen Erwachen auf diesen Plattformen kombinieren könnten?“

Gleichzeitig sah ich, wie Twitter und YouTube aufkamen, und ich erinnere mich, dass es 2009 eine Protestwahl im Iran war. Jeder Auslandskorrespondent hat eine Geschichte, die unter die Haut geht – der Iran war meine Geschichte. Ich erinnere mich, wie ich 17- oder 18-Jährige beobachtete, die soziale Medien nutzten, um die eindringlichste und authentischste Berichterstattung darüber zu liefern, was vor sich ging, und dachte: „Oh mein Gott, das wird alles ändern.“

Die meisten meiner Zeitgenossen hatten Angst und Angst vor dieser demokratischen Revolution. Aber ich sah diese Gelegenheit. Was würde passieren, wenn wir altmodisches Geschichtenerzählen, Wahrsagen und Journalismus mit diesem revolutionären neuen demokratischen Erwachen auf diesen Plattformen kombinieren könnten? Ich habe 25 Jahre nach vorne geblickt und gedacht: „Wenn ich das jetzt nicht mache, werde ich das für den Rest meines Lebens bereuen.“ Sie müssen darüber nachdenken, was der Talmud, der große alte jüdische religiöse Text, sagt: „Wenn nicht ich, wer? Wenn nicht jetzt wann?" Ich hatte diesen Moment und es gab keinen Weg zurück.

Liam: Also bist du losgezogen und hast Storyful erstellt. Ich liebe den großartigen Slogan von Storyful, „Neuigkeiten aus dem Lärm der sozialen Medien“. Wie war der Weg vom Journalismus zur Unternehmensgründung?

Mark: Es war, als würde man im Winter aufs Wasser schauen. Du denkst: „Wäre es nicht toll, schwimmen zu gehen?“ Und dann springst du hinein und bist von der Kälte gelähmt. Wir konnten mit Storyful kein Jahr für das Unternehmen aufbringen. Ich dachte, wir gehen aus dem Geschäft. Es war brutal. Ich hatte alles auf dieses Unternehmen gesetzt – meinen Ruf, mein ganzes Geld, und es sah so aus, als würde es sein Geschäft aufgeben.

„Das Geheimnis eines großartigen Unternehmers ist nicht das Überleben. Es ist Resilienz. Und das Scheitern ist in das Modell eingebaut“

Ich erinnere mich an einen Weihnachtsabend, als ich zu meiner Familie fuhr und das Gewicht der Welt auf mir spürte, und ich realisierte meinen schlimmsten Gedanken: „Wir werden unser Geschäft aufgeben, aber ich werde einen Job finden und mich davon erholen. ” Und ich habe gelernt, dass wenn Sie sich Ihrer schlimmsten Angst stellen, besonders in einem frühen Startup, sie Sie nie wieder verfolgen wird, weil Sie sich ihr gestellt haben. Das ist das Schlimmste, was passieren kann.

Mir wurde allmählich klar, dass es mir als Journalistin ums Überleben ging. Ich musste Kriegsberichterstatter werden. Ich erinnerte mich an Tage, an denen ich an dem Bruchteil arbeiten konnte, ob ich getötet oder verwundet würde, aber ich hatte nie über Belastbarkeit nachgedacht, darüber, was passiert, wenn man jeden Tag aufstehen muss und es schwer ist. Und das war der große Unterschied. Das Geheimnis eines großen Unternehmers ist nicht das Überleben. Es ist Resilienz. Und das Scheitern ist in das Modell eingebaut – damit muss man sich abfinden. Es war ein echtes Umdenken. Es gab viele Ähnlichkeiten, aber es war eine große Änderung der Denkweise erforderlich.

Liam: Wie war es? Weil, wie Sie sagten, viele Journalisten Angst davor hatten. Aber das ist eine völlig neue Form des Journalismus, die wir damals wahrscheinlich noch nicht kannten.

„Wir begannen, eine Zusammenarbeit mit den Menschen vor Ort zu entwickeln, die Augenzeugen der Geschichte waren.“

Mark: Nun, wir konnten irgendwie sehen, wie es in der Praxis passiert, während die Leute versuchten, es in der Theorie zu erarbeiten. Während der arabischen Aufstände, die 2010 in Tunesien begannen und durch Ägypten und Syrien gingen, sahen wir beispielsweise in unserem winzigen Startup in Irland demokratische Aktivisten vor Ort, die versuchten, die Geschichte von Orten wie Aleppo zu verbreiten. Sie begannen zu erkennen, dass wir sie beobachteten und Dinge taten, wie die Kamera nach oben zu kippen, um ein Minarett zu zeigen, was uns helfen würde, dieses Bild zu geolokalisieren. Sie halfen uns, indem sie Zeitungen aufhängten und uns sagten, welcher Tag heute war und an welchem ​​Ort sie sich aufhielten. Und wir begannen, eine Zusammenarbeit mit den Menschen vor Ort zu entwickeln, die Augenzeugen der Geschichte waren.

Und natürlich brachten wir journalistische Strenge mit. Als Osama bin Laden in Pakistan getötet wurde, waren wir sofort mit Satellitenbildern dabei, um die Art des Hubschraubers zu analysieren, der abgestürzt und auf dem Gelände gelandet war. Wir konnten Journalisten an den physischen Ort verweisen, weil er falsch zugeordnet wurde.

Diese neue Form des Open-Source-Journalismus war demokratisch, weil unsere primären Quellen Menschen direkt vor Ort waren und nicht andere Journalisten. Aber gleichzeitig hatte es die gleiche Strenge des investigativen Journalismus, die wir in Bezug auf die Rechenschaftspflicht hatten. Es ist nicht zufällig entstanden, aber wir hatten sicher nicht vor, eine neue Form des Journalismus zu schaffen. Es entwickelte sich organisch aus diesem Erwachen, das die dominierende Kraft in der ersten Welle der sozialen Medien war. Heute arbeiten viele der Storyful-Alumni in großen Nachrichtenorganisationen wie der New York Times, CNN, der BBC oder der Washington Post und bringen diese neue Form des Journalismus ein, an der wir mit Storyful beteiligt waren.

Bewaffnung der sozialen Medien

Liam: 2013 haben Sie Storyful an News Corp verkauft, sind nach New York gezogen, um beim Übergang zu helfen, sind aber schließlich nach Dublin zurückgekehrt, um die Rolle des Geschäftsführers bei Twitter, Dublin, zu übernehmen. Hast du dich irgendwie nach dem nächsten großen Ding gesehnt, das du hinter Storyful tun kannst?

Mark: Nicht wirklich. Ich meine, wenn Sie darüber nachdenken, hatte ich eine Karriere bei Marxism Today, Rupert Murdoch, Jack Dorsey und dem irischen Steuerzahler. Ich hatte eine ziemlich gute Reichweite, zumindest aus ideologischer Sicht. Und ich komme von Storyful und bin wirklich fasziniert von Twitter. Ich hatte mich in Twitter verliebt, es hatte mein Leben verändert, und ich wollte in das Herz der Maschine eindringen. Ich hatte keine Lust, noch ein Startup zu machen. Tatsächlich habe ich einen anderen Zeitgenossen von mir, einen anderen Gründer eines Medien-Startups, um Erlaubnis gebeten, es nicht noch einmal zu tun.

Zu diesem Zeitpunkt war Twitter ein ziemlich großes Unternehmen. Ich wollte sehen, ob ich dazu beitragen kann, etwas Veränderung und Energie in das Geschäft von Twitter zu bringen. Deshalb habe ich mich dafür entschieden. Es war eine echte Chance, in eine Plattform einzusteigen, die alles in meinem Geschäft verändert hatte, um zu sehen, ob ich etwas bewirken könnte. Es war nur ein Zufall, dass es bedeutete, von New York, wo ich sehr glücklich war, zurück nach Dublin zu kommen, das zufällig das internationale Hauptquartier war. Aber ich wollte eine Pause vom Startup-Leben machen und sehen, wie es aussehen würde, wenn ich in einem großen Unternehmen wäre.

„Ich hatte viele der Probleme gesehen, die wir in den arabischen Aufständen entdeckt hatten, wo Menschen soziale Plattformen nicht als demokratisches Werkzeug, sondern als Waffe benutzten.“

Liam: Woher kam Kinzen? Es scheint bis zu einem gewissen Grad aus den Flammen von Storyful geboren zu sein.

Mark: Es entstand aus einer Frustration mit diesem großen Unternehmen namens Twitter. Ich habe dort gerne gearbeitet, aber es war nicht besonders gut geführt. Und am Ende wurde das Team der Medienpartnerschaft im Grunde genommen los. Ich hätte in einem netten Job in einem Unternehmen bleiben können, aber mittlerweile war es 2016 und die US-Präsidentschaftswahlen hatten gerade stattgefunden. Ich hatte viele der Probleme gesehen, die wir in ihrer frühesten Inkarnation in den arabischen Aufständen entdeckt hatten, als die Menschen soziale Plattformen nicht als demokratisches Werkzeug, sondern als Waffe benutzten. Sie nutzten die Viralität von Videos auf Orten wie YouTube und Twitter, um falsche Geschichten zu erfinden, die entweder Propaganda oder Verschwörungstheorien waren.

Die erste Welle des Internets war ein demokratisches Erwachen. Und dann, als 2016 passierte, wurde mir klar: „Heilige Scheiße! Das wird in eine Waffe verwandelt.“ Nicht nur wegen Donald Trump – es gab tiefere Probleme, bei denen plötzlich die Viralität, das Geschäftsmodell und die Algorithmen von Menschen gekapert wurden, die gegen die Demokratie sind. Das war der Geburtsort und die Idee, die mich dazu brachte, zu Áine Kerr zurückzukehren, die meine vertrauenswürdigste Kollegin war, die damals bei Facebook war, und zu sagen: „Was wäre, wenn wir etwas tun würden, um den Bürgern die Macht zurückzugeben, zu erlauben sie, sich gegen diese aufkommende Bedrohung zu schützen?“ Und wir sind beide gesprungen.

Am Anfang wollten wir den Leuten einen Newsfeed geben, den sie kontrollieren konnten, aber natürlich entwickelte sich die Idee im Laufe der Zeit, wie bei jedem Startup, weiter. Die erste Welle der Demokratie wurde durch eine neue dunkle Macht im Internet ersetzt und das war die Inspiration hinter Kinzen.

Liam: Für Zuhörer, die es nicht wissen, was ist Kinzen? Wer ist der Benutzer von Kinzen?

Mark: Wir helfen großen Technologieplattformen und aufstrebenden Plattformen, die Konversationen der Welt vor Informationsrisiken zu schützen. Und damit meinen wir gefährliche Fehlinformationen, die in der realen Welt Schaden anrichten, organisierte Desinformationen und hasserfüllte und gewalttätige Äußerungen. Unsere Kunden sind vertrauenswürdige Sicherheitsexperten, Richtlinienexperten und die Mitarbeiter dieser Unternehmen, die verzweifelt versuchen, diesen Informationsbedrohungen und -risiken einen Schritt voraus zu sein, anstatt reaktiv Fakten zu überprüfen.

„Wir skalieren die menschliche Lösung für diese spezielle Informationskrise“

Wir verwenden eine Kombination aus guter, altmodischer menschlicher Analyse und den späteren Phasen des maschinellen Lernens, um das böse Problem zu lösen, mit dem diese Plattformen konfrontiert sind. Diese sind erstens, dass Menschen nicht skalieren können, um dem Problem gerecht zu werden, und dass Maschinen nicht die Einsicht haben, diese Informationsrisiken in mehreren Sprachen und mehreren verschiedenen Formaten zu erkennen. Das ist das Problem, das Kinzen zu lösen versucht. Wir skalieren die menschliche Lösung für diese spezielle Informationskrise.

Liam: Sie nehmen also diese redaktionellen Fähigkeiten von Storyful und codieren sie in die Maschinen, um ihnen diese Werte zu geben.

Markus: Genau. Wir verfolgen einen Human-and-the-Loop-Machine-Learning-Ansatz, der erst in den letzten Jahren wirklich möglich geworden ist, seit wir Zugang zu diesen großen Sprachmodellen haben. Unsere Analysten erstellen maschinenlesbare Daten in einer Vielzahl von Sprachen, die in die Maschine geschoben wurden. Die Maschine transkribiert, übersetzt und versucht zu verstehen, und die menschlichen Daten helfen ihr, schneller zu lernen. Es ist eine schöne Rückkopplungsschleife zwischen einer kleinen Expertengruppe und wirklich fortschrittlichen maschinellen Lernsystemen, die heute in ihrer Kapazität exponentiell größer sind als noch vor vier Jahren.

Fehlinformationen eindämmen

Liam: Wie groß ist das Ausmaß der Fehlinformationen im Moment?

„Die Schlüsselfrage im Moment ist nicht, ob die Leute im Internet das Falsche sagen; es geht nicht um Streitigkeiten zwischen Menschen über Politik; Es geht nicht einmal um Donald Trump oder das, was er auf Twitter bekommt.“

Mark: Nun, ich denke, was gerade passiert, ist, dass es immer schlimmer wird, bevor es besser wird. Nicht jeder im Internet wird es sehen, aber was an den Orten passiert, an denen Fehlinformationen und Desinformation besonders problematisch sind, ist an Orten, an denen es um Leben und Tod geht. Gerade jetzt sehen wir in Indien fast Völkermord-Rhetorik von Unterstützern der Regierung gegenüber Muslimen. Wir sehen, dass organisierte Extremisten, rechtsextreme Gruppen und Neonazis in Europa die Viralität dieser Plattformen nutzen, um ihre Botschaft zu verbreiten.

Und offensichtlich sehen wir es in Verschwörungstheorien zu Gesundheitsthemen, nicht nur bei COVID, sondern bei Menschen, die versuchen, Verschwörungsdenken in Mainstream-Gesprächen zu fördern. Die Schlüsselfrage ist im Moment nicht, ob die Leute im Internet das Falsche sagen; es geht nicht um Streitigkeiten zwischen Menschen über Politik; Es geht nicht einmal um Donald Trump oder das, was er auf Twitter bekommt. Was wir betrachten, ist die Vielzahl von Sprachen und Bedrohungen, bei denen es zu tatsächlichen Schäden in der realen Welt und möglicherweise zu Situationen auf Leben und Tod kommt.

Wir haben derzeit 13 Sprachen, und bald werden wir 26 haben. Es ist an Orten wie Brasilien, wo im Oktober eine äußerst folgenreiche Wahl stattfinden wird, die eine Wiederholung dessen sein könnte, was 2020 in den Vereinigten Staaten passiert ist. Viele Leute denken, wir versuchen herauszufinden, was wahr oder falsch ist. Es geht nicht nur darum oder sogar in erster Linie darum – es geht darum, wo wir verhindern können, dass online etwas passiert, das Auswirkungen auf die reale Welt und möglicherweise auf Leben und Tod haben wird.

Liam: Sie haben dort die brasilianischen Wahlen erwähnt, und ich habe gehört, wie Áine Kerr in einem anderen Podcast über Desinformationsakteure sprach, die zu der Erkenntnis kamen, dass Phrasen wie „Wahlbetrug“ und „manipulierte Wahlen“ Inhaltsmoderatoren warnen, die ihre falschen Behauptungen also zurücknehmen könnten Diese Schauspieler begannen, diese Sätze durch Dinge wie „Wir kämpfen für saubere Wahlen“ zu ersetzen. Und hier können menschliche Moderatoren ins Spiel kommen, um diese Änderungen zu erkennen und den Behörden zu helfen, diese Nachrichten abzufangen.

„Wir sehen ständig, dass Wörter ergänzt und geändert werden. Und da können Maschinen natürlich nicht mithalten.“

Mark: Wir sehen, was wir den Aufstieg von „Algospeak“ nennen, was bedeutet, dass Communitys erkennen, dass es möglicherweise Algorithmen zur Inhaltsmoderation gibt, die darauf achten, was sie sagen, und sie versuchen, dies zu vermeiden. Während der Pandemie sahen wir Anti-Vax-Aktivisten das Wort Panini anstelle von Pandemie verwenden. Zuletzt haben wir in Deutschland gesehen, wie die Anti-Impf-Community das Wort Schlumpf für Impfstoff verwendet, weil die Aussprache dieses Wortes im Deutschen sehr ähnlich klingt wie die Aussprache der Kinderfernsehfigur. Letztes Jahr haben wir in Skandinavien gesehen, wie eine Neonazi-Gruppe ein Wort, das mit einem traditionellen Kinderfest in Verbindung gebracht wird, in eine rassistische Beleidigung verwandelt hat.

Wir sehen ständig, dass Wörter ergänzt und geändert werden. Und da können Maschinen natürlich nicht mithalten. Wenn so etwas wie die Pandemie passiert, kommen plötzlich all diese wissenschaftlichen Begriffe in unsere Sprache. Die Maschine wird einfach nicht eingeholt, und hier ist die menschliche Analyse wichtig – um die Maschine zu korrigieren.

Und so sehen wir innerhalb von Kinzen mehr und mehr, dass die Maschine die Evolution der Sprache aufgreift. Ein Wort verband sich mit einem anderen. Schlumpf mit Impfstoff. Oder wir sehen zum Beispiel an Orten wie Indien antimuslimische Aktivisten, die Worte verwenden, die völlig harmlos erscheinen mögen, aber wir können sehen, dass sie Teil eines Musters von Einschüchterung und Hassreden sind.

Deshalb ist die menschliche Seite so wichtig. Wir plädieren nicht für mehr Inhaltsmoderation. Wir setzen uns nicht für Gesetze oder das Verbot von Fehlinformationen ein. Das halte ich für den absolut falschen Weg. Wir suchen nach einer präziseren Moderation von Inhalten, die die gefährliche Nadel im Heuhaufen knacken kann und gleichzeitig maximale Redefreiheit ermöglicht. Und das ist unser langfristiges Ziel. Wir können keine Sicherheit per Dekret und Regierungen haben, die Inhalte verbieten. Wir müssen die Plattformen neu gestalten, damit Maschinen und Menschen, die in der Inhaltsmoderation arbeiten, genauer, präziser und rechtzeitiger dem Problem zuvorkommen, anstatt darauf zu reagieren.

Eine Mischung aus Maschinen und Menschen

Liam: Ist Fehlinformation ein technisches Problem, ein menschliches Problem oder ein bisschen von beidem?

Mark: Hören Sie, das ist eine dieser existenziellen Fragen, bei denen die Leute denken, dass die Technologie sie dazu gebracht hat oder die Welt dumm gemacht hat. Darauf gehe ich nicht ein. Ich bleibe ein Verfechter des demokratischen Potenzials der Technologien, die wir jetzt als selbstverständlich ansehen oder beginnen, stark abzulehnen. Das Geschäftsmodell und die Art und Weise, wie die Algorithmen ursprünglich mit Social Media vorbereitet wurden, nutzen zwar unsere schlimmsten Instinkte, aber ich denke, wir können diese Technologie umgestalten, um unsere besten Absichten freizusetzen. Und ein Teil davon sind viel bessere Filter, auf die der Normalbürger zugreifen kann, wenn er im Internet surft.

„Der durchschnittliche Benutzer wird mehr Leistung und Präzision bei der Moderation von Inhalten haben“

Derzeit arbeiten wir mit zentralisierten Moderationsteams innerhalb der Technologieplattformen. Ich vermute, dass in den nächsten zwei bis drei Jahren immer mehr Plattformen versuchen werden, die Macht zu dezentralisieren, damit der normale Mensch seine Filter einstellen kann. Sie können sagen: „Hören Sie, ich möchte keine extreme Sprache in meinem Feed hören“, oder jemand anderes könnte sagen: „Nun, das will ich. Ich möchte sehen, was die andere Seite denkt.“ Der durchschnittliche Benutzer wird mehr Leistung und Präzision bei der Moderation von Inhalten haben. Aber es wird Zeit brauchen, und wir stehen erst am Anfang. Denken Sie daran, dass die großen Plattformen, die heute existieren, durch neue ersetzt werden, die gerade von einigen 17-Jährigen inkubiert werden.

Wir müssen uns einiger Entwicklungen bewusst sein, die das Problem verschlimmern könnten, bevor sie besser werden. Bei Kinzen sind wir Pioniere der Moderation von Audioinhalten. Wir haben analysiert, wie sich Fehlinformationen, Desinformationen und Hassreden über Live-Audio und Podcasts verbreiten. Und wir glauben, dass die gesprochene Ebene des Internets ein Bereich ist, auf den wir uns in den nächsten Jahren mit großer Bedeutung konzentrieren müssen.

Liam: Ich wollte Sie danach fragen, bevor wir zum Abschluss kommen. Es gibt nur unzählige Stunden Audio. Welches Problem stellt das für Sie und die Faktenprüfer dar?

Mark: Es ist wie ein perfekter Sturm. Offensichtlich haben Sie mit Live-Audio die Geschwindigkeit. Wenn man sich Podcasts ansieht, sind viele davon stundenlang. Und dann ist die wichtigste und größte Herausforderung die Sprache. Es werden Tausende von Sprachen gesprochen. Wenn Sie etwas in Indien analysieren, hören Sie vielleicht jemandem zu, der Hindi spricht, aber er springt hin und wieder ins Englische. Was uns sehr bewusst ist, ist die Faszination des maschinellen Lernens. Sie haben eine automatische Spracherkennung. Aber auch hier können Sie das optimieren, wenn Sie wissen, wonach Sie mit einigen menschlichen Signalen suchen. Wir können zulassen, dass das Sprachmodell besser wird, optimiert wird, um nicht nur auf den Klang eines Wortes zu achten, sondern auch auf die Beziehung zwischen Sprachen.

„Können wir anfangen, Maschinen und Menschen zusammenzubringen, um die Bedeutung von Sprache zu interpretieren, und zwar nicht nur, was sie sagen, sondern auch, wie sie es sagen?“

Ich bin Journalistin, richtig? Ich bin kein ausgebildeter Technikfreak. Vieles von diesem Zeug wundert mich, wenn ich versuche, damit Schritt zu halten. Aber ich denke, was für Audio wichtig ist, ist, dass wir darauf achten, wie Menschen sprechen; ihre Tonlage. Arabisch zum Beispiel ist eine Sprache, wenn Sie es aufschreiben, aber mehrere Dialekte, wenn Sie es sprechen. Und das ist für mich das Beunruhigendste und auch Spannendste. Können wir damit beginnen, Maschinen und Menschen zusammenzubringen, um die Bedeutung von Sprache zu interpretieren und nicht nur, was sie sagen, sondern auch, wie sie es sagen? Das ist die große Herausforderung der Audiomoderation, aber ich denke auch, dass es eine der spannendsten Herausforderungen ist, an der man arbeiten kann. Nur Menschen können Dinge wie Ironie, Sarkasmus, Slang oder „Algospeak“ erkennen. Und deshalb ist unser Ansatz nicht nur effektiver, sondern letztlich auch demokratischer. Wir wollen möglichst wenig Eingriffe, aber höchste Präzision, und da ist die Mischung aus Mensch und Maschine so wichtig.

Liam: Brillant. Nun, Mark, vielen Dank, dass Sie heute zu mir gekommen sind.

Mark: Liam, es ist mir ein Vergnügen. Lass es uns bald wiederholen.