Генеральный директор Kinzen Марк Литтл о борьбе с дезинформацией

В наш век дезинформации фермы троллей, фейковые новости и разжигание ненависти выходят из-под контроля, и правду становится все труднее и труднее обнаружить. Может ли модерация контента помочь нам защитить интернет-сообщества от его последствий?

Фальшивые новости — не новое явление, но платформы социальных сетей предоставили им идеальную эхо-камеру для их размножения и распространения в беспрецедентных масштабах и с очень реальными последствиями. Но традиционные проверки фактов и автоматические фильтры контента не могут сравниться с силой дезинформации и дезинформации. Для решения проблемы потребуется совершенно новое решение, и Марк Литтл — один из тех, кто возглавит эту задачу.

Марк — отмеченный наградами журналист и новатор в области цифровых медиа, чья карьера в сфере новостей насчитывает более 20 лет — от его самого первого репортажа о бунте в тюрьме в Дублине до отмеченного наградами репортажа из раздираемого войной Афганистана. В 2010 году, заметив, как молодые люди используют социальные сети, чтобы сообщать о происходящем, он основал Storyful, первую в мире новостную ленту социальных сетей, которая объединила традиционное информационное агентство с аутентифицированным пользовательским контентом. В 2015 году, после продажи Storyful компании News Corp, Марк присоединился к Twitter в качестве вице-президента по медиа и партнерским отношениям в Twitter в Европе.

Год спустя Марк ушел со своего поста, так как понял, что возникает новая угроза — то, что началось как демократическая волна пробуждения социальных сетей, искажается. Алгоритмы и бизнес-модели, лежащие в основе этих платформ, использовались для производства и распространения пропаганды и теорий заговора. Вместе с Айне Керр, коллегой-журналисткой, которая в то время руководила глобальными журналистскими партнерствами для Facebook, он начал работать над решением этой проблемы, и так родился Кинзен.

«Чтобы решить эту проблему, они используют комбинацию машинного обучения и человеческого анализа, что позволяет масштабировать ответ до глобального уровня».

С тех пор они работают над тем, чтобы опередить эту угрозу и защитить интернет-сообщества от опасной дезинформации и разжигания ненависти, которые наносят реальный вред. Чтобы решить эту проблему, они используют комбинацию машинного обучения и человеческого анализа, которая может масштабировать ответ до глобального уровня. Марк остается оптимистом в отношении демократического потенциала социальных сетей, но он первым признал, что они отчаянно нуждаются в редизайне. И здесь на помощь приходит более точная модерация контента.

В сегодняшнем выпуске мы с Марком обсудили эволюцию журналистики, распространение дезинформации и то, что мы можем сделать для защиты интернет-сообществ от вредоносного контента.

Вот некоторые из наших любимых выводов из разговора:

• Неудача встроена в процесс открытия собственного дела. Секрет великого предпринимателя не в выживании, а в стойкости.
• За последние пару лет мы наблюдаем рост «алгоязыка», который происходит, когда онлайн-сообщества меняют определенные слова, чтобы избежать пометки алгоритмами модерации контента.
• Марк выступает не за законодательство, запрещающее дезинформацию, а за более точную модерацию контента, которая выявляет вредоносный контент и обеспечивает максимальную свободу слова.
• Марк считает, что в течение следующих нескольких лет все больше платформ попытаются децентрализовать власть, чтобы люди могли устанавливать свои собственные фильтры для того, что они хотят видеть в Интернете.
• Сочетая человеческий анализ и машинное обучение, они могут обнаруживать такие вещи, как ирония, сленг или «алгоритм», и масштабировать их на глобальном уровне.

Если вам нравится наша дискуссия, посмотрите другие выпуски нашего подкаста. Вы можете подписаться на iTunes, Spotify, YouTube или получить RSS-канал в выбранном вами проигрывателе. Далее следует слегка отредактированная стенограмма эпизода.

Политическое пробуждение

Лайам Джерати: Марк, большое спасибо, что присоединились к нам. Добро пожаловать на шоу.

Марк Литтл: С удовольствием, Лиам. Спасибо, что пригласили меня.

Лиам: Вы прошли замечательный путь до того, как основали Kinzen. Откуда появился интерес к журналистике?

«Я был одержим тем, как устроен мир, и почему некоторые люди, казалось, видели за углом то, что должно было произойти дальше»

Марк: Ну, я был одним из тех очень не по годам развитых детей. В возрасте шести или семи лет я по утрам дрался за The Irish Times с моим отцом. И примерно в девять или десять я понял, что у меня никогда не было достаточно природного таланта, чтобы быть моей настоящей страстью, которая заключалась в том, чтобы быть центральным нападающим «Ливерпуля». И, в основном, я помню, что возвращался к тому, на что кто-то, я полагаю, мой учитель религии, указал мне в табеле успеваемости, когда мне было около 14 лет. Он сказал, что я преждевременно циничен, испытываю неистовое любопытство к миру, определенный скептицизм и страсть к переменам.

Я был одержим тем, как устроен мир и почему некоторые люди, казалось, видели за углом то, что произойдет дальше в политике или бизнесе. И это было ядром, которое началось с журналистики и оставалось со мной на протяжении всей моей карьеры.

Лайам: Политика была большой проблемой в вашей семье?

Марк: Абсолютно. Это было впереди и в центре. Если вы росли в 1970-х и 1980-х годах, если вы не интересовались политикой, вы ничего не знали и не бодрствовали. В то время мы жили в Ирландии, где все еще доминировало очень регрессивное общество, в котором преобладала церковь. Мы все еще были бедняками Европы. Иммиграция была на рекордно высоком уровне; безработица достигла рекордно высокого уровня. И глядя за границу, когда я рос как студенческий активист в восьмидесятых, я имею в виду… Все происходило. Во всем мире казалось, что во всем, что происходит, происходят тектонические сдвиги.

Все казалось настолько важным, что ядерный апокалипсис был чем-то, о чем я глубоко думал в 80-х, вплоть до падения Берлинской стены. Это просто для того, чтобы дать вам представление о том, насколько важно было жить в период огромного беспокойства. Но если бы вы были политически настроены, это также вызвало бы огромное волнение и вызов.

Социальные волнения в Лондоне

Лайам: Я правильно понял, что ваше первое выступление было в рекламном отделе журнала коммунистической партии в Великобритании?

Марк: Да, это было забавно. В то время было много левых, которые были очень увлечены культурой и находились под влиянием того, что происходило с гласностью и перестройкой. Была группа людей, которых можно было бы назвать новыми левыми или еврокоммунистами, и я был очарован этим журналом. Она называлась «Марксизм сегодня».

Я работал на автостоянке и в «Макдоналдсе», и случайно случайно подвернул руку и сказал: «Эй, кто-нибудь из ребят занимается марксизмом сегодня?» И оказалось, что одной из вакансий была даже не продажа рекламы, а сбор рекламы. Пришлось бы звонить производителям мюсли и людям, производящим футоны и рекламу праздников в Болгарии, и слегка пригрозить им, требуя деньги, которые они обязались заплатить за рекламу. Это было летом в Лондоне в 87-м. Я видел Рэда Веджа и Билли Брэгга. Забастовка горняков только что закончилась, и было реальное ощущение, что Тэтчер была самой важной персоной на международной арене.

«В то время политика была во всем. Это было похоже на кислород, окружавший нас».

Жизнь в Лондоне в 1987 году и принадлежность к левому движению — не обязательно к коммунистической партии, которая как бы уходила из жизни — были настоящим откровением, потому что я был студентом-радикалом. Мне приходилось бывать в таких местах, как Конгресс тред-юнионов, и встречаться с некоторыми передовыми людьми, которые действительно добились перемен в Британии. Я также научился переворачивать гамбургеры и готовить идеальный макнаггет с курицей.

Тем же летом 1987 года кампания ИРА была в самом разгаре. Я работал на этой автостоянке, и одна из моих обязанностей заключалась в том, чтобы объезжать около 4:00 или 5:00 утра долгосрочную автостоянку, чтобы проверить, есть ли там машины больше недели, потому что они боялись ИРА собиралась заложить там бомбу. И вот я, ирландский молодой парень и пакистанский коллега, и мы оба отвечали за то, чтобы сообщать в специальные отделы, которые приходили утром, какие машины простояли там слишком долго. Опять же, просто напоминание о том, что в то время политика была во всем. Это было похоже на кислород, окружавший нас.

«Я был так молод, что, когда я получил свою большую работу в Вашингтоне, мне сказали, может быть, отрастить усы или носить синий цвет, который, очевидно, делает вас старше».

Лиам: Вау, это безумие. Все это имеет смысл с точки зрения вашей карьеры в журналистике и перехода на Национальную телерадиовещательную компанию. Я имею в виду, ты почти сразу после колледжа пошел работать на Национальную телерадиовещательную компанию Ирландии.

Марк: Я был так молод, что, когда я получил свою большую работу в Вашингтоне, мне сказали, может быть, отрастить усы или носить синий цвет, который, очевидно, делает тебя старше. Выйдя из колледжа, я понял, что не хочу быть в политике. Я не был особенно идеологическим в конце дня. Я не был партизаном. И я был, как я уже сказал, очарован переменами. Я пошел в DCU, чтобы пройти курс журналистики, и еще до того, как этот курс закончился, RTE рекламировал людей, чтобы они присоединились к ним, что я и сделал.

Примерно через 24 часа мой первый отчет был о тюремном бунте в Фибсборо, Северный Дублин. Я был на крыше и должен был транслировать шестичасовые новости по мобильному телефону, что, поверьте мне, было огромным технологическим новшеством в то время. Мне было так плохо, что, когда я вернулся в офис, мой босс сказал: «Не слушай это в ответ. Это не вдохновит вас на будущее». Но на том этапе возможность начать доклад по важным вопросам была сбывшейся мечтой.

Новая волна журналистики.

Лиам: Ваша карьера в журналистике длилась почти 20 лет, я прав?

Марк: Это верно.

Лайам: Что побудило вас уйти из журналистики после чрезвычайно успешной карьеры корреспондента в Вашингтоне и ведущего Prime Time, одного из крупнейших шоу в Ирландии?

Марк: Ну, я начал понимать, что все изменилось, если использовать старую фразу. Средства производства журналистики и новостей изменились от того, чтобы быть таким человеком, как я, человеком по телику, стоящим в зоне боевых действий. Я помню, как был в Кандагаре, на юге Афганистана, и это было очень неприятно, потому что я сидел там и слушал, как кто-то переводил мне то, что происходило на земле. И вдруг я понял, что старый золотой век журналистики был очень недемократичным. Это были такие люди, как я, привратники, рассказывающие людям дома, которые садились в определенное время ночью, чтобы послушать меня, человека по телику, рассказывающего им, что было правдой, что было настоящим.

«Что произойдет, если мы сможем объединить старомодное повествование, правду и журналистику с этим революционным новым демократическим пробуждением на этих платформах?»

В то же время я видел появление Твиттера и YouTube, и я помню, что это были выборы протеста в Иране в 2009 году. У каждого иностранного корреспондента есть история, которая задевает их кожу – Иран был моей историей. Я помню, как смотрел, как 17-18-летние юноши используют социальные сети для того, чтобы делать самые интуитивные и достоверные репортажи о том, что происходит, и думал: «Боже мой, это все изменит».

Большинство моих современников боялись и боялись этой демократической революции. Но я увидел эту возможность. Что произойдет, если мы сможем объединить старомодное повествование, правду и журналистику с этим революционным новым демократическим пробуждением на этих платформах? Я посмотрел на 25 лет вперед и подумал: «Если я не сделаю этого сейчас, то буду жалеть об этом всю оставшуюся жизнь». Вы должны подумать о том, что Талмуд, великий старый еврейский религиозный текст, говорит: «Если не я, то кто? Если не сейчас, то когда?" У меня был тот момент, и пути назад не было.

Лиам: Итак, ты взял и создал Storyful. Мне нравится замечательный слоган Storyful: «Новости из шума социальных сетей». Каково было перейти от журналистики к основанию бизнеса?

Марк: Это было похоже на наблюдение за водой зимой. Вы думаете: «А было бы здорово пойти поплавать?» А потом вы прыгаете и вас парализует холод. Мы не могли подняться на год вперед с Storyful. Я думал, мы разоримся. Это было жестоко. Я поставил на это предприятие все – свою репутацию, все свои деньги, и казалось, что оно разорится.

«Секрет великого предпринимателя не в выживании. Это устойчивость. И неудача встроена в модель».

Я помню канун Рождества, когда ехал повидаться с семьей и чувствовал на себе тяжесть всего мира, и я осознал свою худшую мысль: «Мы разоримся, но я найду работу и оправлюсь от этого. ” И я понял, что когда вы сталкиваетесь со своим худшим страхом, особенно в начале стартапа, он больше никогда не будет преследовать вас, потому что вы столкнулись с ним. Это худшее, что может случиться.

Я начал понимать, что как журналист я стремлюсь выжить. Пришлось стать военным корреспондентом. Я помнил дни, когда я мог работать на части того, буду ли я убит или ранен, но я никогда не думал о стойкости, о том, что происходит, когда тебе приходится вставать каждый день, и это тяжело. И в этом была большая разница. Секрет великого предпринимателя не в выживании. Это устойчивость. А неудача заложена в модели — с этим приходится мириться. Это было настоящим изменением мышления. Было много общего, но требовалось большое изменение мышления.

Лиам: Как это было? Потому что, как вы сказали, многие журналисты как бы боялись этого. Но это совершенно новая форма журналистики, и мы, вероятно, не знали этого в то время.

«Мы начали развивать сотрудничество с людьми на местах, которые были очевидцами истории»

Марк: Ну, мы могли видеть, как это происходит на практике, пока люди пытались обработать это в теории. Например, во время арабских восстаний, которые начались в 2010 году в Тунисе и прошли через Египет и Сирию, мы видели в нашем крошечном стартапе в Ирландии демократических активистов на местах, пытающихся рассказать историю из таких мест, как Алеппо. Они начали понимать, что мы наблюдаем за ними, и будут делать такие вещи, как наклон камеры, чтобы показать минарет, который поможет нам определить геолокацию этого изображения. Они помогали нам, развешивая газеты и рассказывая нам, какой сегодня день и в каком месте они находятся. И мы начали развивать сотрудничество с людьми на местах, которые были очевидцами истории.

И, конечно же, мы привносили журналистскую строгость. Когда Усама бен Ладен был убит в Пакистане, мы сразу же получили спутниковые снимки, чтобы проанализировать природу вертолета, который разбился и приземлился на территории комплекса. Мы могли указать журналистам физическое местонахождение, потому что оно было указано неправильно.

Эта новая форма журналистики с открытым исходным кодом была демократичной, потому что нашими основными источниками были люди прямо на местах, а не другие журналисты. Но в то же время в нем была та же строгость журналистских расследований, что и в отношении ответственности. Она возникла не случайно, но мы точно не планировали создавать новую форму журналистики. Он органично развился из этого пробуждения, которое было доминирующей силой первой волны социальных сетей. Сегодня многие из выпускников Storyful работают в крупных новостных организациях, таких как New York Times, CNN, BBC или Washington Post, и привносят ту новую форму журналистики, частью которой мы были с Storyful.

Оружие социальных сетей

Лайам: В 2013 году вы продали Storyful компании News Corp, переехали в Нью-Йорк, чтобы помочь с переходом, но в конце концов вернулись в Дублин, чтобы взять на себя роль управляющего директора Twitter в Дублине. Вы как бы тосковали по следующей большой вещи, чтобы сделать спину Storyful?

Марк: Не совсем. Я имею в виду, если подумать, у меня была карьера, работавшая на «Марксизм сегодня», Руперта Мердока, Джека Дорси и ирландского налогоплательщика. У меня был довольно хороший диапазон, по крайней мере, с идеологической точки зрения. И я пришел из Storyful и действительно очарован Twitter. Я влюбился в Твиттер, он изменил мою жизнь, и я хотел попасть в самое сердце машины. У меня не было желания делать еще один стартап. На самом деле, я попросил у другого своего современника, еще одного основателя медиа-стартапа, разрешения больше так не делать.

На том этапе Twitter был довольно крупной корпорацией. Я хотел посмотреть, смогу ли я внести изменения и энергию в бизнес Twitter. Вот почему я решил сделать это. Это был реальный шанс попасть внутрь платформы, которая изменила все в моем бизнесе, чтобы посмотреть, смогу ли я повлиять на нее. Только случайно это означало возвращение из Нью-Йорка, где я был очень счастлив, обратно в Дублин, который оказался международной штаб-квартирой. Но я хотел сделать перерыв в жизни стартапа и посмотреть, как бы это выглядело, если бы я был внутри большой корпорации.

«Я видел многие из проблем, которые мы заметили в арабских восстаниях, когда люди использовали социальные платформы не как демократический инструмент, а как оружие».

Лиам: Откуда взялся Кинзен? Кажется, что в какой-то степени он родился из пламени Storyful.

Марк: Он родился из-за разочарования в большой корпорации под названием Twitter. Мне нравилось там работать, но там было не очень хорошо. И, в конце концов, от команды медиа-партнеров практически избавились. Я мог бы остаться на хорошей корпоративной работе, но тем временем был 2016 год, и только что состоялись президентские выборы в США. Я видел многие из проблем, которые мы заметили в их самом раннем воплощении в арабских восстаниях, когда люди использовали социальные платформы не как демократический инструмент, а как оружие. Они использовали виральность видео на таких площадках, как YouTube и Twitter, для создания ложных историй, которые были либо пропагандой, либо теориями заговора.

Первая волна Интернета была демократическим пробуждением. А потом, когда наступил 2016 год, я понял: «Черт возьми! Это превращается в оружие». Не только из-за Дональда Трампа — были более глубокие проблемы, когда виральность, бизнес-модель и алгоритмы внезапно были захвачены людьми, выступающими против демократии. Это было место рождения и идея, которая побудила меня вернуться к Айне Керр, моей самой доверенной коллеге, которая в то время работала в Facebook, и сказать: «Что, если мы сделаем что-то, чтобы вернуть власть гражданам, позволить их, чтобы защитить себя от этой возникающей угрозы?» И мы оба прыгнули.

Для начала мы решили дать людям ленту новостей, которую они могли бы контролировать, но, очевидно, по мере того, как мы продвигались вперед, как и в любом стартапе, идея развивалась. На смену первой волне демократии пришла новая темная сила в Интернете, и это послужило источником вдохновения для Kinzen.

Лиам: Для тех, кто не знает, что такое Кинзен? Кто является пользователем Kinzen?

Марк: Мы помогаем крупным технологическим платформам и новым платформам защищать мировые разговоры от информационных рисков. И под этим мы подразумеваем опасную дезинформацию, которая причиняет реальный вред, организованную дезинформацию и ненавистнические и насильственные высказывания. Нашими клиентами являются доверенные профессионалы в области безопасности, политики и люди внутри этих компаний, которые отчаянно пытаются опередить эти информационные угрозы и риски вместо того, чтобы реагировать на проверку фактов.

«Мы масштабируем человеческое решение этого конкретного информационного кризиса»

Мы используем комбинацию старого доброго человеческого анализа и более поздних этапов машинного обучения, чтобы решить коварную проблему, с которой сталкиваются эти платформы. Это, во-первых, то, что люди не могут масштабировать, чтобы справиться с проблемой, и что машины не способны обнаруживать эти информационные риски на нескольких языках и в разных форматах. Это проблема, которую Кинзен пытается решить. Мы масштабируем человеческое решение этого конкретного информационного кризиса.

Лиам: Итак, вы как бы берете эти редакторские навыки у Storyful и кодируете их в машинах, чтобы придать им эти ценности.

Марк: Точно. Мы следуем человеческому подходу и подходу к машинному обучению, который стал возможен только в последние пару лет, когда у нас появился доступ к этим большим языковым моделям. Наши аналитики создают машиночитаемые данные на разных языках, которые вводятся в машину. Машина расшифровывает, переводит и пытается понять, а человеческие данные помогают ей учиться быстрее. Это красивая петля обратной связи между небольшой группой экспертов и действительно продвинутыми системами машинного обучения, которые сейчас экспоненциально лучше, чем они были даже четыре года назад.

Борьба с дезинформацией

Лиам: Насколько велики масштабы дезинформации на данный момент?

«Ключевой вопрос сейчас не в том, говорят ли люди в Интернете что-то не то; речь идет не о спорах между людьми по поводу политики; дело даже не в Дональде Трампе или в том, что он получает в Твиттере».

Марк: Ну, я думаю, что сейчас происходит ухудшение, прежде чем станет лучше. Не все в Интернете это увидят, но то, что происходит в местах, где дезинформация и дезинформация особенно проблематичны, — это места, где речь идет о жизни и смерти. Прямо сейчас в Индии мы видим почти уровень геноцида в риторике, исходящей от сторонников правительства по отношению к мусульманам. Мы видим, как организованные экстремисты, крайне правые группы и неонацисты в Европе используют виральность этих платформ для распространения своих идей.

И, очевидно, мы видим это в теориях заговора на темы здоровья, не только о COVID, но и в людях, пытающихся продвигать конспирологические мысли в основных разговорах. Ключевой вопрос сейчас не в том, говорят ли люди в Интернете что-то не то; речь идет не о спорах между людьми по поводу политики; дело даже не в Дональде Трампе или в том, что он получает в Твиттере. То, на что мы смотрим, — это множество языков и угроз, где существует реальный реальный вред и, возможно, ситуации жизни или смерти.

В настоящее время у нас есть 13 языков, а скоро у нас будет 26. Это происходит в таких странах, как Бразилия, где в октябре пройдут чрезвычайно важные выборы, которые могут стать повторением того, что произошло в 2020 году в Соединенных Штатах. Многие думают, что мы пытаемся разобраться, что правда, а что ложь. Речь идет не только об этом или даже в первую очередь об этом — речь идет о том, где мы можем остановить то, что происходит в Интернете, что будет иметь влияние на реальный мир и, возможно, на жизнь или смерть.

Лиам: Вы упомянули бразильские выборы, и я слышал, как Айн Керр в другом подкасте говорила об актах дезинформации, которые пришли к пониманию того, что такие фразы, как «фальсификация выборов» и «сфальсифицированные выборы», предупреждают модераторов контента, которые могут опровергнуть их ложные утверждения, так что тогда эти актеры начали заменять эти фразы фразами вроде «Мы выступаем за чистые выборы». И именно здесь могут появиться модераторы-люди, чтобы обнаружить эти изменения и помочь властям перехватить эти сообщения.

«Мы постоянно наблюдаем, как в слова вносятся поправки и изменения. И, конечно же, машины за этим не поспевают».

Марк: Мы наблюдаем то, что мы называем ростом «алгоязыка», то есть когда сообщества понимают, что могут существовать алгоритмы модерации контента, следящие за тем, что они говорят, и пытающиеся этого избежать. Во время пандемии мы видели, как антипрививочные активисты использовали слово «панини» вместо слова «пандемия». Совсем недавно в Германии мы видели, как антипрививочное сообщество использовало слово smurf для обозначения вакцины, потому что по-немецки произношение этого слова очень похоже на произношение детского телевизионного персонажа. В прошлом году в Скандинавии мы видели, как неонацистская группа изменила слово, связанное с традиционным детским праздником, на расовое оскорбление.

Мы постоянно видим, как слова дополняются и изменяются. И, конечно же, машины не в состоянии угнаться за этим. Когда происходит что-то вроде пандемии, внезапно в наш язык входят все эти научные термины. Машина просто не догоняет, и здесь важен человеческий анализ – поправить машину.

Итак, внутри Кинзена мы все больше и больше начинаем видеть, как машина улавливает эволюцию языка. Одно слово связано с другим. Смурф с вакциной. Или, например, в таких местах, как Индия, мы видим, как антимусульманские активисты используют слова, которые могут показаться совершенно безобидными, но мы можем видеть, что они являются частью схемы запугивания и разжигания ненависти.

Вот почему человеческая часть так важна. Мы не выступаем за усиление модерации контента. Мы не выступаем за законы или запрет дезинформации. Я думаю, что это абсолютно неверный путь. Мы ищем более точную модерацию контента, которая может выбрать опасную иголку в стоге сена, предоставляя при этом максимальную свободу слова. И это наша долгосрочная цель. У нас не может быть безопасности из-за декретов и правительств, запрещающих контент. Нам нужно перепроектировать платформы, чтобы машины и люди, работающие в области модерации контента, становились более точными, более точными и своевременными, чтобы опережать проблему, а не реагировать на нее.

Смесь машин и людей

Лиам: Дезинформация — это техническая проблема, человеческая проблема или и то, и другое?

Марк: Послушай, это один из тех экзистенциальных вопросов, когда люди думают, что технология заставила их что-то сделать или сделала мир немым. Я не иду на это. Я остаюсь евангелистом демократического потенциала технологий, которые мы сейчас принимаем как должное или начинаем сильно не любить. Бизнес-модель и то, как алгоритмы изначально были настроены на социальные сети, действительно используют наши худшие инстинкты, но я думаю, что мы можем изменить эту технологию, чтобы освободить наши лучшие намерения. И отчасти это связано с наличием гораздо лучших фильтров, к которым может получить доступ обычный человек, когда он просматривает Интернет.

«Средний пользователь будет иметь больше возможностей и точности в модерации контента»

Прямо сейчас мы работаем с централизованными командами модераторов внутри технических платформ. Я предполагаю, что в течение следующих двух-трех лет все больше и больше платформ будут пытаться децентрализовать власть, чтобы обычные люди могли устанавливать свои фильтры. Они могут сказать: «Слушайте, я не хочу слышать экстремальные выражения в своей ленте», или кто-то другой может сказать: «Ну, хочу. Я хочу знать, что думает другая сторона». Средний пользователь будет иметь больше возможностей и точности в модерации контента. Но это займет время, и мы только в начале пути. Помните, большие платформы, которые существуют сегодня, будут заменены новыми, которые прямо сейчас вынашиваются какими-то 17-летними подростками.

Мы должны знать о некоторых событиях, которые могут усугубить проблему, прежде чем она улучшится. В Kinzen мы являемся пионерами модерации аудиоконтента. Мы анализировали, как дезинформация, дезинформация и разжигание ненависти распространяются через живое аудио и подкасты. И мы думаем, что разговорный слой Интернета — это область, на которой нам нужно сосредоточиться с высокой степенью важности в течение следующих нескольких лет.

Лиам: Я собирался спросить тебя об этом перед тем, как мы закончим. Есть просто бесчисленные часы аудио. Какие проблемы это представляет для вас и фактчекеров?

Марк: Это похоже на идеальный шторм. Очевидно, что с живым звуком у вас есть скорость. Глядя на подкасты, многие из них длятся часы и часы. И потом, самая важная и самая большая проблема — это язык. Здесь говорят на тысячах языков. Если вы анализируете что-то в Индии, возможно, вы слушаете кого-то, говорящего на хинди, но время от времени они перескакивают на английский. Мы прекрасно осознаем, что именно здесь машинное обучение так увлекательно. У вас есть автоматическое распознавание речи. Но опять же, вы можете настроить это, если знаете, что ищете с некоторыми человеческими сигналами. Мы можем позволить языковой модели стать лучше, быть оптимизированной, чтобы прислушиваться не только к звучанию слова, но и к отношениям между языками.

«Можем ли мы начать объединять машины и людей, чтобы интерпретировать значение языка, а не только то, что они говорят, но и то, как они это говорят?»

Я журналист, да? Я не технарь по образованию. Многие из этих вещей заставляют меня задуматься, когда я пытаюсь не отставать от них. Но я думаю, что для аудио важно то, что мы следим за тем, как люди говорят; их тон голоса. Арабский, например, — это один язык, если вы на нем пишете, но несколько диалектов, когда вы на нем говорите. И это для меня самое тревожное и самое волнующее. Можем ли мы начать объединять машины и людей, чтобы интерпретировать значение языка, и не только то, что они говорят, но и то, как они это говорят? Это большая проблема модерации аудио, но я также думаю, что это одна из самых захватывающих задач, над которыми нужно работать. Только люди способны распознавать такие вещи, как ирония, сарказм, сленг или «алгоритм». И именно поэтому наш подход не только более эффективен, но и, в конечном счете, более демократичен. Нам нужно минимально возможное вмешательство, но высочайший уровень точности, и именно здесь сочетание человека и машины так важно.

Лиам: Великолепно. Что ж, Марк, большое спасибо, что присоединился ко мне сегодня.

Марк: Лиам, с удовольствием. Давайте сделаем это снова в ближайшее время.