Dyrektor generalny Kinzen, Mark Little o walce z dezinformacją

W dobie dezinformacji farmy trolli, fałszywe wiadomości i mowa nienawiści wpadają w amok, a prawda jest coraz trudniejsza do zauważenia. Czy moderacja treści może pomóc nam chronić społeczności internetowe przed jej konsekwencjami?

Fałszywe wiadomości nie są nowym zjawiskiem, ale platformy mediów społecznościowych zapewniły im idealną komorę echa, w której mogą się jątrzyć i rozprzestrzeniać na bezprecedensową skalę i z bardzo realnymi konsekwencjami. Ale tradycyjne sprawdzanie faktów i automatyczne filtry treści nie są w stanie sprostać sile stojącej za dezinformacją i dezinformacją. Aby uporać się z tym problemem, potrzebne będzie zupełnie nowe rozwiązanie, a Mark Little jest jedną z osób prowadzących szarżę.

Mark jest wielokrotnie nagradzanym dziennikarzem i innowatorem mediów cyfrowych z karierą w wiadomościach telewizyjnych, która trwa od ponad 20 lat – od jego pierwszego raportu na temat zamieszek w więzieniu w Dublinie po wielokrotnie nagradzane reportaże z rozdartego wojną Afganistanu. W 2010 roku, po zauważeniu, w jaki sposób młodzi ludzie używają mediów społecznościowych do zgłaszania tego, co się dzieje, założył Storyful, pierwszy na świecie serwis informacyjny w mediach społecznościowych, który połączył tradycyjną agencję informacyjną z uwierzytelnionymi treściami tworzonymi przez użytkowników. W 2015 roku, po sprzedaży Storyful News Corp, Mark dołączył do Twittera jako wiceprezes ds. mediów i partnerstw Twittera w Europie.

Rok później Mark zrezygnował ze swojego stanowiska, gdy zdał sobie sprawę, że pojawia się nowe zagrożenie – to, co zaczęło się jako demokratyczna fala przebudzenia mediów społecznościowych, zostało zepsute. Algorytmy i modele biznesowe stojące za tymi platformami były wykorzystywane do tworzenia i rozpowszechniania teorii propagandowych i spiskowych. Wraz z Áine Kerr, dziennikarzem, który w tym czasie zarządzał globalnymi partnerami dziennikarskimi dla Facebooka, zaczął pracować nad rozwiązaniem tego problemu i narodził się Kinzen.

„Aby sprostać temu wyzwaniu, wykorzystują połączenie uczenia maszynowego i ludzkiej analizy, które mogą skalować reakcję na poziom globalny”

Od tego czasu pracują, aby wyprzedzić to zagrożenie i chronić społeczności internetowe przed niebezpieczną dezinformacją i mową nienawiści, które powodują szkody w świecie rzeczywistym. Aby sprostać temu wyzwaniu, wykorzystują połączenie uczenia maszynowego i ludzkiej analizy, które mogą skalować reakcję na poziom globalny. Mark pozostaje optymistą co do demokratycznego potencjału sieci społecznościowych, ale jako pierwszy przyznaje, że desperacko potrzebuje on przeprojektowania. I tu właśnie pojawia się bardziej precyzyjna moderacja treści.

W dzisiejszym odcinku spotkaliśmy się z Markiem, aby porozmawiać o ewolucji dziennikarstwa, szerzeniu się dezinformacji oraz o tym, co możemy zrobić, aby chronić społeczności internetowe przed szkodliwymi treściami.

Oto niektóre z naszych ulubionych wniosków z rozmowy:

• Porażka jest wbudowana w proces zakładania własnej firmy. Sekretem bycia wielkim przedsiębiorcą nie jest przetrwanie – to odporność.
• W ciągu ostatnich kilku lat zaobserwowaliśmy wzrost popularności „algomowy”, która ma miejsce, gdy społeczności internetowe zmieniają pewne słowa, aby uniknąć oflagowania przez algorytmy moderowania treści.
• Mark nie opowiada się za przepisami zakazującymi dezinformacji, ale raczej za bardziej precyzyjnym moderowaniem treści, które wykrywa szkodliwe treści przy jednoczesnym zapewnieniu maksymalnej wolności słowa.
• Mark wierzy, że w ciągu najbliższych kilku lat więcej platform będzie próbowało zdecentralizować władzę, aby ludzie mogli ustawiać własne filtry na to, co chcą zobaczyć w Internecie.
• Łącząc ludzką analizę i uczenie maszynowe, mogą wykrywać takie rzeczy jak ironia, slang lub „algospeak” i skalować je na poziomie globalnym.

Jeśli podoba Ci się nasza dyskusja, sprawdź więcej odcinków naszego podcastu. Możesz śledzić na iTunes, Spotify, YouTube lub pobrać kanał RSS w wybranym odtwarzaczu. Poniżej znajduje się lekko zredagowany transkrypcja odcinka.

Przebudzenie polityczne

Liam Geraghty: Mark, bardzo dziękuję za przyłączenie się do nas. Serdecznie zapraszamy na pokaz.

Mark Little: Z przyjemnością, Liam. Dzięki za zaproszenie.

Liam: Przed założeniem Kinzen odbyłeś niezwykłą podróż do tego momentu. Skąd wzięło się twoje zainteresowanie dziennikarstwem?

„Miałem obsesję na punkcie tego, jak działał świat i dlaczego niektórzy ludzie zdawali się dostrzegać za rogiem to, co będzie dalej”

Mark: Cóż, byłem jednym z tych bardzo przedwcześnie rozwiniętych dzieciaków. Mając może sześć lub siedem lat walczyłem rano z moim ojcem dla The Irish Times. A około dziewiątej lub dziesiątej zdałem sobie sprawę, że nigdy nie mam wystarczająco naturalnego talentu, aby stać się moją prawdziwą pasją, czyli być środkowym napastnikiem Liverpoolu. I w zasadzie to, na co pamiętam, to coś, na co ktoś, jak sądzę, mój nauczyciel religii, wskazał mi w świadectwie, kiedy miałem około 14 lat. Powiedział, że jestem przedwcześnie cyniczny, mam zaciekłą ciekawość świata, pewien sceptycyzm i pasję do zmian.

Miałem obsesję na punkcie tego, jak działał świat i dlaczego niektórzy ludzie zdawali się dostrzegać za rogiem, co wydarzy się dalej w polityce lub biznesie. I to było jądro, które zaczęło się od dziennikarstwa i pozostało ze mną przez całą moją karierę.

Liam: Czy w twojej rodzinie polityka była duża?

Mark: Absolutnie. To było z przodu i na środku. Dorastając w latach 70. i 80., jeśli nie interesowałeś się polityką, nie byłeś świadomy lub obudzony. Mieszkaliśmy wtedy w Irlandii, która wciąż była zdominowana przez bardzo regresywne społeczeństwo zdominowane przez Kościół. Wciąż byliśmy biednymi mieszkańcami Europy. Imigracja była rekordowo wysoka; bezrobocie było rekordowo wysokie. A patrząc za granicę, kiedy dorastałem jako działacz studencki w latach osiemdziesiątych, to znaczy… Wszystko się działo. Na całym świecie wydawało się, że we wszystkim, co się dzieje, zachodzą zmiany tektoniczne.

Wszystko wydawało się tak istotne, że nuklearna apokalipsa była czymś, o czym głęboko myślałem przez lata 80., aż do upadku muru berlińskiego. To tylko po to, by dać ci poczucie, jak ważne było bycie żywym w okresie ogromnego niepokoju. Ale jeśli miałeś poglądy polityczne, to także ogromne podniecenie i wyzwanie.

Niepokoje społeczne w Londynie

Liam: Czy dobrze przeczytałem, że twój pierwszy występ był w dziale reklamy magazynu Partii Komunistycznej w Wielkiej Brytanii?

Mark: Tak, to była zabawna rzecz. W tamtych czasach było wielu ludzi po lewej stronie, którzy byli bardzo zaangażowani w kulturę i byli pod wpływem tego, co działo się z Glasnost i Pierestrojką. Była taka grupa ludzi, których nazwano by nową lewicą lub eurokomunistami, i byłem zafascynowany tym magazynem. Nazywało się to marksizmem dzisiaj.

Pracowałem na parkingu i w McDonald's i przypadkiem zdarzyło mi się zaryzykować rękę i powiedzieć: „Hej, czy jacyś faceci chodzą do Marksism Today?” I okazało się, że jednym z zawodów nie była nawet sprzedaż reklam – to zbieranie reklam. Musiałbym dzwonić do producentów muesli i ludzi produkujących futony i wakacje reklamowe w Bułgarii i lekko im grozić, żądając pieniędzy, które zobowiązali się zapłacić za reklamę. To było lato w Londynie w 1987 roku. Widziałem Red Wedge'a i Billy'ego Bragga. Strajk górników właśnie się skończył i było prawdziwe poczucie, że Thatcher jest największą osobą na scenie międzynarodowej.

„Polityka była wtedy we wszystkim. Czułem się jak tlen, który nas otaczał”

Życie w Londynie w 1987 roku i bycie częścią ruchu lewicowego – niekoniecznie partii komunistycznej, która w pewnym sensie odchodziła – naprawdę otworzyło mi oczy, ponieważ byłem radykałem studenckim. Byłem w miejscach takich jak Kongres Związków Zawodowych i poznawałem przełomowych ludzi, którzy naprawdę dokonali zmian w Wielkiej Brytanii. Nauczyłam się też przewracać hamburgery i gotować idealnego kurczaka McNugget.

Tego samego lata w 1987 roku kampania IRA była w apogeum. Pracowałem na tym parkingu, a jednym z moich zadań było jeżdżenie około 4:00 lub 5:00 rano po Parkingu Długoterminowym, aby sprawdzić, czy są tam samochody przez ponad tydzień, ponieważ się bały IRA zamierzała tam podłożyć bombę. I tak oto ja, młody Irlandczyk i kolega z Pakistanu, oboje byliśmy odpowiedzialni za zgłaszanie do oddziałów specjalnych, które przychodziły rano, jakie samochody były tam zbyt długo. Znowu tylko przypomnienie, że polityka była wtedy we wszystkim. To było jak tlen, który nas otaczał.

„Byłem tak młody, że kiedy dostałem swoją wielką pracę w Waszyngtonie, powiedziano mi, żebym zapuścił wąsy lub ubrał się na niebiesko, co najwyraźniej sprawia, że ​​wyglądasz starzej”

Liam: Wow, to szaleństwo. Wszystko to ma sens, jeśli chodzi o twoją karierę dziennikarską i przejście do National Broadcaster. Chodzi mi o to, że prawie po studiach poszedłeś do pracy dla National Broadcaster w Irlandii.

Mark: Byłem tak młody, że kiedy dostałem swoją wielką pracę w Waszyngtonie, powiedziano mi, żebym może zapuścił wąsy lub ubrał się na niebiesko, co najwyraźniej sprawia, że ​​wyglądasz starzej. Po ukończeniu college'u zdałem sobie sprawę, że nie chcę być w polityce. Pod koniec dnia nie byłem specjalnie ideologiczny. Nie byłem stronniczy. I byłem, jak mówię, zafascynowany zmianą. Poszedłem do DCU na kurs dziennikarstwa i zanim ten kurs jeszcze się skończył, RTE reklamowało ludzi, żeby do nich dołączyli, więc to zrobiłem.

W ciągu około 24 godzin mój pierwszy raport dotyczył zamieszek w więzieniu w Phibsborough w północnym Dublinie. Byłem na dachu i musiałem nadawać wiadomości o godzinie 6:00 przez telefon komórkowy, co, wierzcie mi, było wówczas ogromną innowacją technologiczną. Byłem tak zły, że kiedy wróciłem do biura, mój szef powiedział: „Nie słuchaj tego. To nie będzie inspiracją na przyszłość”. Ale na tym etapie danie szansy na rozpoczęcie reportażu o ważnych sprawach było spełnieniem marzeń.

Nowa fala dziennikarstwa

Liam: Twoja kariera dziennikarska trwała prawie 20 lat, mam rację?

Mark: Zgadza się.

Liam: Co skłoniło cię do odejścia z dziennikarstwa po niezwykle udanej karierze, byciu korespondentem w Waszyngtonie i prezentowaniu Prime Time, jednego z największych programów w Irlandii?

Mark: Cóż, zacząłem zdawać sobie sprawę, że wszystko się zmieniło, używając starego wyrażenia. Środki produkcji dziennikarstwa i wiadomości zmieniły się z osoby takiej jak ja, człowieka z telewizji, stojącego w strefach wojennych. Pamiętam, że byłem w Kandaharze na południu Afganistanu i było to bardzo frustrujące, ponieważ siedziałem tam, słuchając, jak ktoś tłumaczył mi, co się dzieje na ziemi. I nagle zdałem sobie sprawę, że stary złoty wiek dziennikarstwa był bardzo niedemokratyczny. To ludzie tacy jak ja, odźwierni, mówili ludziom w domu, którzy usiedli o określonej porze w nocy, żeby mnie posłuchali, człowieka z telewizji, mówiącego im, co jest prawdą, co jest prawdziwe.

„Co by się stało, gdybyśmy mogli połączyć staromodne opowiadanie historii, mówienie prawdy i dziennikarstwo z tym rewolucyjnym, nowym demokratycznym przebudzeniem na tych platformach?”

W tym samym czasie widziałem pojawianie się Twittera i YouTube i pamiętam, że były to protestowane wybory w Iranie w 2009 roku. Każdy korespondent zagraniczny ma historię, która wchodzi mu pod skórę – Iran był moją historią. Pamiętam, jak 17- lub 18-latki korzystały z mediów społecznościowych, by przedstawiać najbardziej instynktowne, autentyczne relacje z tego, co się działo i myślały: „O mój Boże, to wszystko zmieni”.

Większość moich współczesnych bała się tej demokratycznej rewolucji. Ale dostrzegłem tę okazję. Co by się stało, gdybyśmy mogli połączyć staromodne opowiadanie historii, mówienie prawdy i dziennikarstwo z tym rewolucyjnym, nowym demokratycznym przebudzeniem na tych platformach? Spojrzałem w przyszłość 25 lat i pomyślałem: „Jeśli nie zrobię tego teraz, będę tego żałować do końca życia”. Musisz pomyśleć o tym, co mówi Talmud, wielki stary żydowski tekst religijny: „Jeśli nie ja, to kto? Jeśli nie teraz to kiedy?" Miałem ten moment i nie było odwrotu.

Liam: Więc poszedłeś i stworzyłeś Storyful. Uwielbiam świetny slogan Storyful, „wiadomości z szumu mediów społecznościowych”. Jak to było przejść od dziennikarstwa do założenia firmy?

Mark: To było jak oglądanie wody zimą. Myślisz: „Czy nie byłoby wspaniale popływać?” A potem wskakujesz i jesteś sparaliżowany przez zimno. Nie mogliśmy zebrać się na rok w przedsięwzięciu z Storyful. Myślałem, że wypadamy z interesu. To było brutalne. Postawiłem wszystko na to przedsięwzięcie – moją reputację, wszystkie pieniądze i wyglądało na to, że wypada z interesu.

„Sekretem bycia wielkim przedsiębiorcą nie jest przetrwanie. To odporność. A porażka jest wbudowana w model”

Pamiętam wigilię, kiedy jechałem do mojej rodziny i czułem na sobie ciężar świata, i zdałem sobie sprawę z mojej najgorszej myśli: „Wypadniemy z interesu, ale znajdę pracę i wyzdrowieję. ” Nauczyłem się, że kiedy skonfrontujesz się ze swoim najgorszym lękiem, szczególnie we wczesnym startupie, nigdy więcej cię nie będzie on prześladował, ponieważ się z nim skonfrontowałeś. To najgorsze, co może się zdarzyć.

Zacząłem zdawać sobie sprawę, że jako dziennikarz chodzi mi o przetrwanie. Musiałem być korespondentem wojennym. Przypomniałem sobie dni, kiedy mogłem pracować na ułamek tego, czy zostanę zabity, czy zraniony, ale nigdy nie myślałem o odporności, o tym, co się dzieje, kiedy trzeba codziennie wstawać i jest to trudne. I to była wielka różnica. Sekretem bycia wielkim przedsiębiorcą nie jest przetrwanie. To odporność. A porażka jest wbudowana w model – to coś, z czym trzeba się pogodzić. To była prawdziwa zmiana nastawienia. Było wiele podobieństw, ale konieczna była duża zmiana w sposobie myślenia.

Liam: Jak to było? Ponieważ, jak powiedziałeś, wielu dziennikarzy trochę się tego bało. Ale to jest zupełnie nowa forma dziennikarstwa i prawdopodobnie wtedy o tym nie wiedzieliśmy.

„Zaczęliśmy rozwijać współpracę z ludźmi w terenie, którzy byli naocznymi świadkami historii”

Mark: Cóż, mogliśmy zobaczyć, jak to się dzieje w praktyce, kiedy ludzie próbowali to wykorzystać w teorii. Na przykład podczas arabskich powstań, które rozpoczęły się w 2010 roku w Tunezji i przeszły przez Egipt i Syrię, widzieliśmy w naszym maleńkim startupie w Irlandii działaczy demokratycznych na miejscu próbujących wydobyć historię z miejsc takich jak Aleppo. Zaczęli zdawać sobie sprawę, że ich obserwujemy i robili takie rzeczy, jak przechylanie kamery, aby pokazać minaret, co pomogłoby nam zlokalizować ten obraz. Pomogli nam, publikując gazety i informując nas, jaki był dzień i w jakim miejscu się znajdowali. Zaczęliśmy nawiązywać współpracę z ludźmi, którzy byli naocznymi świadkami historii.

No i oczywiście wprowadzaliśmy dziennikarski rygor. Kiedy Osama bin Laden zginął w Pakistanie, natychmiast otrzymaliśmy zdjęcia satelitarne, aby przeanalizować charakter helikoptera, który rozbił się i wylądował na terenie kompleksu. Mogliśmy skierować dziennikarzy do fizycznej lokalizacji, ponieważ została ona nieprawidłowo przypisana.

Ta nowa forma dziennikarstwa open source była demokratyczna, ponieważ naszymi głównymi źródłami byli ludzie na miejscu, a nie inni dziennikarze. Ale jednocześnie miał taki sam rygor dziennikarstwa śledczego, jak w kwestii odpowiedzialności. Nie pojawił się przypadkiem, ale na pewno nie planowaliśmy tworzenia nowej formy dziennikarstwa. Wyewoluował organicznie z tego przebudzenia, które było dominującą siłą w pierwszej fali mediów społecznościowych. Dziś wielu absolwentów Storyful pracuje w dużych organizacjach informacyjnych, takich jak New York Times, CNN, BBC czy Washington Post, i wprowadzają tę nową formę dziennikarstwa, której byliśmy częścią dzięki Storyful.

Uzbrojenie mediów społecznościowych

Liam: W 2013 roku sprzedałeś Storyful News Corp, przeprowadziłeś się do Nowego Jorku, aby pomóc w transformacji, ale ostatecznie wróciłeś do Dublina, aby objąć stanowisko dyrektora zarządzającego w Twitterze w Dublinie. Czy tęskniłeś za kolejną wielką rzeczą do zrobienia z tyłu Storyful?

Mark: Nie bardzo. To znaczy, kiedy się nad tym zastanowić, miałem karierę pracując dla Marxism Today, Ruperta Murdocha, Jacka Dorseya i irlandzkiego podatnika. Miałem całkiem niezły zasięg, przynajmniej z ideologicznego punktu widzenia. A pochodzę ze Storyful i jestem zafascynowany Twitterem. Zakochałem się w Twitterze, zmienił moje życie i chciałem dostać się do serca maszyny. Nie miałem ochoty robić kolejnego startupu. W rzeczywistości poprosiłem innego współczesnego mi, innego założyciela startupu medialnego, o pozwolenie, aby nie robić tego ponownie.

Na tym etapie Twitter był dość dużą korporacją. Chciałem zobaczyć, czy mogę pomóc wnieść trochę zmian i energii do działalności Twittera. Dlatego zdecydowałem się to zrobić. To była prawdziwa szansa, aby wejść do platformy, która zmieniła wszystko w moim biznesie, aby zobaczyć, czy mogę mieć wpływ. Tylko przez przypadek oznaczało to powrót z Nowego Jorku, gdzie byłem bardzo szczęśliwy, z powrotem do Dublina, który akurat był międzynarodową siedzibą główną. Chciałem jednak odpocząć od startupowego życia i zobaczyć, jak by to wyglądało, gdybym był w dużej korporacji.

„Widziałem wiele problemów, które zauważyliśmy w arabskich powstaniach, gdzie ludzie używali platform społecznościowych nie jako demokratycznego narzędzia, ale jako broni”

Liam: Skąd się wziął Kinzen? Wydaje się, że do pewnego stopnia narodził się z płomieni Storyful.

Mark: Narodził się z frustracji z powodu wielkiej korporacji zwanej Twitter. Uwielbiałem tam pracować, ale nie było to szczególnie dobrze zarządzane. I w końcu zespół ds. partnerstwa medialnego w zasadzie został uwolniony. Mógłbym zostać na dobrej pracy w korporacji, ale w międzyczasie był rok 2016 i właśnie odbyły się wybory prezydenckie w USA. Widziałem wiele problemów, które zauważyliśmy w ich najwcześniejszym wcieleniu w arabskich powstaniach, gdzie ludzie używali platform społecznościowych nie jako demokratycznego narzędzia, ale jako broni. Wykorzystywali wirusowość wideo w miejscach takich jak YouTube i Twitter, aby tworzyć fałszywe historie, które były albo propagandą, albo teoriami spiskowymi.

Pierwsza fala internetu była demokratycznym przebudzeniem. A potem, kiedy nadszedł rok 2016, zdałem sobie sprawę: „Cholera jasna! Zamienia się to w broń”. Nie tylko z powodu Donalda Trumpa – pojawiły się głębsze kwestie, gdzie nagle wirusowość, model biznesowy i algorytmy zostały przejęte przez ludzi przeciwnych demokracji. To było miejsce narodzin i pomysł, który skłonił mnie do powrotu do Áine Kerr, mojej najbardziej zaufanej koleżanki, która była wówczas na Facebooku, i powiedziała: „A co, jeśli zrobimy coś, aby przywrócić władzę obywatelom, aby umożliwić by chronić się przed tym pojawiającym się zagrożeniem?” I oboje skoczyliśmy.

Na początku postanowiliśmy dać ludziom kanał informacyjny, który mogliby kontrolować, ale oczywiście w miarę postępów, jak każdy startup, pomysł ewoluował. Pierwsza fala demokracji została zastąpiona przez nową ciemną siłę w Internecie i to było inspiracją dla Kinzen.

Liam: Dla słuchaczy, którzy nie wiedzą, czym jest Kinzen? Kim jest użytkownik Kinzen?

Mark: Pomagamy dużym platformom technologicznym i platformom wschodzącym chronić rozmowy na całym świecie przed zagrożeniami informacyjnymi. I przez to mamy na myśli niebezpieczną dezinformację, która powoduje szkody w świecie rzeczywistym, zorganizowaną dezinformację oraz nienawistną i brutalną mowę. Naszymi klientami są zaufani specjaliści ds. bezpieczeństwa, specjaliści ds. polityki i ludzie w tych firmach, którzy desperacko próbują wyprzedzić te zagrożenia informacyjne i ryzyko, zamiast reaktywnego sprawdzania faktów.

„Skalujemy ludzkie rozwiązanie tego konkretnego kryzysu informacyjnego”

Używamy kombinacji dobrej, staromodnej analizy ludzi i późniejszych etapów uczenia maszynowego, aby rozwiązać nikczemny problem, z którym borykają się te platformy. Są to, po pierwsze, ludzie nie mogą skalować się do problemu, a maszyny nie mają wglądu w wykrywanie tych zagrożeń informacyjnych w wielu językach i wielu różnych formatach. To jest problem, który Kinzen próbuje rozwiązać. Dopracowujemy ludzkie rozwiązanie tego konkretnego kryzysu informacyjnego.

Liam: Więc w pewnym sensie przejmujesz te umiejętności redakcyjne od Storyful i kodujesz je w maszynach, aby nadać im te wartości.

Mark: Dokładnie. Podążamy za podejściem człowieka i pętli uczenia maszynowego, które stało się możliwe dopiero w ciągu ostatnich kilku lat, odkąd mieliśmy dostęp do tych dużych modeli językowych. Nasi analitycy tworzą dane do odczytu maszynowego w różnych językach, które zostały wepchnięte do maszyny. Maszyna przepisuje, tłumaczy i próbuje zrozumieć, a ludzkie dane pomagają jej szybciej się uczyć. To piękna pętla sprzężenia zwrotnego między małą grupą ekspertów a naprawdę zaawansowanymi systemami uczenia maszynowego, których możliwości są wykładniczo większe niż cztery lata temu.

Ograniczanie dezinformacji

Liam: Jak duża jest obecnie skala dezinformacji?

„Kluczowym problemem w tej chwili nie jest to, czy ludzie mówią niewłaściwą rzecz w Internecie; nie chodzi o spory między ludźmi o politykę; nie chodzi nawet o Donalda Trumpa ani to, co dostaje na Twitterze”

Mark: Cóż, myślę, że to, co się teraz dzieje, to pogarszanie się, zanim będzie lepiej. Nie wszyscy w sieci to zobaczą, ale to, co dzieje się w miejscach, gdzie dezinformacja i dezinformacja są szczególnie problematyczne, dzieje się tam, gdzie jest to życie lub śmierć. Obecnie w Indiach obserwujemy niemal ludobójczą retorykę pochodzącą od zwolenników rządu wobec muzułmanów. Widzimy zorganizowanych ekstremistów, skrajnie prawicowe grupy i neonazistów w Europie wykorzystujących wirusowość tych platform do rozpowszechniania swojego przesłania.

I oczywiście widzimy to w teoriach spiskowych dotyczących tematów zdrowotnych, nie tylko COVID, ale ludzi próbujących promować myślenie spiskowe w rozmowach głównego nurtu. Kluczową kwestią w tej chwili nie jest to, czy ludzie mówią niewłaściwą rzecz w Internecie; nie chodzi o spory między ludźmi o politykę; nie chodzi nawet o Donalda Trumpa ani to, co dostaje na Twitterze. To, na co patrzymy, to mnogość języków i zagrożeń, w których istnieje rzeczywista krzywda w świecie rzeczywistym i prawdopodobnie sytuacje życia lub śmierci.

Obecnie mamy 13 języków, a wkrótce będziemy mieli 26. Dotyczy to takich miejsc jak Brazylia, gdzie w październiku odbędą się niezwykle ważne wybory, które mogą być powtórką tego, co wydarzyło się w 2020 roku w Stanach Zjednoczonych. Wiele osób myśli, że próbujemy ustalić, co jest prawdą, a co fałszem. Nie chodzi tylko o to, a nawet przede wszystkim o to – chodzi o to, jak możemy powstrzymać coś, co dzieje się w Internecie, co będzie miało wpływ na świat rzeczywisty i potencjalnie na życie lub śmierć.

Liam: Wspomniałeś tam o wyborach w Brazylii i słyszałem, jak Áine Kerr w innym podcaście mówiła o aktorach dezinformujących, którzy zdali sobie sprawę, że wyrażenia takie jak „oszustwo wyborcze” i „sfałszowane wybory” ostrzegają moderatorów treści, którzy mogą usunąć ich fałszywe twierdzenia, więc wtedy ci aktorzy zaczęli zastępować te wyrażenia takimi rzeczami jak: „Prowadzimy kampanię na rzecz czystych wyborów”. I właśnie tam mogą pojawić się moderatorzy, aby dostrzec te zmiany i pomóc władzom przechwycić te wiadomości.

„Ciągle obserwujemy zmiany i poprawki słów. I oczywiście maszyny nie są w stanie za tym nadążyć.”

Mark: Obserwujemy to, co nazywamy rozwojem „algospeak”, kiedy społeczności zdają sobie sprawę, że mogą istnieć algorytmy moderowania treści, które przyglądają się temu, co mówią, i starają się tego uniknąć. Podczas pandemii widzieliśmy działaczy antyszczepionkowych używających słowa panini zamiast pandemii. Ostatnio w Niemczech społeczność antyszczepionkowa używała słowa smerf jako szczepionki, ponieważ w języku niemieckim wymowa tego słowa brzmi bardzo podobnie do wymowy postaci telewizyjnej dla dzieci. W zeszłym roku w Skandynawii widzieliśmy, jak neonazistowska grupa zmieniła słowo kojarzone z tradycyjnym dziecięcym festiwalem w rasistowskie obelgi.

Ciągle widzimy, że słowa są poprawiane i zmieniane. I oczywiście maszyny nie są w stanie za tym nadążyć. Kiedy wydarza się coś takiego jak pandemia, nagle wszystkie te naukowe terminy pojawiają się w naszym języku. Maszyna po prostu nie jest dogoniona i właśnie tutaj ważna jest ludzka analiza – aby naprawić maszynę.

I tak, coraz częściej, wewnątrz Kinzen, zaczynamy widzieć, jak maszyna wychwytuje ewolucję języka. Jedno słowo połączone z drugim. Smerf ze szczepionką. Lub na przykład w miejscach takich jak Indie widzimy antymuzułmańskich aktywistów używających słów, które mogą wydawać się całkowicie nieszkodliwe, ale widzimy, że są one częścią wzorca zastraszania i mowy nienawiści.

Dlatego tak ważna jest ludzka część. Nie opowiadamy się za większą moderacją treści. Nie opowiadamy się za prawami ani za zakazem dezinformacji. Myślę, że to absolutnie zła droga. Szukamy bardziej precyzyjnego moderowania treści, które może wbić igłę w niebezpieczną igłę w stogu siana, jednocześnie pozwalając na maksymalną swobodę wypowiedzi. I to jest dla nas długofalowy cel. Nie możemy zapewnić bezpieczeństwa na mocy dekretu i rządów zakazujących treści. Musimy przeprojektować platformy, aby maszyny i ludzie pracujący w moderacji treści coraz dokładniej, dokładniej i szybciej wyprzedzali problem, zamiast na niego reagować.

Mieszanka maszyn i ludzi

Liam: Czy dezinformacja jest problemem technologicznym, problemem ludzkim, czy może jednym i drugim?

Mark: Słuchaj, to jedno z tych egzystencjalnych pytań, w których ludzie myślą, że technologia ich do tego zmusiła lub ogłupiła świat. Nie idę na to. Pozostaję ewangelistą demokratycznego potencjału technologii, które teraz uważamy za oczywiste lub których bardzo nie lubimy. Model biznesowy i sposób, w jaki algorytmy zostały początkowo przygotowane za pomocą mediów społecznościowych, wykorzystują nasze najgorsze instynkty, ale myślę, że możemy przeprojektować tę technologię, aby uwolnić nasze najlepsze intencje. Częścią tego jest posiadanie znacznie lepszych filtrów, do których zwykła osoba może uzyskać dostęp podczas przeglądania Internetu.

„Przeciętny użytkownik będzie miał więcej mocy i precyzji w moderowaniu treści”

Obecnie współpracujemy ze scentralizowanymi zespołami moderacyjnymi na platformach technologicznych. Domyślam się, że w ciągu najbliższych dwóch do trzech lat coraz więcej platform będzie próbowało zdecentralizować władzę, aby zwykły człowiek mógł ustawić swoje filtry. Mogą powiedzieć: „Słuchaj, nie chcę słyszeć ekstremalnego języka w moim kanale”, albo ktoś inny może powiedzieć: „Cóż, tak. Chcę zobaczyć, co myśli druga strona”. Przeciętny użytkownik będzie miał więcej mocy i precyzji w moderowaniu treści. Ale to zajmie trochę czasu, a jesteśmy dopiero na początku. Pamiętaj, że duże platformy, które istnieją dzisiaj, zostaną zastąpione nowymi, które są obecnie inkubowane przez około 17-latków.

Musimy zdawać sobie sprawę z pewnych zmian, które mogą pogorszyć problem, zanim się poprawią. W Kinzen jesteśmy pionierami w moderacji treści audio. Analizowaliśmy sposób, w jaki dezinformacja, dezinformacja i mowa nienawiści rozprzestrzeniają się za pośrednictwem audio na żywo i podcastów. Uważamy, że mówiona warstwa Internetu jest obszarem, na którym musimy się skoncentrować z dużym stopniem ważności przez następne kilka lat.

Liam: Chciałem cię o to zapytać, zanim skończymy. Są po prostu niezliczone godziny dźwięku. Jaki problem ma przedstawianie się Tobie i weryfikatorom faktów?

Mark: To jak idealna burza. Oczywiście z dźwiękiem na żywo masz szybkość. Patrząc na podcasty, wiele z nich trwa wiele godzin. A potem najważniejszym i największym wyzwaniem jest język. Mówi się tysiącami języków. Jeśli analizujesz coś w Indiach, być może słuchasz kogoś, kto mówi w hindi, ale od czasu do czasu przeskoczy na angielski. Jesteśmy bardzo świadomi tego, że właśnie tutaj uczenie maszynowe jest tak fascynujące. Masz automatyczne rozpoznawanie mowy. Ale znowu, możesz to poprawić, jeśli wiesz, czego szukasz, za pomocą ludzkich sygnałów. Możemy pozwolić na ulepszenie modelu językowego, zoptymalizowanie go, aby nasłuchiwać nie tylko brzmienia słowa, ale także relacji między językami.

„Czy możemy zacząć łączyć w pary maszyny i ludzi, aby interpretować znaczenie języka, i to nie tylko tego, co mówią, ale także tego, jak to mówią?”

Jestem dziennikarzem, prawda? Nie jestem technikiem z wykształcenia. Wiele z tych rzeczy sprawia, że ​​zastanawiam się, kiedy staram się za tym nadążyć. Ale myślę, że to, co jest ważne dla audio, to to, że zwracamy uwagę na sposób, w jaki ludzie mówią; ich ton głosu. Na przykład arabski jest jednym językiem, jeśli go zapisujesz, ale wieloma dialektami, gdy nim mówisz. I to jest dla mnie najbardziej niepokojące i zarazem najbardziej ekscytujące. Czy możemy zacząć łączyć w pary maszyny i ludzi, aby interpretować znaczenie języka, i to nie tylko tego, co mówią, ale także tego, jak to mówią? To jest wielkie wyzwanie moderacji dźwięku, ale myślę też, że jest to jedno z najbardziej ekscytujących wyzwań, nad którymi się pracuje. Tylko ludzie są w stanie wykryć takie rzeczy jak ironia, sarkazm, slang czy „algospeak”. I dlatego nasze podejście jest nie tylko skuteczniejsze, ale ostatecznie bardziej demokratyczne. Chcemy jak najmniejszej możliwej interwencji, ale najwyższej precyzji, i właśnie tutaj tak ważne jest połączenie człowieka i maszyny.

Liam: Genialny. Cóż, Mark, bardzo dziękuję za przyłączenie się do mnie dzisiaj.

Mark: Liam, to moja przyjemność. Zróbmy to ponownie wkrótce.