CEO Kinzen Mark Little tentang perang melawan disinformasi

Di era disinformasi ini, peternakan troll, berita palsu, dan ujaran kebencian mengamuk, dan kebenaran semakin sulit ditemukan. Dapatkah moderasi konten membantu kami melindungi komunitas online dari konsekuensinya?

Berita palsu bukanlah fenomena baru-baru ini, tetapi platform media sosial telah menyediakan ruang gema yang sempurna bagi mereka untuk membusuk dan menyebar dengan skala yang belum pernah terjadi sebelumnya dan dengan konsekuensi kehidupan nyata. Tetapi pemeriksaan fakta tradisional dan filter konten otomatis tidak sebanding dengan kekuatan di balik disinformasi dan misinformasi. Ini akan membutuhkan solusi baru untuk mengatasi masalah, dan Mark Little adalah salah satu orang yang memimpin.

Mark adalah jurnalis pemenang penghargaan dan inovator media digital dengan karir dalam siaran berita yang berlangsung selama lebih dari 20 tahun – dari laporan pertamanya tentang kerusuhan penjara di Dublin, hingga pelaporan pemenang penghargaan dari Afghanistan yang dilanda perang. Pada tahun 2010, setelah memperhatikan bagaimana kaum muda menggunakan media sosial untuk melaporkan apa yang terjadi, ia mendirikan Storyful, jaringan berita media sosial pertama di dunia yang menggabungkan kantor berita tradisional dengan konten buatan pengguna yang diautentikasi. Pada tahun 2015, setelah menjual Storyful ke News Corp, Mark bergabung dengan Twitter sebagai Wakil Presiden media dan kemitraan untuk Twitter di Eropa.

Setahun kemudian, Mark mengundurkan diri dari posisinya saat ia menyadari ancaman baru muncul - apa yang dimulai sebagai gelombang demokrasi kebangkitan media sosial sedang dikorupsi. Algoritme dan model bisnis di balik platform ini dipersenjatai untuk memproduksi dan menyebarkan teori propaganda dan konspirasi. Bersama Áine Kerr, rekan jurnalis yang pada saat itu mengelola kemitraan jurnalisme global untuk Facebook, ia mulai bekerja untuk mengatasi masalah itu, dan Kinzen lahir.

“Untuk mengatasi tantangan, mereka menggunakan kombinasi pembelajaran mesin dan analisis manusia yang dapat menskalakan respons ke tingkat global”

Sejak saat itu, mereka telah bekerja untuk mengatasi ancaman ini dan melindungi komunitas online dari misinformasi berbahaya dan ujaran kebencian yang menciptakan bahaya di dunia nyata. Untuk mengatasi tantangan tersebut, mereka menggunakan kombinasi pembelajaran mesin dan analisis manusia yang dapat menskalakan respons ke tingkat global. Mark tetap optimis tentang potensi demokrasi jaringan media sosial, tetapi dia yang pertama mengakui bahwa itu sangat membutuhkan desain ulang. Dan di situlah moderasi konten yang lebih tepat masuk.

Dalam episode hari ini, kami duduk bersama Mark untuk berbicara tentang evolusi jurnalisme, munculnya informasi yang salah, dan apa yang dapat kami lakukan untuk melindungi komunitas online dari konten berbahaya.

Berikut adalah beberapa takeaways favorit kami dari percakapan:

• Kegagalan dibangun ke dalam proses memulai bisnis Anda sendiri. Rahasia menjadi pengusaha hebat bukanlah bertahan hidup – itu ketahanan.
• Dalam beberapa tahun terakhir, kami telah melihat munculnya "algospeak", yang terjadi ketika komunitas online mengubah kata-kata tertentu untuk menghindari ditandai oleh algoritme moderasi konten.
• Mark tidak menganjurkan undang-undang yang melarang disinformasi tetapi moderasi konten yang lebih tepat yang mendeteksi konten berbahaya sambil memungkinkan kebebasan berbicara maksimum.
• Selama beberapa tahun ke depan, Mark percaya lebih banyak platform akan mencoba mendesentralisasikan kekuatan bagi orang-orang untuk mengatur filter mereka sendiri untuk apa yang ingin mereka lihat secara online.
• Dengan menggabungkan analisis manusia dan pembelajaran mesin, mereka dapat mendeteksi hal-hal seperti ironi, slang, atau "algospeak" dan menskalakannya di tingkat global.

Jika Anda menikmati diskusi kami, lihat lebih banyak episode podcast kami. Anda dapat mengikuti di iTunes, Spotify, YouTube atau mengambil umpan RSS di pemutar pilihan Anda. Berikut ini adalah transkrip episode yang diedit dengan ringan.

Kebangkitan politik

Liam Geraghty: Mark, terima kasih banyak telah bergabung dengan kami. Anda sangat disambut di pertunjukan.

Mark Little: Dengan senang hati, Liam. Terima kasih telah memilikiku.

Liam: Anda memiliki perjalanan yang luar biasa ke titik ini sebelum mendirikan Kinzen. Dari mana minat Anda terhadap jurnalisme berasal?

“Saya terobsesi dengan bagaimana dunia bekerja dan mengapa orang-orang tertentu tampaknya melihat dari sudut pandang apa yang akan terjadi selanjutnya”

Mark: Yah, saya adalah salah satu dari anak-anak yang sangat dewasa sebelum waktunya. Pada usia mungkin enam atau tujuh tahun, saya biasa berjuang untuk The Irish Times di pagi hari dengan ayah saya. Dan sekitar pukul sembilan atau 10, saya menyadari bahwa saya tidak pernah memiliki bakat alami yang cukup untuk menjadi hasrat sejati saya, yaitu menjadi penyerang tengah untuk Liverpool. Dan pada dasarnya, hal yang saya ingat kembali adalah apa yang seseorang, saya kira guru agama saya, tunjukkan kepada saya di rapor ketika saya berusia sekitar 14 tahun. Dia berkata bahwa saya terlalu sinis, memiliki rasa ingin tahu yang kuat tentang dunia, skeptisisme tertentu, dan hasrat untuk perubahan.

Saya terobsesi dengan bagaimana dunia bekerja dan mengapa orang-orang tertentu tampaknya melihat dari sudut pandang apa yang akan terjadi selanjutnya dalam politik atau bisnis. Dan itu adalah inti yang dimulai dengan jurnalisme dan tetap bersama saya sepanjang karir saya.

Liam: Apakah politik besar dalam keluarga Anda?

Markus: Tentu saja. Itu depan dan tengah. Tumbuh di tahun 1970-an dan 1980-an, jika Anda tidak tertarik pada politik, Anda tidak sadar atau terjaga. Kami tinggal di Irlandia saat itu, yang masih didominasi oleh masyarakat yang didominasi gereja yang sangat regresif. Kami masih orang-orang miskin di Eropa. Imigrasi mencapai rekor tertinggi; pengangguran mencapai rekor tertinggi. Dan melihat ke luar negeri, ketika saya tumbuh sebagai aktivis mahasiswa di tahun delapan puluhan, maksud saya… Semuanya terjadi. Di seluruh dunia, rasanya seperti ada pergeseran tektonik dalam segala hal yang sedang terjadi.

Semuanya terasa sangat penting sampai pada titik di mana kiamat nuklir adalah sesuatu yang saya pikirkan secara mendalam sepanjang tahun 80-an hingga runtuhnya Tembok Berlin. Itu hanya untuk memberi Anda rasa betapa konsekuensinya rasanya hidup dalam masa kecemasan yang sangat besar. Tapi jika Anda berpikiran politik, kegembiraan besar dan tantangan, juga.

Kerusuhan sosial di London

Liam: Dan apakah saya membaca dengan benar bahwa pertunjukan pertama Anda adalah di departemen periklanan majalah Partai Komunis di Inggris?

Mark: Ya, itu hal yang lucu. Saat itu, ada banyak orang kiri yang sangat menyukai budaya dan terpengaruh oleh apa yang terjadi dengan Glasnost dan Perestroika. Ada sekelompok orang yang akan disebut kiri baru atau komunis Euro, dan saya terpesona oleh majalah itu. Itu disebut Marxisme Hari Ini.

Saya sedang bekerja di tempat parkir mobil dan di McDonald's, dan saya kebetulan kebetulan dengan tangan saya dan berkata, "Hei, ada orang yang masuk Marxisme Hari Ini?" Dan ternyata salah satu pekerjaan itu bukan menjual iklan – melainkan mengumpulkan iklan. Saya harus menelepon produsen granola dan orang-orang yang memproduksi futon dan iklan liburan di Bulgaria dan sedikit mengancam mereka, menuntut uang yang mereka janjikan untuk membayar iklan. Saat itu musim panas di London tahun '87. Aku harus menemui Red Wedge dan Billy Bragg. Pemogokan para penambang baru saja berakhir, dan ada perasaan nyata bahwa Thatcher adalah orang terbesar di kancah internasional.

“Politik ada dalam segala hal saat itu. Rasanya seperti oksigen yang mengelilingi kita ”

Tinggal di London pada tahun '87 dan menjadi bagian dari gerakan kiri – belum tentu sebuah partai komunis, yang sedang dalam perjalanan keluar – benar-benar membuka mata karena saya adalah seorang mahasiswa radikal. Saya harus berada di tempat-tempat seperti Kongres Serikat Buruh dan bertemu dengan beberapa orang mutakhir yang benar-benar telah menciptakan perubahan di Inggris. Saya juga belajar cara membalik burger dan memasak McNugget ayam yang sempurna.

Musim panas yang sama di tahun '87 adalah saat kampanye IRA mencapai puncaknya. Saya bekerja di tempat parkir ini, dan salah satu pekerjaan saya adalah berkeliling, sekitar jam 4:00 atau 5:00 pagi, Tempat Parkir Jangka Panjang untuk memeriksa apakah ada mobil di sana selama lebih dari seminggu karena mereka takut IRA akan menanam bom di sana. Dan begitulah saya, seorang pemuda Irlandia dan kolega Pakistan, dan kami berdua bertanggung jawab untuk melaporkan, ke cabang khusus yang datang di pagi hari, mobil apa yang sudah terlalu lama berada di sana. Sekali lagi, hanya pengingat bahwa politik ada dalam segala hal saat itu. Rasanya seperti oksigen yang mengelilingi kami.

“Saya masih sangat muda, ketika saya melanjutkan untuk mendapatkan pekerjaan besar saya di Washington, saya diberitahu untuk mungkin menumbuhkan kumis atau memakai warna biru, yang tampaknya membuat Anda terlihat lebih tua”

Liam: Wow, itu gila. Semua itu masuk akal dalam hal karir Anda dalam jurnalisme dan pindah ke National Broadcaster. Maksud saya, Anda cukup banyak bekerja untuk National Broadcaster di Irlandia setelah lulus dari perguruan tinggi.

Mark: Saya masih sangat muda sehingga ketika saya melanjutkan untuk mendapatkan pekerjaan besar saya di Washington, saya diberitahu untuk mungkin menumbuhkan kumis atau memakai warna biru, yang tampaknya membuat Anda terlihat lebih tua. Setelah lulus dari perguruan tinggi, saya menyadari bahwa saya tidak ingin terjun ke dunia politik. Saya tidak terlalu ideologis pada akhirnya. Saya tidak partisan. Dan saya, seperti yang saya katakan, terpesona oleh perubahan. Saya pergi ke DCU untuk mengikuti kursus jurnalisme, dan bahkan sebelum kursus itu selesai, RTE mengiklankan orang-orang untuk bergabung dengan mereka, jadi saya melakukannya.

Dalam waktu sekitar 24 jam, laporan pertama saya adalah tentang kerusuhan penjara di Phibsborough, Dublin Utara. Saya berada di atas atap dan harus menyiarkan berita pukul 6:00 di ponsel, yang, percayalah, merupakan inovasi teknologi besar-besaran pada saat itu. Saya sangat buruk sehingga ketika saya kembali ke kantor, bos saya berkata, “Jangan dengarkan itu. Itu tidak akan menginspirasi Anda untuk masa depan.” Tetapi pada tahap itu, diberi kesempatan untuk memulai laporan tentang isu-isu besar adalah mimpi yang menjadi kenyataan.

Gelombang baru jurnalisme

Liam: Karir Anda di bidang jurnalistik berlangsung hampir 20 tahun, benar?

Markus: Itu benar.

Liam: Apa yang mendorong Anda untuk keluar dari jurnalisme setelah karier yang sangat sukses, menjadi koresponden Washington dan menghadirkan Prime Time, salah satu pertunjukan besar di Irlandia?

Mark: Yah, saya mulai menyadari bahwa banyak hal telah berubah, menggunakan frasa lama. Sarana produksi jurnalisme dan berita telah berubah dari menjadi orang seperti saya, pria di televisi, berdiri di zona perang. Saya ingat berada di Kandahar, di selatan Afghanistan, dan itu sangat membuat frustrasi karena saya duduk di sana mendengarkan seseorang menafsirkan untuk saya apa yang sedang terjadi di lapangan. Dan tiba-tiba, saya menyadari bahwa zaman keemasan jurnalisme itu sangat tidak demokratis. Orang-orang seperti saya, penjaga gerbang, memberi tahu orang-orang di rumah yang duduk pada waktu tertentu di malam hari untuk mendengarkan saya, pria di televisi, memberi tahu mereka apa yang benar, apa yang nyata.

“Apa yang akan terjadi jika kita dapat menggabungkan cerita kuno, pengungkapan kebenaran, dan jurnalisme dengan kebangkitan demokrasi baru yang revolusioner di platform ini?”

Pada saat yang sama, saya melihat Twitter dan YouTube muncul, dan saya ingat itu adalah pemilu yang diprotes di Iran pada tahun 2009. Setiap koresponden asing memiliki cerita yang tersembunyi – Iran adalah cerita saya. Saya ingat menonton anak-anak berusia 17 atau 18 tahun menggunakan media sosial untuk menyampaikan laporan yang paling mendalam dan otentik tentang apa yang sedang terjadi dan berpikir, "Ya Tuhan, ini akan mengubah segalanya."

Kebanyakan orang sezaman saya takut dan takut akan revolusi demokrasi ini. Tapi saya melihat kesempatan ini. Apa yang akan terjadi jika kita dapat menggabungkan cerita kuno, pengungkapan kebenaran, dan jurnalisme dengan kebangkitan demokrasi baru yang revolusioner di platform ini? Saya melihat ke depan 25 tahun dan berpikir, “Jika saya tidak melakukan ini sekarang, saya akan menyesali ini selama sisa hidup saya.” Anda harus berpikir tentang apa yang dikatakan Talmud, teks agama Yahudi kuno, “Jika bukan saya, siapa? Jika tidak sekarang kapan?" Saya memiliki momen itu dan tidak ada jalan kembali.

Liam: Jadi kamu pergi dan membuat Storyful. Saya suka tagline hebat dari Storyful, “berita dari kebisingan media sosial.” Bagaimana rasanya beralih dari jurnalisme hingga mendirikan bisnis?

Mark: Rasanya seperti melihat air di musim dingin. Anda berpikir, “Bukankah menyenangkan pergi berenang?” Dan kemudian Anda melompat dan Anda lumpuh karena kedinginan. Kami tidak dapat meningkatkan satu tahun ke dalam usaha dengan Storyful. Saya pikir kami akan keluar dari bisnis. Itu brutal. Saya telah mempertaruhkan segalanya dalam usaha ini – reputasi saya, semua uang saya, dan sepertinya bisnis itu akan gulung tikar.

“Rahasia menjadi pengusaha hebat bukanlah bertahan hidup. Ini ketahanan. Dan kegagalan dibangun ke dalam model”

Saya ingat Malam Natal, mengemudi untuk melihat keluarga saya dan merasakan beban dunia pada saya, dan saya menyadari pikiran terburuk saya, “Kita akan keluar dari bisnis, tetapi saya akan mendapatkan pekerjaan dan pulih dari itu. ” Dan saya belajar bahwa ketika Anda menghadapi ketakutan terburuk Anda, terutama di awal startup, itu tidak akan pernah menghantui Anda lagi karena Anda telah menghadapinya. Itu hal terburuk yang bisa terjadi.

Saya mulai menyadari bahwa, sebagai seorang jurnalis, saya adalah tentang bertahan hidup. Saya harus menjadi koresponden perang. Saya ingat hari-hari ketika saya dapat bekerja di sebagian kecil apakah saya akan terbunuh atau terluka, tetapi saya tidak pernah memikirkan tentang ketahanan, tentang apa yang terjadi ketika Anda harus bangun setiap hari dan itu sulit. Dan itulah perbedaan besarnya. Rahasia menjadi pengusaha hebat bukanlah bertahan hidup. Ini ketahanan. Dan kegagalan dibangun ke dalam model – itu adalah sesuatu yang harus Anda hadapi. Itu adalah perubahan pola pikir yang nyata. Ada banyak kesamaan, tetapi diperlukan perubahan besar dalam pola pikir.

Liam: Seperti apa? Karena, seperti yang Anda katakan, banyak jurnalis yang takut akan hal itu. Tapi ini adalah bentuk jurnalisme yang sama sekali baru, dan kita mungkin tidak mengetahuinya saat itu.

“Kami mulai mengembangkan kolaborasi dengan orang-orang di lapangan yang menjadi saksi mata sejarah”

Mark: Yah, kita bisa melihat itu terjadi dalam praktik sementara orang-orang mencoba mengerjakannya secara teori. Misalnya, selama pemberontakan Arab, yang dimulai pada tahun 2010 di Tunisia dan melewati Mesir dan Suriah, kami melihat, dalam startup kecil kami di Irlandia, para aktivis demokrasi di lapangan mencoba mengeluarkan cerita dari tempat-tempat seperti Aleppo. Mereka mulai menyadari bahwa kami sedang mengawasi mereka dan akan melakukan hal-hal seperti memiringkan kamera untuk menunjukkan menara, yang akan membantu kami menemukan lokasi gambar itu secara geografis. Mereka akan membantu kami dengan memasang koran dan memberi tahu kami hari apa itu dan di mana lokasi mereka. Dan kami mulai mengembangkan kolaborasi dengan orang-orang di lapangan yang menjadi saksi mata sejarah.

Dan, tentu saja, kami membawa kekakuan jurnalistik. Ketika Osama bin Laden terbunuh di Pakistan, kami segera menggunakan citra satelit untuk menganalisis sifat helikopter yang jatuh dan mendarat di kompleks tersebut. Kami bisa mengarahkan wartawan ke lokasi fisik karena dianggap salah.

Bentuk baru jurnalisme open source ini demokratis karena sumber utama kami adalah orang-orang di lapangan dan bukan jurnalis lain. Tetapi pada saat yang sama, jurnalisme investigasi memiliki ketelitian yang sama dengan yang kami miliki dalam hal akuntabilitas. Itu tidak muncul secara kebetulan, tetapi kami tentu tidak berencana untuk membuat bentuk jurnalisme baru. Ini berevolusi secara organik dari kebangkitan ini yang merupakan kekuatan dominan di gelombang pertama media sosial. Saat ini, banyak alumni Storyful bekerja di organisasi berita besar seperti New York Times, CNN, BBC, atau Washington Post, dan mereka membawa bentuk jurnalisme baru yang kami ikuti bersama Storyful.

Persenjataan media sosial

Liam: Pada tahun 2013, Anda menjual Storyful ke News Corp, pindah ke New York untuk membantu transisi, tetapi akhirnya kembali ke Dublin untuk mengambil peran sebagai direktur pelaksana di Twitter, Dublin. Apakah Anda merindukan hal besar berikutnya untuk dilakukan di belakang Storyful?

Markus: Tidak juga. Maksud saya, ketika Anda memikirkannya, saya pernah bekerja untuk Marxism Today, Rupert Murdoch, Jack Dorsey, dan pembayar pajak Irlandia. Saya memiliki jangkauan yang cukup baik dari, setidaknya, perspektif ideologis. Dan saya berasal dari Storyful sangat terpesona dengan Twitter. Saya telah jatuh cinta dengan Twitter, itu telah mengubah hidup saya, dan saya ingin masuk ke jantung mesin. Saya tidak memiliki keinginan untuk melakukan startup lain. Bahkan, saya meminta izin kepada rekan saya yang lain, pendiri startup media lainnya, untuk tidak melakukannya lagi.

Pada tahap itu, Twitter adalah perusahaan yang cukup besar. Saya ingin melihat apakah saya dapat membantu membawa perubahan dan energi ke dalam bisnis Twitter. Itu sebabnya saya memilih untuk melakukan itu. Itu adalah kesempatan nyata untuk masuk ke dalam platform yang telah mengubah segalanya dalam bisnis saya untuk melihat apakah saya dapat memberikan dampak. Hanya kebetulan yang berarti datang dari New York, di mana saya sangat bahagia, kembali ke Dublin, yang kebetulan menjadi markas internasional. Tetapi saya ingin beristirahat dari kehidupan startup dan melihat seperti apa jadinya jika saya berada di dalam sebuah perusahaan besar.

“Saya telah melihat banyak masalah yang kami temukan dalam pemberontakan Arab, di mana orang menggunakan platform sosial bukan sebagai alat demokrasi tetapi sebagai senjata”

Liam: Dari mana Kinzen keluar? Tampaknya lahir dari api Storyful, sampai batas tertentu.

Mark: Itu lahir dari frustrasi dengan perusahaan besar bernama Twitter. Saya senang bekerja di sana, tetapi tidak dijalankan dengan baik. Dan pada akhirnya, tim kemitraan media pada dasarnya disingkirkan. Saya bisa saja tetap bekerja di perusahaan yang bagus, tetapi sementara itu, saat itu tahun 2016 dan pemilihan presiden AS baru saja terjadi. Saya telah melihat banyak masalah yang kami temukan dalam inkarnasi awal mereka dalam pemberontakan Arab, di mana orang menggunakan platform sosial bukan sebagai alat demokrasi tetapi sebagai senjata. Mereka menggunakan viralitas video di tempat-tempat seperti YouTube dan Twitter untuk merekayasa cerita palsu yang berupa propaganda atau teori konspirasi.

Gelombang pertama internet adalah kebangkitan demokrasi. Dan kemudian, ketika 2016 terjadi, saya menyadari, “Astaga! Ini sedang diubah menjadi senjata.” Bukan hanya karena Donald Trump – ada masalah yang lebih dalam di mana, tiba-tiba, viralitas, model bisnis, dan algoritma dibajak oleh orang-orang yang menentang demokrasi. Itu adalah tempat kelahiran dan ide yang membuat saya kembali ke Áine Kerr, yang merupakan kolega saya yang paling tepercaya, yang berada di Facebook pada saat itu, dan berkata, “Bagaimana jika kita melakukan sesuatu untuk mengembalikan kekuatan kepada warga, untuk memungkinkan mereka untuk melindungi diri mereka dari ancaman yang muncul ini?” Dan kami berdua melompat.

Kami mulai, untuk memberikan umpan berita kepada orang-orang yang dapat mereka kendalikan, tetapi jelas, seiring berjalannya waktu, seperti setiap startup, ide tersebut berkembang. Gelombang pertama demokrasi digantikan oleh kekuatan gelap baru di internet dan itulah inspirasi di balik Kinzen.

Liam: Bagi pendengar yang belum tahu, apa itu Kinzen? Siapa pengguna Kinzen?

Mark: Kami membantu platform teknologi besar dan platform baru untuk melindungi percakapan dunia dari risiko informasi. Dan yang kami maksud adalah misinformasi berbahaya yang menciptakan bahaya di dunia nyata, disinformasi terorganisir, dan ujaran kebencian dan kekerasan. Pelanggan kami adalah profesional keselamatan tepercaya, profesional kebijakan, dan orang-orang di dalam perusahaan ini dengan putus asa berusaha mengatasi ancaman dan risiko informasi ini alih-alih pengecekan fakta secara reaktif.

“Kami sedang meningkatkan solusi manusia untuk krisis informasi khusus ini”

Kami menggunakan kombinasi analisis manusia kuno yang baik dan tahap selanjutnya dari pembelajaran mesin untuk memecahkan masalah jahat yang dihadapi platform ini. Ini adalah, nomor satu, bahwa manusia tidak dapat menskalakan untuk mencocokkan masalah, dan bahwa mesin tidak memiliki wawasan untuk mendeteksi risiko informasi ini dalam berbagai bahasa dan berbagai format berbeda. Itulah masalah yang Kinzen coba selesaikan. Kami sedang meningkatkan solusi manusia untuk krisis informasi khusus ini.

Liam: Jadi, Anda mengambil keterampilan editorial dari Storyful dan mengkodekannya ke dalam mesin untuk memberi mereka nilai-nilai itu.

Markus: Tepat. Kami mengikuti pendekatan pembelajaran mesin manusia dan loop, yang baru benar-benar menjadi mungkin dalam beberapa tahun terakhir sejak kami memiliki akses ke model bahasa besar ini. Analis kami membuat data yang dapat dibaca mesin dalam berbagai bahasa, yang telah dimasukkan ke dalam mesin. Mesin sedang menyalin, menerjemahkan, dan mencoba memahami, dan data manusia membantunya belajar lebih cepat. Ini adalah lingkaran umpan balik yang indah antara kelompok ahli kecil dan sistem pembelajaran mesin yang benar-benar canggih yang secara eksponensial lebih besar dalam kapasitas mereka sekarang daripada empat tahun lalu.

Menekan informasi yang salah

Liam: Seberapa besar skala misinformasi saat ini?

“Masalah utama saat ini bukanlah apakah orang mengatakan hal yang salah di internet; ini bukan tentang perselisihan antara orang-orang tentang politik; ini bahkan bukan tentang Donald Trump atau apa yang dia dapatkan di Twitter”

Mark: Yah, saya pikir apa yang terjadi sekarang adalah semakin buruk sebelum menjadi lebih baik. Tidak semua orang online akan melihatnya, tetapi apa yang terjadi di tempat-tempat di mana misinformasi dan disinformasi sangat bermasalah adalah di tempat-tempat hidup atau mati. Saat ini, di India, kita melihat hampir tingkat retorika genosida datang dari pendukung pemerintah terhadap Muslim. Kami melihat ekstremis terorganisir, kelompok sayap kanan, dan neo-Nazi di Eropa menggunakan viralitas platform ini untuk menyebarkan pesan mereka.

Dan jelas, kita melihatnya dalam teori konspirasi seputar topik kesehatan, bukan hanya COVID, tetapi orang-orang yang mencoba mempromosikan pemikiran konspirasi dalam percakapan arus utama. Masalah utama saat ini bukanlah apakah orang mengatakan hal yang salah di internet; ini bukan tentang perselisihan antara orang-orang tentang politik; ini bahkan bukan tentang Donald Trump atau apa yang dia dapatkan di Twitter. Apa yang kita lihat adalah banyaknya bahasa dan ancaman di mana ada bahaya nyata di dunia nyata dan kemungkinan situasi hidup atau mati.

Saat ini kami memiliki 13 bahasa, dan segera kami akan memiliki 26 bahasa. Di tempat-tempat seperti Brasil, yang akan mengadakan pemilihan umum yang sangat penting pada bulan Oktober yang mungkin merupakan tayangan ulang dari apa yang terjadi pada tahun 2020 di Amerika Serikat. Banyak orang berpikir kita mencoba memilah mana yang benar atau salah. Ini bukan hanya tentang itu atau bahkan terutama tentang itu – ini tentang di mana kita dapat menghentikan sesuatu yang terjadi secara online yang akan memiliki dampak dunia nyata dan, berpotensi, dampak hidup atau mati.

Liam: Anda menyebutkan pemilu Brasil di sana, dan saya mendengar ine Kerr di podcast lain berbicara tentang aktor disinformasi yang menyadari bahwa frasa seperti "kecurangan pemilu" dan "pemilihan yang curang" memperingatkan moderator konten yang dapat menghapus klaim palsu mereka, jadi aktor-aktor ini mulai mengganti frasa ini dengan hal-hal seperti, “Kami berkampanye untuk pemilihan yang bersih.” Dan di situlah moderator manusia dapat masuk untuk melihat perubahan itu dan membantu pihak berwenang mencegat pesan-pesan ini.

“Kami terus-menerus melihat kata-kata diubah dan diubah. Dan, tentu saja, mesin tidak dapat mengimbanginya”

Mark: Kami melihat apa yang kami sebut kebangkitan "algospeak", yaitu ketika komunitas menyadari bahwa mungkin ada algoritme moderasi konten yang melihat apa yang mereka katakan dan mereka mencoba untuk menghindarinya. Selama pandemi, kami melihat aktivis anti-vax menggunakan kata panini alih-alih pandemi. Baru-baru ini, di Jerman, kami melihat komunitas anti-vax menggunakan kata smurf untuk vaksin karena, dalam bahasa Jerman, pengucapan kata itu terdengar sangat mirip dengan pengucapan karakter TV anak-anak. Tahun lalu, di Skandinavia, kami melihat kelompok neo-Nazi mengubah kata yang terkait dengan festival anak-anak tradisional menjadi cercaan rasial.

Kami terus-menerus melihat kata-kata diubah dan diubah. Dan, tentu saja, mesin tidak dapat mengikutinya. Ketika sesuatu seperti pandemi terjadi, tiba-tiba, semua istilah ilmiah ini masuk ke dalam bahasa kita. Mesin tidak terjebak, dan di situlah analisis manusia penting – untuk memperbaiki mesin.

Jadi, semakin banyak, di dalam Kinzen, kita mulai melihat mesin menangkap evolusi bahasa. Satu kata terhubung dengan kata lain. Smurf dengan vaksin. Atau misalnya, di tempat-tempat seperti India, kita melihat aktivis anti-Muslim menggunakan kata-kata yang mungkin tampak sama sekali tidak berbahaya, tetapi kita dapat melihat bahwa itu adalah bagian dari pola intimidasi dan ujaran kebencian.

Inilah sebabnya mengapa bagian manusia sangat penting. Kami tidak menganjurkan lebih banyak moderasi konten. Kami tidak menganjurkan hukum atau melarang informasi yang salah. Saya pikir itu benar-benar cara yang salah. Kami mencari moderasi konten yang lebih tepat yang dapat mengambil jarum di tumpukan jerami yang berbahaya sekaligus memungkinkan kebebasan berbicara maksimum. Dan itulah tujuan jangka panjang kami. Kami tidak dapat memiliki keamanan dengan keputusan dan pemerintah melarang konten. Kita perlu mendesain ulang platform sehingga mesin dan manusia yang bekerja dalam moderasi konten menjadi lebih tepat, lebih tepat, dan lebih tepat waktu dalam mengatasi masalah alih-alih bereaksi terhadapnya.

Perpaduan antara mesin dan manusia

Liam: Apakah informasi yang salah merupakan masalah teknologi, masalah manusia, atau keduanya?

Mark: Dengar, itu salah satu pertanyaan eksistensial di mana orang berpikir teknologi membuat mereka melakukannya atau membuat dunia bodoh. Saya tidak pergi untuk itu. Saya tetap menjadi penginjil untuk potensi demokrasi dari teknologi yang sekarang kita anggap remeh atau mulai sangat tidak kita sukai. Model bisnis dan cara algoritme awalnya disiapkan dengan media sosial memang memanfaatkan naluri terburuk kita, tetapi saya pikir kita dapat mendesain ulang teknologi ini untuk membebaskan niat terbaik kita. Dan bagian dari itu adalah memiliki filter yang jauh lebih baik yang dapat diakses orang biasa saat mereka menjelajah internet.

“Rata-rata pengguna akan memiliki lebih banyak kekuatan dan presisi dalam moderasi konten”

Saat ini, kami bekerja dengan tim moderasi terpusat di dalam platform teknologi. Dugaan saya adalah, selama dua hingga tiga tahun ke depan, semakin banyak platform akan mencoba mendesentralisasikan daya bagi orang biasa untuk mengatur filter mereka. Mereka dapat mengatakan, “Dengar, saya tidak ingin mendengar bahasa yang ekstrim di feed saya,” atau orang lain mungkin berkata, “Ya, saya mau. Saya ingin melihat apa yang dipikirkan pihak lain. ” Rata-rata pengguna akan memiliki lebih banyak kekuatan dan presisi dalam moderasi konten. Tapi itu akan memakan waktu, dan kita baru di awal. Ingat, platform besar yang ada saat ini akan digantikan oleh platform baru yang sedang diinkubasi oleh beberapa anak berusia 17 tahun saat ini.

Kita harus mewaspadai beberapa perkembangan yang dapat memperburuk masalah sebelum menjadi lebih baik. Di Kinzen, kami adalah pelopor moderasi konten audio. Kami telah menganalisis cara penyebaran informasi yang salah, disinformasi, dan ujaran kebencian melalui audio langsung dan podcast. Dan kami pikir lapisan internet yang diucapkan adalah area yang perlu kami fokuskan dengan tingkat kepentingan yang tinggi untuk beberapa tahun ke depan.

Liam: Aku akan menanyakan itu padamu sebelum kita selesai. Ada audio berjam-jam yang tak terhitung jumlahnya. Masalah apa yang disajikan kepada Anda dan pemeriksa fakta?

Mark: Ini seperti badai yang sempurna. Jelas, dengan audio langsung, Anda mendapatkan kecepatan. Melihat podcast, banyak di antaranya berdurasi berjam-jam. Dan kemudian, tantangan yang paling penting dan terbesar adalah bahasa. Ada ribuan bahasa yang digunakan. Jika Anda menganalisis sesuatu di India, Anda mungkin mendengarkan seseorang berbicara dalam bahasa Hindi, tetapi mereka akan melompat ke bahasa Inggris sesekali. Apa yang sangat kami sadari adalah bahwa di sinilah pembelajaran mesin sangat menarik. Anda memiliki pengenalan suara otomatis. Tetapi sekali lagi, Anda dapat mengubahnya jika Anda tahu apa yang Anda cari dengan beberapa sinyal manusia. Kita dapat membiarkan model bahasa menjadi lebih baik, dioptimalkan untuk mendengarkan bukan hanya suara sebuah kata tetapi juga hubungan antar bahasa.

“Bisakah kita mulai memasangkan mesin dan manusia untuk menafsirkan arti bahasa, dan bukan hanya apa yang mereka katakan, tetapi bagaimana mereka mengatakannya?”

Saya seorang jurnalis, kan? Saya bukan teknisi dengan pelatihan. Banyak hal ini membuat saya bertanya-tanya ketika saya mencoba untuk mengikutinya. Tapi saya pikir yang penting untuk audio adalah kita memperhatikan cara orang berbicara; nada suara mereka. Bahasa Arab, misalnya, adalah satu bahasa jika Anda menuliskannya, tetapi beberapa dialek ketika Anda mengucapkannya. Dan itu, bagi saya, adalah yang paling meresahkan dan juga paling mengasyikkan. Bisakah kita mulai memasangkan mesin dan manusia untuk menafsirkan arti bahasa, dan bukan hanya apa yang mereka katakan, tetapi bagaimana mereka mengatakannya? Itulah tantangan besar moderasi audio, tetapi saya juga berpikir ini adalah salah satu tantangan paling menarik untuk dikerjakan. Hanya manusia yang mampu mendeteksi hal-hal seperti ironi, sarkasme, slang, atau “algospeak”. Dan itulah mengapa pendekatan kami tidak hanya lebih efektif tetapi pada akhirnya lebih demokratis. Kami menginginkan jenis intervensi yang seminimal mungkin tetapi tingkat presisi tertinggi, dan di situlah perpaduan manusia dan mesin menjadi sangat penting.

Liam: brilian. Baiklah, Mark, terima kasih banyak telah bergabung denganku hari ini.

Mark: Liam, dengan senang hati. Mari kita lakukan lagi segera.