Kinzen'in CEO'su Mark Little, dezenformasyonla mücadele konusunda

Bu dezenformasyon çağında, trol çiftlikleri, yalan haberler ve nefret söylemi çıldırıyor ve gerçeği tespit etmek giderek zorlaşıyor. İçerik denetimi, çevrimiçi toplulukları bunun sonuçlarından korumamıza yardımcı olabilir mi?

Sahte haberler yeni bir fenomen değil, ancak sosyal medya platformları, daha önce benzeri görülmemiş bir büyüklükte ve çok gerçek yaşam sonuçlarıyla iltihaplanmaları ve yayılmaları için mükemmel yankı odasını sağladı. Ancak geleneksel teyit ve otomatik içerik filtreleri, dezenformasyon ve yanlış bilgilendirmenin arkasındaki güçle boy ölçüşemez. Sorunun üstesinden gelmek için yepyeni bir çözüm gerekecek ve Mark Little, sorumluluğu üstlenen kişilerden biri.

Mark, Dublin'deki bir hapishane isyanıyla ilgili ilk raporundan savaşın parçaladığı Afganistan'daki ödüllü haberlerine kadar 20 yılı aşkın bir süredir haber yayıncılığı alanında kariyeri olan ödüllü bir gazeteci ve dijital medya yenilikçisidir. 2010 yılında, gençlerin neler olup bittiğini bildirmek için sosyal medyayı nasıl kullandıklarını fark ettikten sonra, geleneksel bir haber ajansını kimliği doğrulanmış kullanıcı tarafından oluşturulan içerikle birleştiren dünyanın ilk sosyal medya haber yayını Storyful'u kurdu. 2015 yılında Storyful'u News Corp'a sattıktan sonra Mark, Twitter'a Avrupa'da medya ve ortaklıklardan sorumlu Başkan Yardımcısı olarak katıldı.

Bir yıl sonra Mark, yeni bir tehdidin ortaya çıktığını fark ettiğinde görevinden istifa etti - sosyal medyanın demokratik bir uyanış dalgası olarak başlayan şey yozlaşıyordu. Bu platformların arkasındaki algoritmalar ve iş modelleri, propaganda ve komplo teorileri üretmek ve yaymak için silahlandırılıyordu. O sırada Facebook için küresel gazetecilik ortaklıklarını yöneten bir gazeteci olan Áine Kerr ile birlikte, bu soruna bir yanıt üzerinde çalışmaya başladı ve Kinzen doğdu.

"Zorluğun üstesinden gelmek için, yanıtı küresel bir düzeye ölçekleyebilen makine öğrenimi ve insan analizinin bir kombinasyonunu kullanıyorlar"

O zamandan beri, bu tehdidin önüne geçmek ve çevrimiçi toplulukları tehlikeli yanlış bilgilerden ve gerçek dünyaya zarar veren nefret söylemlerinden korumak için çalışıyorlar. Bu zorluğun üstesinden gelmek için, yanıtı küresel bir düzeye ölçekleyebilen bir makine öğrenimi ve insan analizi kombinasyonu kullanıyorlar. Mark, sosyal medya ağlarının demokratik potansiyeli konusunda iyimser olmaya devam ediyor, ancak bunun umutsuzca yeniden tasarlanması gerektiğini kabul eden ilk kişi o. İşte burada daha hassas içerik denetimi devreye giriyor.

Bugünkü bölümde, gazeteciliğin evrimi, yanlış bilginin yükselişi ve çevrimiçi toplulukları zararlı içerikten korumak için neler yapabileceğimiz hakkında konuşmak için Mark ile oturduk.

İşte sohbetten en sevdiğimiz paketlerden bazıları:

• Başarısızlık, kendi işinizi kurma sürecine dahil edilmiştir. Harika bir girişimci olmanın sırrı hayatta kalmak değil, dirençli olmaktır.
• Geçtiğimiz birkaç yılda, çevrimiçi topluluklar içerik denetleme algoritmaları tarafından işaretlenmemek için belirli kelimeleri değiştirdiğinde ortaya çıkan “algospeak”in yükselişini gördük.
• Mark, dezenformasyonu yasaklayan bir yasayı değil, maksimum konuşma özgürlüğü sağlarken zararlı içeriği tespit eden daha kesin içerik denetimini savunuyor.
• Önümüzdeki birkaç yıl içinde Mark, daha fazla platformun, insanların çevrimiçi görmek istedikleri şey için kendi filtrelerini belirlemeleri için gücü merkezsizleştirmeye çalışacağına inanıyor.
• İnsan analizi ve makine öğrenimini birleştirerek ironi, argo veya "algospeak" gibi şeyleri tespit edebilir ve küresel düzeyde ölçeklendirebilirler.

Tartışmamızdan hoşlanıyorsanız, podcast'imizin diğer bölümlerine göz atın. iTunes, Spotify, YouTube'da takip edebilir veya seçtiğiniz oynatıcıdaki RSS beslemesini alabilirsiniz. Aşağıda bölümün hafifçe düzenlenmiş bir transkripti var.

siyasi uyanış

Liam Geraghty: Mark, bize katıldığınız için çok teşekkür ederiz. Gösteriye çok hoş geldiniz.

Mark Little: Memnunum, Liam. Bana sahip olduğun için teşekkürler.

Liam: Kinzen'i kurmadan önce bu noktaya kadar dikkate değer bir yolculuk yaptınız. Gazeteciliğe olan ilginiz nereden geliyor?

"Dünyanın nasıl işlediğine ve neden bazı insanların bir sonraki adımda ne olacağını çok yakın bir zamanda görüyor gibi göründüğüne kafayı takmıştım."

Mark: Şey, ben o çok erken gelişen çocuklardan biriydim. Altı ya da yedi yaşlarındayken, sabahları babamla The Irish Times için savaşırdım. Ve yaklaşık dokuz ya da 10'da, Liverpool'da forvet olmak olan gerçek tutkum olmak için hiçbir zaman yeterli doğal yeteneğe sahip olmadığımı fark ettim. Ve temelde, geri döndüğümü hatırladığım şey, sanırım din öğretmenimin 14 yaşlarındayken bir karnede bana işaret ettiği şeydi. Erken alaycı olduğumu, dünyaya karşı şiddetli bir merakım, belirli bir şüpheciliğim ve değişim tutkum olduğunu söyledi.

Dünyanın nasıl çalıştığına ve neden bazı insanların siyasette ya da iş dünyasında bir sonraki adımda ne olacağını görmekte gibi göründüğüne takıntılıydım. Ve bu, gazetecilikle başlayan ve kariyerim boyunca benimle kalan çekirdekti.

Liam: Ailenizde siyaset büyük müydü?

Mark: Kesinlikle. Önde ve ortadaydı. 1970'lerde ve 1980'lerde büyürken siyasetle ilgilenmediyseniz, farkında veya uyanık değildiniz. O sırada İrlanda'da yaşıyorduk, ki bu hala kilisenin egemen olduğu çok gerici bir toplumun egemenliğindeydi. Biz hala Avrupa'nın fakir insanlarıydık. Göç rekor düzeydeydi; işsizlik rekor seviyeye ulaştı. Ve yurtdışına baktığımda, seksenlerde bir öğrenci aktivisti olarak büyürken, yani... Her şey devam ediyordu. Tüm dünyada, olan biten her şeyde tektonik kaymalar varmış gibi geldi.

Nükleer kıyamet, 80'lerden Berlin Duvarı'nın yıkılışına kadar derinden düşündüğüm bir şey olduğu noktaya kadar her şey çok önemli hissettirdi. Bu sadece size, büyük bir endişe döneminde hayatta olmanın ne kadar önemli hissettirdiği hakkında bir fikir vermek için. Ama aynı zamanda politik düşünceli, büyük bir heyecan ve meydan okuma da olsaydınız.

Londra'da sosyal huzursuzluk

Liam: Ve ilk işinizin Birleşik Krallık'taki Komünist Parti dergisinin reklam bölümünde olduğunu doğru mu okudum?

Mark: Evet, komik bir şeydi. O zamanlar solda, kültürle yakından ilgilenen ve Glasnost ve Perestroika'da olanlardan etkilenen birçok insan vardı. Yeni sol veya Avrupa komünistleri olarak adlandırılacak bir grup insan vardı ve bu dergi beni büyüledi. Adı Marksizm Bugündü.

Bir araba parkında ve McDonald's'ta çalışıyordum ve tesadüfen kolumu tesadüfen "Hey, bugün Marksizm'e girecek adamlar var mı?" dedim. Ve işlerden birinin reklamı satmak bile olmadığı ortaya çıktı - reklamları toplamaktı. Bulgaristan'da granola üreticilerini ve futon üreten ve tatil reklamı yapan insanları arayıp reklam için ödemeyi taahhüt ettikleri parayı talep ederek onları hafifçe tehdit etmem gerekirdi. 87'de Londra'da bir yazıydı. Red Wedge ve Billy Bragg'ı görmeliyim. Madencilerin grevi yeni sona ermişti ve Thatcher'ın uluslararası sahnedeki en büyük kişi olduğuna dair gerçek bir his vardı.

“O dönemde siyaset her şeyin içindeydi. Etrafımızı saran oksijene benziyordu.”

87'de Londra'da yaşamak ve sol bir hareketin parçası olmak -bir komünist parti olmak zorunda değil, ki bu bir nevi çıkış yolundaydı- gerçekten ufuk açıcıydı çünkü ben bir radikal öğrenciydim. Sendikalar Kongresi gibi yerlerde bulunmalı ve Britanya'da gerçekten değişim yaratmış olan bazı ileri düzey insanlarla tanışmalıydım. Ayrıca hamburger çevirmeyi ve mükemmel tavuk McNugget'ı pişirmeyi de öğrendim.

87'deki aynı yaz, IRA kampanyasının zirvesindeydi. Bu otoparkta çalışıyordum ve işlerimden biri sabah saat 4:00 ya da 5:00 gibi Uzun Vadeli Otopark'ta araba olup olmadığını kontrol etmekti. IRA oraya bomba yerleştirecekti. Ve işte oradaydım, İrlandalı bir genç ve Pakistanlı meslektaşım ve ikimiz de sabah gelen özel şubelere hangi arabaların çok uzun süredir orada olduğunu bildirmekten sorumluyduk. O zamanlar siyasetin her şeyin içinde olduğunu bir kez daha hatırlatalım. Etrafımızı saran oksijen gibiydi.

"O kadar gençtim ki, Washington'daki büyük işimi almaya gittiğimde bana bıyık bırakmam ya da mavi giymem söylendi, bu da görünüşe göre seni daha yaşlı gösteriyor."

Liam: Vay, bu delilik. Tüm bunlar, gazetecilik kariyeriniz ve Ulusal Yayıncıya geçişiniz açısından anlamlıdır. Demek istediğim, üniversiteden hemen sonra İrlanda'daki Ulusal Yayıncı için çalışmaya gittin.

Mark: O kadar gençtim ki, Washington'daki büyük işime devam ettiğimde bana bıyık bırakmam ya da mavi giymem söylendi, bu da görünüşe göre seni daha yaşlı gösteriyor. Üniversiteden çıkınca siyasette olmak istemediğimi fark ettim. Günün sonunda özellikle ideolojik değildim. Partizan değildim. Ve dediğim gibi, değişim beni büyüledi. DCU'ya bir gazetecilik kursu yapmak için gittim ve bu kurs bile bitmeden, RTE insanların onlara katılması için reklam veriyordu, ben de yaptım.

Yaklaşık 24 saat içinde, ilk raporum Kuzey Dublin, Phibsborough'da bir hapishane isyanıydı. Bir çatının tepesindeydim ve saat 6:00 haberlerini bir cep telefonundan yayınlamak zorundaydım, inanın bana, o zamanlar çok büyük bir teknolojik yenilikti. O kadar kötüydüm ki ofise döndüğümde patronum “Bunu tekrar dinleme. Bu size gelecek için ilham vermeyecek.” Ancak o aşamada, büyük meseleler hakkında bir rapor başlatma şansına sahip olmak bir rüyanın gerçekleşmesiydi.

Yeni bir gazetecilik dalgası

Liam: Gazetecilik kariyeriniz neredeyse 20 yıla yayıldı, değil mi?

Mark: Bu doğru.

Liam: Washington muhabiri olarak ve İrlanda'nın en büyük programlarından biri olan Prime Time'ı sunarak son derece başarılı bir kariyerin ardından gazeteciliği bırakmaya sizi iten ne oldu?

Mark: Şey, eski bir tabirle, işlerin değiştiğini fark etmeye başladım. Gazeteciliğin ve haberin üretim araçları, benim gibi, televizyondaki adam, savaş alanlarında dikilmekten değişmişti. Afganistan'ın güneyindeki Kandahar'da olduğumu hatırlıyorum ve çok sinir bozucuydu çünkü orada oturmuş, yerde neler olup bittiğini benim için yorumlayan birini dinliyordum. Ve aniden, gazeteciliğin eski altın çağının çok anti-demokratik olduğunu fark ettim. Gecenin belli bir saatinde evde oturanlara beni dinlemelerini söyleyen, televizyondaki adama neyin doğru neyin gerçek olduğunu söyleyen benim gibi insanlardı, kapı bekçileri.

“Eski moda hikaye anlatımı, doğruyu söyleme ve gazeteciliği bu platformlarda bu devrimci yeni demokratik uyanışla birleştirebilseydik ne olurdu?”

Aynı zamanda Twitter ve YouTube'un ortaya çıktığını gördüm ve 2009'da İran'da protesto edilen bir seçim olduğunu hatırlıyorum. Her yabancı muhabirin derinlere inen bir hikayesi vardır – İran benim hikayemdi. 17 ya da 18 yaşındakilerin neler olup bittiğine dair en içten, özgün habercilik yapmak için sosyal medyayı kullandığını ve "Aman Tanrım, bu her şeyi değiştirecek" diye düşündüğümü hatırlıyorum.

Çağdaşlarımın çoğu bu demokratik devrimden korkmuş ve korkmuşlardı. Ama bu fırsatı gördüm. Bu platformlarda eski moda hikayeleri, doğruları ve gazeteciliği bu devrimci yeni demokratik uyanışla birleştirebilseydik ne olurdu? 25 yıl ileriye baktım ve “Bunu şimdi yapmazsam hayatımın geri kalanında pişman olacağım” diye düşündüm. Eski büyük Yahudi dini metni Talmud'un ne dediği hakkında düşünmelisiniz, “Ben değilsem, kim? Şimdi değilse ne zaman?" O anı yaşadım ve geri dönüşü yoktu.

Liam: Demek gittin ve Storyful'u yarattın. Storyful'un harika sloganını seviyorum, "sosyal medyanın gürültüsünden haberler". Gazetecilikten iş kurmaya geçiş nasıldı?

Mark: Kışın suyu izlemek gibiydi. “Yüzmeye gitmek harika olmaz mıydı?” diye düşünüyorsunuz. Sonra içeri atlıyorsunuz ve soğuktan felç oluyorsunuz. Storyful ile girişime bir yıl ayıramadık. İşi bıraktığımızı sanıyordum. Acımasızdı. Her şeyimi bu girişime yatırmıştım - itibarım, tüm param ve iş işten geçmiş gibi görünüyordu.

“Büyük bir girişimci olmanın sırrı hayatta kalmak değildir. Bu esneklik. Ve başarısızlık modele dahil edilmiştir”

Bir Noel arifesinde, ailemi görmek için aşağı indiğimi ve dünyanın yükünü üzerimde hissettiğimi hatırlıyorum ve en kötü düşüncemin farkına vardım, “İşimiz bitecek, ama bir iş bulacağım ve bundan kurtulacağım. ” Ve öğrendim ki, en büyük korkunuzla yüzleştiğinizde, özellikle erken bir başlangıç ​​aşamasında, onunla yüzleştiğiniz için bir daha asla peşinizden gelmeyecek. Olabilecek en kötü şey bu.

Bir gazeteci olarak hayatta kalmakla ilgili olduğumu anlamaya başladım. Savaş muhabiri olmak zorundaydım. Ölsem mi, yaralansam da, çalışabileceğim günleri hatırladım, ama dayanıklılık hakkında, her gün kalkmak zorunda kaldığında ve bu zor olduğunda ne olacağı hakkında hiç düşünmemiştim. Ve bu büyük farktı. Büyük bir girişimci olmanın sırrı hayatta kalmak değildir. Bu esneklik. Ve başarısızlık modelin içine yerleştirilmiştir - bu, katlanmanız gereken bir şeydir. Bu, zihniyette gerçek bir değişiklikti. Pek çok benzerlik vardı, ancak büyük bir zihniyet değişikliği gerekiyordu.

Liam: Nasıldı ? Çünkü dediğin gibi, birçok gazeteci bundan biraz korkuyordu. Ama bu tamamen yeni bir gazetecilik biçimi ve muhtemelen o zamanlar bunu bilmiyorduk.

“Tarihin görgü tanığı olan sahadaki insanlarla işbirliği geliştirmeye başladık”

Mark: İnsanlar teoride bunu yapmaya çalışırken, pratikte bunun gerçekleştiğini görebilirdik. Örneğin, 2010'da Tunus'ta başlayıp Mısır ve Suriye'ye yayılan Arap ayaklanmaları sırasında, İrlanda'daki küçük girişimimizde, Halep gibi yerlerden hikayeyi çıkarmaya çalışan demokratik aktivistleri görüyorduk. Onları izlediğimizi ve bir minareyi göstermek için kamerayı yukarı kaldırarak o görüntünün yerini belirlememize yardımcı olacak şeyler yapacağımızı fark etmeye başladılar. Gazeteler asıp hangi gün ve hangi mekanda olduklarını bize bildirerek bize yardım ederlerdi. Ve biz de sahada tarihe tanık olan insanlarla bir işbirliği geliştirmeye başladık.

Ve elbette, gazetecilik titizliği getiriyorduk. Usame bin Ladin Pakistan'da öldürüldüğünde, yere düşen helikopterin doğasını analiz etmek için hemen uydu görüntüleriyle birlikteydik. Gazetecileri fiziksel konuma yanlış bir şekilde atfedildiği için yönlendirebildik.

Bu yeni açık kaynak gazetecilik biçimi demokratikti çünkü birincil kaynaklarımız diğer gazeteciler değil, sahadaki insanlardı. Ama aynı zamanda, bizim hesap verebilirlik konusunda sahip olduğumuz aynı araştırmacı gazetecilik titizliğine sahipti. Tesadüfen ortaya çıkmadı, ama kesinlikle yeni bir gazetecilik biçimi yaratmayı planlamadık. Sosyal medyanın ilk dalgasında baskın güç olan bu uyanıştan organik olarak gelişti. Bugün Storyful mezunlarının çoğu New York Times, CNN, BBC veya Washington Post gibi büyük haber kuruluşlarında çalışıyor ve Storyful ile parçası olduğumuz yeni gazetecilik biçimini getiriyorlar.

Sosyal medyanın silahlanması

Liam: 2013'te Storyful'u News Corp'a sattınız, geçişe yardımcı olmak için New York'a taşındınız, ancak sonunda Dublin'e geri döndünüz ve Twitter, Dublin'de genel müdür rolünü üstlendiniz. Storyful'un arkasından yapılacak bir sonraki büyük şey için can atıyor muydunuz?

Mark: Pek değil. Yani, düşününce, Marksism Today, Rupert Murdoch, Jack Dorsey ve İrlandalı vergi mükellefi için çalışan bir kariyerim vardı. En azından ideolojik bir perspektiften oldukça iyi bir aralığım vardı. Ve Twitter'dan gerçekten büyülenen Storyful'dan geliyorum. Twitter'a aşık olmuştum, hayatımı değiştirmişti ve makinenin kalbine girmek istiyordum. Başka bir startup yapmak gibi bir arzum yoktu. Hatta bir başka çağdaşımdan, başka bir medya startup kurucusundan bunu bir daha yapmamak için izin istedim.

O aşamada Twitter oldukça büyük bir şirketti. Twitter işine biraz değişim ve enerji getirmeye yardım edip edemeyeceğimi görmek istedim. Bu yüzden bunu yapmayı seçtim. İşimdeki her şeyi değiştiren bir platformun içine girip bir etki yaratıp yaratamayacağımı görmek için gerçek bir şanstı. Çok mutlu olduğum New York'tan uluslararası merkez olan Dublin'e geri dönmek tesadüfen oldu. Ama başlangıç ​​hayatına bir ara vermek ve büyük bir şirketin içinde olsaydım nasıl görüneceğini görmek istedim.

“İnsanların sosyal platformları demokratik bir araç olarak değil, bir silah olarak kullandığı Arap ayaklanmalarında gördüğümüz sorunların çoğunu görmüştüm”

Liam: Kinzen nereden çıktı? Belli bir dereceye kadar Storyful'un alevlerinden doğmuş gibi görünüyor.

Mark: Twitter adındaki o büyük şirketteki hayal kırıklığından doğdu. Orada çalışmayı seviyordum ama pek iyi yönetilmiyordu. Ve sonunda, medya ortaklığı ekibi temelde kurtuldu. Güzel bir kurumsal işte kalabilirdim ama bu arada, 2016'ydı ve ABD başkanlık seçimleri daha yeni olmuştu. İnsanların sosyal platformları demokratik bir araç olarak değil, bir silah olarak kullandığı Arap ayaklanmalarında en erken vücut bulmalarında tespit ettiğimiz birçok sorunu görmüştüm. Propaganda veya komplo teorileri olan yanlış hikayeler üretmek için YouTube ve Twitter gibi yerlerde videonun viralliğini kullanıyorlardı.

İnternetin ilk dalgası demokratik bir uyanıştı. Ve sonra, 2016 olduğunda, "Vay canına! Bu bir silaha dönüştürülmektedir.” Sadece Donald Trump yüzünden değil - birdenbire viralliğin, iş modelinin ve algoritmaların demokrasiye karşı çıkan insanlar tarafından gasp edildiği daha derin sorunlar vardı. O zamanlar Facebook'ta olan en güvendiğim meslektaşım Áine Kerr'e geri dönmeme ve “Ya vatandaşlara gücü geri vermek için bir şey yapsaydık, kendilerini bu ortaya çıkan tehdide karşı korumak için mi?” Ve ikimiz de atladık.

Başlangıç ​​olarak, insanlara kontrol edebilecekleri bir haber akışı sağlamak için yola çıktık, ama açıkçası, biz ilerledikçe, her startup gibi, fikir de gelişti. İlk demokrasi dalgası internette yeni bir karanlık güçle yer değiştiriyordu ve Kinzen'in arkasındaki ilham kaynağı buydu.

Liam: Bilmeyenler için Kinzen nedir? Kinzen kullanıcısı kimdir?

Mark: Büyük teknoloji platformlarının ve gelişmekte olan platformların dünyadaki konuşmaları bilgi risklerinden korumasına yardımcı oluyoruz. Bununla gerçek dünyada zarar, organize dezenformasyon ve nefret dolu ve şiddet içeren konuşmalar yaratan tehlikeli yanlış bilgileri kastediyoruz. Müşterilerimiz güvenilir güvenlik uzmanları, politika uzmanları ve bu şirketlerin içindeki insanlar, reaktif gerçekleri kontrol etmek yerine umutsuzca bu bilgi tehditlerinin ve risklerinin önüne geçmeye çalışıyor.

“Bu özel bilgi krizine yönelik insan çözümünü ölçeklendiriyoruz”

Bu platformların karşılaştığı kötü sorunu çözmek için eski moda insan analizini ve makine öğreniminin sonraki aşamalarını bir arada kullanıyoruz. Bunlar, birincisi, insanların sorunla eşleşecek şekilde ölçeklenememeleri ve makinelerin bu bilgi risklerini birden çok dilde ve birden çok farklı biçimde algılamak için içgörüye sahip olmamasıdır. Kinzen'in çözmeye çalıştığı sorun bu. Bu özel bilgi krizine yönelik insan çözümünü ölçeklendiriyoruz.

Liam: Yani, Storyful'dan bu editörlük becerilerini alıyor ve onlara bu değerleri vermek için makinelere kodluyorsunuz.

Mark: Aynen. Bu büyük dil modellerine erişimimizden bu yana ancak son birkaç yılda gerçekten mümkün hale gelen insan ve döngüsel makine öğrenimi yaklaşımını izliyoruz. Analistlerimiz, makineye aktarılan çeşitli dillerde makine tarafından okunabilen veriler oluşturuyor. Makine kopyalıyor, tercüme ediyor ve anlamaya çalışıyor ve insan verileri daha hızlı öğrenmesine yardımcı oluyor. Bu, küçük bir uzman grubu ile dört yıl öncesine göre katlanarak artan kapasiteye sahip gerçekten gelişmiş makine öğrenimi sistemleri arasındaki güzel bir geri bildirim döngüsüdür.

Yanlış bilgilendirmeyi engellemek

Liam: Şu anda yanlış bilgi ölçeği ne kadar büyük?

“Şu anda kilit konu, insanların internette yanlış bir şey söyleyip söylemediği değil; insanlar arasında siyaset üzerine çıkan anlaşmazlıklarla ilgili değil; Donald Trump ya da Twitter'da ne aldığıyla ilgili bile değil”

Mark: Bence şu anda olan şey, daha iyiye gitmeden önce daha da kötüye gitmesi. Çevrimiçi herkes bunu görmeyecek, ancak yanlış bilgi ve dezenformasyonun özellikle sorunlu olduğu yerlerde olan şey, ölüm kalım olduğu yerlerde. Şu anda Hindistan'da hükümet destekçilerinden Müslümanlara yönelik neredeyse soykırım düzeyinde söylemler görüyoruz. Avrupa'da örgütlü aşırılık yanlılarının, aşırı sağcı grupların ve neo-Nazilerin mesajlarını yaymak için bu platformların viralliğini kullandığını görüyoruz.

Ve açıkçası, bunu sadece COVID'de değil, aynı zamanda ana akım konuşmalarda komplo düşüncesini teşvik etmeye çalışan insanlarda sağlık konularıyla ilgili komplo teorilerinde görüyoruz. Şu anda asıl mesele, insanların internette yanlış bir şey söyleyip söylemediği değil; insanlar arasında siyaset üzerine çıkan anlaşmazlıklarla ilgili değil; Donald Trump ya da Twitter'da ne aldığıyla ilgili bile değil. Baktığımız şey, gerçek dünyada gerçek zararın ve muhtemelen ölüm kalım durumlarının olduğu çok sayıda dil ve tehdittir.

Şu anda 13 dilimiz var ve yakında 26 dilimiz olacak. Brezilya gibi yerlerde, Ekim ayında son derece önemli bir seçim olacak ve 2020'de Amerika Birleşik Devletleri'nde olanların tekrarı olabilir. Birçok insan neyin doğru neyin yanlış olduğunu çözmeye çalıştığımızı düşünüyor. Bu sadece bununla ilgili değil, hatta esasen bununla da ilgili değil – gerçek dünyaya ve potansiyel olarak ölüm kalım etkisine sahip olacak çevrimiçi bir şeyin olmasını nerede durdurabileceğimizle ilgili.

Liam: Oradaki Brezilya seçimlerinden bahsettiniz ve Áine Kerr'in başka bir podcast'te dezenformasyon aktörlerinin "seçim sahtekarlığı" ve "hileli seçim" gibi ifadelerin içerik moderatörlerini yanlış iddialarını kaldırabilecekleri konusunda uyardığını fark etmeye başladığından bahsettiğini duydum. bu aktörler, "Temiz seçimler için kampanya yürütüyoruz" gibi ifadeler yerine bu ifadeleri kullanmaya başladılar. İşte tam bu noktada, insan moderatörler bu değişiklikleri tespit edebilir ve yetkililerin bu mesajları engellemesine yardımcı olabilir.

“Sürekli olarak değiştirilen ve değiştirilen kelimeler görüyoruz. Ve tabii ki makineler buna ayak uyduramıyor”

Mark: Toplulukların söylediklerine bakarak içerik denetleme algoritmaları olabileceğini fark ettikleri ve bundan kaçınmaya çalıştıkları “algospeak”in yükselişini görüyoruz. Pandemi sırasında, aşı karşıtı aktivistlerin pandemi yerine panini kelimesini kullandıklarını gördük. En son Almanya'da aşı karşıtı topluluğun aşı için smurf kelimesini kullandığını gördük çünkü Almanca'da bu kelimenin telaffuzu televizyondaki çocuk karakterinin telaffuzuna çok benziyor. Geçen yıl İskandinavya'da bir neo-Nazi grubunun geleneksel bir çocuk festivaliyle ilgili bir kelimeyi ırksal bir karalama olarak değiştirdiğini gördük.

Sürekli olarak değiştirilen ve değiştirilen kelimeler görüyoruz. Ve elbette, makineler buna ayak uyduramaz. Pandemi gibi bir şey olduğunda, bir anda tüm bu bilimsel terimler dilimize giriyor. Makine tam olarak yakalanmadı ve insan analizinin önemli olduğu yer burasıdır – makineyi düzeltmek.

Ve böylece, Kinzen'in içinde, giderek daha fazla, makinenin dilin evrimini yakaladığını görmeye başlıyoruz. Bir kelime diğeriyle bağlantılı. aşı ile Şirin. Veya örneğin Hindistan gibi yerlerde, Müslüman karşıtı eylemcilerin tamamen zararsız görünebilecek kelimeler kullandıklarını görüyoruz, ancak bunların bir yıldırma ve nefret söylemi modelinin parçası olduklarını görebiliyoruz.

Bu yüzden insan kısmı çok önemlidir. Daha fazla içerik denetlemeyi savunmuyoruz. Yasaları veya yanlış bilgileri yasaklamayı savunmuyoruz. Bence kesinlikle yanlış bir yol. Maksimum konuşma özgürlüğü sağlarken tehlikeli olan samanlıkta iğneyi seçebilecek daha hassas içerik denetimi arıyoruz. Ve bu bizim için uzun vadeli hedef. İçeriği yasaklayan kararname ve hükümetlerle güvenliğimiz olamaz. Platformları yeniden tasarlamamız gerekiyor, böylece içerik denetlemede çalışan makineler ve insanlar probleme tepki vermek yerine problemin önüne geçmek için daha kesin, daha kesin ve daha zamanında olsun.

Makine ve insan karışımı

Liam: Yanlış bilgi teknik bir sorun mu, insan sorunu mu yoksa her ikisinden de biraz mı?

Mark: Dinle, bu insanların teknolojinin onları yaptırdığını ya da dünyayı aptallaştırdığını düşündüğü varoluşsal sorulardan biri. Bunun için gitmiyorum. Şu anda doğal olarak kabul ettiğimiz veya yoğun bir şekilde hoşlanmamaya başladığımız teknolojilerin demokratik potansiyeli için bir müjdeci olarak kalıyorum. İş modeli ve algoritmaların başlangıçta sosyal medya ile hazırlanma şekli, en kötü içgüdülerimizden yararlanıyor, ancak bence bu teknolojiyi en iyi niyetlerimizi özgürleştirmek için yeniden tasarlayabiliriz. Ve bunun bir kısmı, sıradan bir kişinin internette gezinirken erişebileceği çok daha iyi filtrelere sahip olmaktır.

"Ortalama bir kullanıcı, içerik denetlemede daha fazla güce ve hassasiyete sahip olacak"

Şu anda teknoloji platformlarında merkezi moderatör ekipleriyle çalışıyoruz. Tahminimce, önümüzdeki iki ila üç yıl içinde, giderek daha fazla platform, sıradan insanların filtrelerini belirlemesi için gücü merkezden uzaklaştırmaya çalışacak. “Dinle, beslememde aşırı bir dil duymak istemiyorum” diyebilirler veya başka biri “Eh, istiyorum. Karşı tarafın ne düşündüğünü görmek istiyorum.” Ortalama bir kullanıcı, içerik denetlemede daha fazla güce ve kesinliğe sahip olacaktır. Ama zaman alacak ve biz daha yolun başındayız. Unutmayın, bugün var olan büyük platformların yerini, şu anda 17 yaşındakiler tarafından kuluçkaya yatırılan yenileri alacak.

Sorunlar düzelmeden önce, sorunu daha da kötüleştirebilecek bazı gelişmelerin farkında olmalıyız. Kinzen'de sesli içerik denetiminin öncüleriyiz. Canlı ses ve podcast'ler aracılığıyla yanlış bilgilerin, dezenformasyonun ve nefret söyleminin nasıl yayıldığını analiz ediyoruz. Ve internetin konuşulan katmanının önümüzdeki birkaç yıl için yüksek derecede önemle odaklanmamız gereken bir alan olduğunu düşünüyoruz.

Liam: Bitirmeden önce bunu sana soracaktım. Sadece sayısız saatlerce ses var. Size ve teyitçilere sunulan sorun nedir?

Mark: Kusursuz bir fırtına gibi. Açıkçası, canlı ses ile hıza sahipsiniz. Podcast'lere bakıldığında, bunların çoğu saatlerce sürüyor. Ve sonra, en önemli ve en büyük zorluk dildir. Konuşulan binlerce dil var. Hindistan'da bir şeyi analiz ediyorsanız, Hintçe konuşan birini dinliyor olabilirsiniz, ancak o kişi ara sıra İngilizce'ye atlayacaktır. Çok bilinçli olduğumuz şey, makine öğreniminin bu kadar büyüleyici olduğu yer. Otomatik konuşma tanıma özelliğiniz var. Ama yine de, ne aradığınızı biliyorsanız, bazı insan sinyalleriyle ince ayar yapabilirsiniz. Dil modelinin daha iyi olmasına, sadece bir kelimenin sesini değil, diller arasındaki ilişkiyi de dinlemek için optimize edilmesine izin verebiliriz.

“Sadece ne söylediklerini değil, nasıl söylediklerini de dilin anlamını yorumlamak için makineleri ve insanları eşleştirmeye başlayabilir miyiz?”

Ben bir gazeteciyim, değil mi? Ben eğitim yoluyla bir teknisyen değilim. Bu şeylerin çoğu, ona ayak uydurmaya çalışırken beni meraklandırıyor. Ama bence ses için önemli olan, insanların konuşma biçimine dikkat etmemizdir; onların ses tonu. Örneğin Arapça, yazarsanız bir dildir, ancak konuştuğunuzda birden çok lehçedir. Ve benim için en rahatsız edici ve aynı zamanda en heyecan verici olan da bu. Dilin anlamını ve sadece ne söylediklerini değil, nasıl söylediklerini yorumlamak için makineleri ve insanları eşleştirmeye başlayabilir miyiz? Bu, ses denetiminin en büyük zorluğudur, ancak aynı zamanda üzerinde çalışılması gereken en heyecan verici zorluklardan biri olduğunu düşünüyorum. Sadece insanlar ironi, alay, argo veya “algospeak” gibi şeyleri tespit edebilir. İşte bu yüzden yaklaşımımız sadece daha etkili değil, aynı zamanda daha demokratik. Mümkün olan en az müdahaleyi, ancak en yüksek hassasiyet seviyesini istiyoruz ve insan ile makinenin karışımının çok hayati olduğu yer burasıdır.

Liam: Harika. Mark, bugün bana katıldığın için çok teşekkürler.

Mark: Liam, bu benim için bir zevk. En kısa zamanda tekrar yapalım.