مارك ليتل ، الرئيس التنفيذي لشركة Kinzen ، يتحدث عن مكافحة المعلومات المضللة

في عصر المعلومات المضللة هذا ، تتلاشى مزارع الترهيب والأخبار المزيفة وخطاب الكراهية ، وتصبح الحقيقة أصعب وأصعب. هل يمكن أن يساعدنا الإشراف على المحتوى في حماية مجتمعات الإنترنت من عواقبها؟

الأخبار الكاذبة ليست ظاهرة حديثة ، لكن منصات التواصل الاجتماعي وفرت لهم غرفة الصدى المثالية لتتفاقم وتنتشر على نطاق غير مسبوق مع عواقب واقعية للغاية. لكن تدقيق الحقائق التقليدي ومرشحات المحتوى الآلية لا تتناسب مع القوة الكامنة وراء المعلومات المضللة والمعلومات المضللة. سوف يتطلب الأمر حلاً جديدًا بالكامل لمعالجة المشكلة ، ومارك ليتل هو أحد الأشخاص الذين يقودون هذه المهمة.

مارك هو صحفي حائز على جوائز ومبتكر في وسائل الإعلام الرقمية وله مهنة في الأخبار الإذاعية تمتد لأكثر من 20 عامًا - من أول تقرير له عن أعمال شغب في سجن دبلن ، إلى تقاريره الحائزة على جوائز من أفغانستان التي مزقتها الحرب. في عام 2010 ، بعد ملاحظة كيفية استخدام الشباب لوسائل التواصل الاجتماعي للإبلاغ عما كان يحدث ، أسس Storyful ، أول موقع إخباري على وسائل التواصل الاجتماعي في العالم يجمع بين وكالة أنباء تقليدية ومحتوى مصدق من إنشاء المستخدمين. في عام 2015 ، بعد بيع Storyful لنيوز كورب ، انضم مارك إلى Twitter كنائب رئيس وسائل الإعلام والشراكات لتويتر في أوروبا.

بعد عام ، استقال مارك من منصبه لأنه أدرك أن تهديدًا جديدًا بدأ في الظهور - ما بدأ كموجة ديمقراطية من الصحوة على وسائل التواصل الاجتماعي كان فاسدًا. تم تسليح الخوارزميات ونماذج الأعمال وراء هذه المنصات لإنتاج ونشر الدعاية ونظريات المؤامرة. جنبا إلى جنب مع شين كير ، زميل صحفي كان ، في ذلك الوقت ، يدير شراكات صحفية عالمية لفيسبوك ، بدأ العمل على الرد على هذه المشكلة ، وولد كينزن.

"لمواجهة التحدي ، يستخدمون مزيجًا من التعلم الآلي والتحليل البشري الذي يمكنه توسيع نطاق الاستجابة إلى المستوى العالمي"

منذ ذلك الحين ، عملوا على استباق هذا التهديد وحماية المجتمعات عبر الإنترنت من المعلومات المضللة الخطيرة وخطاب الكراهية الذي يسبب ضررًا حقيقيًا. لمواجهة التحدي ، يستخدمون مزيجًا من التعلم الآلي والتحليل البشري الذي يمكنه توسيع نطاق الاستجابة إلى المستوى العالمي. لا يزال مارك متفائلاً بشأن الإمكانات الديمقراطية لشبكات التواصل الاجتماعي ، لكنه أول من يعترف بأنها بحاجة ماسة إلى إعادة تصميم. وهنا يأتي دور الإشراف الأكثر دقة على المحتوى.

في حلقة اليوم ، جلسنا مع مارك للحديث عن تطور الصحافة ، وظهور المعلومات المضللة ، وما يمكننا القيام به لحماية المجتمعات عبر الإنترنت من المحتوى الضار.

فيما يلي بعض النقاط السريعة المفضلة لدينا من المحادثة:

• تم تضمين الفشل في عملية بدء عملك الخاص. سر كونك رائد أعمال عظيم ليس البقاء - إنه المرونة.
• في العامين الماضيين ، شهدنا ظهور "algospeak" ، والذي يحدث عندما تغير المجتمعات عبر الإنترنت كلمات معينة لتجنب وضع علامة عليها بواسطة خوارزميات تعديل المحتوى.
• لا يدعو مارك إلى تشريع يحظر المعلومات المضللة ، بل يدافع عن الإشراف على المحتوى بدقة أكبر والذي يكتشف المحتوى الضار مع السماح بأقصى قدر من حرية التعبير.
• على مدى السنوات القليلة المقبلة ، يعتقد مارك أن المزيد من المنصات ستحاول إضفاء اللامركزية على السلطة للأشخاص لتعيين عوامل التصفية الخاصة بهم لما يريدون رؤيته عبر الإنترنت.
• من خلال الجمع بين التحليل البشري والتعلم الآلي ، يمكنهم اكتشاف أشياء مثل المفارقة أو العامية أو "algospeak" وتوسيع نطاقها على المستوى العالمي.

إذا كنت تستمتع بمناقشتنا ، فتحقق من المزيد من حلقات البودكاست الخاص بنا. يمكنك المتابعة على iTunes أو Spotify أو YouTube أو الحصول على موجز RSS في المشغل الذي تختاره. ما يلي هو نسخة منقحة قليلاً من الحلقة.

الصحوة السياسية

حسام جيراغتي: مارك ، شكرًا جزيلاً لك على انضمامك إلينا. اهلا وسهلا بكم في العرض.

مارك ليتل: يسعدني ليام. شكرا لاستضافتي.

حسام: لقد مررت برحلة رائعة إلى هذه النقطة قبل تأسيس شركة Kinzen. من أين جاء اهتمامك بالصحافة؟

"كنت مهووسًا بكيفية عمل العالم ولماذا بدا أن بعض الأشخاص يرون قريبًا لما سيحدث بعد ذلك"

مارك: حسنًا ، كنت أحد هؤلاء الأطفال المبكرين جدًا. في سن السادسة أو السابعة ، كنت أقاتل مع والدي في الصباح من أجل الأيرلندية تايمز. وفي حوالي الساعة التاسعة أو العاشرة من عمري ، أدركت أنني لم أمتلك أبدًا موهبة طبيعية كافية لأكون شغفي الحقيقي ، وهو أن أكون مركزًا لمهاجم ليفربول. وبصورة أساسية ، الشيء الذي أتذكره عندما كنت أعود إليه هو ما أشار إليّ به أحدهم ، على ما أعتقد ، مدرس الدين لدي في بطاقة تقرير عندما كان عمري حوالي 14 عامًا. قال إنني كنت ساخرًا قبل الأوان ، وكان لدي فضول شديد حول العالم ، وشيء من الشك ، وشغف للتغيير.

كنت مهووسًا بكيفية عمل العالم ولماذا بدا أن بعض الناس يرون قاب قوسين أو أدنى لما سيحدث بعد ذلك في السياسة أو الأعمال التجارية. وكانت تلك هي النواة التي بدأت بالصحافة وظلت معي طوال مسيرتي المهنية.

حسام: هل كانت السياسة كبيرة في عائلتك؟

مارك: بالتأكيد. كانت في المقدمة والوسط. نشأت في السبعينيات والثمانينيات ، إذا لم تكن مهتمًا بالسياسة ، لم تكن مدركًا أو مستيقظًا. كنا نعيش في أيرلندا في ذلك الوقت ، والتي كانت لا تزال تحت سيطرة مجتمع رجعي يهيمن عليه الكنيسة. كنا ما زلنا فقراء أوروبا. كانت الهجرة في مستوى قياسي ؛ كانت البطالة عند مستوى قياسي. وبالنظر إلى الخارج ، عندما نشأت كطالب ناشط في الثمانينيات ، أعني ... كان كل شيء يحدث. في جميع أنحاء العالم ، شعرت أن هناك تحولات تكتونية في كل ما كان يحدث.

شعرت أن كل شيء له أهمية كبيرة لدرجة أن نهاية العالم النووية كانت شيئًا فكرت فيه بعمق خلال الثمانينيات حتى سقوط جدار برلين. هذا فقط لإعطائك إحساسًا بمدى أهمية الشعور بأنك على قيد الحياة في فترة من القلق الشديد. ولكن إذا كنت من ذوي العقلية السياسية ، فإن الإثارة والتحدي الهائل أيضًا.

الاضطرابات الاجتماعية في لندن

حسام: وهل قرأت جيدًا أن عملك الأول كان في قسم الإعلانات في مجلة الحزب الشيوعي في المملكة المتحدة؟

مارك: نعم ، لقد كان شيئًا مضحكًا. في ذلك الوقت ، كان هناك الكثير من الأشخاص على اليسار ممن انخرطوا كثيرًا في الثقافة وتأثروا بما كان يحدث مع جلاسنوست وبيريسترويكا. كانت هناك هذه المجموعة من الناس الذين كان يمكن أن يطلق عليهم اليسار الجديد أو الشيوعيون الأوروبيون ، وقد فتنتني تلك المجلة. كانت تسمى الماركسية اليوم.

كنت أعمل في موقف للسيارات وفي ماكدونالدز ، وقد صادفت ذراعي وأقول ، "مرحبًا ، أي رجال يذهبون إلى الماركسية اليوم؟" واتضح أن إحدى الوظائف لم تكن حتى تبيع الإعلانات - بل كانت تجمع الإعلانات. كان عليّ الاتصال بمنتجي الجرانولا والأشخاص الذين ينتجون الفوتون والإعلان عن العطلات في بلغاريا وتهديدهم قليلاً ، مطالبًا بالمال الذي تعهدوا بدفعه مقابل الإعلان. كان ذلك الصيف في لندن عام 87. تمكنت من رؤية ريد ويدج وبيلي براج. كان إضراب عمال المناجم قد انتهى للتو ، وكان هناك شعور حقيقي بأن تاتشر كانت أكبر شخص على الساحة الدولية.

كانت السياسة في كل شيء في ذلك الوقت. لقد شعرت وكأنه نوع من الأكسجين الذي أحاط بنا "

كان العيش في لندن عام 87 وكوني جزءًا من حركة يسارية - وليس بالضرورة حزبًا شيوعيًا ، والذي كان نوعًا ما في طريقه للخروج - أمرًا مثيرًا للانتباه لأنني كنت طالبًا راديكاليًا. يجب أن أكون في أماكن مثل مؤتمر النقابات العمالية وألتقي ببعض الأشخاص المتميزين الذين أحدثوا التغيير حقًا في بريطانيا. تعلمت أيضًا كيفية قلب البرغر وطهي دجاج ماك ناجت المثالي.

كان ذلك الصيف نفسه من عام 87 عندما كانت حملة الجيش الجمهوري الأيرلندي في أوجها. كنت أعمل في موقف السيارات هذا ، وكانت إحدى وظائفي هي القيادة ، في حوالي الساعة 4:00 أو 5:00 صباحًا ، في موقف Long Term Car Park للتحقق مما إذا كانت هناك سيارات لأكثر من أسبوع لأنهم كانوا يخشون كان الجيش الجمهوري الأيرلندي في طريقه لزرع قنبلة هناك. وهكذا كنت هناك ، زميل شاب أيرلندي وزميل باكستاني ، وكلانا مسؤول عن الإبلاغ ، إلى الفروع الخاصة التي جاءت في الصباح ، عن السيارات التي كانت هناك لفترة طويلة جدًا. مرة أخرى ، مجرد تذكير بأن السياسة كانت في كل شيء في ذلك الوقت. لقد شعرت نوعا ما بالأكسجين الذي أحاط بنا.

"كنت صغيرًا جدًا لدرجة أنني عندما واصلت الحصول على وظيفتي الكبيرة في واشنطن ، قيل لي ربما أن أقوم بتربية شارب أو ارتداء اللون الأزرق ، مما يجعلك تبدو أكبر سناً على ما يبدو"

حسام: واو ، هذا جنون. كل هذا منطقي من حيث حياتك المهنية في الصحافة والانتقال إلى المذيع الوطني. أعني ، لقد ذهبت إلى حد كبير للعمل في National Broadcaster في أيرلندا فور تخرجك من الكلية.

مارك: كنت صغيرًا جدًا لدرجة أنني عندما ذهبت للحصول على وظيفتي الكبيرة في واشنطن ، قيل لي ربما أن أقوم بتربية شارب أو ارتداء اللون الأزرق ، مما يجعلك تبدو أكبر سناً. بعد خروجي من الكلية ، أدركت أنني لا أريد أن أكون في السياسة. لم أكن أيديولوجيًا بشكل خاص في نهاية اليوم. لم أكن حزبية. وكنت ، كما قلت ، مفتونًا بالتغيير. ذهبت إلى DCU لأقوم بدورة في الصحافة ، وقبل أن تنتهي هذه الدورة ، كانت RTE تعلن عن انضمام الناس إليها ، لذلك فعلت.

في غضون 24 ساعة تقريبًا ، كان تقريري الأول عن أعمال شغب في سجن في فيسبورو ، شمال دبلن. كنت على قمة سطح واضطررت إلى بث أخبار الساعة السادسة على هاتف محمول ، والذي ، صدقوني ، كان ابتكارًا تكنولوجيًا هائلاً في ذلك الوقت. كنت سيئًا للغاية لدرجة أنني عندما عدت إلى المكتب ، قال مديري ، "لا تستمع إلى ذلك مرة أخرى. لن يكون هذا مصدر إلهام لك في المستقبل ". ولكن في تلك المرحلة ، كان منح الفرصة لبدء تقرير حول القضايا الكبرى بمثابة حلم تحقق.

موجة جديدة من الصحافة

حسام: امتدت مسيرتك في الصحافة ما يقرب من 20 عامًا ، هل أنا على حق؟

مارك: هذا صحيح.

حسام: ما الذي دفعك للخروج من الصحافة بعد مهنة ناجحة للغاية ، كونك مراسلة في واشنطن وتقديم Prime Time ، أحد أكبر العروض في أيرلندا؟

مارك: حسنًا ، بدأت أدرك أن الأمور قد تغيرت ، لاستخدام عبارة قديمة. وسائل إنتاج الصحافة والأخبار قد تغيرت من شخص مثلي ، رجل على التلفاز ، يقف في مناطق الحرب. أتذكر أنني كنت في قندهار ، جنوب أفغانستان ، وكان الأمر محبطًا للغاية لأنني كنت جالسًا هناك أستمع إلى شخص ما يفسر لي ما يجري على الأرض. وفجأة أدركت أن العصر الذهبي القديم للصحافة كان غير ديمقراطي على الإطلاق. كان أناس مثلي ، حراس البوابة ، يخبرون الناس في المنزل الذين جلسوا في وقت معين في الليل ليستمعوا إلي ، الرجل على التلفاز ، يخبرونهم بما هو حقيقي وما هو حقيقي.

"ماذا سيحدث إذا تمكنا من الجمع بين رواية القصص القديمة وقول الحقيقة والصحافة مع هذه اليقظة الديمقراطية الثورية الجديدة على هذه المنصات؟"

في الوقت نفسه ، رأيت Twitter و YouTube ناشئين ، وأتذكر أنها كانت انتخابات احتج عليها في إيران في عام 2009. كل مراسل أجنبي لديه قصة مخبأة - إيران كانت قصتي. أتذكر مشاهدة الأطفال الذين تتراوح أعمارهم بين 17 أو 18 عامًا وهم يستخدمون وسائل التواصل الاجتماعي لتقديم التقارير الأكثر عمقًا وصدقًا لما كان يجري والتفكير ، "يا إلهي ، هذا سيغير كل شيء."

كان معظم معاصري خائفين وخائفين من هذه الثورة الديمقراطية. لكنني رأيت هذه الفرصة. ماذا سيحدث إذا تمكنا من الجمع بين رواية القصص القديمة وقول الحقيقة والصحافة مع هذه اليقظة الديمقراطية الثورية الجديدة على هذه المنصات؟ كنت أتطلع إلى الأمام لمدة 25 عامًا وفكرت ، "إذا لم أفعل هذا الآن ، فسوف أندم على ذلك لبقية حياتي." عليك أن تفكر فيما يقوله التلمود ، النص الديني اليهودي القديم العظيم ، "إن لم يكن أنا ، فمن؟ اذا ليس الان متى؟" لقد مررت بتلك اللحظة ولم يكن هناك طريق للعودة.

حسام: لقد خرجت وأنشأت Storyful. أنا أحب الشعار الرائع من Storyful ، "أخبار من ضجيج وسائل التواصل الاجتماعي." كيف كان الأمر مثل الانتقال من الصحافة إلى تأسيس شركة؟

علامة: كان الأمر أشبه بمشاهدة الماء في الشتاء. تعتقد ، "أليس من الرائع الذهاب للسباحة؟" ثم تقفز إلى الداخل وتشلك البرد. لم نتمكن من بدء المشروع لمدة عام مع Storyful. اعتقدت أننا خرجنا من العمل. لقد كانت وحشية. لقد راهنت بكل شيء في هذا المشروع - سمعتي ، كل أموالي ، وبدا الأمر وكأنه سيخرج من العمل.

"سر كونك رجل أعمال عظيم ليس البقاء. إنها مرونة. والفشل مدمج في النموذج "

أتذكر ليلة عيد الميلاد ، كنت أقود سيارتي لرؤية عائلتي وأشعر بثقل العالم عليّ ، وأدركت أسوأ ما لدي ، "سنخرج من العمل ، لكنني سأحصل على وظيفة وأتعافى من ذلك. " وتعلمت أنه عندما تواجه أسوأ مخاوفك ، لا سيما في بداية بدء التشغيل ، فلن تطاردك مرة أخرى لأنك واجهتها. هذا أسوأ ما يمكن أن يحدث.

بدأت أدرك أنني ، كصحفي ، كنت بصدد البقاء على قيد الحياة. كان علي أن أكون مراسل حرب. تذكرت الأيام التي كان بإمكاني أن أعمل فيها بجزء بسيط من قتلي أو جرحى ، لكنني لم أفكر مطلقًا في المرونة ، وما يحدث عندما يتعين عليك النهوض كل يوم ويكون ذلك صعبًا. وكان هذا هو الفارق الكبير. سر كونك رجل أعمال عظيم ليس البقاء على قيد الحياة. إنها مرونة. والفشل مدمج في النموذج - إنه شيء عليك أن تتحمله. لقد كان تغييرًا حقيقيًا في العقلية. كان هناك العديد من أوجه التشابه ، ولكن كان هناك تغيير كبير في العقلية المطلوب.

حسام: كيف كان الحال؟ لأنه ، كما قلت ، كان الكثير من الصحفيين يخافون منه نوعًا ما. لكن هذا شكل جديد تمامًا من الصحافة ، وربما لم نكن نعرفه في ذلك الوقت.

"بدأنا في تطوير تعاون مع الأشخاص على الأرض الذين كانوا شهود عيان على التاريخ"

مارك: حسنًا ، يمكننا نوعًا ما أن نرى ذلك يحدث عمليًا بينما كان الناس يحاولون تطبيقه من الناحية النظرية. على سبيل المثال ، خلال الانتفاضات العربية ، التي بدأت في عام 2010 في تونس ومرّت بمصر وسوريا ، كنا نرى ، في شركتنا الناشئة الصغيرة في أيرلندا ، ناشطين ديمقراطيين على الأرض يحاولون إخراج القصة من أماكن مثل حلب. بدأوا يدركون أننا كنا نراقبهم ويفعلون أشياء مثل إمالة الكاميرا لأعلى لإظهار مئذنة ، مما سيساعدنا في تحديد الموقع الجغرافي لتلك الصورة. كانوا يساعدوننا من خلال نشر الصحف وإخبارنا في أي يوم كان ذلك والموقع الذي كانوا فيه. وبدأنا في تطوير تعاون مع الناس على الأرض الذين كانوا شهود عيان على التاريخ.

وبالطبع ، كنا نحقق الدقة الصحفية. عندما قُتل أسامة بن لادن في باكستان ، دخلنا على الفور بصور الأقمار الصناعية لتحليل طبيعة المروحية التي تحطمت وهبطت في المجمع. يمكننا توجيه الصحفيين إلى الموقع الفعلي لأنه نُسب بشكل غير صحيح.

كان هذا الشكل الجديد من الصحافة مفتوحة المصدر ديمقراطيًا لأن مصادرنا الأساسية كانت أشخاصًا على الأرض وليس صحفيين آخرين. لكن في الوقت نفسه ، كانت تتمتع بنفس الصرامة في الصحافة الاستقصائية التي كانت لدينا فيما يتعلق بالمساءلة. لم تظهر بالصدفة ، لكننا بالتأكيد لم نخطط لخلق شكل جديد من الصحافة. لقد تطورت بشكل عضوي من هذه الصحوة التي كانت القوة المهيمنة في الموجة الأولى من وسائل التواصل الاجتماعي. اليوم ، يعمل العديد من خريجي Storyful في مؤسسات إخبارية كبيرة مثل New York Times أو CNN أو BBC أو Washington Post ، وهم يجلبون هذا الشكل الجديد من الصحافة الذي كنا جزءًا منه مع Storyful.

تسليح وسائل التواصل الاجتماعي

حسام: في عام 2013 ، قمت ببيع Storyful لشركة News Corp ، وانتقلت إلى نيويورك للمساعدة في عملية الانتقال ، لكنك عدت في النهاية إلى دبلن لتولي منصب المدير الإداري في Twitter ، دبلن. هل كنت تتوق إلى الشيء الكبير التالي الذي ستفعله من الجزء الخلفي من Storyful؟

علامة: ليس حقًا. أعني ، عندما تفكر في الأمر ، كنت قد عملت لدى الماركسية اليوم ، وروبرت مردوخ ، وجاك دورسي ، ودافع الضرائب الأيرلندي. كان لدي نطاق جيد ، على الأقل ، من منظور أيديولوجي. وقد جئت من Storyful مفتونًا جدًا بـ Twitter. لقد وقعت في حب Twitter ، فقد غير حياتي ، وأردت الدخول في قلب الجهاز. لم تكن لدي رغبة في إنشاء شركة ناشئة أخرى. في الواقع ، طلبت من معاصر آخر لي ، وهو مؤسس شركة إعلامية ناشئة أخرى ، الإذن بعدم القيام بذلك مرة أخرى.

في تلك المرحلة ، كان Twitter شركة كبيرة إلى حد ما. كنت أرغب في معرفة ما إذا كان بإمكاني المساعدة في إحداث بعض التغيير والطاقة في أعمال Twitter. لهذا اخترت أن أفعل ذلك. لقد كانت فرصة حقيقية للدخول إلى منصة غيرت كل شيء في عملي لمعرفة ما إذا كان بإمكاني إحداث تأثير. لم يكن الأمر إلا مصادفةً أن ذلك كان يعني القدوم من نيويورك ، حيث كنت سعيدًا جدًا ، بالعودة إلى دبلن ، والتي تصادف أنها المقر الدولي. لكنني أردت أخذ استراحة من حياة الشركة الناشئة وأرى كيف سيبدو الأمر لو كنت داخل شركة كبيرة.

"لقد رأيت العديد من المشكلات التي لاحظناها في الانتفاضات العربية ، حيث كان الناس يستخدمون المنصات الاجتماعية ليس كأداة ديمقراطية ولكن كسلاح"

حسام: من أين خرج كينزن؟ يبدو أنها ولدت من نيران Storyful ، إلى حد ما.

مارك: لقد ولدت من الإحباط من تلك الشركة الكبيرة المسماة Twitter. أحببت العمل هناك ، لكن لم يكن جيدًا بشكل خاص. وفي النهاية ، تم التخلص من فريق الشراكة الإعلامية بشكل أساسي. كان بإمكاني البقاء في وظيفة جيدة في الشركة ، لكن في غضون ذلك ، كان عام 2016 وكانت الانتخابات الرئاسية الأمريكية قد جرت للتو. لقد رأيت العديد من المشكلات التي لاحظناها في أول تجسد لها في الانتفاضات العربية ، حيث كان الناس يستخدمون المنصات الاجتماعية ليس كأداة ديمقراطية ولكن كسلاح. كانوا يستخدمون انتشار الفيديو في أماكن مثل YouTube و Twitter لتصميم قصص كاذبة كانت إما دعاية أو نظريات مؤامرة.

كانت الموجة الأولى من الإنترنت بمثابة يقظة ديمقراطية. وبعد ذلك ، عندما حدث عام 2016 ، أدركت ، "اللعنة! يتم تحويل هذا إلى سلاح ". ليس فقط بسبب دونالد ترامب - كانت هناك قضايا أعمق حيث فجأة ، تم اختطاف الفوضوية ونموذج العمل والخوارزميات من قبل أشخاص يعارضون الديمقراطية. كان هذا هو مسقط رأسه والفكرة التي دفعتني إلى العودة إلى ine Kerr ، الذي كان زميلي الأكثر ثقة ، والذي كان في Facebook في ذلك الوقت ، وأقول ، "ماذا لو فعلنا شيئًا لإعادة السلطة للمواطنين ، للسماح لحماية أنفسهم من هذا التهديد الناشئ؟ " وكلانا قفز.

شرعنا ، في البداية ، في إعطاء الناس ملفًا إخباريًا يمكنهم التحكم فيه ، ولكن من الواضح ، مع تقدمنا ​​، مثل كل شركة ناشئة ، تطورت الفكرة. تم استبدال الموجة الأولى من الديمقراطية بقوة مظلمة جديدة على الإنترنت وكان هذا هو الإلهام وراء Kinzen.

حسام: بالنسبة للمستمعين الذين لا يعرفون ، ما هو Kinzen؟ من هو مستخدم Kinzen؟

مارك: نحن نساعد منصات التكنولوجيا الكبيرة والمنصات الناشئة على حماية محادثات العالم من مخاطر المعلومات. وبهذا ، فإننا نعني المعلومات المضللة الخطيرة التي تسبب ضررًا في العالم الحقيقي ، والمعلومات المضللة المنظمة ، والكلام البغيض والعنيف. عملاؤنا هم محترفون موثوق بهم في مجال السلامة ، ومتخصصون في السياسات ، والأشخاص داخل هذه الشركات يحاولون يائسًا التغلب على هذه التهديدات والمخاطر المتعلقة بالمعلومات بدلاً من التحقق التفاعلي من الحقائق.

"نعمل على توسيع نطاق الحل البشري لهذه الأزمة المعلوماتية تحديدًا"

نحن نستخدم مزيجًا من التحليل البشري القديم الجيد والمراحل اللاحقة من التعلم الآلي لحل المشكلة الشريرة التي تواجهها هذه المنصات. هذه هي ، رقم واحد ، التي لا يستطيع البشر توسيع نطاقها لمطابقة المشكلة ، وأن الآلات لا تملك البصيرة لاكتشاف مخاطر المعلومات هذه بلغات متعددة وتنسيقات مختلفة متعددة. هذه هي المشكلة التي يحاول كينزن حلها. نحن نعمل على توسيع نطاق الحل البشري لهذه الأزمة المعلوماتية بالذات.

حسام: إذن ، فأنت تأخذ هذه المهارات التحريرية من Storyful وترميزها في الآلات لمنحهم تلك القيم.

علامة: بالضبط. نحن نتبع نهج التعلم الآلي للإنسان والحلقة ، والذي أصبح ممكنًا حقًا فقط في العامين الماضيين منذ أن تمكنا من الوصول إلى هذه النماذج اللغوية الكبيرة. يقوم محللونا بإنشاء بيانات يمكن قراءتها آليًا في مجموعة متنوعة من اللغات ، والتي تم دفعها إلى الجهاز. تقوم الآلة بالنسخ ، والترجمة ، ومحاولة الفهم ، وتساعدها البيانات البشرية على التعلم بشكل أسرع. إنها حلقة ردود فعل جميلة بين مجموعة صغيرة من الخبراء وأنظمة التعلم الآلي المتقدمة حقًا والتي أصبحت الآن أكبر بكثير مما كانت عليه قبل أربع سنوات.

الحد من المعلومات الخاطئة

حسام: ما حجم حجم المعلومات المضللة في الوقت الحالي؟

"القضية الرئيسية الآن ليست ما إذا كان الناس يقولون الشيء الخطأ على الإنترنت ؛ لا يتعلق الأمر بالخلافات بين الناس حول السياسة. الأمر لا يتعلق حتى ب دونالد ترامب أو ما ينشره على تويتر "

مارك: حسنًا ، أعتقد أن ما يحدث الآن هو أن الأمور تزداد سوءًا قبل أن تتحسن. لن يراه الجميع عبر الإنترنت ، ولكن ما يحدث في الأماكن التي تكون فيها المعلومات المضللة والتضليل إشكالية بشكل خاص هو في الأماكن التي تكون فيها الحياة أو الموت. في الوقت الحالي ، في الهند ، نرى مستويات إبادة جماعية تقريبًا من الخطاب قادم من مؤيدي الحكومة تجاه المسلمين. نحن نرى المتطرفين المنظمين والجماعات اليمينية المتطرفة والنازيين الجدد في أوروبا يستخدمون انتشار هذه المنصات لنشر رسالتهم.

ومن الواضح أننا نراه في نظريات المؤامرة حول الموضوعات الصحية ، ليس فقط COVID ، ولكن الأشخاص الذين يحاولون تعزيز التفكير المؤامرة في المحادثات السائدة. إن القضية الرئيسية الآن ليست ما إذا كان الناس يقولون الشيء الخطأ على الإنترنت. لا يتعلق الأمر بالخلافات بين الناس حول السياسة. الأمر لا يتعلق حتى ب دونالد ترامب أو ما ينشره على تويتر. ما ننظر إليه هو تعدد اللغات والتهديدات حيث يوجد ضرر حقيقي في العالم الحقيقي وربما مواقف حياة أو موت.

لدينا حاليًا 13 لغة ، وقريبًا سيكون لدينا 26 لغة. إنها في أماكن مثل البرازيل ، والتي ستجرى انتخابات ذات أهمية كبيرة في أكتوبر والتي قد تكون إعادة لما حدث في عام 2020 في الولايات المتحدة. يعتقد الكثير من الناس أننا نحاول فرز ما هو صحيح أو خطأ. لا يتعلق الأمر بذلك فقط أو حتى في المقام الأول - إنه يتعلق بالمكان الذي يمكننا فيه إيقاف شيء ما عبر الإنترنت سيكون له تأثير في العالم الحقيقي ، وربما تأثير على الحياة أو الموت.

حسام: لقد ذكرت الانتخابات البرازيلية هناك ، وسمعت شين كير في بودكاست آخر يتحدث عن الجهات الفاعلة في مجال التضليل الذين أدركوا أن عبارات مثل "تزوير الانتخابات" و "الانتخابات المزورة" تنبه مشرفي المحتوى الذين يمكنهم إزالة ادعاءاتهم الكاذبة ، بدأ هؤلاء الممثلون في استبدال هذه العبارات بأشياء مثل ، "نحن نناضل من أجل انتخابات نظيفة". وهذا هو المكان الذي يمكن أن يأتي فيه الوسطاء البشريون لاكتشاف تلك التغييرات ومساعدة السلطات في اعتراض هذه الرسائل.

"نحن نرى باستمرار الكلمات يتم تعديلها وتغييرها. وبالطبع ، لا تستطيع الآلات مواكبة ذلك "

مارك: نحن نشهد ما نسميه ظهور "algospeak" ، وهو عندما تدرك المجتمعات أنه قد تكون هناك خوارزميات تعديل المحتوى تبحث في ما تقوله وتحاول تجنبه. خلال الوباء ، رأينا نشطاء مناهضين للتطعيم يستخدمون كلمة بانيني بدلاً من جائحة. في الآونة الأخيرة ، في ألمانيا ، رأينا مجتمع مكافحة التطعيم ضد التطعيم يستخدم كلمة smurf للقاح لأن نطق هذه الكلمة في الألمانية يشبه إلى حد كبير نطق شخصية الأطفال التلفزيونية. في العام الماضي ، في الدول الاسكندنافية ، رأينا مجموعة من النازيين الجدد تغير كلمة مرتبطة بمهرجان تقليدي للأطفال لتصبح إهانة عنصرية.

نحن نرى باستمرار الكلمات يتم تعديلها وتغييرها. وبالطبع ، لا تستطيع الآلات مواكبة ذلك. عندما يحدث شيء مثل الوباء ، فجأة ، لدينا كل هذه المصطلحات العلمية تأتي إلى لغتنا. الآلة لا تعطل ، وهنا يكون التحليل البشري مهمًا - لتصحيح الآلة.

وهكذا ، أكثر وأكثر ، داخل Kinzen ، بدأنا نرى الآلة تلتقط تطور اللغة. كلمة واحدة مرتبطة بأخرى. سنفور مع لقاح. أو على سبيل المثال ، في أماكن مثل الهند ، نرى نشطاء مناهضين للمسلمين يستخدمون كلمات قد تبدو غير ضارة تمامًا ، لكن يمكننا أن نرى أنها جزء من نمط التخويف وخطاب الكراهية.

هذا هو سبب أهمية الجزء البشري. نحن لا ندعو إلى مزيد من الإشراف على المحتوى. نحن لا ندافع عن القوانين أو نحظر التضليل. أعتقد أن هذه هي الطريقة الخاطئة تمامًا. نحن نبحث عن مزيد من الإشراف الدقيق للمحتوى الذي يمكنه التقاط الإبرة في كومة القش التي تعتبر خطيرة مع السماح بأقصى قدر من حرية التعبير. وهذا هو الهدف طويل المدى بالنسبة لنا. لا يمكننا الحصول على الأمان بمرسوم والحكومات تحظر المحتوى. نحن بحاجة إلى إعادة تصميم المنصات بحيث تصبح الآلات والبشر الذين يعملون في مجال الإشراف على المحتوى أكثر دقة ، وأكثر دقة ، وفي الوقت المناسب في مواجهة المشكلة بدلاً من الرد عليها.

مزيج من الآلات والبشر

حسام: هل المعلومات المضللة مشكلة تقنية أم مشكلة بشرية أم كليهما؟

مارك: اسمع ، هذا أحد الأسئلة الوجودية حيث يعتقد الناس أن التكنولوجيا جعلتهم يفعلون ذلك أو جعلت العالم أخرس. أنا لا أذهب من أجل ذلك. ما زلت مبشرًا للإمكانيات الديمقراطية للتكنولوجيات التي نأخذها الآن كأمر مسلم به أو بدأنا نكرهها بشدة. نموذج العمل والطريقة التي تم بها تجهيز الخوارزميات في البداية بوسائل التواصل الاجتماعي تستفيد من أسوأ غرائزنا ، لكنني أعتقد أنه يمكننا إعادة تصميم هذه التكنولوجيا لتحرير أفضل نوايانا. وجزء من ذلك هو وجود فلاتر أفضل بكثير يمكن للشخص العادي الوصول إليها عند تصفح الإنترنت.

"سيتمتع المستخدم العادي بمزيد من القوة والدقة في تعديل المحتوى"

في الوقت الحالي ، نعمل مع فرق الإشراف المركزية داخل المنصات التقنية. أعتقد أنه على مدار العامين أو الثلاثة أعوام القادمة ، ستحاول المزيد والمزيد من المنصات إضفاء اللامركزية على السلطة للشخص العادي لتعيين مرشحاتها. يمكنهم أن يقولوا ، "اسمع ، لا أريد أن أسمع لغة متطرفة في خلاصتي" ، أو قد يقول شخص آخر ، "حسنًا ، أنا أفعل. أريد أن أرى ما يفكر فيه الجانب الآخر ". سيكون لدى المستخدم العادي المزيد من القوة والدقة في تعديل المحتوى. لكن الأمر سيستغرق وقتًا ، ونحن في البداية فقط. تذكر ، سيتم استبدال المنصات الكبيرة الموجودة اليوم بمنصات جديدة يتم احتضانها من قبل بعض الأشخاص البالغين من العمر 17 عامًا في الوقت الحالي.

يجب أن نكون على دراية ببعض التطورات التي يمكن أن تزيد المشكلة سوءًا قبل أن تتحسن. في Kinzen ، نحن رواد في الإشراف على المحتوى الصوتي. لقد عكفنا على تحليل الطريقة التي تنتشر بها المعلومات المضللة والمعلومات المضللة وخطاب الكراهية من خلال البث الصوتي المباشر والبودكاست. ونعتقد أن الطبقة المنطوقة من الإنترنت هي مجال نحتاج إلى التركيز عليه بدرجة عالية من الأهمية خلال العامين المقبلين.

حسام: كنت سأطلب منك ذلك قبل أن نختتم. هناك ساعات لا حصر لها من الصوت. ما المشكلة في ذلك العرض لكم وللمدققي الحقائق؟

علامة: إنها مثل عاصفة كاملة. من الواضح ، مع الصوت الحي ، لديك السرعة. بالنظر إلى البودكاست ، فإن الكثير منها يستغرق ساعات وساعات. وبعد ذلك ، فإن اللغة هي التحدي الأكبر والأهم. هناك آلاف اللغات المنطوقة. إذا كنت تحلل شيئًا ما في الهند ، فربما تستمع إلى شخص يتحدث باللغة الهندية ، لكنه سينتقل إلى اللغة الإنجليزية بين الحين والآخر. ما ندركه جيدًا هو أن هذا هو المكان الذي يكون فيه التعلم الآلي رائعًا للغاية. لديك التعرف التلقائي على الكلام. لكن مرة أخرى ، يمكنك تعديل ذلك إذا كنت تعرف ما تبحث عنه ببعض الإشارات البشرية. يمكننا السماح لنموذج اللغة بالتحسن ، وتحسينه للاستماع ليس فقط لصوت الكلمة ولكن للعلاقة بين اللغات.

"هل يمكننا البدء في الجمع بين الآلات والبشر لتفسير معنى اللغة ، وليس فقط ما يقولونه ، ولكن كيف يقولون ذلك؟"

أنا صحفي صحيح؟ أنا لست خبيرًا تقنيًا من خلال التدريب. الكثير من هذه الأشياء تجعلني أتساءل وأنا أحاول مواكبة ذلك. لكنني أعتقد أن المهم بالنسبة للصوت هو أننا نبحث عن الطريقة التي يتحدث بها الناس. نبرة صوتهم. اللغة العربية ، على سبيل المثال ، هي لغة واحدة إذا قمت بتدوينها ، ولكن هناك لهجات متعددة عندما تتحدثها. وهذا ، بالنسبة لي ، هو الأكثر إثارة للقلق والأكثر إثارة أيضًا. هل يمكننا البدء في الجمع بين الآلات والبشر لتفسير معنى اللغة ، وليس فقط ما يقولونه ، ولكن كيف يقولون ذلك؟ هذا هو التحدي الكبير في تعديل الصوت ، لكنني أعتقد أيضًا أنه أحد أكثر التحديات إثارة للعمل عليها. فقط البشر قادرون على اكتشاف أشياء مثل السخرية أو السخرية أو اللغة العامية أو "algospeak". وهذا هو السبب في أن نهجنا ليس فقط أكثر فاعلية ولكنه في النهاية أكثر ديمقراطية. نريد أقل نوع ممكن من التدخل ولكن أعلى مستوى من الدقة ، وهذا هو المكان الذي يكون فيه مزيج الإنسان والآلة أمرًا حيويًا للغاية.

حسام: متألق. حسنًا ، مارك ، شكرًا جزيلاً لانضمامك إلي اليوم.

علامة: حسام ، إنه لمن دواعي سروري. لنفعل ذلك مرة أخرى قريبًا.