Kinzen の CEO である Mark Little 氏による偽情報との闘いについて

公開: 2022-08-26

この偽情報の時代には、トロールファーム、フェイクニュース、ヘイトスピーチが暴走し、真実を見つけるのがますます難しくなっています。コンテンツモデレーションは、オンラインコミュニティをその結果から保護するのに役立ちますか?

フェイクニュースは最近の現象ではありませんが、ソーシャルメディアプラットフォームは、前例のない規模でフェイクニュースを悪化させ、広めるための完璧なエコーチェンバーを提供しており、非常に現実的な結果をもたらしています。しかし、従来のファクトチェックと自動化されたコンテンツフィルターは、偽情報と誤報の背後にある力には太刀打ちできません。この問題に取り組むには、まったく新しい解決策が必要になります。Mark Little は、その先頭に立っている人物の 1 人です。

マークは受賞歴のあるジャーナリストであり、デジタルメディアのイノベーターであり、ダブリンの刑務所暴動に関する最初のレポートから、戦争で荒廃したアフガニスタンからの受賞歴のあるレポートまで、20 年以上にわたる放送ニュースのキャリアを持っています。 2010 年、若者がソーシャルメディアを使用して何が起こっているかを報告していることに気づいた後、彼は、従来の通信社と認証されたユーザー生成コンテンツを組み合わせた世界初のソーシャルメディアニュースワイヤーである Storyful を設立しました。 2015 年、Storyful を News Corp に売却した後、Mark は Twitter のヨーロッパにおけるメディアおよびパートナーシップ担当副社長として Twitter に入社しました。

1 年後、マークは新たな脅威が出現していることに気づき、その地位を辞任しました。ソーシャルメディアの目覚めの民主的な波として始まったものが腐敗しているのです。これらのプラットフォームの背後にあるアルゴリズムとビジネスモデルは、プロパガンダと陰謀論を生み出して広めるために兵器化されていました。当時Facebookのグローバルジャーナリズムパートナーシップを管理していた仲間のジャーナリストであるアインカーと一緒に、彼はその問題への対応に取り組み始め、Kinzenが誕生しました.

「この課題に取り組むために、彼らは機械学習と人間による分析を組み合わせて使用しており、対応をグローバルレベルにまで拡大できます。」

それ以来、彼らはこの脅威に先んじて、現実世界に害を及ぼす危険な誤報やヘイトスピーチからオンラインコミュニティを保護するために取り組んできました。この課題に取り組むために、彼らは機械学習と人間による分析を組み合わせて使用し、対応をグローバルレベルにまで拡大しています。マークは、ソーシャルメディアネットワークの民主的な可能性について楽観主義者であり続けていますが、再設計がどうしても必要であることを認めたのは彼が初めてです。そこで、より正確なコンテンツモデレーションの出番です。

今日のエピソードでは、ジャーナリズムの進化、誤った情報の台頭、有害なコンテンツからオンラインコミュニティを保護するために私たちができることについて、Mark と話しました。

会話からのお気に入りのポイントのいくつかを次に示します。

失敗は、自分のビジネスを始めるプロセスに組み込まれています。偉大な起業家になる秘訣はサバイバルではなく、レジリエンスです。
ここ数年、オンラインコミュニティがコンテンツモデレーションアルゴリズムによるフラグ付けを避けるために特定の単語を変更する「アルゴスピーク」が台頭してきました。
マークは、偽情報を禁止する法律を提唱しているのではなく、言論の自由を最大限に認めながら有害なコンテンツを検出する、より正確なコンテンツモデレーションを提唱しています。
Mark は、今後数年間で、人々がオンラインで見たいものに対して独自のフィルターを設定できるように、権限を分散化しようとするプラットフォームが増えると考えています。
人間による分析と機械学習を組み合わせることで、皮肉、俗語、「アルゴスピーク」などを検出し、グローバルレベルでスケーリングできます。

私たちの議論が気に入ったら、ポッドキャストの他のエピソードをチェックしてください。 iTunes、Spotify、YouTube をフォローしたり、選択したプレーヤーで RSS フィードを取得したりできます。 以下は、エピソードの軽く編集されたトランスクリプトです。

政治的覚醒

リアム・ジェラティ:マーク、参加してくれてどうもありがとう。ショーへようこそ。

マーク・リトル:どういたしまして、リアム。お招きいただきありがとうございます。

リアム:あなたは、Kinzen を設立する前に、ここまで驚くべき道のりを歩んできました。ジャーナリズムへの関心はどこから？

「私は、世界がどのように機能しているか、そして特定の人々が次に何が起こるかを間近に見ているように見える理由に取りつかれていました。」

マーク：そうですね、私はとても早熟な子供の一人でした。たぶん6歳か7歳の頃、私は朝、父と一緒にアイリッシュタイムズのために戦っていました。そして、9 歳か 10 歳の頃、リバプールのセンターフォワードになるという真の情熱を持てるだけの生来の才能が自分にはないことに気づきました。そして基本的に、私が頼りにしていたのは、私が 14 歳の頃、誰か、おそらく私の宗教の先生が通知表で私に指摘したことでした。彼は、私が時期尚早に冷笑的で、世界に強い好奇心を持ち、ある種の懐疑心と変化への情熱を持っていると言いました。

私は、世界がどのように機能しているか、そして特定の人々が政治やビジネスで次に何が起こるかを間近に見ているように見える理由に夢中になりました. そして、それはジャーナリズムで始まり、私のキャリアを通じて私と一緒にいた核心でした.

リアム:あなたの家族は政治家だったの？

マーク：もちろんです。フロントとセンターでした。 1970 年代と 1980 年代に育った私は、政治に興味がなければ、意識も覚醒もしていませんでした。私たちは当時アイルランドに住んでいましたが、アイルランドは依然として非常に退行的な教会が支配する社会に支配されていました。私たちはまだヨーロッパの貧しい人々でした。移民は過去最高でした。失業率は記録的な高さでした。そして海外に目を向けると、80 年代に学生活動家として成長していたとき、つまり…すべてが進行していました。世界中で、起こっていることすべてに地殻変動があったように感じました。

80年代からベルリンの壁が崩壊するまで、核の黙示録について深く考えていました。これは、大きな不安の時代に生きていることがいかに重要であるかを感じさせるためのものです. しかし、あなたが政治的な考えを持っているなら、大きな興奮と挑戦も同様です.

ロンドンの社会不安

リアム:あなたの最初のギグはイギリスの共産党の雑誌の広告部門だったというのは正しかったですか?

マーク：ええ、それは面白いことでした。当時、左翼には文化に熱中し、グラスノスチやペレストロイカで起こったことに影響を受けた人がたくさんいました。新左翼やユーロ共産主義者と呼ばれる人々のグループがあり、私はその雑誌に魅了されました. それは今日のマルクス主義と呼ばれていました。

私は駐車場とマクドナルドで働いていたのですが、たまたま腕を振ってこう言いました。そして、仕事の 1 つは広告を販売することではなく、広告を収集することであることが判明しました。ブルガリアでグラノーラの生産者や布団の生産者、休日の宣伝をしている人々に電話をかけ、彼らが宣伝のために支払うと約束したお金を要求して、彼らを少し脅迫しなければなりませんでした。それは'87年の夏のロンドンでした。レッド・ウェッジとビリー・ブラッグに会えた。鉱山労働者のストライキが終わったばかりで、サッチャーが国際舞台で最大の人物であるという実感がありました。

「当時、政治はすべての中にありました。私たちを取り囲んでいる酸素のように感じました。」

1987 年にロンドンに住んでいて、左翼運動の一員であるということは、必ずしも共産党ではなく、退却しようとしていたということでした。私は労働組合会議のような場所に行き、英国に変化をもたらした最先端の人々に会うことができました。また、ハンバーガーをひっくり返して完璧なチキンマックナゲットを作る方法も学びました.

同じ 87 年の夏は、IRA キャンペーンが最高潮に達したときでした。私はこの駐車場で働いていましたが、私の仕事の 1 つは、朝の 4:00 か 5:00 頃に長期駐車場を運転して、1 週間以上駐車していないかどうかを確認することでした。 IRAはそこに爆弾を仕掛けようとしていました。そこで私は、アイルランド人の若い仲間でパキスタン人の同僚でした。私たち 2 人は、朝に来た特別支部に、どの車が長すぎたかを報告する責任がありました。繰り返しますが、当時は政治がすべてにあったことを思い出してください。私たちを取り囲んでいる酸素のように感じました。

「私はとても若かったので、ワシントンで大きな仕事に就いたとき、口ひげを生やしたり青い服を着たりするように言われた.

リアム:うわー、すごい。ジャーナリズムでのキャリアと国営放送局への転職という点では、これらすべてが理にかなっています。つまり、あなたは大学を卒業してすぐにアイルランドの国営放送局で働き始めたということですね。

マーク：私はとても若かったので、ワシントンで大きな仕事に就いたとき、口ひげを生やしたり青い服を着たりするように言われました。大学を出て、私は政治の世界に行きたくないことに気づきました。結局のところ、私は特にイデオロギー的ではありませんでした。私は党派ではありませんでした。そして、私が言うように、私は変化に魅了されました。私はジャーナリズムのコースを受講するために DCU に行きましたが、そのコースが終了する前に、RTE が人々に参加を呼びかけていたので、参加しました。

約 24 時間以内に、私の最初の報告は、北ダブリンのフィブスバラでの刑務所暴動に関するものでした。私は屋根の上にいて、携帯電話で 6 時のニュースを放送しなければなりませんでした。これは、当時としては大規模な技術革新でした。私がとてもひどかったので、オフィスに戻ったとき、上司はこう言いました。それはあなたに将来のインスピレーションを与えるものではありません。」しかし、その段階で、大きな問題についてレポートを開始する機会を与えられたことは、夢が叶ったことでした。

ジャーナリズムの新しい波

リアム:ジャーナリズムでのあなたのキャリアは 20 年近くに及びますよね?

マーク：そうです。

リアム:ワシントンの特派員として大成功を収めた後、ジャーナリズムから離れようと思ったきっかけは何ですか?

マーク：ええと、古い言い回しを使うと、物事が変わったことに気づき始めました。ジャーナリズムとニュースの制作手段は、戦争地帯に立っているテレビの男である私のような人から変わっていました. アフガニスタン南部のカンダハールにいたことを覚えています。そこに座って、現場で何が起こっているのかを誰かが通訳してくれているのを聞いていたので、とてもイライラしました。そして突然、ジャーナリズムの古い黄金時代が非常に非民主的だったことに気づきました。夜のある時間に家にいる人々に、テレビの男である私に耳を傾けるために、何が真実で何が本当であるかを伝えるのは、門番である私のような人々でした。

「これらのプラットフォームで、昔ながらのストーリーテリング、真実を語る、ジャーナリズムをこの革新的な新しい民主主義の目覚めと組み合わせることができたら、何が起こるでしょうか?」

同時に、Twitter と YouTube が台頭してきました。それは 2009 年のイランでの抗議選挙だったことを覚えています。すべての外国特派員は、皮肉を込めた話を持っています。イランは私の話でした。 17 歳か 18 歳の若者がソーシャルメディアを使って、何が起こっているかについて最も本能的で信頼できるレポートを配信しているのを見て、「なんてこった、これはすべてを変えるだろう」と考えたことを覚えています。

私の同時代人のほとんどは、この民主主義革命を怖がり、恐れていました。しかし、私はこの機会を見ました。昔ながらのストーリーテリング、真実を語る、ジャーナリズムを、これらのプラットフォームでのこの革命的な新しい民主主義の目覚めと組み合わせることができたらどうなるでしょうか? 25年先を見据え、「今やらなければ一生後悔する」と思っていました。古き良きユダヤ教の聖典であるタルムードに次のように書かれていることを考えなければなりません。今じゃないなら、いつ？」私にはその瞬間があり、後戻りはできませんでした。

リアム:それで、あなたは思い切って Storyful を作ったんですね。 Storyful の素晴らしいキャッチフレーズ、「ソーシャルメディアのノイズからのニュース」が大好きです。ジャーナリズムから起業への移行はどのようなものでしたか?

マーク：まるで冬の海を見ているようでした。「泳ぎに行きませんか？」と思いますか？そして、飛び込むと、寒さで麻痺します。 Storyful のベンチャーに 1 年も資金を調達できませんでした。私たちは廃業していると思いました。それは残忍でした。私はこのベンチャーにすべてを賭けていました – 私の評判、私のすべてのお金、そしてそれは廃業しているように見えました.

「偉大な起業家になる秘訣は生き残ることではありません。それは回復力です。そして失敗はモデルに組み込まれている」

クリスマスイブのことを覚えています。家族に会いに車で降りて、世界の重みを感じました。最悪の考えに気づきました。」そして、最悪の恐怖に直面したとき、特に初期のスタートアップでは、それに立ち向かったので、それが再びあなたを悩ませることは決してないことを学びました. それは起こりうる最悪の事態です。

私は、ジャーナリストとして、生き残ることが重要だと気づき始めました。私は従軍記者でなければなりませんでした。死ぬか怪我をするかのわずかなところで働くことができた日々を思い出しましたが、回復力について、毎日起きなければならないときに何が起こるかについて考えたことはありませんでした。そして、それが大きな違いでした。偉大な起業家になる秘訣は生き残ることではありません。それは回復力です。そして、失敗はモデルに組み込まれています – それはあなたが我慢しなければならないものです. それは本当に考え方の変化でした。多くの類似点がありましたが、考え方に大きな変化が必要でした。

リアム:どんな感じだった? あなたが言ったように、多くのジャーナリストがそれを恐れていたからです。しかし、これはまったく新しい形のジャーナリズムであり、当時はおそらく知られていませんでした。

「歴史の目撃者である現場の人々とのコラボレーションを開発し始めました」

マーク:人々が理論的にそれを実行しようとしている間に、実際にそれが起こっているのを見ることができました。たとえば、2010 年にチュニジアで始まり、エジプトとシリアを通過したアラブの蜂起の間、私たちはアイルランドの小さなスタートアップで、アレッポのような場所から話を広めようとしている民主主義活動家を現場で見ていました。彼らは、私たちが自分たちを見ていることに気づき始め、カメラを傾けてミナレットを表示するなどのことを行いました。これは、その画像の位置を特定するのに役立ちます。彼らは私たちを助けてくれ、新聞を置いて、今日が何日で、どこにいたかを教えてくれました。そして、歴史の目撃者である現場の人々との協力関係を築き始めました。

そしてもちろん、私たちはジャーナリズムの厳しさをもたらしていました。ウサマ・ビン・ラディンがパキスタンで殺害されたとき、私たちはすぐに衛星画像を入手して、墜落して敷地内に着陸したヘリコプターの性質を分析しました。間違って帰属されていたため、ジャーナリストを物理的な場所に誘導することができました。

この新しい形式のオープンソースジャーナリズムは民主的でした。なぜなら、私たちの主な情報源は、他のジャーナリストではなく、現場にいる人々だからです。しかし同時に、説明責任に関して私たちが持っていたのと同じ調査ジャーナリズムの厳格さがありました。偶然にできたわけではありませんが、新しい形のジャーナリズムを作るつもりはまったくありませんでした。それは、ソーシャルメディアの最初の波の支配的な力であったこの目覚めから有機的に進化しました。今日、Storyful 卒業生の多くは、New York Times、CNN、BBC、Washington Post などの大きな報道機関で働いており、Storyful で私たちが参加していた新しい形のジャーナリズムをもたらしています。

ソーシャルメディアの武器化

リアム: 2013 年に Storyful を News Corp に売却し、移行を支援するためにニューヨークに移りましたが、最終的にはダブリンに戻って Twitter のマネージングディレクターの役割を引き受けました。 Storyful の背後にある次の大きなことを切望していましたか?

マーク：そうでもない。つまり、考えてみれば、私は今日のマルクス主義、ルパート・マードック、ジャック・ドーシー、そしてアイルランドの納税者のために働いていたということです。少なくともイデオロギーの観点からは、私にはかなりの範囲がありました。私は Storyful 出身で、Twitter にとても魅了されています。私は Twitter に恋をし、それが私の人生を変えました。別のスタートアップをやりたいという気持ちはありませんでした。実際、私は同時代の別のメディアスタートアップの創業者に、二度と同じことをしないように許可を求めました。

その段階では、Twitter はかなり大きな企業でした。 Twitter のビジネスに何らかの変化とエネルギーをもたらす手助けができるかどうかを知りたかったのです。それが私がそれをすることを選んだ理由です。私のビジネスのすべてを変えたプラットフォームの中に入って、私が影響を与えることができるかどうかを確認する絶好の機会でした. 私がとても幸せだったニューヨークから、たまたま国際本部であったダブリンに戻ることを意味したのは偶然でした. しかし、スタートアップの生活から離れて、大企業の中にいたらどうなるか見てみたいと思いました。

「人々がソーシャルプラットフォームを民主的なツールとしてではなく、武器として使用していたアラブの暴動で私たちが発見した問題の多くを見てきました。」

リアム:キンゼンはどこから来たの? ある程度、Storyful の炎から生まれたようです。

Mark:それは、Twitter という大企業に対するフラストレーションから生まれました。私はそこで働くのが好きでしたが、特にうまく運営されていませんでした。そして最終的に、メディアパートナーシップチームは基本的に解雇されました。私は良い企業の仕事にとどまることができたかもしれませんが、その間、それは2016年で、米国大統領選挙が行われたばかりでした. 私は、人々がソーシャルプラットフォームを民主的なツールとしてではなく武器として使用していたアラブ蜂起の初期の化身で発見された問題の多くを見てきました. 彼らは、プロパガンダまたは陰謀論のいずれかである虚偽の話を作成するために、YouTube や Twitter などの場所でのビデオのバイラル性を利用していました。

インターネットの最初の波は、民主主義の目覚めでした。そして、2016年になったとき、私は気づきました。これは武器に変えられています。」ドナルド・トランプのせいだけでなく、民主主義に反対する人々によってバイラル性、ビジネスモデル、アルゴリズムが突然乗っ取られるという、より深刻な問題がありました。それが発祥の地であり、当時 Facebook にいた私の最も信頼できる同僚である Áine Kerr に戻って、こう言うようになったアイデアでした。この新たな脅威から身を守るにはどうすればよいでしょうか?」そして、私たちは両方ともジャンプしました。

私たちはまず、人々がコントロールできるニュースフィードを提供することに着手しましたが、明らかに、すべてのスタートアップと同様に、私たちが先に進むにつれて、アイデアは進化しました. 民主主義の最初の波は、インターネット上の新しい闇の勢力に取って代わられていました。それが、Kinzen の背後にあるインスピレーションでした。

Liam:知らないリスナーのために、Kinzen とは何ですか? Kinzenのユーザーは誰ですか？

マーク:私たちは、大規模なテクノロジープラットフォームや新興プラットフォームが世界の会話を情報リスクから保護するのを支援しています。つまり、現実世界に害を及ぼす危険な誤報、組織化された偽情報、憎悪に満ちた暴力的な発言を意味します。私たちの顧客は、信頼できる安全の専門家、ポリシーの専門家であり、これらの企業内の人々は、事後対応の事実確認ではなく、これらの情報の脅威とリスクを回避しようと必死になっています。

「私たちは、この特定の情報危機に対する人的ソリューションを拡大しています」

私たちは、古き良き人間による分析と機械学習の後期段階を組み合わせて、これらのプラットフォームが直面する厄介な問題を解決しています。これらは、第一に、人間が問題に合わせてスケーリングできないこと、および機械が複数の言語や複数の異なる形式でこれらの情報リスクを検出する洞察を持っていないことです. それがKinzenが解決しようとしている問題です。私たちは、この特定の情報危機に対する人的ソリューションを拡大しています。

Liam:つまり、Storyful の編集スキルを機械にコーディングして、それらの価値を与えるということですね。

マーク：そのとおりです。私たちは人間とループの機械学習のアプローチに従いますが、これが実際に可能になったのは、これらの大きな言語モデルにアクセスできるようになってからの 2、3 年です。当社のアナリストは、さまざまな言語で機械可読データを作成しており、それが機械にプッシュされています。機械は書き写し、翻訳し、理解しようとしていますが、人間のデータは機械がより速く学習するのに役立っています。これは、小規模な専門家グループと、4 年前よりも能力が飛躍的に向上した非常に高度な機械学習システムとの間の美しいフィードバックループです。

誤報の抑制

リアム:現時点で誤報の規模はどれくらいですか?

「現在の重要な問題は、人々がインターネット上で間違ったことを言っているかどうかではありません。政治をめぐる人々の間の論争についてではありません。それはドナルド・トランプや彼がツイッターで得たものでさえありません。」

マーク:ええと、今起きていることは、良くなる前に悪化していると思います。オンラインのすべての人がそれを見るわけではありませんが、誤報や偽情報が特に問題となっている場所で起こっていることは、生死を分ける場所です. 現在、インドでは、政府の支持者からイスラム教徒に向けられたほとんど大量虐殺レベルのレトリックが見られます。ヨーロッパでは、組織化された過激派、極右グループ、ネオナチが、これらのプラットフォームのバイラル性を利用してメッセージを広めています。

そして明らかに、COVIDだけでなく、主流の会話で陰謀思考を促進しようとしている人々が、健康のトピックに関する陰謀論でそれを見ています. 現在の重要な問題は、人々がインターネット上で間違ったことを言っているかどうかではありません。政治をめぐる人々の間の論争についてではありません。ドナルド・トランプや彼がツイッターで得たものについてでさえありません。私たちが見ているのは、実際の現実世界での危害や生死にかかわる状況が存在する多数の言語と脅威です。

現在 13 の言語があり、まもなく 26 になります。ブラジルのような場所では、10 月に非常に重要な選挙が行われ、2020 年に米国で起こったことを再現する可能性があります。多くの人は、私たちは真実か偽かを選別しようとしていると考えています。それだけではなく、主にそれだけではありません。現実の世界に影響を与え、生死に影響を与える可能性のあるオンラインで起こっていることをどこで止めることができるかということです。

リアム:あなたはそこでブラジルの選挙について言及しましたが、アイン・カーが別のポッドキャストで、「選挙詐欺」や「不正選挙」などのフレーズがコンテンツモデレーターに警告を発し、偽の主張を取り下げる可能性があることに気付いた偽情報アクターについて話しているのを聞きました。これらのアクターは、「私たちはクリーンな選挙のためにキャンペーンを行っています」などのフレーズをこれらのフレーズに置き換え始めました。そして、人間のモデレーターが介入してこれらの変更を見つけ、当局がこれらのメッセージを傍受できるようにします。

「言葉が修正され、変更されているのを常に目にしています。そしてもちろん、機械はそれに追いつくことができません。」

マーク:私たちは「アルゴスピーク」の台頭と呼んでいるものを見ています。これは、コミュニティが、自分たちの発言を見てコンテンツモデレーションアルゴリズムが存在する可能性があることに気づき、それを回避しようとしているときです。パンデミックの間、アンチワクチン活動家がパンデミックの代わりにパニーニという言葉を使用しているのを見ました。ごく最近、ドイツでは、反ワクチンコミュニティがワクチンに smurf という単語を使用しているのを見ました。ドイツ語では、その単語の発音が、子供向けのテレビキャラクターの発音に非常に似ているためです。昨年、スカンジナビアでは、ネオナチのグループが、伝統的な子供たちのお祭りに関連する言葉を人種的な中傷に変えたのを見ました。

私たちは常に言葉が修正され、変更されているのを見ています。もちろん、機械はそれに追いつくことはできません。パンデミックのようなことが起こると、突然、これらすべての科学用語が私たちの言語に入ってきます。機械が追いついていないだけで、機械を修正するために人間による分析が重要なのです。

そのため、Kinzen の内部では、ますます機械が言語の進化を認識し始めています。ある言葉が別の言葉につながった。ワクチンでスマーフ。たとえば、インドのような場所では、反イスラム活動家がまったく無害に見えるかもしれない言葉を使用しているのを目にしますが、それらは脅迫やヘイトスピーチのパターンの一部であることがわかります.

これが、人間の部分が非常に重要である理由です。私たちは、より多くのコンテンツモデレーションを提唱しません。私たちは法律を支持したり、誤報を禁止したりしません。それは絶対に間違ったやり方だと思います。私たちは、言論の自由を最大限に認めながら、危険な干し草の山の針を選ぶことができる、より正確なコンテンツのモデレーションを探しています. そして、それが私たちの長期的な目標です。政令や政府によるコンテンツの禁止によって、私たちは安全を確保することはできません。プラットフォームを再設計して、コンテンツのモデレーションで作業するマシンと人間が、問題に反応するのではなく、より正確に、より正確に、よりタイムリーに問題を先取りできるようにする必要があります。

機械と人間の融合

リアム:誤報は技術的な問題なのか、人間の問題なのか、それともその両方なのか?

マーク：聞いてください、それは人々がテクノロジーが彼らにそれをさせた、または世界を愚かにしたと考える実存的な質問の1つです. 私はそのつもりはありません。私は今でも、私たちが当たり前だと思っているか、激しく嫌悪し始めているテクノロジーの民主的な可能性を説く伝道者です。ビジネスモデルとソーシャルメディアで最初に準備されたアルゴリズムの方法は、私たちの最悪の本能を利用していますが、このテクノロジーを再設計して、私たちの最善の意図を解放できると思います. その一部は、一般の人がインターネットを閲覧するときにアクセスできる、はるかに優れたフィルターを備えていることです。

「平均的なユーザーは、コンテンツのモデレーションにおいて、より強力で正確なものになるでしょう」

現在、私たちは技術プラットフォーム内の集中管理チームと協力しています。私の推測では、今後 2 ～ 3 年で、一般の人がフィルターを設定できるように権限を分散化しようとするプラットフォームがますます増えるでしょう。彼らは「聞いてください、私は自分のフィードで極端な言葉を聞きたくありません」と言うことができます。相手が何を考えているのか知りたい」平均的なユーザーは、コンテンツのモデレートにおいて、より強力で正確なものになります。しかし、それには時間がかかります。また、まだ始まったばかりです。今日存在する大きなプラットフォームは、現在 17 歳の若者によって培養されている新しいプラットフォームに置き換えられることを忘れないでください。

問題が改善する前に、問題を悪化させる可能性のあるいくつかの開発に注意する必要があります。 Kinzen は、オーディオコンテンツモデレーションのパイオニアです。私たちは、誤った情報、偽情報、ヘイトスピーチがライブオーディオやポッドキャストを通じて拡散する方法を分析してきました。そして、インターネットの音声レイヤーは、今後数年間、非常に重要性を持って注力する必要がある分野だと考えています。

リアム: 締めくくる前にそれについて聞くつもりだった. 数え切れないほどの時間のオーディオがあります。あなたとファクトチェッカーにどのような問題が生じていますか?

マーク：完璧な嵐のようです。明らかに、ライブオーディオではスピードがあります。ポッドキャストを見ると、これらの多くは何時間にもわたる長さです。そして、最も重要かつ最大の課題は言語です。何千もの言語が話されています。インドで何かを分析している場合、誰かがヒンディー語で話しているのを聞いているかもしれませんが、彼らは時々英語に飛びつきます. 私たちが非常に意識しているのは、これが機械学習の魅力的なところだということです。自動音声認識があります。しかし、繰り返しますが、人間の信号で何を探しているかがわかっている場合は、それを微調整できます。言語モデルを改善し、単語の音だけでなく言語間の関係を聞き取れるように最適化することができます。

「機械と人間を組み合わせて、言語の意味を解釈することから始められるでしょうか。機械が何を言っているのかだけでなく、どのように言っているのかを理解することはできますか?」

私はジャーナリストですよね？私はトレーニングによる技術者ではありません。私はそれに追いつくように努めているので、このようなことの多くは私を驚かせます。しかし、オーディオにとって重要なことは、人々の話し方に気を配っていることだと思います。彼らの声の調子。たとえば、アラビア語は、書き出すと 1 つの言語ですが、話すと複数の方言になります。そして、それは私にとって最も厄介であり、最もエキサイティングなことでもあります. 機械と人間をペアにして、言語の意味を解釈することから始められるでしょうか? 彼らが何を言っているのかだけでなく、どのように言っているのか? これは音声モデレーションの大きな課題ですが、取り組んでいる最もエキサイティングな課題の 1 つでもあると思います。皮肉、皮肉、俗語、「アルゴスピーク」などを検出できるのは人間だけです。だからこそ、私たちのアプローチはより効果的であるだけでなく、最終的にはより民主的になります。私たちは可能な限り最小限の介入を求めていますが、最高レベルの精度を求めており、人間と機械の組み合わせが非常に重要です。

リアム:素晴らしい。マーク、今日はお集まりいただきありがとうございます。

マーク:リアム、よかった。またすぐにしましょう。

Inside Intercom Podcast (横型) (1)