Kinzen의 CEO인 Mark Little은 허위 정보와의 싸움에 대해 이야기합니다.

이 잘못된 정보 시대에 트롤 농장, 가짜 뉴스, 증오심 표현이 난리를 치며 진실을 찾기가 점점 더 어려워지고 있습니다. 콘텐츠 중재가 그 결과로부터 온라인 커뮤니티를 보호하는 데 도움이 될 수 있습니까?

가짜 뉴스는 최근의 현상은 아니지만 소셜 미디어 플랫폼은 그들이 전례 없는 규모로 매우 실제적인 결과로 곪아 퍼질 수 있는 완벽한 반향실을 제공했습니다. 그러나 기존의 사실 확인 및 자동화된 콘텐츠 필터는 잘못된 정보와 잘못된 정보 뒤에 있는 힘과 비교할 수 없습니다. 문제를 해결하려면 완전히 새로운 솔루션이 필요하며 Mark Little은 그 책임을 주도하는 사람 중 한 명입니다.

Mark는 수상 경력에 빛나는 저널리스트이자 디지털 미디어 혁신가로 더블린의 교도소 폭동에 대한 첫 보고서부터 전쟁으로 황폐해진 아프가니스탄의 수상 경력에 이르기까지 20년이 넘는 방송 뉴스 경력을 보유하고 있습니다. 2010년, 젊은이들이 무슨 일이 일어나고 있는지 보고하기 위해 소셜 미디어를 사용하는 방법을 알게 된 후 그는 전통적인 뉴스 에이전시와 인증된 사용자 생성 콘텐츠를 결합한 세계 최초의 소셜 미디어 뉴스와이어인 Storyful을 설립했습니다. 2015년에 Storyful을 News Corp에 매각한 후 Mark는 유럽에서 Twitter의 미디어 및 파트너십 담당 부사장으로 Twitter에 합류했습니다.

1년 후 Mark는 새로운 위협이 나타나고 있음을 깨닫고 사임했습니다. 소셜 미디어 각성의 민주주의 물결로 시작된 것이 부패하고 있다는 것입니다. 이러한 플랫폼 뒤에 있는 알고리즘과 비즈니스 모델은 선전 및 음모 이론을 생성하고 보급하기 위해 무기화되고 있었습니다. 당시 Facebook의 글로벌 저널리즘 파트너십을 관리하던 동료 저널리스트인 Áine Kerr와 함께 그 문제에 대한 대응 작업을 시작했고 Kinzen이 탄생했습니다.

"문제를 해결하기 위해 글로벌 수준으로 대응을 확장할 수 있는 기계 학습과 인간 분석의 조합을 사용하고 있습니다."

그 이후로 그들은 이 위협에 앞서고 실제 세계에 해를 끼치는 위험한 잘못된 정보와 증오심 표현으로부터 온라인 커뮤니티를 보호하기 위해 노력해 왔습니다. 이 문제를 해결하기 위해 그들은 대응을 글로벌 수준으로 확장할 수 있는 기계 학습과 인간 분석의 조합을 사용하고 있습니다. Mark는 여전히 소셜 미디어 네트워크의 민주적 잠재력에 대해 낙관론자이지만 재설계가 절실히 필요하다는 점을 처음으로 인정했습니다. 더 정확한 콘텐츠 조정이 필요한 곳입니다.

오늘의 에피소드에서는 Mark와 함께 저널리즘의 진화, 잘못된 정보의 증가, 유해 콘텐츠로부터 온라인 커뮤니티를 보호하기 위해 우리가 할 수 있는 일에 대해 이야기했습니다.

다음은 대화에서 우리가 가장 좋아하는 내용입니다.

• 실패는 자신의 사업을 시작하는 과정에 내장되어 있습니다. 훌륭한 기업가가 되는 비결은 생존이 아니라 회복력입니다.
• 지난 몇 년 동안 우리는 온라인 커뮤니티가 콘텐츠 중재 알고리즘에 의해 표시되는 것을 피하기 위해 특정 단어를 변경할 때 발생하는 "algospeak"의 부상을 보았습니다.
• Mark는 허위 정보를 금지하는 법안이 아니라 최대한 표현의 자유를 허용하면서 유해한 콘텐츠를 감지하는 보다 정확한 콘텐츠 조정을 지지합니다.
• Mark는 앞으로 몇 년 동안 더 많은 플랫폼이 사람들이 온라인에서 보고 싶은 것에 대해 자체 필터를 설정할 수 있도록 권한을 분산시키려고 할 것이라고 믿습니다.
• 인간 분석과 기계 학습을 결합하여 아이러니, 속어 또는 "algospeak"와 같은 것을 감지하고 글로벌 수준으로 확장할 수 있습니다.

토론이 재미있다면 팟캐스트의 더 많은 에피소드를 확인하세요. iTunes, Spotify, YouTube에서 팔로우하거나 선택한 플레이어에서 RSS 피드를 가져올 수 있습니다. 다음은 에피소드의 가볍게 편집된 대본입니다.

정치적 각성

Liam Geraghty: Mark, 함께 해주셔서 감사합니다. 쇼에 오신 것을 진심으로 환영합니다.

마크 리틀: 반갑습니다, 리암. 나를 주셔서 감사합니다.

Liam: Kinzen을 설립하기 전에 여기까지 놀라운 여정을 거쳤습니다. 저널리즘에 대한 관심은 어디에서 왔습니까?

“나는 세상이 어떻게 돌아가는지, 그리고 왜 어떤 사람들은 다음에 일어날 일을 모퉁이에서 보는 것처럼 보이는지에 사로잡혀 있었습니다.”

Mark: 글쎄요, 저는 아주 조숙한 아이들 중 하나였습니다. 여섯 살이나 일곱 살 때 나는 아침에 아버지와 아이리시 타임즈를 위해 싸웠다. 그리고 약 9시 또는 10시경, 나는 리버풀의 센터 포워드가 되는 나의 진정한 열정에 충분한 타고난 재능이 없다는 것을 깨달았습니다. 그리고 기본적으로 제가 기억하고 있는 것은 제가 14살 때 어떤 종교 선생님이 성적표에서 지적한 내용이었습니다. 그는 내가 너무 일찍 냉소적이었고, 세상에 대한 맹렬한 호기심, 어떤 회의론, 그리고 변화에 대한 열정이 있었다고 말했다.

나는 세상이 어떻게 돌아가는지, 그리고 왜 특정 사람들이 정치나 비즈니스에서 다음에 일어날 일을 모퉁이 돌면 눈치채는 것처럼 보이는지에 집착했습니다. 그리고 그것은 저널리즘으로 시작하여 제 경력 내내 저와 함께 했던 핵심이었습니다.

Liam: 당신의 가족은 정치가 중요했나요?

마크: 물론이죠. 전방과 중앙이었다. 1970년대와 1980년대에 자라면서 정치에 관심이 없었다면 몰랐거나 깨어나지 못했을 것입니다. 당시 우리는 여전히 매우 퇴행적인 교회가 지배하는 사회가 지배하고 있던 아일랜드에 살고 있었습니다. 우리는 여전히 유럽의 가난한 사람들이었습니다. 이민은 기록적으로 높았습니다. 실업률은 사상 최고치를 기록했다. 그리고 해외를 보니, 제가 80년대에 학생 운동가로 자랐을 때, 제 말은... 모든 것이 진행 중이었습니다. 전 세계적으로 일어나고 있는 모든 일에 지각 변동이 있는 것처럼 느껴졌습니다.

핵의 종말이 베를린 장벽이 무너질 때까지 80년대를 통해 깊이 생각했던 지점까지 모든 것이 너무 결과적으로 느껴졌습니다. 그것은 단지 당신에게 엄청난 불안의 시대에 살아 있다는 것이 얼마나 중요한지 느끼게 하기 위한 것입니다. 그러나 당신이 정치적인 생각을 갖고 있다면 엄청난 흥분과 도전도 마찬가지입니다.

런던의 사회적 불안

Liam: 그리고 당신의 첫 공연이 영국 공산당 잡지의 광고 부서에서 있었다는 것을 읽었습니까?

Mark: 예, 재미있는 일이었습니다. 당시 좌파에는 문화에 관심이 많고 Glasnost와 Perestroika의 영향을 받은 사람들이 많이 있었습니다. 신좌파나 유럽 공산주의자라고 불릴 사람들이 있었는데 그 잡지에 매료되었습니다. 그것은 오늘날의 마르크스주의라고 불렸다.

저는 주차장과 맥도날드에서 일하고 있었는데 우연히 제 팔을 잡고 이렇게 말했습니다. 그리고 그 직업 중 하나는 광고를 판매하는 것이 아니라 광고를 수집하는 것이라는 것이 밝혀졌습니다. 불가리아에서 그래놀라 생산자와 이불을 생산하는 사람들과 휴일 광고를 하고 약간의 위협을 가해 광고비로 약속한 돈을 요구해야 했다. 87년 런던의 여름이었다. 레드 웨지와 빌리 브래그를 보게 되었습니다. 광부들의 파업이 막 끝났고 대처가 국제 무대에서 가장 큰 인물이라는 사실이 실감이 났습니다.

“그때는 정치가 모든 것이었습니다. 우리를 둘러싸고 있는 산소와 같은 느낌이었습니다.”

87년에 런던에 살면서 좌파 운동의 일원이 되는 것 – 꼭 공산당이 아니라도 일종의 탈출구였습니다 – 저는 급진적인 학생이었기 때문에 정말 눈을 뜨게 되었습니다. 저는 노동 조합 의회와 같은 장소에서 영국에 변화를 가져온 최첨단 사람들을 만나야 했습니다. 나는 또한 햄버거를 뒤집고 완벽한 치킨 McNugget을 요리하는 법을 배웠습니다.

같은 해 87년 여름은 IRA 캠페인이 절정에 달했을 때였습니다. 나는 이 주차장에서 일했는데 새벽 4시나 5시쯤 장기주차장을 돌아다니며 1주일 이상 차가 있는지 확인하는 것이 내 직업 중 하나였다. IRA는 거기에 폭탄을 설치하려고 했습니다. 그래서 그곳에는 아일랜드의 젊은 친구이자 파키스탄인 동료가 있었고, 우리 둘 다 아침에 온 특별 지부에 어떤 차가 너무 오래 있었는지 보고할 책임이 있었습니다. 다시 말하지만, 그 당시에는 정치가 모든 것에 있었다는 것을 상기시켜줍니다. 우리를 둘러싸고 있는 산소와 같은 느낌이었습니다.

"저는 너무 어려서 워싱턴에서 큰 일을 맡았을 때 콧수염을 기르거나 파란색 옷을 입으라는 말을 들었습니다. 그러면 분명히 나이가 들어 보입니다."

Liam: 와우, 미쳤군요. 저널리즘 분야에서 경력을 쌓고 National Broadcaster로 이직하는 데 이 모든 것이 의미가 있습니다. 제 말은, 당신은 거의 대학을 졸업하고 아일랜드의 National Broadcaster에서 일하기 시작했습니다.

Mark: 저는 너무 어려서 워싱턴에서 큰 일을 맡았을 때 콧수염을 기르거나 파란색 옷을 입으라는 말을 들었습니다. 그러면 분명히 나이가 들어 보입니다. 대학을 졸업하고 나는 정치를 하고 싶지 않다는 것을 깨달았습니다. 나는 하루가 끝날 때 특별히 이념적이지 않았습니다. 나는 당파가 아니었다. 그리고 나는 말했듯이 변화에 매료되었습니다. 저는 DCU에 저널리즘 과정을 수강하기 위해 갔는데, 그 과정이 끝나기도 전에 RTE에서 사람들을 모집한다는 광고를 하고 있었기 때문에 그렇게 했습니다.

약 24시간 이내에 내가 처음 보고한 것은 노스 더블린의 핍스보로에서 발생한 교도소 폭동이었습니다. 나는 지붕 위에 있었고 휴대 전화로 6시 뉴스를 방송해야 했습니다. 이것은 당시 엄청난 기술 혁신이었습니다. 내가 너무 나빠서 사무실에 돌아왔을 때 상사가 “그 말 다시 듣지 마. 그것은 당신에게 미래에 대한 영감을 주지 못할 것입니다.” 그러나 그 단계에서 큰 이슈에 대한 보고서를 시작할 기회가 주어진 것은 꿈이었습니다.

저널리즘의 새로운 물결

Liam: 저널리즘 경력은 거의 20년에 달했습니다. 맞습니까?

마크: 맞아요.

Liam: 워싱턴 특파원과 아일랜드의 큰 쇼 중 하나인 Prime Time을 발표하면서 크게 성공한 경력 후에 저널리즘을 그만두게 된 동기는 무엇입니까?

Mark: 글쎄요, 예전 표현을 사용하면 상황이 바뀌었다는 것을 깨닫기 시작했습니다. 저널리즘과 뉴스를 생산하는 수단은 전쟁터에 서 있는 나 같은 사람에서 바뀌었다. 나는 아프가니스탄 남부의 칸다하르에 있었던 것을 기억합니다. 그곳에 앉아 누군가가 현장에서 일어나는 일을 통역해 주는 것을 듣고 있었기 때문에 매우 실망스러웠습니다. 그리고 갑자기 저널리즘의 황금기는 매우 비민주적이라는 것을 깨달았습니다. 나와 같은 사람들, 집에 있는 사람들에게 밤 특정 시간에 앉아서 텔레비전에 나오는 남자에게 무엇이 진실이고 무엇이 진실인지 말을 듣도록 했습니다.

"이 플랫폼에서 구식 스토리텔링, 진실 말하기 및 저널리즘을 혁명적이고 새로운 민주주의와 결합할 수 있다면 어떻게 될까요?"

동시에 나는 트위터와 유튜브가 등장하는 것을 보았고 2009년 이란에서 시위가 있었던 선거였던 것으로 기억합니다. 모든 외국 특파원은 피부에 닿는 이야기를 가지고 있습니다. 이란은 제 이야기였습니다. 저는 17세 또는 18세 어린이들이 소셜 미디어를 사용하여 무슨 일이 일어나고 있는지 가장 직관적이고 진실된 보고를 하는 것을 보고 "맙소사, 이것이 모든 것을 바꿀 것입니다"라고 생각했던 것을 기억합니다.

나와 동시대 사람들 대부분은 이 민주주의 혁명을 두려워하고 두려워했습니다. 그러나 나는 이 기회를 보았다. 구식 스토리텔링, 진실 말하기, 저널리즘을 이러한 플랫폼에서 혁명적이고 새로운 민주주의와 결합할 수 있다면 어떻게 될까요? 25년을 내다보며 '지금 안 하면 평생 후회할 것 같다'고 생각했다. 고대 유대교의 위대한 문헌인 탈무드(Talmud)가 말하는 바를 생각해야 합니다. “내가 아니면 누구입니까? 지금이 아니라면 언제?" 나는 그 순간이 있었고 돌아갈 방법이 없었습니다.

Liam: 그래서 스토리풀을 만들었습니다. 저는 Storyful의 "소셜 미디어의 소음에서 나온 뉴스"라는 멋진 슬로건을 좋아합니다. 저널리즘에서 창업을 하는 과정은 어땠나요?

마크: 겨울에 물을 보는 것 같았어요. 당신은 "수영하러 가는 것이 좋지 않을까요?"라고 생각합니다. 그리고는 뛰어들어 추위에 마비됩니다. Storyful과 함께 벤처 사업을 시작한 지 1년도 되지 않았습니다. 나는 우리가 사업을 그만둘 것이라고 생각했다. 잔인했다. 나는 이 벤처에 모든 것을 걸었습니다. 내 평판, 내 모든 돈, 그리고 그것은 사업이 망하는 것처럼 보였습니다.

“훌륭한 기업가가 되는 비결은 생존이 아닙니다. 회복탄력성입니다. 그리고 실패는 모델에 내장되어 있습니다.”

나는 크리스마스 이브에 가족을 만나기 위해 차를 몰고 내려와 세상의 무게를 느꼈던 것을 기억합니다. 그리고 저는 최악의 생각을 깨달았습니다. " 그리고 나는 당신이 특히 초기 스타트업에서 당신의 최악의 두려움에 직면할 때 당신이 그것에 직면했기 때문에 다시는 당신을 괴롭히지 않을 것이라는 것을 배웠습니다. 일어날 수 있는 최악의 상황입니다.

나는 기자로서 내가 생존에 관한 것임을 깨닫기 시작했습니다. 나는 종군기자가 되어야 했다. 죽거나 다치지 않고 일할 수 있었던 날을 기억했지만 회복력, 매일 일어나야 하고 힘들 때 어떻게 되는지에 대해서는 생각해본 적이 없습니다. 그리고 그것이 가장 큰 차이점이었습니다. 위대한 기업가가 되는 비결은 생존에 있지 않습니다. 회복탄력성입니다. 그리고 실패는 모델에 내장되어 있습니다. 그것은 당신이 감수해야 하는 것입니다. 그것은 마음의 진정한 변화였습니다. 비슷한 점도 많았지만 마음가짐의 큰 변화가 필요했다.

리암: 어땠어? 당신이 말했듯이 많은 언론인들이 그것을 두려워했기 때문입니다. 그러나 이것은 완전히 새로운 형태의 저널리즘이며 우리는 아마도 그 당시에는 몰랐을 것입니다.

“역사의 증인인 현장의 사람들과 협업을 시작했습니다.”

Mark: 글쎄, 우리는 사람들이 이론에서 그것을 작동시키려고 하는 동안 실제로 일어나는 것을 볼 수 있었습니다. 예를 들어, 2010년 튀니지에서 시작되어 이집트와 시리아를 휩쓴 아랍 봉기 동안 우리는 아일랜드의 작은 스타트업에서 알레포 같은 곳에서 이야기를 꺼내려는 민주주의 활동가들을 현장에서 보았습니다. 그들은 우리가 그들을 보고 있다는 것을 깨닫기 시작했고 카메라를 기울여 첨탑을 보여 주는 것과 같은 일을 하면 그 이미지의 위치를 ​​찾는 데 도움이 될 것입니다. 그들은 신문을 만들고 날짜와 장소를 알려줌으로써 우리를 도울 것입니다. 그리고 우리는 역사를 목격한 현장 사람들과 협력 개발을 시작했습니다.

그리고 물론, 우리는 저널리즘의 엄격함을 가져왔습니다. 오사마 빈 라덴이 파키스탄에서 사망했을 때, 우리는 즉시 위성 이미지를 통해 건물에 추락하여 착륙한 헬리콥터의 특성을 분석했습니다. 실제 위치가 잘못 기재되었기 때문에 언론인을 해당 위치로 안내할 수 있었습니다.

이 새로운 형태의 오픈 소스 저널리즘은 민주적이었습니다. 왜냐하면 우리의 주요 출처는 다른 저널리스트가 아니라 현장에 있는 사람들이었기 때문입니다. 그러나 동시에 우리가 책임에 대해 가졌던 것과 같은 엄격한 조사 저널리즘을 가지고 있었습니다. 우연히 등장한 것은 아니지만 우리는 확실히 새로운 형태의 저널리즘을 만들 계획이 없었습니다. 소셜 미디어의 첫 번째 물결을 지배한 이러한 각성에서 유기적으로 진화했습니다. 오늘날 Storyful 동문 중 많은 수가 New York Times, CNN, BBC 또는 Washington Post와 같은 대형 뉴스 조직에서 일하고 있으며 우리가 Storyful과 함께 했던 새로운 형태의 저널리즘을 도입하고 있습니다.

소셜 미디어의 무기화

Liam: 2013년에 Storyful을 News Corp에 매각하고 전환을 돕기 위해 뉴욕으로 이사했지만 결국 Dublin으로 돌아와 Twitter Dublin의 전무 이사 역할을 맡았습니다. Storyful 뒤에서 할 다음 큰 일에 대한 갈망이 있었나요?

마크: 그렇지 않습니다. 제 말은, 당신이 그것에 대해 생각할 때, 저는 Marxism Today, Rupert Murdoch, Jack Dorsey, 그리고 아일랜드 납세자들을 위해 일한 경력이 있었습니다. 나는 적어도 이념적 관점에서 꽤 좋은 범위를 가졌다. 그리고 저는 Storyful에서 왔으며 Twitter에 정말 매료되었습니다. 나는 트위터와 사랑에 빠졌고, 그것은 내 인생을 바꿨고, 나는 기계의 핵심으로 들어가고 싶었습니다. 다른 스타트업을 하고 싶은 마음은 없었다. 사실, 나는 또 다른 동시대 사람인 다른 미디어 스타트업 창업자에게 다시는 그런 일을 하지 않도록 허락해 달라고 요청했습니다.

그 당시 트위터는 꽤 큰 기업이었습니다. 트위터 비즈니스에 변화와 활력을 불어넣는 데 제가 도움이 될 수 있는지 알고 싶었습니다. 그것이 내가 그렇게하기로 선택한 이유입니다. 내 비즈니스의 모든 것을 바꿔놓은 플랫폼에 들어가 내가 영향을 미칠 수 있는지 확인할 수 있는 진정한 기회였습니다. 내가 매우 기뻤던 뉴욕에서 우연히 국제 본부가 있는 더블린으로 돌아온 것은 우연이었습니다. 하지만 저는 스타트업 생활에서 잠시 휴식을 취하고 제가 대기업에 들어가면 어떤 모습일지 보고 싶었습니다.

"나는 사람들이 소셜 플랫폼을 민주적 도구가 아니라 무기로 사용하는 아랍 봉기에서 우리가 발견한 많은 문제를 보았습니다."

Liam: Kinzen은 어디에서 나왔습니까? 어느 정도 Storyful의 불길에서 태어난 것 같습니다.

Mark: Twitter라는 대기업에 대한 좌절감에서 태어났습니다. 나는 그곳에서 일하는 것을 좋아했지만 특별히 잘 운영되지는 않았습니다. 그리고 결국 미디어 파트너십 팀은 기본적으로 쫓겨났습니다. 나는 좋은 회사에 계속 있을 수 있었지만 한편, 때는 2016년이었고 미국 대통령 선거가 얼마 남지 않았습니다. 나는 사람들이 소셜 플랫폼을 민주적 도구가 아니라 무기로 사용하고 있었던 아랍 봉기의 초기 구현에서 발견한 많은 문제를 보았습니다. 그들은 YouTube와 Twitter와 같은 장소에서 비디오의 입소문을 이용하여 선전이나 음모론인 거짓 이야기를 조작하고 있었습니다.

인터넷의 첫 번째 물결은 민주주의의 각성이었습니다. 그러다가 2016년이 되자 깨달았습니다. “젠장! 이것이 무기로 변하고 있다.” 도널드 트럼프 때문만이 아니라 민주주의에 반대하는 사람들이 갑자기 바이러스성, 비즈니스 모델, 알고리즘을 가로채는 더 심각한 문제가 발생했습니다. 그곳이 바로 제가 가장 신뢰하는 동료이자 당시 Facebook에 있었던 Áine Kerr에게 돌아가 이렇게 말하게 한 발상지이자 아이디어였습니다. 이 새로운 위협으로부터 스스로를 보호하기 위해?" 그리고 우리 둘 다 뛰어올랐다.

처음에는 사람들이 제어할 수 있는 뉴스 피드를 제공하기 시작했지만 분명히 모든 스타트업과 마찬가지로 계속 진행하면서 아이디어가 발전했습니다. 민주주의의 첫 번째 물결은 인터넷에서 새로운 암흑 세력으로 대체되고 있었고 이것이 Kinzen의 영감이었습니다.

Liam: 모르는 청취자를 위해 Kinzen이 무엇입니까? Kinzen의 사용자는 누구입니까?

Mark: 우리는 빅 테크 플랫폼과 신흥 플랫폼이 정보 위험으로부터 세상의 대화를 보호하도록 돕습니다. 즉, 실제 세계에 피해를 입히는 위험한 잘못된 정보, 조직화된 허위 정보, 혐오스럽고 폭력적인 발언을 의미합니다. 우리의 고객은 신뢰할 수 있는 안전 전문가, 정책 전문가, 그리고 이러한 기업 내부의 사람들은 사후적인 사실 확인이 아닌 이러한 정보 위협과 위험에 맞서기 위해 필사적으로 노력하고 있습니다.

"우리는 이 특정 정보 위기에 대한 인간적 솔루션을 확장하고 있습니다."

우리는 이러한 플랫폼이 직면한 사악한 문제를 해결하기 위해 구식 인간 분석과 기계 학습의 후기 단계를 결합하여 사용하고 있습니다. 첫 번째는 인간이 문제에 맞게 확장할 수 없고 기계가 여러 언어 및 다양한 형식으로 이러한 정보 위험을 감지할 수 있는 통찰력이 없다는 것입니다. 그것이 Kinzen이 해결하고자 하는 문제입니다. 우리는 이 특정한 정보 위기에 대한 인간적 해결책을 확장하고 있습니다.

Liam: 그래서 Storyful에서 편집 기술을 가져와 기계에 코딩하여 그러한 가치를 부여하는 것입니다.

마크: 맞아요. 우리는 인간과 루프 머신 러닝 접근 방식을 따릅니다. 이는 우리가 이러한 큰 언어 모델에 액세스할 수 있게 된 이후로 지난 몇 년 동안에만 실제로 가능해졌습니다. 우리의 분석가들은 다양한 언어로 기계가 읽을 수 있는 데이터를 만들고 있으며, 이 데이터는 기계에 입력되어 있습니다. 기계는 전사하고, 번역하고, 이해하려고 노력하고 있으며 인간 데이터는 더 빨리 학습하는 데 도움이 됩니다. 이는 소규모 전문가 그룹과 4년 전보다 지금 용량이 기하급수적으로 커진 정말 고급 기계 학습 시스템 사이의 아름다운 피드백 루프입니다.

잘못된 정보 억제

Liam: 현재 잘못된 정보의 규모가 얼마나 됩니까?

“지금 중요한 문제는 사람들이 인터넷에서 잘못된 말을 하는지 아닌지가 아닙니다. 그것은 정치에 대한 사람들 사이의 분쟁에 관한 것이 아닙니다. 도널드 트럼프나 그가 트위터에서 얻는 정보도 아니다”라고 말했다.

Mark: 글쎄요, 지금 일어나고 있는 일은 더 나아지기 전에 더 나빠지고 있다는 것입니다. 온라인상의 모든 사람이 그것을 볼 수 있는 것은 아니지만 잘못된 정보와 허위 정보가 특히 문제가 되는 곳에서 일어나고 있는 일은 그것이 생사를 가르는 곳입니다. 현재 인도에서는 정부 지지자들이 무슬림에 대해 거의 대량 학살 수준의 수사학을 하고 있는 것을 볼 수 있습니다. 우리는 유럽에서 조직화된 극단주의자, 극우 단체, 신나치가 이러한 플랫폼의 바이럴성을 사용하여 메시지를 전파하는 것을 보고 있습니다.

그리고 분명히, 우리는 COVID뿐만 아니라 주류 대화에서 음모 사고를 조장하려는 사람들, 건강 주제에 대한 음모 이론에서 그것을 보고 있습니다. 지금 중요한 문제는 사람들이 인터넷에서 잘못된 말을 하고 있는지 여부가 아닙니다. 그것은 정치에 대한 사람들 사이의 분쟁에 관한 것이 아닙니다. 그것은 도널드 트럼프나 그가 트위터에서 얻는 것에 관한 것이 아닙니다. 우리가 보고 있는 것은 실제 현실 세계에 해를 입히고 생사를 가르는 상황이 있는 수많은 언어와 위협입니다.

현재 13개 언어가 있으며 곧 26개 언어를 갖게 될 것입니다. 브라질과 같은 곳에서 2020년 미국에서 있었던 일의 재방송일 수 있는 10월에 매우 중요한 선거가 있을 것입니다. 많은 사람들은 우리가 무엇이 참인지 거짓인지 분류하려고 한다고 생각합니다. 그것은 단지 그것에 관한 것이거나 심지어 그것에 관한 것이 아니라 실제 세계에 영향을 미치고 잠재적으로 삶과 죽음에 영향을 미칠 온라인에서 일어나는 일을 어디에서 막을 수 있는지에 관한 것입니다.

Liam: 거기에서 브라질 선거에 대해 언급하셨고, 다른 팟캐스트에서 Áine Kerr가 "선거 사기" 및 "조작된 선거"와 같은 문구가 잘못된 주장을 철회할 수 있는 콘텐츠 중재자에게 경고하고 있다는 사실을 깨닫는 허위 정보 행위자들에 대해 이야기하는 것을 들었습니다. 이 배우들은 "우리는 깨끗한 선거를 위해 캠페인을 벌이고 있습니다."와 같은 문구를 이러한 문구로 대체하기 시작했습니다. 그리고 여기에서 인간 중재자가 이러한 변경 사항을 파악하고 당국이 이러한 메시지를 가로챌 수 있도록 도울 수 있습니다.

“우리는 계속해서 단어가 수정되고 변경되는 것을 보고 있습니다. 그리고 물론 기계는 그 속도를 따라갈 수 없습니다.”

Mark: 우리는 커뮤니티가 자신이 말하는 내용을 살펴보고 콘텐츠 조정 알고리즘이 있을 수 있음을 깨닫고 이를 피하기 위해 노력하는 "algospeak"의 부상을 보고 있습니다. 전염병 동안 우리는 전염병 대신 파니니라는 단어를 사용하는 안티-백스 활동가들을 보았습니다. 가장 최근에 독일에서 우리는 백신에 대해 smurf라는 단어를 사용하는 안티-백스 커뮤니티를 보았습니다. 독일어로 그 단어의 발음이 어린이 TV 캐릭터의 발음과 매우 흡사하기 때문입니다. 작년에 스칸디나비아에서 우리는 네오나치 그룹이 전통적인 어린이 축제와 관련된 단어를 인종 비방으로 바꾸는 것을 보았습니다.

우리는 지속적으로 단어가 수정되고 변경되는 것을 보고 있습니다. 그리고 물론, 기계는 그것을 따라갈 수 없습니다. 전염병과 같은 일이 발생하면 갑자기 이 모든 과학적 용어가 우리 언어로 들어옵니다. 기계는 따라잡을 수 없으며, 바로 여기서 인간의 분석이 중요합니다. 즉, 기계를 수정하는 것입니다.

그래서 Kinzen 내부에서 점점 더 많은 기계가 언어의 진화를 감지하기 시작했습니다. 한 단어가 다른 단어와 연결됩니다. 백신을 든 스머프. 또는 예를 들어 인도와 같은 곳에서 우리는 완전히 무해해 보일 수 있는 단어를 사용하는 반무슬림 활동가를 봅니다. 그러나 우리는 그들이 협박과 증오심 표현의 패턴의 일부라는 것을 알 수 있습니다.

이래서 인간적인 부분이 중요합니다. 우리는 더 많은 콘텐츠 중재를 옹호하지 않습니다. 우리는 법률을 옹호하거나 잘못된 정보를 금지하지 않습니다. 완전히 잘못된 방법이라고 생각합니다. 우리는 표현의 자유를 최대한 허용하면서 위험한 건초더미에서 바늘을 꽂을 수 있는 보다 정확한 콘텐츠 조정을 찾고 있습니다. 그리고 그것이 우리의 장기적인 목표입니다. 우리는 법령과 정부의 콘텐츠 금지로 안전을 확보할 수 없습니다. 콘텐츠 조정 작업을 하는 기계와 인간이 문제에 반응하는 대신 문제를 미리 처리하는 데 있어 더욱 정확하고 정확하며 시기적절하도록 플랫폼을 다시 설계해야 합니다.

기계와 인간의 만남

Liam: 잘못된 정보는 기술적인 문제입니까, 인간의 문제입니까, 아니면 둘 다입니까?

Mark: 들어보세요. 사람들이 기술이 그것을 가능하게 하거나 세상을 멍청하게 만들었다고 생각하는 실존적 질문 중 하나입니다. 나는 그것을 위해 가지 않는다. 나는 우리가 지금 당연하게 여기거나 극도로 싫어하기 시작한 기술의 민주적 잠재력에 대한 전도자로 남아 있습니다. 비즈니스 모델과 알고리즘이 처음에 소셜 미디어로 준비된 방식은 우리의 최악의 본능을 이용하지만 최선의 의도를 자유롭게 하기 위해 이 기술을 재설계할 수 있다고 생각합니다. 그리고 그 중 일부는 일반 사용자가 인터넷을 검색할 때 액세스할 수 있는 훨씬 더 나은 필터를 가지고 있다는 것입니다.

"일반 사용자는 콘텐츠 조정에서 더 많은 권한과 정확성을 갖게 됩니다."

현재 우리는 기술 플랫폼 내부의 중앙 집중식 중재 팀과 협력하고 있습니다. 내 생각에 앞으로 2~3년 동안 점점 더 많은 플랫폼이 일반 사람들이 필터를 설정할 수 있도록 권한을 분산시키려고 할 것입니다. 그들은 “내 피드에서 극단적인 언어를 듣고 싶지 않아요.”라고 말하거나 다른 누군가가 “글쎄요. 알겠습니다. 상대방이 어떤 생각을 하는지 보고 싶어요.” 일반 사용자는 콘텐츠 조정에서 더 많은 권한과 정확성을 갖게 됩니다. 하지만 시간이 걸리고 시작 단계에 불과합니다. 오늘날 존재하는 대형 플랫폼은 현재 17세 청소년이 인큐베이팅 중인 새로운 플랫폼으로 대체될 것임을 기억하십시오.

우리는 문제가 더 나아지기 전에 문제를 더 악화시킬 수 있는 몇 가지 발전 사항을 알고 있어야 합니다. Kinzen은 오디오 콘텐츠 조정의 선구자입니다. 실시간 오디오 및 팟캐스트를 통해 잘못된 정보, 허위 정보, 증오심 표현이 퍼지는 방식을 분석했습니다. 그리고 우리는 인터넷의 음성 계층이 향후 몇 년 동안 중요도에 집중해야 하는 영역이라고 생각합니다.

Liam: 마치기 전에 그것에 대해 묻고 싶었습니다. 오디오의 셀 수 없이 많은 시간이 있습니다. 당신과 팩트 체커에게 제시하는 것이 어떤 문제입니까?

마크: 마치 폭풍우 같아요. 물론 라이브 오디오를 사용하면 속도가 빨라집니다. 팟캐스트를 보면 이들 중 많은 것들이 몇 시간이고 몇 시간입니다. 그리고 가장 중요하고 가장 큰 도전은 언어입니다. 수천 개의 언어가 사용됩니다. 인도에서 무언가를 분석하는 경우 힌디어로 말하는 사람의 말을 들을 수 있지만 때때로 그들은 영어로 뛰어들 것입니다. 우리가 매우 의식하고 있는 것은 바로 이것이 머신 러닝이 매력적인 분야라는 것입니다. 자동 음성 인식 기능이 있습니다. 그러나 다시 말하지만, 사람의 신호로 찾고 있는 것이 무엇인지 안다면 조정할 수 있습니다. 우리는 언어 모델을 개선하고 단어의 소리뿐만 아니라 언어 간의 관계를 듣도록 최적화되도록 할 수 있습니다.

"우리는 기계와 인간을 짝을 지어 언어의 의미를 해석하기 시작할 수 있습니까? 그들이 말하는 내용뿐만 아니라 어떻게 말하는지도?"

나 기자야, 그렇지? 나는 훈련을 받은 기술자가 아닙니다. 이 많은 것들이 내가 그것을 따라가려고 할 때 나를 궁금해하게 만듭니다. 하지만 오디오에서 중요한 것은 사람들이 말하는 방식에 주의를 기울이는 것입니다. 그들의 목소리 톤. 예를 들어 아랍어는 글로 적으면 하나의 언어이지만 말할 때는 여러 방언입니다. 그리고 그것은 저에게 가장 골치 아픈 일이자 가장 흥미로운 일입니다. 우리는 기계와 인간을 짝을 지어 언어의 의미를 해석하기 시작할 수 있습니까? 그들이 말하는 것뿐만 아니라 어떻게 말하는지? 그것이 오디오 조정의 가장 큰 도전이자 동시에 작업해야 하는 가장 흥미로운 도전 중 하나라고 생각합니다. 인간만이 아이러니, 풍자, 속어 또는 "algospeak"와 같은 것을 감지할 수 있습니다. 이것이 바로 우리의 접근 방식이 더 효과적일 뿐만 아니라 궁극적으로 더 민주적인 이유입니다. 우리는 가능한 최소한의 개입을 원하지만 가장 높은 수준의 정밀도를 원합니다. 바로 여기에서 인간과 기계의 조합이 매우 중요합니다.

리암: 훌륭해. Mark, 오늘 저와 함께해주셔서 대단히 감사합니다.

Mark: Liam, 반갑습니다. 곧 다시 합시다.