SMX East 2011: Percakapan Utama dengan Eli Pariser

Eli adalah penulis "The Filter Bubble" dan pagi ini, Danny Sullivan dan Chris Sherman akan berbicara dengan Eli tentang personalisasi. Personalisasi dalam pencarian telah lama menjadi cawan suci, namun terkadang ada sisi gelap teknologi yang diabaikan. Ini adalah gelembung filter, Web tersembunyi yang muncul saat algoritme, alih-alih manusia, mengatur Web.

Eli ingin berbicara kepada kita tentang konsekuensi moral dari hidup di dunia kita dengan relevansi yang didefinisikan sejalan dengan pemikiran Mark Zuckerberg:

Seekor tupai yang sekarat di rumah Anda mungkin lebih relevan bagi Anda saat ini daripada seorang anak yang sekarat di Afrika.

Di Facebook, dia memperhatikan bahwa aktivitas teman-temannya yang konservatif tidak muncul di umpan beritanya. Meskipun dia mengatakan ingin mendengar dari orang-orang yang berpikiran berbeda, dia mengklik konten dari teman-teman dengan minat yang sama.

Facebook menggunakan itu untuk mencoba memberinya lebih banyak seperti itu, dan begitu saja, teman-teman konservatifnya hilang.

Google juga melakukan ini. Dia meminta teman-temannya ke Google "Mesir" dan mengirimkan hasilnya. Dua teman pria kulit putih yang tinggal di NY mendapat hasil yang sama sekali berbeda. Satu mendapat banyak hasil politik, sementara yang lain mendapat info tentang perjalanan dan liburan.

SEMAKIN BAIK, WEB MENUNJUKKAN APA YANG INGIN KITA LIHAT.

Belum tentu apa yang perlu kita lihat.

Eric Schmidt: Akan sangat sulit bagi orang untuk menonton atau mengonsumsi sesuatu yang tidak dibuat khusus untuk mereka.

Gelembung filter Anda adalah lingkaran informasi pribadi Anda yang unik. Anda tidak memilih apa yang disertakan, atau apa yang diedit.

Ada penelitian yang menunjukkan ada tarik ulur dalam diri kita: hibur saya sekarang vs. altruis masa depan. Media terbaik menyeimbangkan kedua diri ini dalam diet informasi yang seimbang.

Tetapi personalisasi juga melihat apa yang Anda klik terlebih dahulu, jadi alih-alih beberapa info sayuran dan beberapa makanan penutup info, Anda akhirnya dikelilingi oleh junk food.

Sebelum Internet, media adalah penjaga gerbang info. Kemudian Internet membukanya sehingga semua orang dapat menemukan dan mempublikasikan apa pun. Tapi itu tidak benar. Ada penjaga gerbang baru, dan itu tidak memiliki rasa kewajiban sipil.

Jika mesin akan mengatur lingkaran info kami, kami perlu memastikan mereka membangun sinyal relevansi lainnya – hal-hal yang menantang kami, sudut pandang lain. Kita membutuhkan Internet untuk menjadi hal yang memperkenalkan kita pada cara berpikir lain. Itu tidak bisa terjadi jika kita terjebak dalam gelembung.

Danny bertanya, dengan hasil pencarian, apakah dia menemukan kesamaan antara hasil orang yang berbeda, bersama dengan perbedaannya? Eli mengatakan penelitian baru telah keluar sejak bukunya diterbitkan. Ada banyak variasi dengan beberapa frasa, dan beberapa frasa melihat sedikit perbedaan sama sekali. Wikipedia akan sangat dominan, tetapi seiring dengan peningkatan pencarian yang dipersonalisasi, peringkat Wikipedia turun.

Danny mengatakan bahwa bertahun-tahun yang lalu pemasar pencarian melihat hasil yang berbeda, terutama di wilayah yang berbeda. Apakah orang-orang dalam pengujian Anda mengharapkan hasil yang sama? Eli mengatakan bahwa kebanyakan orang tidak tahu bahwa Google melakukan ini sama sekali.

Berbicara dengan seorang insinyur Google, dia mengatakan bahwa ada dua modalitas menggunakan pencarian: mengisi penelitian yang kosong dan penelitian terbuka. Google lebih tertarik pada modalitas kedua, yang paling terpengaruh oleh personalisasi, dan karena itu, mungkin yang paling mengganggu

Chris mengatakan bahwa dalam berbicara dengan Google, mereka mengatakan personalisasi akan halus dan terhubung ke pertanyaan ekor panjang. Apakah itu pengalaman Anda? Eli mengatakan sulit untuk mengatakan dalam kasus tertentu karena algo sangat kompleks. Dia tidak berpikir bahkan orang Google pun tahu. Dan dia tidak berpikir Google melakukan ini dengan jahat, dan mereka benar-benar berpikir ini adalah peningkatan.

Chris bertanya apakah Google yang harus mengendalikan ini, atau apakah Google menjadi sesuatu seperti utilitas yang harus diatur? Eli mengatakan bahwa algoritme membuat keputusan untuk lebih dari satu miliar orang, namun itu benar-benar buram. Tidak ada rasa tanggung jawab untuk Google. Akan lebih baik jika orang setidaknya tahu transaksi apa yang mereka lakukan dengan Google.

Para insinyur yang berbicara dengannya mengatakan bahwa mereka tidak ingin membuatnya terlalu rumit karena kebanyakan orang tidak tahu apa yang sedang terjadi. Namun, menurutnya sekarang orang menjadi lebih melek algo. Dan aturan seputar personalisasi perlu ditulis ulang karena begitu banyak yang berubah sejak Internet pertama kali diperkenalkan. Menyetel ulang ekspektasi mungkin perlu dilakukan pada tingkat regulasi.

Chris mengatakan Google cukup terkenal untuk menyediakan alat. Google Dasbor menunjukkan kepada pengguna semua info iklan yang sedang mereka kerjakan dengan bagian depan Pembebasan Data. Namun Google tidak memberi tahu kami cara menggunakan info tersebut. Mereka bilang tidak bisa karena itu saus rahasia mereka.

Eli mengatakan Google Dashboard adalah permulaan. Dia pikir Google memikirkan hal ini dari sudut pandang etis lebih dari perusahaan lain dalam posisi yang sama. Yang perlu kita ketahui juga adalah apa yang disimpulkan Google tentang kita berdasarkan apa yang mereka ketahui.

Semakin banyak data yang Anda miliki, semakin banyak kesimpulan yang dapat Anda buat, dan Anda dapat memonetisasinya. Firasat, mesin rekomendasi, menciptakan algoritme orientasi seksual di mana mereka mampu memprediksi orientasi seksual seseorang dengan cukup andal berdasarkan data lain.

Mereka kemudian dapat menjual info ini kepada pengiklan untuk ditargetkan, namun itu belum tentu sesuatu yang diinginkan pengguna tersedia dan dijual kepada pengiklan.

Chris mengatakan bahwa audiens ini adalah pemasar, yang melihat personalisasi sebagai cara yang bagus untuk menargetkan audiens mereka. Eli mengatakan bahwa personalisasi bagi pemasar adalah pedang bermata dua. Ini lingkaran lain untuk mencoba melewatinya. Dan Anda mungkin melewatkan segmen audiens Anda tanpa menyadarinya.

Pesannya adalah bahwa personalisasi harus dilakukan dengan cara yang transparan. Google dapat membuatnya lebih jelas apa filosofi mereka. Harus ada penelitian lebih lanjut tentang apa konsekuensinya. Keseimbangan datang ketika orang dapat menggunakan personalisasi dengan cara yang mereka inginkan.