SMX East 2011: Ein Keynote-Gespräch mit Eli Pariser

Eli ist der Autor von „The Filter Bubble“ und heute Morgen werden Danny Sullivan und Chris Sherman mit Eli über Personalisierung sprechen. Personalisierung bei der Suche war lange Zeit der heilige Gral, aber es gibt eine manchmal übersehene dunkle Seite der Technologie. Dies ist die Filterblase, ein verborgenes Netz, das entsteht, wenn Algorithmen statt Menschen das Netz kuratieren.

Eli möchte mit uns über die moralischen Folgen des Lebens in unserer Welt mit Relevanz sprechen, die im Einklang mit Mark Zuckerbergs Gedanken definiert ist:

Ein Eichhörnchen, das vor Ihrem Haus stirbt, könnte für Sie im Moment relevanter sein als ein Kind, das in Afrika stirbt.

Auf Facebook bemerkte er, dass die Aktivitäten seiner konservativen Freunde nicht in seinem Newsfeed auftauchten. Obwohl er gesagt hatte, er wolle von Leuten hören, die anders dachten, klickte er auf Inhalte von Freunden mit ähnlichen Interessen.

Facebook benutzte das, um zu versuchen, ihm mehr davon zu geben, und einfach so waren seine konservativen Freunde weg.

Google macht das auch. Er bat seine Freunde, „Ägypten“ zu googeln und ihm die Ergebnisse zu schicken. Zwei weiße männliche Freunde, die in NY leben, kamen zu völlig unterschiedlichen Ergebnissen. Einer bekam viele politische Ergebnisse, während der andere Informationen über Reisen und Urlaub bekam.

DAS WEB ZEIGT UNS ZUNEHMEND, WAS WIR SEHEN WOLLEN.

Nicht unbedingt das, was wir sehen müssen.

Eric Schmidt: Es wird sehr schwer für die Leute, etwas zu sehen oder zu konsumieren, das nicht auf sie zugeschnitten ist.

Ihre Filterblase ist Ihr persönlicher, einzigartiger Informationskreis. Sie wählen nicht aus, was enthalten ist oder was herausgeschnitten wird.

Es gibt Untersuchungen, die zeigen, dass es in uns ein Tauziehen gibt: Unterhalte mich jetzt vs. zukünftiger Altruist. Die besten Medien gleichen diese beiden Selbste in einer ausgewogenen Informationsdiät aus.

Aber Personalisierungsalgorithmen sehen sich an, was Sie zuerst anklicken, sodass Sie statt etwas Info-Gemüse und etwas Info-Dessert von Junk Food umgeben sind.

Vor dem Internet waren die Medien ein Torwächter für Informationen. Dann öffnete das Internet es, sodass jeder alles finden und veröffentlichen konnte. Das stimmt aber nicht. Es gibt neue Torwächter, und es hat kein Gefühl von Bürgerpflicht.

Wenn Maschinen unseren Infozirkel kuratieren, müssen wir sicherstellen, dass sie andere relevante Signale einbauen – Dinge, die uns herausfordern, andere Sichtweisen. Wir brauchen das Internet als das Ding, das uns in andere Denkweisen einführt. Das kann nicht passieren, wenn wir in einer Blase stecken.

Danny fragt, findet er bei den Suchergebnissen neben den Unterschieden Gemeinsamkeiten zwischen den Ergebnissen verschiedener Personen? Eli sagt, dass seit der Veröffentlichung seines Buches neue Forschungsergebnisse herausgekommen sind. Bei manchen Sätzen gibt es viel Abwechslung, und bei manchen Sätzen gibt es überhaupt keinen Unterschied. Wikipedia wird sehr dominant sein, aber mit zunehmender personalisierter Suche fällt Wikipedia in den Rängen zurück.

Danny sagt, dass Suchmaschinenvermarkter vor Jahren unterschiedliche Ergebnisse gesehen haben, insbesondere in verschiedenen Regionen. Haben die Personen in Ihren Tests die gleichen Ergebnisse erwartet? Eli sagt, dass die meisten Leute nicht wissen, dass Google das überhaupt tut.

Im Gespräch mit einem Google-Ingenieur sagte er, dass es zwei Modalitäten für die Verwendung der Suche gibt: das Ausfüllen der Lücke und die Suche mit offenem Ende. Google interessiert sich mehr für die zweite Modalität, die am stärksten von der Personalisierung betroffen und daher vielleicht am beunruhigendsten ist

Chris sagt, dass sie im Gespräch mit Google sagten, dass die Personalisierung subtil und mit Long-Tail-Abfragen verbunden wäre. Ist das Ihre Erfahrung? Eli sagt, es sei in jedem Fall schwer zu sagen, weil der Algo so komplex ist. Er glaubt, nicht einmal Google-Leute wissen es. Und er glaubt nicht, dass Google dies böswillig tut, und sie denken wirklich, dass es eine Verbesserung ist.

Chris fragt, ob Google derjenige sein sollte, der dies kontrolliert, oder wird Google so etwas wie ein Versorgungsunternehmen, das reguliert werden sollte? Eli sagt, dass der Algorithmus Entscheidungen für mehr als eine Milliarde Menschen trifft, und dennoch völlig undurchsichtig ist. Es gibt kein Verantwortungsgefühl für Google. Es wäre gut, wenn die Leute zumindest wüssten, welche Transaktion sie mit Google tätigen.

Die Ingenieure, mit denen er gesprochen hat, haben gesagt, dass sie es nicht zu kompliziert machen wollen, da die meisten Leute nicht wissen, was vor sich geht. Er glaubt jedoch, dass die Menschen jetzt Algo-kompetenter werden. Und die Regeln rund um die Personalisierung müssen neu geschrieben werden, da sich seit der Einführung des Internets so viel verändert hat. Das Zurücksetzen der Erwartungen muss wahrscheinlich auf Regulierungsebene erfolgen.

Laut Chris ist Google ziemlich bekannt dafür, Tools bereitzustellen. Das Google Dashboard zeigt den Nutzern alle ihre Info-Anzeigen, die sie mit der Data Liberation-Front arbeiten. Aber Google sagt uns nicht, wie es die Informationen verwendet. Sie sagen, sie können nicht, weil das ihre geheime Sauce ist.

Eli sagt, das Google Dashboard sei ein Anfang. Er glaubt, dass Google über diese Dinge mehr unter ethischen Gesichtspunkten nachdenkt als andere Unternehmen in einer ähnlichen Position. Was wir auch wissen müssen, ist, was Google auf der Grundlage dessen, was sie wissen, über uns schließt.

Je mehr Daten Sie haben, desto mehr Rückschlüsse können Sie ziehen, und Sie können das monetarisieren. Hunch, eine Empfehlungsmaschine, hat einen Algorithmus zur sexuellen Orientierung entwickelt, mit dem sie die sexuelle Orientierung einer Person basierend auf anderen Daten ziemlich zuverlässig vorhersagen konnten.

Sie könnten diese Informationen dann an Werbetreibende verkaufen, um sie anzusprechen, aber es ist nicht unbedingt etwas, was ein Benutzer verfügbar machen und an Werbetreibende verkaufen möchte.

Chris sagt, dass es sich bei dieser Zielgruppe um Vermarkter handelt, die Personalisierung als eine großartige Möglichkeit betrachten, ihre Zielgruppe anzusprechen. Eli sagt, dass Personalisierung für Vermarkter ein zweischneidiges Schwert ist. Es ist ein weiterer Reifen, um zu versuchen, durchzukommen. Und Sie verpassen möglicherweise Teile Ihres Publikums, ohne es zu wissen.

Seine Botschaft ist, dass Personalisierung auf transparente Weise erfolgen sollte. Google kann deutlicher machen, was ihre Philosophie ist. Was die Folgen sind, sollte mehr erforscht werden. Das Gleichgewicht entsteht, wenn Menschen die Personalisierung so nutzen können, wie sie es möchten.