SMX East 2011 : Conversation principale avec Eli Pariser

Eli est l'auteur de "The Filter Bubble" et ce matin, Danny Sullivan et Chris Sherman parleront avec Eli de la personnalisation. La personnalisation dans la recherche a longtemps été le Saint Graal, mais il y a un côté sombre parfois négligé à la technologie. Il s'agit de la bulle de filtre, un Web caché qui apparaît lorsque des algorithmes, plutôt que des personnes, organisent le Web.

Eli veut nous parler des conséquences morales de vivre dans notre monde avec une pertinence définie selon la pensée de Mark Zuckerberg :

Un écureuil mourant devant votre maison peut être plus pertinent pour vous en ce moment qu'un enfant mourant en Afrique.

Sur Facebook, il a remarqué que l'activité de ses amis conservateurs n'apparaissait pas dans son fil d'actualité. Même s'il avait dit qu'il voulait entendre des gens qui pensaient différemment, il cliquait sur le contenu d'amis ayant des intérêts similaires.

Facebook utilisait cela pour essayer de lui en donner plus, et juste comme ça, ses amis conservateurs étaient partis.

Google le fait aussi. Il a demandé à ses amis de Google "Egypte" et de lui envoyer les résultats. Deux amis blancs vivant à New York ont ​​obtenu des résultats totalement différents. L'un a obtenu de nombreux résultats politiques, tandis que l'autre a obtenu des informations sur les voyages et les vacances.

DE PLUS EN PLUS, LE WEB NOUS MONTRE CE QUE NOUS VOULONS VOIR.

Pas nécessairement ce que nous devons voir.

Eric Schmidt : Il sera très difficile pour les gens de regarder ou de consommer quelque chose qui n'a pas été fait pour eux.

Votre bulle de filtre est votre cercle d'informations personnel et unique. Vous ne choisissez pas ce qui est inclus ou ce qui est supprimé.

Il y a des recherches qui montrent qu'il y a un bras de fer en nous : divertis-moi maintenant contre futur altruiste. Les meilleurs médias équilibrent ces deux moi dans un régime d'information équilibré.

Mais les algorithmes de personnalisation regardent ce que vous cliquez en premier, donc au lieu de quelques infos légumes et quelques infos dessert, vous vous retrouvez entouré de malbouffe.

Avant Internet, les médias étaient des gardiens de l'information. Ensuite, Internet l'a ouvert pour que tout le monde puisse trouver et publier n'importe quoi. Mais ce n'est pas vrai. Il y a de nouveaux gardiens, et il n'y a aucun sens du devoir civique.

Si les machines doivent organiser notre cercle d'informations, nous devons nous assurer qu'elles intègrent d'autres signaux de pertinence - des choses qui nous interpellent, d'autres points de vue. Nous avons besoin d'Internet pour être cette chose qui nous introduit à d'autres façons de penser. Cela ne peut pas arriver si nous sommes coincés dans une bulle.

Danny demande, avec les résultats de recherche, trouve-t-il des points communs entre les résultats de différentes personnes, ainsi que les différences ? Eli dit que de nouvelles recherches sont sorties depuis la publication de son livre. Il y a beaucoup de variété avec certaines phrases, et certaines phrases ne voient que peu de différence. Wikipédia sera très dominant, mais à mesure que la recherche personnalisée augmente, Wikipédia descend dans les rangs.

Danny dit qu'il y a des années, les spécialistes du marketing de recherche obtenaient des résultats différents, en particulier dans différentes régions. Les personnes de vos tests s'attendaient-elles aux mêmes résultats ? Eli dit que la plupart des gens ne savent pas du tout que Google fait cela.

S'adressant à un ingénieur de Google, il a déclaré qu'il existe deux modalités d'utilisation de la recherche : remplir le blanc et la recherche ouverte. Google s'intéresse davantage à la deuxième modalité, qui est la plus affectée par la personnalisation, et donc peut-être la plus troublante

Chris dit qu'en parlant à Google, ils ont dit que la personnalisation serait subtile et liée aux requêtes de longue traîne. Est-ce votre expérience? Eli dit que c'est difficile à dire dans un cas donné parce que l'algo est si complexe. Il pense que même les gens de Google ne le savent pas. Et il ne pense pas que Google le fasse de manière malveillante, et ils pensent sincèrement que c'est une amélioration.

Chris demande si Google devrait être celui qui contrôle cela, ou est-ce que Google devient quelque chose comme un service public qui devrait être réglementé ? Eli dit que l'algorithme prend des décisions pour plus d'un milliard de personnes, et pourtant il est totalement opaque. Il n'y a aucun sens de responsabilité pour Google. Ce serait bien si les gens savaient au moins quelle transaction ils faisaient avec Google.

Les ingénieurs à qui il a parlé ont dit qu'ils ne voulaient pas rendre les choses trop compliquées car la plupart des gens ne savent pas ce qui se passe. Cependant, il pense que maintenant les gens deviennent plus alphabétisés en algo. Et les règles de personnalisation doivent être réécrites car tant de choses ont changé depuis l'introduction d'Internet. La réinitialisation des attentes devra probablement se faire au niveau de la réglementation.

Chris dit que Google est assez bien connu pour fournir des outils. Le tableau de bord Google montre aux utilisateurs toutes leurs annonces d'informations sur leur travail avec le front de libération des données. Mais Google ne nous dit pas comment il utilise les informations. Ils disent qu'ils ne peuvent pas parce que c'est leur sauce secrète.

Eli dit que le tableau de bord Google est un début. Il pense que Google pense à ces choses d'un point de vue éthique plus que d'autres entreprises dans une position similaire. Ce que nous devons également savoir, c'est ce que Google déduit de nous sur la base de ce qu'ils savent.

Plus vous avez de données, plus vous pouvez faire d'inférences et vous pouvez les monétiser. Hunch, un moteur de recommandation, a créé un algorithme d'orientation sexuelle grâce auquel ils ont pu prédire de manière assez fiable l'orientation sexuelle d'une personne sur la base d'autres données.

Ils pourraient ensuite vendre ces informations aux annonceurs pour les cibler, mais ce n'est pas nécessairement quelque chose qu'un utilisateur souhaite mettre à disposition et vendre aux annonceurs.

Chris dit que ce public est composé de spécialistes du marketing, qui considèrent la personnalisation comme un excellent moyen de cibler leur public. Eli dit que pour les spécialistes du marketing, la personnalisation est une épée à double tranchant. C'est un autre cerceau à essayer de franchir. Et vous risquez de manquer des segments de votre audience sans le savoir.

Son message est que la personnalisation doit se faire de manière transparente. Google peut rendre plus évidente leur philosophie. Il devrait y avoir plus de recherches sur les conséquences. L'équilibre vient lorsque les gens peuvent utiliser la personnalisation comme ils le souhaitent.