Dans la recherche (et au-delà), notre plus grand ennemi est notre propre parti pris

Récemment, j’ai eu l’honneur de prononcer le discours devant les diplômés du programme de maîtrise en science des données lors du début d’hiver de la UC Berkeley School of Information. L’audio du discours est disponible sur la série de podcasts de iSchool.

Merci à Dean Saxenian et à la faculté de m'avoir invité ici aujourd'hui. C’est un honneur d’être ici. Et c’est un plaisir d’être de retour ici, à mon alma mater, dans mon département d’origine, et j’ai le mérite de me fourrer la tête avec la bonne combinaison d’idées.

Et félicitations à tous les nouveaux diplômés! J'étais aux études supérieures depuis presque 10 ans. Je connais donc la force et la détermination nécessaires pour réussir. Il y a seulement 6 ans que j'étais assis où vous êtes et que je recevais mon doctorat. Mais avant de vous demander pourquoi le type qui n’a que 6 ans sortis de l’école graduée donne cette adresse, rappelez-vous que les années technologiques sont comme les années avec les chiens. Donc, c’est… je ne peux pas faire ce calcul dans ma tête. Quoi qu’il en soit, allons-y.

Après avoir lu un peu les adresses de commencement, j’ai appris une chose essentielle: presque aucun d’entre vous ne se souviendra de quoi que ce soit que j’ai à dire. Donc, je ne vais pas enterrer la lede. Mon message pour vous aujourd'hui est le suivant:

Votre propre parti pris est votre pire ennemi - faites-en votre mission dans la vie et travaillez à la vaincre. Acceptez le fait que vous êtes humain, que tous les humains ont un parti pris et que vous êtes aussi mauvais que tout le monde. Acceptez le fait que l’objectivité est un fantasme et que la science des données n’est pas plus objective que tout autre moyen de savoir.

Passez votre temps à essayer de falsifier ce que vous croyez. Chase la preuve qui prouve que tu as tort, pas la preuve qui prouve que tu as raison. Votre meilleure stratégie pour ce faire est de cultiver une capacité à comprendre en profondeur les perspectives des autres. Pour faire de leur parti pris votre parti pris. Pour entrer dans leurs têtes et leurs cœurs.

Tiens voilà. Mais revenons un instant en arrière et parlons de quelque chose de vraiment controversé: les fausses nouvelles. Ne vous inquiétez pas, il ne s'agit pas d'un discours politique. Je veux parler du terme fausses nouvelles. Il ya une implication là-dedans: certaines nouvelles ne sont pas fausses.

Laissons de côté maintenant la fraction infime d’informations composée à 100%. Les nouvelles sont comme toutes les autres informations. Il contient des faits et beaucoup d'interprétation. Donc, si cela est vrai, quelle que soit la source, quels sont les bits faux? Le plus souvent, la réponse est: les éléments avec lesquels vous n'êtes pas d'accord.

Si les récents événements mondiaux nous ont appris quoi que ce soit, c’est que les êtres humains sont absolument fantastiques de compartimenter les informations entrantes, de voir ce qu’ils veulent voir et d’ignorer les contradictions logiques. Nous ne vivons pas dans des chambres d’écho au lieu de les créer dans notre esprit.

Il est facile de trouver des preuves de choses que vous croyez déjà. Je parle de quelque chose appelé le biais de confirmation. Peut-être que vous savez déjà à ce sujet. Si vous le faites, vous serez probablement d’accord avec ce que j’ai à dire.

Le biais de confirmation est la préférence profondément humaine et naturelle des choses que nous croyons déjà vraies. Nous recherchons des informations de confirmation et nous nous en souvenons plus facilement. Nous interprétons les choses équivoques de manière favorable. Aucune personne, aucune discipline, aucune industrie, aucune méthodologie n'est au-dessus de cela.

Les universitaires étudient le biais de confirmation depuis des décennies et nous en savons beaucoup sur la raison pour laquelle cela se produit. Une explication est que c'est juste plus facile. Résoudre des informations contradictoires demande du travail, et la plupart des gens le détestent. Une autre explication est que les humains ont soif de pensées cohérentes et heureuses. Des informations si contradictoires nous font chier. Vivre dans un monde où nous ne sommes jamais obligés de réévaluer nos idées semble vraiment incroyable.

Mais je peux identifier une chose qui est derrière tout succès que j’ai eu. Et je cherche constamment à prendre conscience de mes propres préjugés, à briser mes propres croyances et à travailler sans relâche pour comprendre les autres, d’autres points de vue et d’autres interprétations. Ces activités m'ont aidé à devenir un meilleur ami, un mari et un père, ainsi qu'un meilleur chercheur et un meilleur leader.

J'ai commencé ma carrière universitaire en tant qu'anthropologue culturel. À peu près aussi loin que possible de la science des données. Les anthropologues passent tellement de temps à penser à la culture. Si la vie est une symphonie, la culture est la clé. Clé de G. Clé de Ré mineur. C’est le modèle stable contre lequel toutes les notes sont jouées.

Ainsi, quand un anthropologue aborde la recherche, une façon de réfléchir à sa tâche est de regarder toutes les notes et d’essayer de comprendre quelle clé est utilisée. Cette tâche concerne le sens et l’interprétation, elle consiste à comprendre comment les autres donnent un sens aux choses. Il s’agit de comprendre leurs biais. Comment toutes ces choses se résolvent en une clé.

Donc c’est le truc. C’est ce que j’espère que votre objectif sera dans tout ce que vous ferez. Lorsque vous vous efforcez de comprendre le point de vue de quelqu'un d'autre, il se passe une série de belles choses. Vous voyez les lacunes dans votre propre compréhension. Vous voyez comment renforcer votre argument. Vous construisez des relations plus fortes. Vous apprenez à être plus humble, moins convaincu de votre propre justice.

Vous voyez comment les mêmes informations peuvent réduire de nombreuses façons différentes. Ce qui peut sembler être un fait devient tout à coup une interprétation. Vous voyez à quel point les priorités sont importantes - nous pouvons voir les mêmes informations de la même manière, mais aboutissons à des conclusions différentes, simplement parce que nous optimisons pour différentes choses.

D'après mon expérience, presque chaque désaccord se résume à des priorités. Prendre une décision, c'est simplement choisir les problèmes que vous souhaitez avoir. Lorsque vous pouvez comprendre les priorités de quelqu'un d'autre, il est plus facile de choisir des solutions qui résolvent les problèmes de chacun.

Une chose que je devrais noter est que si votre objectif est de comprendre comment quelqu'un d'autre voit le monde, vous n'avez absolument pas besoin du Big Data. Parfois, tout ce dont vous avez besoin est un N d'un.

Il y a quelques années, je travaillais sur Facebook avec l'équipe News Feed. Le fil d'actualité est le flux d'histoires de vos amis que vous faites défiler sur Facebook. Votre écran d'accueil.

L'équipe souhaitait améliorer la qualité des histoires dans Feed. Mais à l'époque, ils avaient un modèle de qualité assez simple: si vous aimez une histoire, elle doit être bonne et si vous la cachez, elle doit être mauvaise.

J'espère que vous vous demandez déjà pourquoi c'est une façon très naïve de penser au bien et au mal. J'ai eu la même réaction, mais l'équipe avait déjà investi beaucoup de travail dans cette idée. Ils n'étaient pas très ouverts aux points de vue alternatifs. Alors que nous approchions de la recherche, nous voulions un moyen d’aider l’équipe à comprendre sous un angle différent.

Nous avons trouvé un groupe de personnes dans les données que nous avons appelées «Super Hiders» - c'étaient des personnes qui cachaient beaucoup plus d'histoires que la moyenne. Nous avons donc recruté un groupe d'entre eux pour des entretiens. Nous voulions savoir pourquoi ils se cachent.

C’est donc le premier jour de recherche. Je suis dans l’arrière-plan avec l’équipe produit et le chercheur se trouve dans la salle d’interview avec le premier participant de la journée. Nous faisons les choses habituelles d'introduction, puis nous demandons à la femme de se connecter à l'ordinateur et de commencer à naviguer sur Facebook comme elle le ferait normalement.

Alors elle le fait et elle regarde la première histoire dans Feed et la cache. Et puis elle regarde la seconde, et elle la cache. Etc. Après quelques minutes, le chercheur l'a arrêtée et lui a demandé ce qu'elle faisait. Et elle a dit quelque chose comme: «Eh bien, après avoir lu quelque chose, je l’ai mis à la poubelle."

Il s'est avéré qu'elle utilisait le modèle de la boîte de réception zéro. Lire un email, supprimez-le. Je me sentais mal pour elle, cependant, parce que Fil d'actualités défilait à l'infini. Elle n'y arriverait jamais.

Dans l’arrière-salle, l’esprit de l’équipe était renversé. Personne ne pensait que cette femme était représentative ou que le comportement était très courant. Ce n’était pas la question. Mais il y a une chose qu'un seul point de données peut vous donner à chaque fois, et c'est une preuve d'existence. Témoin de cet exemple, pénétrer un peu dans la tête de cette femme a suffi pour changer de perspective. Il a fait plus que toute autre analyse aurait pu. Nous ne pouvions plus considérer la dissimulation comme un simple signal de qualité, et nous ne l’avions pas fait.

En construisant l’équipe de recherche chez Airbnb, j’ai essayé d’intégrer ces idées à notre façon de travailler. C'est ainsi que nous abordons les questions de recherche, grandes et petites. Si nous voulons vraiment combattre notre propre parti pris et nous sortir de nous-mêmes, cela signifie que nous devons réellement travailler différemment. Voici une excellente stratégie que nous utilisons parfois: avec une conclusion à l’esprit, nous écrivons toutes les failles qui, selon nous, peuvent être erronées. Nous listons toutes les hypothèses alternatives. Nous construisons ensuite un modèle de recherche autour de la recherche de preuves de ces choses. Nous ne validons jamais les idées ou les conceptions, nous les falsifions. Nous devons travailler d'arrache-pied, car le biais de confirmation est très fort, et il ne s'agit que de l'un des nombreux biais que nous rencontrons dans notre travail. Mais au final, nous faisons de meilleures recherches et nous construisons de meilleurs produits.

En tant qu’anthropologue, j’ai appris à aspirer à la dissonance cognitive. J'espère que vous aussi. Tenant de ce point de vue alors que je me dirigeais vers la psychologie sociale, la science des données, la recherche sur l'expérience utilisateur, cela m'a poussé à penser de manière globale. Et ne jamais me leurrer en pensant que j’ai une réponse définitive. La caricature de l'informaticien auto-satisfait qui vous éblouit avec des graphiques et des statistiques, des modèles appris par machine, vous dit qu'elle a résolu tous ces problèmes que les spécialistes des sciences sociales ne pourraient pas résoudre, et s'en prend à tout, comme un taureau, pleine de fausse confiance. - Cette personne est déjà une relique. Cette personne ressemble à un âne. Mais cette personne vient probablement de céder à sa nature humaine et a décidé de suivre le chemin de la moindre résistance, de ne jamais remettre en question ses propres conclusions, de fuir le travail de compréhension et d'écoute des autres. Ne soyez pas cette personne.

Mais bien sûr, vous êtes les diplômés de ce programme distingué. Celui qui est unique dans son point de vue multidisciplinaire. Je suppose qu’il ya peu de danger que cela vous arrive. Mais c'est toujours la stratégie que je vous recommande dans votre vie et dans votre travail. Ne croyez pas tout ce que vous pensez. Tirez des conclusions en vous basant sur les informations les plus diverses que vous puissiez trouver. Supposons que ces conclusions soient biaisées et faites-en votre mission pour savoir comment et pourquoi. Au terme de ce processus, vous aurez non seulement pris une meilleure décision, mais vous comprendrez mieux votre monde, vous aurez renforcé vos relations en écoutant et en faisant des compromis. Si vous êtes comme moi, vous échouerez constamment dans ce processus et resterez partial, mais si vous continuez à essayer, je vous promets que cela en vaut la peine.

Je vous remercie.