Ancien dirigeant de Facebook : « Vous ne vous en rendez pas compte, mais vous êtes programmé ».

par

former Facebook executive: you are being programmed


« Je pense que nous avons créé des outils qui sont en train de déchirer le tissu social de la façon dont la société fonctionne. Les boucles de rétroaction à court terme, alimentées par la dopamine, que nous avons créées sont en train de détruire le fonctionnement de la société », a déclaré Chamath Palihapitiya, ancien vice-président de Facebook chargé de la croissance du nombre d’utilisateurs, devant un auditoire de la Stanford Graduate School of Business en novembre dernier (voir la vidéo ci-dessous).

Ses commentaires ont d’abord été publiés sur VERGE cette semaine.

Palihapitiya a regretté d’avoir participé à la construction d’outils qui détruisent « le tissu social du fonctionnement de la société » et a mis en garde son auditoire : « Si vous nourrissez la bête, elle vous détruira. Il est temps de faire une pause dans l’utilisation de certains de ces outils ».

L’ancien cadre de Facebook, qui a quitté la société en 2011, a déclaré : « Les boucles de rétroaction à court terme, alimentées par la dopamine, que nous avons créées sont en train de détruire le fonctionnement de la société. Il n’y a plus de discours civil, plus de coopération, plus de désinformation, plus de mensonges.

« Et il ne s’agit pas d’un problème américain. Il ne s’agit pas d’annonces russes », a-t-il ajouté. « Il s’agit d’un problème mondial… Il érode les fondements de la manière dont les gens se comportent les uns envers les autres et entre eux.

« Je n’ai pas de bonne solution. Ma solution est que je n’utilise plus ces outils. Je ne les utilise plus depuis des années.

« Les mauvais acteurs peuvent désormais manipuler de larges pans de la population pour qu’ils fassent ce qu’ils veulent. C’est une situation vraiment déplorable et nous aggravons le problème. Nous organisons notre vie autour de ce sentiment de perfection parce que nous sommes récompensés par ces signaux à court terme (cœurs, likes, pouces en l’air) et nous confondons cela avec la valeur et avec la vérité ».

Il a prévenu son auditoire de brillants diplômés de Stanford que, qu’ils s’en rendent compte ou non, « vous ne vous en rendez pas compte, mais vous êtes programmés » (comme chacun d’entre nous). C’était involontaire, a-t-il dit, mais vous devez maintenant décider à quel point vous êtes prêts à renoncer à votre indépendance intellectuelle, a-t-il expliqué à son auditoire.

Palihapitiya n’est pas le seul dirigeant de Facebook à avoir exprimé une prise de conscience tardive des conséquences du travail qu’il a effectué chez Facebook il y a plusieurs années. Ses commentaires s’inscrivent dans le cadre d’un débat permanent sur le pouvoir et la portée apparemment illimités des médias sociaux.

Lors d’un événement organisé par Axios, le président fondateur de Facebook, Sean Parker, a également tiré la sonnette d’alarme sur la manière dont les réseaux sociaux nous accrochent à dessein et peuvent causer des dommages mentaux.

Parker avait déclaré qu’il était « un objecteur de conscience » en ce qui concerne l’utilisation des médias sociaux, et Palihapitaya a révélé qu’il n’utilisait plus « cette merde » et que ses enfants n’étaient pas non plus autorisés à l’utiliser.

Les propos tenus par Parker lors de l’événement organisé par Axios sont en fait très accablants.

Le processus de réflexion qui a présidé à la création de ces applications, Facebook étant la première d’entre elles, … était axé sur la question suivante : « Comment pouvons-nous consommer le plus de temps et d’attention consciente possible ? Comment consommer le plus possible de votre temps et de votre attention consciente ? »

« Cela signifie que nous devons en quelque sorte vous donner un petit coup de dopamine de temps en temps, parce que quelqu’un a aimé ou commenté une photo ou un article ou quoi que ce soit d’autre. Cela vous incitera à fournir davantage de contenu, ce qui vous permettra d’obtenir plus de likes et de commentaires ».

« Il s’agit d’une boucle de rétroaction de validation sociale… exactement le genre de chose qu’un pirate informatique comme moi pourrait inventer, parce qu’il exploite une vulnérabilité de la psychologie humaine.

Et pour couronner le tout, cette reconnaissance :

« Les inventeurs, les créateurs – c’est moi, c’est Mark [Zuckerberg], c’est Kevin Systrom sur Instagram, c’est toutes ces personnes – l’ont compris consciemment. Et nous l’avons fait quand même. »

Intéressant : Palihapitiya a dit que c’était involontaire, mais Parker admet ici qu’ils savaient tous ce qu’ils faisaient : accrocher l’engagement des clients grâce à des poussées régulières de dopamine.

Ces deux dirigeants font écho aux sentiments exprimés il y a quelque temps par les ingénieurs en logiciel de Google, Twitter et Facebook qui ont contribué à rendre la technologie si addictive, en annonçant qu’ils se déconnectaient de l’internet.

Le groupe comprend des personnes telles que Justin Rosenstein, créateur du bouton « J’aime », Tristan Harris, ancien éthicien du design chez Google et fondateur de l’association Time Well Spent, Loren Brichter, qui a créé Tweetie et la fonction « pull-to-refresh », et James Williams, l’ancien stratège de Google qui a mis au point le système de mesure pour l’activité mondiale de publicité par recherche de l’entreprise.

Les nuages s’amoncellent

Les entreprises de médias sociaux sont dans le collimateur depuis qu’il est apparu clairement que leur portée va jusqu’à influencer des résultats politiques comme l’élection présidentielle américaine et le Brexit, en facilitant la diffusion de fausses nouvelles, de conspirations et de propagande, en prenant effectivement le contrôle de l’esprit d’un public Facebook qui ne se doute de rien.

Plus récemment, Facebook a été accusé de laisser monter la haine contre les Rohingyas au Myanmar par le biais de fils d’actualité affirmant qu’il n’y a pas de « nettoyage ethnique » contre la minorité musulmane des Rohingyas en Birmanie.

Le fait est que dans un pays fermé comme le Myanmar, Facebook est la source d’informations. C’est le moyen le plus rapide de savoir ce qui se passe sur le terrain. Si Facebook le sait, l’entreprise devrait commencer à prendre ses responsabilités en tant que fournisseur d’informations comme les autres et cesser de se cacher en prétendant n’être qu' »un service social qui relie les gens ». Il est clair qu’elle est devenue plus que cela.

Vous avez aimé mon article ? Likez moi sur Facebook pour voir plus d’articles comme celui-ci dans votre fil d’actualité.