9 façons inquiétantes dont la société est façonnée par les algorithmes

Nous avons tous eu l’impression que notre téléphone nous écoutait en permanence, n’est-ce pas ?

Et ils sont – ou plutôt ils n’écoutent prétendument que lorsque nous leur parlons.

Cela semble assez inoffensif.

Mais j’observe depuis un certain temps la façon dont la commodité influence la société moderne. Je ne sais pas s’il s’agit d’une véritable innovation ou d’une manipulation déguisée.

Nul besoin d’être effrayé, il s’agit simplement de vous faire réfléchir. Voici 9 façons inquiétantes dont la société est façonnée par les algorithmes.

1) Les algorithmes peuvent être programmés pour être biaisés

Ils peuvent devenir autonomes dans une certaine mesure grâce aux informations que nous leur transmettons.

Mais il y a toujours un programmeur derrière eux. Les algorithmes peuvent donc être utilisés pour perpétuer des idéologies néfastes.

Par exemple, si une banque décide d’utiliser l’IA pour décider à qui elle accorde des prêts. Ou si votre travail décide d’utiliser l’IA pour embaucher des personnes ?

Elle supprime en quelque sorte l’humanité en tant qu’intermédiaire et permet aux préjugés sociaux de prendre le contrôle de situations graves, qui changent la vie.

La haine est également l’aboutissement et l’expression extrême de la peur, qui est une émotion que beaucoup de ces algorithmes ciblent pour gagner votre attention et votre temps.

En ce qui concerne les informations utilisées pour créer ces algorithmes, d’où proviennent-elles ?

2) Notre vie privée est de plus en plus compromise

La principale façon pour ces algorithmes d’obtenir des données est de surveiller votre utilisation des médias sociaux.

Il n’y a pas que les applications.

Les sites web, les caméras de sécurité, les archives publiques, etc. peuvent être utilisés pour générer des données afin de créer un profil que les algorithmes peuvent cibler.

Et le problème n’est pas la surveillance de masse qui s’exerce sous la forme de données. Mais le fait que ce type d’accès autorisé aux entreprises technologiques soit en train de se normaliser.

Je ne sais pas pourquoi la société est ainsi faite.

Peut-être que les humains ne s’en soucient pas, à moins que leurs secrets personnels ne soient visés. Ou peut-être que nous ne sommes pas assez nombreux à être conscients de l’impact que cela peut avoir sur notre avenir.

Heureusement, il existe des moyens de se protéger en lisant attentivement les politiques de confidentialité et en vérifiant les paramètres de vos applications.

Mais la vraie solution appartient au gouvernement et à ceux qui sont chargés de réglementer ces lois sur la protection de la vie privée.

3) Ils créent des chambres d’écho sociales

Ils disposent donc de vos données et ont créé un profil – et maintenant ?

Maintenant, vous êtes devenu une cible pour la propagande ou tout autre message que les gens qui ont assez d’argent ont préparé pour vous.

Non seulement cela, mais votre capacité à former des pensées indépendantes pourrait être compromise.

Même les personnes les plus « éveillées » et les plus conscientes des réalités sociales peuvent tomber dans ces pièges. Car il ne faut pas oublier que la croissance ne se produit que lorsque l’on s’expose à des perspectives différentes.

De l’autre côté du spectre, les personnes qui perpétuent des idéologies haineuses peuvent bénéficier d’une stimulation de l’ego ou d’une motivation qui leur permet de se sentir à l’aise dans leur rôle d’oppresseur.

Nous avons vu ce qui s’est passé le 6 janvier avec les émeutes du Capitole. Si vous réunissez un groupe de personnes ayant les mêmes opinions, le chaos et la désinformation sont inévitables.

4) Il est facile de diffuser des informations erronées

En parlant de chaos, la diffusion massive d’informations erronées est actuellement à son apogée.

De nombreux algorithmes fonctionnent de telle sorte qu’ils sont plus susceptibles de montrer ce qui obtient le plus grand nombre de clics ou d’interactions.

Cela signifie que le contenu diffusé est généralement plus sensationnel que, par exemple, celui d’un activiste qui informe les autres sur la façon dont le monde se dirige lentement vers sa propre disparition.

Même si le contenu est adapté à vos besoins, vous avez plus de chances de voir des choses qui vous radicalisent en fonction de vos zones d’ombre.

Personne n’est à l’abri de la propagande – si vous voulez rester sur votre page « Pour vous » sans subir ses influences, il est indispensable de faire des pauses dans les médias sociaux.

En outre, les informations erronées sont extrêmement difficiles à corriger une fois qu’elles ont été diffusées.

Non seulement vous devez vous informer en recherchant des faits, mais il peut être difficile d’aller à l’encontre de vos réactions émotionnelles qui vous donnent l’impression que ce que vous avez vu est la vérité.

5) Déplacement d’emplois dans certaines industries

L’essor de l’automatisation a soulevé la question du remplacement des emplois par des machines.

Nous pourrions continuer à énumérer les types d’emplois qui sont remplaçables, mais la liste serait sans fin car la technologie évolue constamment.

Je voudrais plutôt attirer l’attention sur le fait que la vie des gens dépend de leur emploi. Et à quel point notre société est exposée à l’instabilité.

Il soulève la question de savoir si nous devons nous préoccuper maintenant de la façon dont les gens vont survivre, mais aussi de l’avenir de notre société et de notre économie.

Et si l’on supprime tous les emplois qui requièrent de la main-d’œuvre, que reste-t-il ?

En général, il s’agit d’emplois qui requièrent des connaissances technologiques, de la créativité et un niveau élevé de compétences en matière de résolution de problèmes.

Ce qui ne fera qu’accentuer le fossé entre les classes sociales en raison de l’écart croissant entre ceux qui peuvent s’adapter et ceux qui n’ont pas été conçus pour ce type de société.

6) Manque de créativité dans certaines industries

Le monde de la création est sous pression au milieu de ces crises technologiques parce que nous sommes la seule industrie qui est sous-payée, alors que nous sommes considérés comme « irremplaçables ».

Même en tant que rédacteur de contenu, je me suis demandé si mon travail était si important qu’il existe des programmes comme ChatGPT.

Un autre problème que cela soulève est que beaucoup d’entreprises ne se soucient pas d’être créatives, et qu’elles sauteront sur l’occasion de nous remplacer par ces nouvelles technologies.

En conséquence, des secteurs comme le marketing et la création de contenu commenceront à produire des travaux dépourvus de cette « touche humaine ».

Cela signifie que des choses comme la nuance et l’originalité, qui remettent en question notre vision actuelle du monde, vont être jetées par la fenêtre.

En outre, beaucoup de gens se tournent vers l’art pour s’inspirer. Et ce n’est pas que je sois d’accord avec cela, mais ils se tournent vers les industries créatives pour voir ce qui est « à la mode ».

Ce sera subtil au début, mais dans quelques années, il y aura moins d’art et plus de conformité.

7) Augmentation de la conformité inutile

Les algorithmes analysent les données pour identifier les modèles et les tendances, et ces industries utilisent ces données pour façonner ce qu’elles veulent suggérer aux consommateurs.

Sous couvert de personnalisation, ces choix de consommation deviennent prévisibles.

Vos préférences sont-elles vraiment les vôtres ? Cela vaut la peine de se poser la question afin de conserver son autonomie en tant que consommateur.

Le sentiment que vos préférences vous sont servies sur un plateau vous empêche également d’élargir votre vision du monde.

Et avec l’effet supplémentaire de la chambre d’écho dont nous avons parlé, il peut devenir difficile de remettre en question la communauté que vous construisez par ce biais.

Ce qui, comme nous le savons, peut influencer votre esprit critique parce que vous êtes trop préoccupé par le fait d’aller à contre-courant.

8) Diminution de la pensée critique

Écoutez, je suis tout à fait favorable au progrès technologique.

Surtout s’il s’agit d’aider les personnes marginalisées ou handicapées. Mais ce n’est certainement pas le cas dans notre société capitaliste.

Au lieu de cela, nous voyons les gens devenir trop dépendants de ces algorithmes pour prendre des décisions à leur place, parce que nous avons confondu la commodité avec la compétence.

Les algorithmes sont conçus pour offrir des solutions rapides et faciles en supprimant le travail nécessaire à leur élaboration.

Ils nous disent ce qu’il faut acheter, avec qui nous devons nous connecter et même ce qu’il faut croire. Mais les responsables de ces programmes ne vous connaissent pas.

Ils ne veulent pas non plus nécessairement le meilleur pour vous !

La moralité et un scepticisme sain sont nécessaires si vous voulez prendre de bonnes décisions qui ne vous servent pas uniquement à court terme.

Il faut également un certain temps pour les développer et elles vont au-delà de la simple connaissance de ce qui fonctionne et de ce qui ne fonctionne pas.

En parlant de vision équilibrée du monde, nous allons maintenant parler d’empathie.

9) Diminution de l’empathie

L’autre soir, je discutais avec un journaliste.

Elle était chargée de rédiger un article sur l’impact de la crise du logement sur les gens. Elle s’est sentie en conflit, car il s’agissait d’un problème réel et déchirant.

Comment pourrait-elle rédiger un contenu facile à assimiler ?

Nous sommes à l’ère de la commodité, mais cette commodité est au prix de l’accès à une compréhension approfondie et empathique de questions complexes.

Les journalistes ne sont pas les seuls concernés.

En tant que public, votre perception est fortement influencée par la vitalité et la rapidité du contenu produit.

Commencez par rechercher davantage de contenu de longue durée et de discussions nuancées au sein de votre communauté pour contrer ce phénomène.

Et l’empathie est comme un muscle, vous devez ralentir et creuser profondément ici et là si vous voulez la garder intacte.

Le seul moyen de lutter contre ces formes de façonnement de la société est-il donc de contrôler nos données ?

En partie, oui. Mais vous ne pouvez pas passer votre vie à regarder par-dessus votre épaule alors que ce n’est pas votre travail d’assurer la sécurité de ces informations.

Les données étant devenues totalement subjectives, il est difficile de savoir ce qui mérite d’être protégé et ce qui ne l’est pas.

Alors oui, soutenez les réglementations en matière de protection de la vie privée, mais commencez à vous interroger !

Chaque fois que vous lisez quelque chose, il vaut la peine de rechercher la source. Il faut également s’exposer à des perspectives différentes, même celles qui peuvent susciter des réactions négatives.

Et limitez votre temps d’écran !

Le monde ne sait peut-être pas quelle marque de lait vous préférez, mais c’est là que se trouve tout le reste.

Comme le disent les enfants, allez toucher de l’herbe.