7 dilemmes éthiques intrigants posés par l’intelligence artificielle


L’intelligence artificielle (IA) s’accélère rapidement.

Les systèmes d’IA aident désormais à gérer des usines et des villes entières, en travaillant en arrière-plan pour prendre des décisions et gérer des processus de routine qui étaient auparavant effectués par des humains ou par des systèmes gérés par des humains.

Il est clair que l’IA représente un avantage énorme à bien des égards.

Mais le développement de l’IA pose également certains dilemmes éthiques et moraux auxquels nous devons faire face avant d’accepter sans réserve ce nouveau bond en avant.

Jetons un coup d’œil…

1) Quels emplois remplacent les emplois qui disparaissent ?

Le premier des dilemmes éthiques posés par l’intelligence artificielle est la question du chômage.

Alors que l’apprentissage automatique et les systèmes d’IA remplacent de plus en plus d’emplois, de l’industrie médicale à la fabrication, qu’advient-il des humains qui effectuaient ce travail ?

Prenons l’exemple du secteur du camionnage aux États-Unis : 3,5 millions d’Américains conduisent des camions.

Que se passera-t-il lorsque les camions à conduite autonome élimineront 90 % d’entre eux ?

Ils ne peuvent pas tous devenir opérateurs de flotte ou ingénieurs en IA.

Et tous ne peuvent pas être reconvertis dans une autre profession, d’autant plus que de plus en plus de professions sont automatisées et gérées par l’IA.

L’idée d’un revenu universel de base a été évoquée comme une solution.

Toutefois, cela ne résout pas entièrement les nombreuses questions qui subsistent, notamment la dépression et la frustration que de nombreuses personnes éprouvent lorsqu’elles sont sans emploi ou lorsqu’elles n’ont pas de but précis dans leur vie.

2) En quoi le fait de dépendre des machines et d’avoir des relations avec elles nous change-t-il en tant qu’êtres humains ?

Le prochain dilemme éthique intrigant posé par l’intelligence artificielle est la question de savoir comment les machines nous affectent en tant qu’êtres humains.

Plus nous passons de temps avec des machines et établissons des relations avec des systèmes de machines, plus cela modifie la façon dont nous nous percevons et dont nous percevons notre nature.

Comme l’écrit Christina Pazzanese à Harvard:

« Nous interagirons fréquemment avec des machines comme s’il s’agissait d’êtres humains, que ce soit dans le cadre du service à la clientèle ou de la vente.

« Alors que les humains sont limités dans l’attention et la gentillesse qu’ils peuvent accorder à une autre personne, les robots artificiels peuvent canaliser des ressources virtuellement illimitées pour établir des relations.

Le film Her de Spike Jonez, sorti en 2013, examine à quel point une relation avec une machine peut être forte et influente, et cette question risque de devenir de plus en plus dominante, surtout à mesure que les humains deviennent plus distants socialement et passent plus de temps en ligne.

« Comme le dit le personnage principal Theodore lorsqu’on lui demande si « vous sortez avec votre ordinateur ».

« Elle n’est pas qu’un ordinateur ».

3) Que se passera-t-il si l’IA commence à devenir consciente (singularité) ?

Le prochain dilemme éthique intrigant posé par l’intelligence artificielle est ce qui se passera si l’IA devient consciente.

Cette idée, connue sous le nom de « singularité », fascine les auteurs de science-fiction, les penseurs et les éthiciens depuis des décennies.

L’idée de base est que les machines deviennent si intelligentes qu’elles cherchent activement à survivre et à dominer les humains, y compris, si nécessaire, en recourant à la force meurtrière.

Même la déconnexion des machines et l’arrêt des logiciels à ce moment-là ne fonctionneraient hypothétiquement pas, car les machines auraient déjà élaboré des plans de sauvegarde et des serveurs après avoir exécuté des sous-programmes qui ont calculé la possibilité d’une telle éventualité en tant que défense humaine.

L’idée d’une singularité et d’une IA devenant plus forte que les êtres humains peut encore sembler relever de la science-fiction, mais il s’agit certainement d’une possibilité future dans des systèmes d’IA très avancés et interconnectés qui commencent à supplanter l’intervention humaine.

4) Que se passe-t-il si les systèmes d’IA sont utilisés à des fins discriminatoires et préjudiciables pour certains groupes ?

Le prochain des dilemmes éthiques intrigants posés par l’intelligence artificielle est la question de savoir à quoi elle sert.

L’IA a des applications et des utilisations dans presque tous les domaines de la vie humaine.

Mais il pourrait également être programmé pour opérer de nombreuses discriminations fondées sur la classe sociale, la race, l’état de santé, les éléments financiers ou même les convictions politiques ou religieuses.

Contrairement aux êtres humains qui pourraient faire preuve de pitié lors d’un génocide ou d’une persécution de masse, une IA programmée avec des intentions malveillantes n’aurait aucune raison de s’élever contre sa directive première d’éliminer les « mauvaises » personnes ou un « mauvais » groupe, ce qu’elle a été programmée pour faire.

Cela pourrait certainement être réalisable à l’avenir.

L’IA modifie certainement déjà la manière dont les guerres sont menées et dont les ennemis sont tués.

Nous voyons déjà comment les drones pilotés par l’IA sont utilisés pour tuer un grand nombre de soldats dans le monde entier dans les zones de conflit, et tuent aussi par erreur des civils dans de nombreux cas.

Plus récemment, des robots tueurs ont déjà été utilisés sur le champ de bataille en Ukraine pour aider à renverser le cours de la guerre sanglante en faveur de Kiev.

5) Comment maîtriser l’IA en tant qu’outil de surveillance totalitaire et de contrôle social ?

Parmi les intrigants dilemmes éthiques posés par l’intelligence artificielle, la prochaine question est de savoir comment éviter qu’elle ne tombe entre les mains de régimes totalitaires.

L’IA est extrêmement efficace en matière de contrôle et de surveillance.

Avec de mauvaises intentions ou des objectifs totalitaires, un gouvernement, un groupe extrémiste ou même une entreprise peut faire d’énormes dégâts.

Nous savons déjà que les systèmes d’IA sont largement utilisés pour surveiller et censurer le discours en ligne, en particulier dans des pays comme la Chine.

Dans quelle mesure ce phénomène pourrait-il se développer et s’étendre à des pays autrefois « libres » et quel en serait l’effet ?

La répression des discours haineux ou incitant à la violence semble être un avantage pour certains, alors que les inconvénients liés au fait qu’une machine décide qui peut s’exprimer ou non constituent un réel danger.

6) Comment choisir entre le jugement humain et les conclusions de l’IA dans les situations critiques ?

Parmi les intrigants dilemmes éthiques posés par l’intelligence artificielle, il y a ensuite la question de la prise de décision en général.

Que se passe-t-il dans une situation critique où l’IA doit prendre une décision telle qu’une intervention chirurgicale ?

Qu’en est-il de la décision de savoir qui doit rester sous assistance respiratoire ou être débranché lorsque l’électricité est coupée lors d’une catastrophe naturelle majeure et qu’il n’y a qu’un seul générateur pour permettre à une personne de rester branchée ?

Comment pouvons-nous décider de confier le jugement à l’IA ou de le laisser aux êtres humains faillibles ?

Existe-t-il des tâches humaines qui ne peuvent être remplacées ou presque tout, même les décisions éthiques, est-il en fin de compte réductible à une sorte d’algorithme?

Ces questions deviennent de plus en plus urgentes à mesure que le temps passe et que le pouvoir de l’IA s’accroît.

7) Que se passera-t-il dans un avenir où les humains fusionneront de plus en plus avec les systèmes d’IA et où le transhumanisme sera de plus en plus répandu ?

Enfin, en ce qui concerne les dilemmes éthiques intrigants posés par l’intelligence artificielle, il y a le transhumanisme.

L’idéologie consistant à fusionner l’homme et la machine et à « transcender » la nature humaine existe depuis plus d’un siècle et a même été examinée par des auteurs de science-fiction tels que HG Wells.

Les nombreux avantages de l’association de l’homme et de la machine tendent à être assez utopiques et n’abordent pas les nombreux inconvénients potentiels.

D’une part, qu’en est-il d’un scénario futur dans lequel une société d’apartheid serait créée entre les transhumains et les humains ?

Comme le notent MJ McNamee et SD Edwards dans leur article pour le Journal of Medical Ethics:

« L’une des conséquences possibles redoutées par certains commentateurs est que le transhumanisme conduise à l’existence de deux types d’êtres distincts, l’humain et le posthumain.

« L’humain peut être incapable de se reproduire avec le posthumain et sera considéré comme ayant un niveau moral bien inférieur.

Moi, robot ?

Il reste à voir quel sera le rôle de l’IA à l ‘avenir.

Ce qui est certain, c’est que les dilemmes éthiques et les questions morales soulevées par l’IA ne sont pas près de disparaître.

Les humains deviendront-ils transhumains ou resteront-ils des opérateurs de contrôle des systèmes d’IA au service de l’humanité ?

L’IA va-t-elle acquérir une forme de conscience et prendre le pouvoir ou restera-t-elle un outil utile à notre portée ?

Les questions restent sans réponse, mais ce qui est certain, c’est que nous vivons une époque passionnante.