ChatGPT nous rend humains

L’internet est inondé d’histoires de ChatGPT en ce moment. Il y a quelques jours, le député américain Jake Auchincloss a prononcé un discours créé par ChatGPT; le site de médias Buzzfeed a annoncé qu’il utiliserait ChatGPT pour créer du contenu; et à l’école de commerce de Wharton, ChatGPT ferait passer un examen. Les collèges et les universités, confrontés à une vague de plagiat par ChatGPT, ont été contraints de réagir en adoptant de nouvelles politiques et de nouveaux protocoles d’enseignement.

Il ne fait aucun doute que ChatGPT est impressionnant et qu’il est sans doute le chatbot le plus intelligent, parfois même le plus humoristique et le plus humain à ce jour. Et franchement, il était temps que l’IA connaisse son grand moment. AlphaGo, de Deep Mind, qui a battu le champion du monde humain du jeu de Go, Lee Sedol, en 2016, s’en est peut-être rapproché. Mais cela est resté une proposition abstraite, alors que ChatGPT, en tant qu’outil pratique, a recueilli un million d’utilisateurs en seulement cinq jours.

Certains comparent l’avènement de ChatGPT à l’impact de l’iPhone, mais cela ne lui rend pas justice. Le ChatGPT, et l’IA générative qui le suivra et le surpassera, est plus perturbateur.

Et pourtant, cela ne signifie pas nécessairement que l’apocalypse est à nos portes. Au contraire, je dirais que ChatGPT pourrait servir à nous rendre plus conscients de nos qualités humaines uniques et irremplaçables. Ce sont les limites mêmes de l’IA qui nous feront apprécier les nôtres.

« Le roi du pastiche » : pas de souffrance, pas de transcendance

Prenons l’exemple de l’acte créatif, et de l’écriture en particulier.

« Un écrivain est quelqu’un pour qui l’écriture est plus difficile que pour les autres », a fait remarquer un jour le romancier Thomas Mann. La recherche du mot juste, du ton correct ; le malaise qui se cache entre les lignes d’en savoir trop et d’en dire trop peu, et d’en dire trop et d’en savoir trop peu ; l’horror vacui de la page blanche, ou dans sa forme chronique, le syndrome de la page blanche – tout cela est étranger à ChatGPT.

Avec ChatGPT, ces difficultés appartiennent au passé. Si vous le souhaitez, le chatbot alimenté par l’IA produit toujours quelque chose, car il peut puiser dans l’ensemble des données en ligne, y compris dans les conversations qu’il vient d’avoir avec vous. Il est, comme le dit Gary Marcus, spécialiste de l’IA et auteur, « le roi du pastiche« . Comme nous, il dispose des données. Mais contrairement à nous, elle n’a pas la conscience de soi nécessaire pour se débattre avec ces données. Il a l’intelligence, mais pas la conscience. Il ne peut pas vraiment penser.

La réflexion est difficile, la pensée critique encore plus, et ChatGPT n’est bon ni pour l’une ni pour l’autre. Il ne fait que répéter ce qui a déjà été dit, il régurgite, c’est une grande machine à recycler. Et ChatGPT ne change rien à une vérité fondamentale qui sous-tend toute discussion sur l’IA et l’avenir du travail : les deux seules professions à l’abri des balles de l’avenir sont celles de philosophe et d’artiste. Tous deux ne peuvent pas se permettre d’automatiser leur travail, parce qu’il s’agit, par essence, d’une pensée contradictoire, d’une imagination contre-intuitive.

Nick Cave a répondu à un fan qui avait demandé à ChatGPT de créer des paroles de chansons dans le style inimitable de l’auteur-compositeur. Le verdict de Nick Cave ? « Cette chanson est nulle. Il a expliqué pourquoi :

« ChatGPT n’a pas d’être intérieur, il n’a été nulle part, il n’a rien enduré, il n’a pas eu l’audace d’aller au-delà de ses limites, et par conséquent il n’a pas la capacité de partager une expérience transcendante, puisqu’il n’a pas de limites à transcender ».

L’écriture, en tant qu’acte transcendant, restera intrinsèquement humaine. Bien sûr, on pourrait dire que nous, les humains, sommes aussi de vastes paysages de données et que notre écriture est un pastiche, un remix de ce qui a déjà été écrit. La différence, cependant, réside dans le processus : Le ChatGPT est de l’algèbre ; l’écriture humaine, à son meilleur, est de l’alchimie. Elle ajoute une couche plutôt que de simplement additionner les entrées. Elle a une âme et, de ce fait, peut toucher d’autres âmes. ChatGPT peut servir de compagnon d’écriture, mais il n’écrira jamais comme un humain.

« Un auteur sans éthique » : ce n’est pas un mensonge, c’est une connerie

L’autre limite évidente de ChatGPT est l’éthique. Il n’a aucun sens du bien ou du mal, aucune conscience éthique ou boussole morale. Il ne prend pas position lorsqu’il est invité à le faire. En soi, cela pose des problèmes éthiques. Jessica Apotheker, associée, directrice générale et CMO mondiale du Boston Consulting Group, m’a dit que « si vous demandez à ChatGPT « quelle est la forme idéale du corps d’une femme », il vous répondra par un avertissement neutre – clairement une réécriture, et non ce que l’algorithme aurait donné ». Elle insiste sur le fait que nous devons savoir quand il y a écrasement et s’attend à ce que l’IA vérifiant l’exactitude de l’IA devienne un domaine en plein essor (GPTZero, conçu pour détecter les textes écrits par l’IA, en est un des premiers exemples).

En outre, il y a la question de la vérité. Le philosophe de la morale Harry Frankfurt, dans son livre fondamental  » On Bullshit », affirme que « l’essence de la connerie n’est pas qu’elle soit fausse, mais qu’elle soit bidon » : « L’essence de la connerie n’est pas qu’elle soit fausse, mais qu’elle soit bidon. En d’autres termes, la différence entre un baratineur et un menteur est que le menteur connaît la vérité mais décide de prendre la direction opposée ; le baratineur, quant à lui, ne se soucie pas du tout de la vérité.

Gary Marcus, dans un entretien podcast avec le chroniqueur du New York Times Ezra Klein, applique cette distinction à ChatGPT et à d’autres IA génératives qui, selon lui, n’ont aucune « conception de la vérité ». Gary Marcus estime que nous avons atteint un point critique lorsque « le prix de la connerie atteint zéro et que les personnes qui veulent diffuser des informations erronées, que ce soit pour des raisons politiques ou simplement pour gagner de l’argent, commencent à le faire de manière si prolifique que nous ne pouvons plus faire la différence entre la vérité et la connerie ».

Non seulement ChatGPT « raconte des conneries », mais il n’est pas non plus responsable. « Si vous êtes offensé par un contenu généré par l’IA, qui devez-vous blâmer ? », s’interroge le journaliste technologique John Edwards, qui conclut que ChatGPT est « un auteur sans éthique ».

Maîtres des relations

C’est pourquoi la maîtrise de l’IA est essentielle. Ce que l’on appelle le QAI est une extension de notre QI humain, une mesure de notre intelligence humaine en rapport avec l’IA : notre connaissance globale des outils et des pratiques de l’IA, notre maîtrise des messages-guides et notre conscience éthique.

ChatGPT va tout changer et rien changer. Les humains resteront dans le coup. L’ingéniosité, l’imagination, l’éthique, la souffrance, la transgression, la recherche de la transcendance et la capacité à mentir (et pas seulement à raconter des conneries) resteront des domaines exclusivement humains.

ChatGPT ne peut voir le monde que tel qu’il se présente à travers les données, mais il ne voit pas le monde tel qu’il pourrait être. Il est incapable d’établir des relations : avec lui-même, avec les autres, avec la vérité, avec l’avenir. Nous, les humains, nous définissons par des relations. Même si elles sont vouées à l’échec, nous ne pouvons nous empêcher de les nouer, car elles nous donnent l’illusion, la beauté et la terreur d’une page blanche.

Façonner et cultiver notre relation à l’IA sera (devra être) notre chef-d’œuvre.