Louis de DIESBACH
Éthicien de la technique et consultant au BCG. Il est l’auteur de « Liker sa servitude » (FYP, 2023) et de « Bonjour ChatGPT » (Mardaga, 2024) et de nombreuses chroniques pour L’Écho, La Libre Belgique ou encore le podcast Trench Tech. Ses travaux se trouvent à l’intersection de l’éthique, de la philosophie politique et de la technologie.
Évaluer la machine
Quand l’être humain a commencé à créer des machines, il a donc naturellement cherché à poursuivre son élan calculatoire : la machine était-elle performante ? Rapide ? Puissante ? Et puis, tout aussi naturellement, il a voulu comparer : était-elle plus performante que celle du voisin ? Plus rapide ? Plus puissante ? Au fur et à mesure que les machines se complexifiaient, leur évaluation devenait plus ardue, ou se devait d’être plus ingénieuse. Mais au milieu du siècle dernier, la volonté toujours plus humaine de calculer se heurta à une nouvelle difficulté, car la technologie se rapprochait toujours davantage des capacités humaines de réflexion : que faire pour mesurer cela ?
En 1950, dans un article devenu célèbre, mais étrangement pas pour son contenu, Alan Turing évacuait d’entrée de jeu l’intérêt de la question « les machines peuvent-elles penser ? »[1] Il explique dès les premières phrases que cette interrogation est déjà insolvable, car elle nécessite la définition des termes « machines » et « penser ». Il propose alors une variante à la question : « les machines peuvent-elles nous tromper dans un jeu d’imitation ? »
Ce jeu, cette imitation game, proposé par Turing, est assez simple : imaginons deux individus, A et B, un homme et une femme, qui ne peuvent que communiquer par écrit avec un troisième individu, C, l’interrogateur. Par leurs échanges, est-ce que A (l’homme) pourrait convaincre C qu’il est en réalité une femme et que c’est B qui est en réalité un homme (alors que B devrait convaincre C qu’elle est bien une femme et que A ment) ?
Dans ce « jeu d’imitation », chacun tâcherait de se faire passer pour une femme : À en imitant les traits de caractères et réponses féminines, B en étant simplement elle-même. Le jeu est assez simple, mais Turing apporte ce grain de sel très intéressant : que se passerait-il si, en réalité, A était un ordinateur et que B était un humain ? Le jeu ne consisterait pas à se faire passer pour une femme (B), mais bien pour un humain (B aussi !) — par ce glissement, Turing veut montrer le peu d’intérêt qu’il porte à la question « les machines peuvent-elles penser ? » et, au contraire, nous rappeler que, d’un point de vue scientifique, l’intérêt est ailleurs : les machines pourraient-elles nous tromper ?
[1] Turing, A. (1950) « Computing Machinery and Intelligence », Mind 49 : 433-460
Test de Turing & Consorts
Ce jeu sera repris plus tard et on lui donnera une nouvelle saveur en le nommant « test de Turing » (ce dont Alan Turing n’avait absolument pas la prétention !) — ce faisant, on ouvrira la porte à de très (trop) nombreux tests ayant pour but d’évaluer toujours mieux les capacités machiniques.
On connaît la réponse que Searle proposera à Turing dans son expérience de pensée dite de la « chambre chinoise », ainsi que la popularité du test après les premiers échanges avec le chatbot ELIZA, dans le milieu des années soixante. Toujours demeurait cette nécessité : mesurer, évaluer, comparer l’intelligence humaine à celle toujours grandissante de la machine.
Le XXIe siècle vit naître de très (trop) nombreux tests également : il semblerait que chaque penseur de la technologie, chaque entrepreneur de la Silicon Valley, chaque investisseur technophile devait proposer à présent un « nouveau test de Turing ». Steve Wozniak, le co-fondateur d’Apple, proposait le « test du café » (une machine peut être l’équivalente de l’humain si elle est capable de faire un café), tandis que Mustapha Suleyman voulait proposer un « nouveau test de Turing » en défiant une IA de créer une start-up générant un million de dollars de revenus[1], rappelant subtilement qu’à l’ère des VC et autres Séries A, le dollar reste l’indicateur permettant au mieux de comparer les performances.
On peut se demander quelle est la véritable nature, le véritable intérêt de ces tests. Mais comme le rappelle notamment le philosophe italien Luciano Floridi, une réussite du test ne nous dit rien sur la nature et les qualités de la machine, ce n’est que l’échec qui indique simplement au chercheur que son programme nécessite davantage d’ajustements et de travail[2] — car depuis 1950, les deux questions posées par Turing demeurent : que signifie « penser » ? Que signifie « machine » ?
Il me semble que, dans cette nécessité qu’a l’humain de toujours évaluer la machine, il y a toujours une insécurité face à la machine qui demeure : nous devons nous rassurer sur nos capacités, et nous rassurer sur le fait que la machine restera inférieure à nous ! L’hégémonie humaine ne doit pas être mise en danger, alors on invente toutes sortes de tests pour se convaincre que, même si la machine excelle, elle ne reste que la machine et que les qualités humaines dominent toujours.
[1] Suleyman, M. (2023) “Mustafa Suleyman: My new Turing test would see if AI can make $1 million”, MIT Technology Review,
[2] Floridi, L. et Chiriatti, M. (2020) “GPT-3 : Its Nature, Scope, Limits, and Consequences”, Minds and Machines, n° 30, p. 681-694
Qu’est ce que l’Humanité ?
Reste alors, comme toujours, à définir l’humanité. Le lecteur qui nous aura suivis jusqu’ici espérera sans doute une réponse — il devra malheureusement déchanter, nous n’avons pas la prétention d’apporter en quelques pages une réponse à plus de 2000 années de métaphysique. Cependant, deux pistes de réflexion nous permettent de repenser le lien à ce qui nous définit ontologiquement, et ce qui, peut-être, nous différenciera toujours de la machine.
Dans un TED Talk qu’il donne en 2014, l’humoriste américain Ze Frank inverse les rôles et propose à l’audience un test, l’« human test »[1], qui doit déterminer s’ils sont, ou non, humains : il enchaîne alors avec différentes questions qui nous sont évidemment familières : « Avez-vous déjà émis un petit bruit bizarre quand vous vous souveniez d’une chose embarrassante ? » ou bien « Avez-vous déjà volontairement tapé en minuscule la première lettre d’un SMS pour sembler triste ou déçu ? » S’en suivent des questions plus touchantes telles que « Vous êtes-vous déjà réveillé béat de bonheur avant d’être submergé par l’affreux souvenir que quelqu’un vous a quitté ? » ou encore « Vous êtes-vous déjà souvenu de ce moment avec un sourire triste d’automne en prenant conscience que l’avenir se produira quoi qu’il en soit ? » — l’« human test » voit très juste et fait mouche : nous sommes humains.
Cette vulnérabilité, cette faille toujours présente, voilà, peut-être, ce qui définit notre humanité. Une autre piste de réflexion, peut-être plus difficile, se trouve dans la philosophie d’Emmanuel Levinas qui voyait non pas la domination, mais la relation, l’éthique, comme centre de notre métaphysique.
S’éloignant des points de vue hobbesien ou spinoziste d’une ontologie de l’affirmation, Levinas s’étonnait que « des penseurs aient pu imaginer que l’étonnement devant le fait que quelque chose est plutôt que rien était le point de départ radical de la métaphysique. Puis il ajoutait qu’à ses yeux le fait que sur une terre aussi cruelle que la nôtre, quelque chose comme le miracle de la bonté ait pu apparaître était infiniment plus digne d’étonnement »[2].
Cette entrée en relation, cet « après vous », peut être la base de notre étonnement philosophique. Ce faisant, nul besoin de test ou d’évaluation, que faire des mesures ou des classements, seul comptent l’altérité et notre rapport à celle-ci.
Alors que tant de penseurs et de technophiles aveuglés courent après la « singularité » — ce moment où l’intelligence machinique dépasserait pour toujours les capacités humaines — il semble opportun de rappeler les mots, d’une grande justesse, d’Oren Etzioni, l’ancien CEO du Allen Institute for Artificial Intelligence : « je n’aime pas les discussions autour de la singularité, car elles sont une distraction des vrais défis »[3].
En 2024, les défis sont par ailleurs nombreux : impacts écologiques, économiques et sociétaux, en passant par les questions politiques et idéologiques, la technologie n’a jamais été autant au centre des questionnements de notre siècle. Voilà les vrais enjeux.
[1] Frank, Z. (2014) « Are You Human ? », TED
[2] Greisch, J., cité in Malka, S. (2005) Levinas. « La vie et la trace », Paris, Albin Michel, p. 179
[3] Etzioni, O., cité in Koenig, G. (2019) “La fin de l’individu. Voyage d’un philosophe au pays de l’intelligence artificielle », Paris, L’Observatoire
