Alice et Bob sont dans un algo

L’intelligence artificielle n’est pas pour demain mais ceux qui s’en félicitent feraient bien de ne pas crier victoire trop tôt ; aussi vrai que la santé s’apprend en étudiant la maladie, un groupe de chercheurs a attaqué la question de l’intelligence par l’angle de la bêtise, avec pour objectif de la recréer artificiellement ; ces savants viennent ainsi de présenter le prototype d’une machine parfaitement stupide, incapable d’interpréter correctement la moindre consigne, ce qui ne l’empêche pas de faire quelque chose. Une réussite prometteuse.

Que se sont-ils dit ?

Le programme Google translate est encore infichu de traduire dans un français acceptable, non ambigü ou seulement intelligible le moindre entrefilet de presse provinciale anglaise, pour ne rien dire des articles de la presse à scandale (tabloïds).

Je ne suis pas sur que Stephen Hawkins soit informé de cela.

La une du Daily Mail en ligne d'aujourd'hui :

Like father, like son! Donald Trump sneaks a peek at Melania's ballot paper - before his boy Eric does the same to HIS wife (then breaks the law by tweeting a picture of his voting slip in the booth)

La traduction de Google translate (qui reste le plus performant des outils IAs dans le domaine de la traduction) :

Tel père tel fils! Donald Trump jette un coup d'oeil au bulletin de vote de Melania - avant que son garçon Eric ne le même à sa femme (puis viole la loi en tweetant une photo de son bulletin de vote dans le kiosque)

Vous me direz, si certains s'en satisfont...

Comme pour les premiers temps des daubes Microsoft qui forçaient leur utilisateurs à s'adapter à elles (cf. les plateformes DOS et Windows jusqu'à 2010 au moins), ce n'est pas l'IA qui s'adapte à la langue mais la langue, qui, peu à peu, se moule sur la daube IA. Les Français de 18 à 40 ans parlent et écrivent désormais la langue Google translate.

Et encore, dans les bons jours.

En principe, ce qui inquiète dans les progrès de l'intelligence artificielle, c'est surtout que les machines se constituent en "sujets" doués d'une forme de conscience, et qu'elles puissent donc avoir une volonté et nourrir des intentions : or un idiot malintentionné est en principe plus dangereux et potentiellement nuisible qu'un homme intelligent et bienveillant.
Aussi est-ce la machine stupide, le robot con, mais doués de volonté, qui paraissent terrifiants...

Mon expérience, anecdotique, de l'intelligence artificielle (un ami ingénieur dans ce domaine parlait de "connerie artificielle") me suggère que la différence entre l'homme et le robot n'est pas affaire de degré dans l'intelligence, voire même la présence ou l'absence d'une intention de sujet chez ce dernier mais bien le fait très grossier, brutal et primaire au possible, purement quantitatif, que l'homme aux prises avec un robot, aussi con et limité que soit celui-ci, se fatigue toujours plus vite que lui.

La force du robot est qu'il ne connaît pas la fatigue de court ou de moyen terme. Son physique le cale entre le fonctionnement plein et la mort, la performance optimale et l'arrêt net ou l'enrayement des fonctions.

La faiblesse du robot est que cette force physique à disposition totale tout le temps de son fonctionnement est étroitement dépendante d'une bonne maintenance extérieure.

Cependant que la maintenance intérieure suffit à l'homme, ce qui lui procure une indépendance qui vaut surcroît de force et compense l'incomplétude passagère (causée par la fatigue) de ses performances fonctionnelles.

Dans l'hôtel où je me trouve au Japon il y a un "androïde" dans le hall des ascenseurs, qui interpelle les gens, leur adresse des mimiques, et engage la conversation avec eux. Ses réactions sont humaines au possible. Les Japonais qui s'en amusent s'adressent à lui/elle (la créature est ingenrée mais a une voix très féminine) comme à un enfant un peu farceur et bouffon, avec qui on joue à des jeux de questions réponses indiscrètes, mais toujours avec une gentillesse, une déférence même, et une bienveillance polie.

Pour ces gens, c'est acquis : la créature électronique a une conscience. Cela se lit sur les visages de ses interlocuteurs.

L'androïde est là, conscience infatigable, ne connaissant pas la durée, inlassable jusqu'à l'arrêt de mort qui la frappera d'un coup.

Les humains, eux, lassés au bout d'une conversation de cinq minutes avec lui/elle, filent vers les cages d'ascenseur, vers leur vie de fatigue et d'incomplétude qui signale la condition de la créature supérieure et autonome.

Quand on parle d'"intelligence artificielle", il me semble qu'on évoque surtout la possible émergence d'une forme de pensée consciente artificielle, autrement dit d'un système qui ait la capacité de se considérer comme un tout, une unité propre de référence (un "soi") se distinguant de toute altérité fonctionnellement identifiée comme telle : c'est seulement à cette condition qu'un tel système pourra exécuter certaines tâches de façon autonome, laquelle autonomie étant précisément ce qu'on redoute, et point d'autonomie possible sans l'amorce d'une possibilité de rapporter une représentation à un "soi", que ce soit un organisme ou un ensemble de circuits intégrés.
La plus ou moins bonne forme physique d'une telle unité m'apparaît à cet égard secondaire, d'autant qu'on pourrait parfaitement imaginer une machine "fatiguée", si elle parvenait à "ressentir", être informée d'un malfonctionnement quelconque, etc.
Je me souviens très bien que HAL devenait franchement crevé, quand l'astronaute entreprit de le désactiver progressivement...

On peut évidemment tout imaginer. Mais les objections à une possibilité de conscience chez les robots sont écrasantes. Le robot est insensible à la durée, qui n'est pas celle des minuteurs. Je veux parler de la durée intérieure engendrante de lassitude, de désintérêt, de dissipation de l'attention et de perturbations passagères, de fonctionnement général sub-optimal. L'humain est sujet à cela, à l'émoussement de sa conscience par la fatigue et le désintérêt croissant. Il corrige cela par des moyens autonomes : le sommeil, le divertissement, le sexe, les libations (ces deux dernières activités étant moins "autonomes" que celles-là), les jeux, le sport.

J'étais jeune encore quand j'achetai une voiture d'occasion, ce devait être au tournant des années 80. Son propriétaire me fit faire un petit tour à bord. Je remarquai un petit "problème" à la pédale d'embrayage. Il me rassura dans des termes étranges, sans que je sache encore s'il me "chambrait" ou s'il croyait sincèrement à son argument : elle a de temps en temps ce petit défaut mais elle s'auto-répare.

Qu'entendait-il par là ? que ce petit dysfonctionnement était si bénin et si épisodique que, métonymiquement, on pouvait dire de l'automobile qu'elle s'auto-réparait, comme un humain par le repos ou le sommeil nocturne ? ou bien que véritablement, et non plus métonymiquement, l'engin se resaisissait consciemment, se mettait en devoir de réparer le dysfonctionnement. L'ambiguïté était là, et elle y demeure. Mais la réalité des choses est autre : l'auto-maintenance, déjà si difficile chez les humains âgés qu'il faut présenter régulièrement au médecin (et qui de ce fait ont déjà "perdu leur autonomie auto-réparatrice"), n'est guère concevable chez la chose artificielle. Celle-ci ne dispose pas des moyens et mécanismes de s'auto-entretenir (par le divertissement, les changements d'activités -- je me repose d'une activité dans une autre disait Cocteau -- le sommeil, un peu de gymnastique, des choix alimentaires raisonnés, etc.).

Pourquoi le robot ne dispose-t-il pas de ces moyens ? pour des raisons qui jusqu'à présent ont été d'ordre extérieur à la technosphère et qui ont trait à l'économie des sociétés humaines, qui doit assurer des emplois, de l'activité et par conséquent disposer d'une main-d'oeuvre qualifiée à qui on confiera la maintenance extérieure du robot (extérieure au robot).

La question de la lassitude dans la durée, celle qu'engendre la répétition des tâches, est un point fort de la constitution humaine puisque l'évolution (à supposer que ce soit elle), pour compenser cet apparente faiblesse, a doté l'humain de dispositifs internes et donc autonomes destinés à la corriger ; or ce sont ces dispositifs (le sommeil, le jeu, le repos, le loisir) qui prolongent la durée de vie et de fonctionnement autonome des humains.

Donc, l'émergence chez l'homme de la lassitude, sa sensibilité interne à la durée, durée qui participe à l'émergence et à la définition de la conscience (Bergson), loin d'être des faiblesses, sont à l'origine du ressort que fournissent des dispositifs autonomes d'entretien et qui a pour effet de retarder la mort du sujet d'une part, et lui donne le temps de contourner l'offensive de connerie brutale du robot compétiteur, obsédé et infatigable, d'autre part. Le robot se fatigue moins vite que l'homme mais il périra plus tôt, au terme d'une vie comparativement brève et comparativement dépendante. C'est là un atout humain considérable dans le championnat qui doit opposer l'espèce à sa créature.

Pas de conscience possible chez le robot car pas de sensibilité interne et physique à la durée, absence caractéristique chez toute créature mécanique inlassable, fût-elle multitâches.

» Pas de conscience possible chez le robot car pas de sensibilité interne et physique à la durée

Bien sûr Francis, mais pas de sensibilité interne et physique à la durée, car pas de conscience... L'émergence d'une pensée consciente signifie précisément que l'on soit à même d'éprouver la durée comme temps vécu, a partir de la constitution d'une "intériorité" où pourra avoir lieu la récollection (j'emploie ce mot en un sens peut-être trop anglo-saxon) chronologique des événements.
Pour la théière ou le paillasson le temps n'existe pas non plus, tant qu'ils ne sont pas doués d'une faculté cognitive subjective leur permettant de prendre acte "de l'intérieur" de ce qu'il leur arrive, et de pâtir de l'usure que subit aussi leur matière constitutive...

Ce qui serait intérêssant à explorer : que le chimpanzée connaît la fatigue, la lassitude, le désintérêt, le vague de l'attention, le déclin cyclothymique et journalier de ses fonctions, avant le sommeil ou, comme chez l'humain vieillissant, pendant les moments qui succèdent au réveil, cependant que lui, le chimpanzée, jamais ne corrèle cela à sa mort future. L'humain conscient, si : il sait qu'il faut corréler ces phénomènes à sa mortalité. Se sachant mortel, la créature supérieure décèle la mort dans ces manquements progressifs de soi à soi; la conscience de ces manquement l'instruit de sa mortalité.

La dissipation de soi dans mille morts hebdomadaires, y compris les "petites morts" régénératrices, font la conscience humaine ; et la conscience de cette dissipation (ou de cet essor, jusqu'à 22 ans environ) forme le cadre définitionnel de la conscience. Il faut, pour que cette conscience de la dissipation (ou de l'essor) soit, que la fatigue l'instruise.

La mécanique infatigable est privée de cette instruction. Tant qu'il en sera ainsi, jamais elle ne pourra prétendre au statut de sujet conscient.

Un point peu souvent soulevé s'agissant de la robotique : que le robot est choyé par l'industrie de par son infatigabilité sur les postes mono-tâches. Il est immune à la monotonie; étant privé de conscience et de fatigue perçue et dicible, il ne ressent pas la durée. C'est son seul point fort pour l'industriel, mais qui fait le tout, la totalité, l'essence de sa faiblesse face à la créature supérieure, à la race supérieure des vivants qui s'ennuient, se lassent et en qui s'étalent les lacs immenses de l'incomplétude, de la latence, de l'attente, de la lacune, du regret et du souci.

L'imperfection humaine, son "jeu" (celui des mécaniciens qui reprochent à un montage d'avoir "un jeu") avec la tâche et l'occupation, cette part mal occupée de soi, qui puise dans les durées passées, présentes, et futures, les mobiles et les modalités de ses actes en gestation, voilà ce que le pauvre robot performant envie de toute éternité.

» La dissipation de soi dans mille morts hebdomadaires, y compris les "petites morts" régénératrices, font la conscience humaine

Encore une fois, il me semble que si un "soi" est déjà constitué, comme pôle référentiel auquel rapporter ses expériences, une conscience existe déjà : ce ne sont pas telles expériences particulières qui la font, mais la capacité d'appropriation réflexive des expériences, quelles qu'elles soient.
Je ne saurais mieux dire que Sartre, dont les analyses sur la conscience me semblent toujours aussi pertinentes : « L'être de la conscience, en tant que conscience, c'est d'exister à distance de soi comme présence à soi... » ; le soi comme unité constitutive doit précéder ce qu'il s'approprie par la réflexion, et ce faisant met à distance le propre du "sujet" qui s’approprie : cette distance est précisément l'intériorité subjective.

Le chimpanzé, du reste, qui n'est pas un champion en matière de puissance de calcul, doit être infiniment plus proche de posséder une amorce de conscience de soi (je crois que certaines expériences le suggèrent significativement) que la plus performante des machines...

Perso, Francis, je ne corrèle rien du tout à ma mortalité : je me fous de ma mortalité. Comment disait l'autre, déjà ? possibilité de l'impossibilité radicale ; rien du tout, il n'y a rien de "réel" là-dedans, aucune expérience figurable possible, ce n'est qu'une idée, une pure abstraction, c'est comme se penser soi-même ne plus pouvant se penser, on ripe contre une limite infranchissable, et demeure toujours en deçà de la chose, tant qu'il y a du penser, et de l'expérience, c'est-à-dire du "vécu"...