Repos envisagé

D-Day + 1

Sur capacité de mentir sans raison, Graal de l'intelligence artificielle :

(à lire avec pour musique de fond Le Menuet antique de Ravel) [www.in-nocence.org]

Ce n'est encore qu'une imitation, peut-être un tout petit peu meilleure que d'autres... Il me semble que la trajectoire des copies et celle de la véritable reproduction du phénomène de l'intelligence sont parallèles et ne se rejoindront probablement pas : par réflexion véritable il faut entendre réflexivité, "retour sur soi" et émergence de ce que nous appelons une "subjectivité", qui apparaît intimement liée à la vie et son évolution, c'est-à-dire à cette unité fondamentale qu'est un organisme ayant une certaine perception de son intégrité qu'il s'agit de préserver dans un environnement hostile et constamment changeant : l'écart entre cette perception de "soi" et la représentation de l'extérieur crée censément un "espace intérieur", même rudimentaire, où s'opèreront les choix comportementaux les plus idoines à assurer la survie. À ce titre le cafard est déjà infiniment plus évolué et intelligent que la plus savante des stupides et psittaciques machines parfaitement pépères.
Mais qu'à cela ne tienne, Thomas, je suis certain que des chercheurs plus malins travaillent ardemment à la mise au point de dispositifs qui d'une façon ou d'une autre "tiendraient à leurs circuits" et seraient dotés de récepteurs offrant une image complexe d'un extérieur, dispositifs qu'ils éprouveront en permanence de façon à y faire naître les éléments noégènes essentiels à l'apparition d'une conscience effarée par la brutalité des choses : le pressentiment du danger et la peur.

Fausse alerte :

"Non, le test de Turing n'a pas été passé par Eugene Goostman"

[www.sciencesetavenir.fr]

Cela dit, tôt ou tard, ce test sera passé avec succès par une intelligence artificielle. N'en doutons pas.

J'en doute. Et c'est aussi cela qui me distingue du robot sans doute. Mon intelligence impure est capable de stratégies sans but, d'obscurités, de me porter à agir dans l'ignorance de mes fins exactes (sans la pleine connaissance de tous leurs paramètres) et sans l'assurance d'un aboutisssement --- ne serait-ce que par cela, je demeurerai, quoi qu'on fasse, face au robot, supérieurement intelligent.

La pleine réalisation du test de Turing serait d'être parvenu à faire qu'un robot décèle l'humanité de son interlocuteur, et non point seulement qu'un humain détecte un robot. La réciprocité de cognition et d'identification entre intelligence artificielle et intelligence humaine devrait être l'aune ultime d'une avancée décisive dans cette matière.

Une intuition : il n'est pas plus possible de mettre au point un robot capable de dérouler (et de générer) des programmes de menteries (comme l'enfant en tisse spontanément pour sa protection) qu'il n'est possible de prouver une négation ouverte ("je n'ai jamais tué"; "je n'ai jamais parcouru les ponts de Könisberg"; "je ne suis pas un salaud"; "je ne suis pas d'extrême-droite", etc.).

Si besoin est, il suffirait de se pencher sur le parcours professionnel et l'histoire de la réussite des "génies de l'informatique" depuis 1975 pour invalider l'avenir de l'intelligence artificielle dans la compétition où on veut la placer avec l'impure intelligence humaine : quand Steve Job et ses copains besognaient des cartes-mères dans le garage de leurs parents le tourne-vis dans une main le fer à souder dans l'autre, ils oeuvraient dans un totale inintelligence de leurs fins ! Si on leur avait demandé à quel fin ils s'occupaient ainsi, pour quel avenir radieux ils passaient leurs journées et leur jeunesse dans ce garage, ils auraient dû, ne serait-ce que pour se donner une contenance, mentir effrontément, s'inventer des motifs, se projeter absurdement dans un avenir de science fiction, rassurer leurs parents avec des arguments futiles et faux comme des gosses soupçonnés de fauter. Aucun d'eux ne savait, ne pouvait savoir ou concevoir que dans le monde interconnecté qui allait naître, le société qu'ils créeraient, Apple Computers, en serait un pilier, capitalisée à milliards.

Le robot intelligent qui eût été invité à évaluer leur entreprise en 1975, ses perspectives d'aboutir, de réussir, de les récompenser à la mesure de leurs efforts, les aurait sans doute classés comme imbéciles, leur attribuant une note de cinq sur vingt en factorisant et en pondérant, comme peut le faire un robot, de multiples paramètres tangibles et empiriques, cruellement réalistes, à commencer par :

. L'espérance de vie des intéressés (au regard de leur hygiène de vie);
. Les ressources et la capitalisation des marchés susceptibles d'investir dans leur entreprise future;
. Les moyens de lobbying de leur concurrent potentiel (IBM);
. La maigreur de leur réseau de relations dans l'industrie de l'informatique;
. Le maigre développement des applications et logiciels (tous protégés) susceptibles de s'arrimer à leur invention;

etc.

Le robot connaît les fins ultimes des programmes qu'il appréhende et il agit et "pense" en conséquence; la superiorité de l'intelligence impure est de ne point toujours les connaître.

Je crois que vous sous-estimez les progrès futurs de l'intelligence artificielle.

« Il est temps d’arrêter de réduire l’intelligence artificielle à la simple science fiction », commence ainsi le mathématicien britannique, expliquant ensuite que cette forme d’intelligence pourrait devenir un danger notable pour l’humanité. Les voitures électriques sans conducteurs, l’ordinateur qui a gagné l’émission Jeopardy, les assistants numériques personnels comme Siri, Google Now ou Cortana, ne seraient que les symptômes d’une « course à l’armement informatique alimentée par des investissements sans précédent [Google a racheté DeepMind en début d’année pour 400 millions de dollars] et en s’appuyant sur un fondement théorique de plus en plus mature. Ces réalisations seront probablement pâles par rapport à ce que les années à venir vont dévoiler », continue le professeur.

[www.linformaticien.com]

La réalisation d'une conscience artificielle est loin d'être une rêverie. Certains l'imaginent même concrètement. Je vous invite à jeter un oeil à ceci :

[www.editions-bayol.com] [Un cahier des charges fonctionnel pour une conscience artificielle]

Ou ceci :

[www.larecherche.fr]

Personnellement, je suis très inquiet.

Voici ce que Deep Mind (400 millions de dollars) peut faire du texte très simple ci-dessous au terme d'un enchaînement de deux traductions (espagnol puis anglais et contre-épreuve d'un retour au français) :

« Il est temps d’arrêter de réduire l’intelligence artificielle à la simple science fiction », commence ainsi le mathématicien britannique, expliquant ensuite que cette forme d’intelligence pourrait devenir un danger notable pour l’humanité. Les voitures électriques sans conducteurs, l’ordinateur qui a gagné l’émission Jeopardy, les assistants numériques personnels comme Siri, Google Now ou Cortana, ne seraient que les symptômes d’une « course à l’armement informatique alimentée par des investissements sans précédent [Google a racheté DeepMind en début d’année pour 400 millions de dollars] et en s’appuyant sur un fondement théorique de plus en plus mature. Ces réalisations seront probablement pâles par rapport à ce que les années à venir vont dévoiler », continue le professeur.



"Es hora de dejar de reducir la inteligencia artificial a la simple ciencia ficción", así comienza el matemático británico, a continuación, explicando que esta inteligencia podría convertirse en una seria amenaza para la humanidad. Los coches eléctricos sin conductor, el equipo que ganó Jeopardy, asistentes digitales personales como Siri, Google! O Cortana, son sólo los síntomas de una "carrera en el equipo de armamento impulsados ​​por las inversiones sin precedentes [Deepmind Google adquirió a principios de este año por $ 400 millones] y se basa en un fundamento teórico de cada vez más maduro. Estos logros probablemente palidecen en comparación con lo que será el futuro ", continúa el profesor.


"It's time to stop reducing the artificial intelligence to the simple science fiction," so begins the British mathematician, then explaining that this intelligence could become a serious threat to humanity. Electric cars without drivers, the computer that won Jeopardy, personal digital assistants like Siri, Google! Or Cortana are just symptoms of a "race equipment arms driven by unprecedented investments [Deepmind Google acquired earlier this year for $ 400 million] and is based on a more mature theoretical foundation ever . Such achievements probably pale in comparison to what will be the future, "continued the professor.

"Il est temps de cesser de réduire l'intelligence artificielle à la science-fiction simple," ainsi commence le mathématicien britannique, puis en expliquant que cette intelligence pourrait devenir une menace sérieuse pour l'humanité. Les voitures électriques sans chauffeur, l'ordinateur qui a remporté Jeopardy, assistants numériques personnels comme Siri, Google! Ou Cortana ne sont que les symptômes d'un "bras d'équipement de course par des investissements sans précédent [Deepmind Google a acquis plus tôt cette année 400 millions de dollars] et repose sur une base plus mature théorique jamais. Ces réalisations probablement rien en comparaison de ce que sera l'avenir », a poursuivi le professeur.


C'est clair non ? On a du souci à se faire, les humains, le jour où des "bras d'équipement de course par des investissements sans précédent repose sur une base plus mature théorique jamais" auront pris le pouvoir, ah pour sûr que oui !

Ne vous fiez pas à ce que Deep Mind est capable de faire aujourd'hui, demandez-vous plutôt ce que ses successeurs réaliseront dans un avenir très proche. D'ores et déjà une I.A. dirige un fonds de pension :

[www.humanite.fr]

Sans parler des robots-journalistes :

[www.analyse-sectorielle.fr]

Pas mal pour une machine.

Ah parlons-en des "fonds de pension" dirigés par l'I.A, laquelle est responsable des krach automatiques (ventes automatiques à l'approche de certains seuils de cours "intelligemment" calculés) et à répétion des robots paniqueurs. La "Baleine de Londres", aujourd'hui dans les prétoires, tradait pour des "fonds de pension" avec des programmes "intelligents", le saviez-vous ?

Message posté par erreur sur l'autre fil (celui sur le Bac 2014) :

En résumé :

1. Toutes les faillites financières, tous les krach boursiers de ces quinze dernières années (y compris le premier, celui des "technologiques" a Nasdaq en 2000 jusqu'à la crise des subprimes en 2008) ont vu l'implication lourde de l'intelligence artificielle qui s'est révélée responsable du désastre à des degrés divers (les instruments composés, dérivés et autres nés de la titrisation de la dette en 2008 devaient pour une part leur existence à l'IA)

2. Toutes les "success stories" de l'histoire de l'informatique moderne et de l'internet furent le fait de gens (Gates, Jobs, Tim Berners-Lee, etc.) qui n'avaient pas programmé leur réussite, lors même que ces gens étaient tous des programmeurs hors pairs.

Qu'est-ce qu'il vous faut d'autre pour preuve formelle au mieux de l'inutilité au pire de la nocence de l'IA, de ses vendeurs et de ses prosélytes ?

Autre message posté par erreur sur le fil "Hugo" (Bac de français 2014):

Les propagandistes de l'IA me rappellent ces gourous indiens se prétendant capables de lire dans votre esprit à livre ouvert, d'orienter votre avenir, etc. mais se révélant incapables de prévoir que leurs adeptes les plus précieux vont les quitter en les dénonçant à la police pour abus de faiblesse et actes pédophiles : tous les créateurs d'IA doivent leur réussite, toute relative, à la vieille méthode d'essais et erreur, et nullement à un programme composé par leur soin qui engendrerait, prédirait la réussite de leur cheval, l'IA, en le chevauchant.

A aucun moment de l'histoire l'IA n'a été l'outil d'un avènenement triomphal de l'IA, bien au contraire, et cela devrait suffire à en invalider toutes les ambitions. L'IA montre à l'envi son incapacité à s'auto-engendrer ou à engendrer son avènement, ce qui dénonce ses prétentions comme fallacieuses.

Les penseurs et créateurs de l'IA ne doivent leur célébrité qu'aux vieilles recettes de l'imaginaire failli, de la tromperie spectaculaire, toujours possible dans les champs aléatoires clos ou mis-clos (les jeux, les échecs), mais qui continuent de causer les pires faillites, les failles les plus béantes dans les systèmes aléatoires ouverts dont se compose l'existence humaine.

Ils vous "vendent" leur triste cochonnerie en s'appliquant astucieusement à vous faire oublier que la place qu'ils occupent dans la société et son spectacle ne doit rien à leur invention, un peu comme ces cadres de Google qui scolarisent leurs enfants en prenant grand soin de les placer dans des écoles où les maîtres excluent l'usage des appareils à écran, où ces enfants, futurs marchands d'IA, doivent, pour accéder aux enseignements et aux salles de classe, déposer au préalable tablettes et ordinateurs portables, et jusqu'à l'Iphone, dans des casiers à l'entrée, surveillés par un concierge, rébarbatif à l'ancienne.

Francis,

Votre système-expert est à revoir !

Dans quel sens, Jean-Marc ?

Je voulais dire que vous étiez victime de l'intelligence artificielle qui envoyait les messages sur les mauvais fils.

Une intelligence qui serait tout artificielle pose la question de son devenir et de son motif. Quelle intelligence humaine engendre l'intelligence artificielle (laquelle de toute façon ne sait pas s'auto-engendrer) et à quelle fin ? La réponse est évidente, sa commercialisation de masse. La commercialisation des outils IA est motivée, dans un système capitaliste pérenne, par des perspectives d'optimalisation économique, ce qui, en soi, pour toute marchandise, n'a rien de rédhibitoire mais qui peut singulièrement le devenir s'agissant d'un outil, l'IA, servant à l'élaboration de choix optimaux.

La commercialisation de masse de cet outil dévalorise l'intelligence de l'outil car il n'est d'intelligence que singulière, oeuvrant hors le contexte massique. Ma connaissance de certaine lois et des conditions qui permettent leur application, dès lors qu'elle est massivement partagée, ne vaut plus rien, s'autodétruit dans et par la masse : si je connais la loi, fruit de mon observation et de mes calculs intelligents, que la circulation automobile est plus fluide dans l'heure du déjeuner, mon choix de prendre la route à ce moment n'est intelligent que dans la mesure où il n'est pas partagé par six cent mille automobilistes qui feront le même choix que moi. Si mon intelligence ne se distingue pas, je périrai d'ennui et de chaleur les nerfs en boule dans l'embouteillage commun.

Ne riez pas : c'est exactement ce qui se passe sur les marchés financiers gérés par l'IA.

L'IA n'est un trésor que pour ses vendeurs, point pour ses utilisateurs; elle ne demeurera profitable qu'à la minorité qui s'en extrait et la surplombe et, le cas échéant, la commercialise.

Je me demande si j'aurais autant de plaisir à lire ces controverses quand je découvrirai qu'elles sont nées de machines plutôt qu'issues de mes èminents congénères.

Je me demande si Francis Marche n'est pas un avatar de Deep Mind, car je ne comprends rien à ce qu'il écrit. Les ingénieurs de Google ont encore des progrès à faire du côté de la syntaxe et de la clarté des raisonnements. Mais je suis résolument optimiste. Ils finiront bien par améliorer cette fichue machine.

Mettre en avant les bévues et les inepties de l'Intelligence artificielle pourrait confirmer qu'elle est sur la bonne voie, sachant que les hommes ont prouvé que la bêtise est bien plus active chez eux que l'intelligence...

D'autre part, il ne faudrait pas négliger que l'Intelligence artificielle n'est pas extérieure à l'intelligence "naturelle", j'entends par là que les deux intelligences s'influencent. Les traducteurs automatiques, par exemple, peuvent progresser grâce aux avancées de la recherche pure mais aussi grâce au locuteurs humains eux-mêmes qui se mettent à "parler" robot.

Je me demande si Francis Marche n'est pas un avatar de Deep Mind, car je ne comprends rien à ce qu'il écrit

C'est terrible. Je m'y attendais. Qu'est-ce que vous ne comprenez pas ?

Ne vous fatiguez pas. C'est votre style qui est rédhibitoire. Il est temps de passer à autre chose.

Dans ce cas dites que ce que j'écris ne vous intéresse pas au lieu de déclarer que vous n'y comprenez rien. C'est presque affaire d'honnêté intellectuelle et morale.

Si les admirateurs attentifs de l'intelligence artificielle se prennent à confondre "ne pas trouver intéressant" et "ne rien comprendre", les marchands de robots ont en effet un bel avenir devant eux.

Ne vous frappez pas M. Brémond, Francis Marche aime les envolées et on l'aime pour elles, même si elles ne sont pas toujours aussi convaincantes qu'enlevées.

Cher Francis, je trouve votre démonstration initiale assez peu probante. Le texte est traduit de façon compréhensible, avec seulement une inversion qui rend un peu difficile de saisir immédiatement qui a racheté quoi, et bien sûr cette absurdité dont vous vous gaussez. Mais les métaphores sont sans doute ce que la machine a le plus de mal à traduire et "course aux armements informatique" n'est pas la plus claire que l'on puisse trouver.

Le résultat ne me paraît donc pas si mauvais, sachant que l'aller et retour est l'exercice de traduction le plus périlleux qui soit. Il est en tout cas bien meilleur que ce qu'accomplissait la traduction automatique naguère. Cela ne permet évidemment pas de se passer d'un traducteur humain mais, pour celui-ci, cela paraît être un excellent outil de travail capable de confectionner en un clin d’œil un brouillon honorable en tant que brouillon.

La vraie question est évidemment celle-ci : arrivera-t-on un jour à se passer d'un traducteur-correcteur sans plus risquer de trouver des "bras d'équipement de course" ? Je n'en sais rien et c'est peut-être peu probable, mais on sait aussi que les traducteurs humains de base ne sont pas infaillibles (pour rester poli).

La traduction automatique, dont celle que propose Google et ses gros moyens, en effet, a accompli d'immenses progrès. Mais c'est un peu comme le saut à la perche (je tremble à la pensée que S. Brémond déjà, ne suive plus là) voyez-vous : les perchistes ces cinquante dernières années ont progressé de ... 20% ou plus dans les hauteurs de leurs sauts, cependant qu'il est inimaginable qu'à des barres de plus de 6 mètres comme elle sont aujourd'hui l'avenir de cette progression se maintienne à ce rythme là! Cette progression sera, et cela est sûr car la machine humaine a ses limites, de 2 à 5% sur un pas de temps équivalent, ou guère davantage.

Vous en conviendrez : si la machine humaine a ses limites, la machine de la machine humaine connaît des limitations plus sévères encore, en témoigne ce petit test de traduction supra. Le naufrage syntaxique n'est rien en lui-même, ce qui est criant : l'acceptation implicite par la machine du naufrage sémantique -- la machine ne sait pas qu'elle écrit des conneries. Elle ne distingue point le sens du non-sens. Il n'y a DONC PAS d'intelligence artificielle ou autre dans le produit fini. Il y a absence de reconnaissance du sens/non-sens. Ce qui est un désastre absolu qu'aucun serrage de boulon ne viendra JAMAIS corriger.

Pour le reste, je suis prêt à m'expliquer quand vous voulez, en vous promettant de contenir de mon mieux mes "envolées"

Oui, vous avez raison, la machine ne sait pas qu'elle écrit des conneries et c'est un point capital. Cependant, combien de journalistes, c'est-à-dire de professionnels de l'écriture, écrivent-ils, sans s'en rendre compte et de plus en plus souvent, des phrases incohérentes et absurdes, confondant par exemple le comparateur et le comparé ? Et pendant que l'homme, en tout cas chez nous, régresse, la machine progresse.

La considération du "retour sur soi" développée par Alain Eytan revient en force à ce stade de la discussion : une machine qui approcherait de l'intellection serait celle qui déclarerait, un peu comme le font certains robots dialoguant (au Japon) à qui l'on pose à brûle-pourpoint des questions saugrenues (p. ex. : "te reconnais-tu des tendances homosexuelles?") : je regrette, la réponse que je pourrais fournir à cette question ne présente pas d'intérêt dans cette conversation ou votre question est trop personnelle et je le juge inconvenante, en conséquence, je n'y répondrai pas. Certains robots japonais se permettent même de faire des mots d'esprits, de produire des réponses astucieuses (pré-programmées, bien sûr) dans ces moments.

Le retour sur soi, l'appréhension critique du sens (ou du non sens), même minime, devrait conduire notre Deep Mind (il y aurait tout un chapitre de roman à écrire sur ce nom, calqué sur la vision "champ aléatoire fini" du robot d'échecs Deep Blue, appliqué au champ ouvert de la cognition, mais passons) au moment de nous parler de ses "bras d'équipement de course", à une retenue critique, à un retour sémantique modeste et vergogneux pour nous annoncer à l'instar des robots dialoguant que "la phrase que je pourrais produire ici ne semble pas faire sens/ ne me paraît pas pertinente / me paraît erratique", etc. Or, non, Deep Mind a trop mal engagé la partie, il est dépourvu, de naissance, du fait d'une conception erratique, calquée sur celle des jeux à champs finis, de toute capacité de juger de la valeur de ses énoncés.

Il n'y a strictement aucune intelligence dans ces machines, seulement de la bêtise brute et grossière en quantité et en force formidables.

"Il n'y a strictement aucune intelligence dans ces machines, seulement de la bêtise brute et grossière en quantité et en force formidables."

C'est bien là le problème car, je me répète, cette "bêtise brute et grossière" est malheureusement un des moteurs les plus puissants de l'action humaine. La bêtise humaine qui serait à l'oeuvre dans le cas de l'Intelligence artificielle consisterait précisément de se mettre au niveau de la machine plutôt que de hisser celle-ci au niveau de l'homme. Devenir aussi bête que la machine afin de s'enorgueillir de l'avoir rendue aussi intelligente que nous : n'est-ce pas là un programme diablement humain ?

D'ores-et-déjà, ce ne sont pas les répondeurs "parlants" (et "écoutants") qui doivent s'adapter à nos voix, nos intonations, mais nous qui devons articuler les mots à leur convenance pour qu'ils nous conduisent jusqu'à l'interlocuteur humain sollicité. Il peut en aller de même avec l'Intelligence artificielle.

D'accord avec ça. Pour donner des ordres à des robots, en tout cas à ceux qui sont envisageables avec les connaissances actuelles, il faudra certainement employer un langage codé, compréhensible par eux. Cependant, ils pourront vite apprendre des codes, des manies langagières, spécifiques à l'interlocuteur habituel, de la même façon qu'il existe déjà une phase d'apprentissage programmée pour les appareils équipés de la reconnaissance vocale. Ils pourront aussi être facilement programmés pour demander confirmation d'un ordre peu clair pour eux (« voulez-vous dire XXX ? »).

Les machines à traduire apprennent d'ailleurs ainsi semble-t-il : Google demande toujours si l'on veut proposer une traduction meilleure : on imagine que leur machine se sert des réponses. Il serait intéressant de voir si la correction par quelqu'un du bras d'équipement de course éviterait la faute ou induirait une autre faute en cas d'emploi non métaphorique de l'expression "course aux armements". Il m'intéresserait de connaître les procédures de validation de ces corrections.

Quant à "la bêtise brute et grossière en quantité et en force formidables", j'emploierais quant à moi plutôt l'expression "savoir-faire mécanique en quantité et en force formidable" parce qu'il n'est pas forcément grossier et que l'accumulation peut déboucher sur des résultats qui n'ont rien de grossier comme de battre le champion du monde d'échecs. Le gros problème est évidemment l'intuition, mais l'intuition n'est qu'une des formes de l'intelligence et son absence peut, dans une certaine mesure, être compensée.

» Devenir aussi bête que la machine afin de s'enorgueillir de l'avoir rendue aussi intelligente que nous : n'est-ce pas là un programme diablement humain ?

Ah mais vous changez la donne : dans ce cas ce n'est pas l'"intelligence" artificielle que vous redoutez, mais bel et bien la bêtise humaine, qui aura trouvé là un nouveau et bel hochet pour se manifester avec éclat.

Albert Einstein: "I fear the day that technology will surpass our human interaction. The world will have a generation of IDIOTS

» Il y a absence de reconnaissance du sens/non-sens. Ce qui est un désastre absolu qu'aucun serrage de boulon ne viendra JAMAIS corriger.

Sur le parcours de la course à la meilleure imitation, sans doute pas, mais sur celui, parallèle comme dit plus haut, de la mise au point de systèmes probablement biocybernétiques capables d'évoluer dans un environnement et possiblement de faire émerger quelque comme des "représentations", "jamais" me semble trop catégorique... Contrairement à ce qui est dit ici, ce serait plutôt du génie humain, en réalité plus performant et ingénieux que jamais (dans les milieux de ces recherches de pointe tout du moins), qu'il faudrait se méfier...

Il serait intéressant de voir si la correction par quelqu'un du bras d'équipement de course éviterait la faute ou induirait une autre faute en cas d'emploi non métaphorique de l'expression "course aux armements". Il m'intéresserait de connaître les procédures de validation de ces corrections.

Le protocole d'affinage (un bien grand mot) du traducteur de Google consiste à constituer des montagnes de corpus (des millions de documents), en grande partie empruntés à ceux que l'on trouve dans les institutions internationales libres de droit; il n'y a donc pas lieu "d'écrire à M. Google" pour l'informer d'une traduction incorrecte. Le monstre est programmé pour, en effet, s'affiner tout seul au contact de l'état de l'art dans le domaine public et autorisé.

Or même dans cette procédure, parfaitement brute et grossière, oui, grossièrement quantitative et sans aucune "profondeur", justement, Google peine à apprendre : il y a bien cinq ans maintenant que, plusieurs fois par semaine, je trouve, dans ma pratique professionnelle, le terme français "sensibilisation" (au sens "de sensibiliser les acteurs locaux à la stratégie de tel ou tel projet de développement qui les concerne", "sensibiliser la paysannerie à des modes de cultures raisonnés, etc.") traduit en anglais par Google en "senzitisation", qui est une horreur, un terme médical employé par les allergologues, un contresens absurde. Il y a cinq ans au moins que je corrige, infatigable, ce "senzitisation" en "outreach", "awareness-raising" ou "education". Eh bien, c'est toujours "senzitisation" qui revient, au point que, et c'est là qu'il faut rejoindre Thomas, on trouve désormais ce terme erroné de "senzitisation" qui s'implante peu à peu dans les textes autorisés des institutions internationales en traduction anglaise du français ! Google a vaincu, la connerie artificielle obstinée, par sa masse, sa force, est parvenue DEJA à faire plier les hommes.

Autre exemple : "mobiliser", de "mobiliser des ressources suffisantes", "mobiliser l'attention", "mobiliser des informations" (ce dernier, en français international, est devenu courant) devient en anglais, chez Google, quoi qu'on fasse, "mobilization".

Or mobilisation/mobilization, en anglais tel qu'on l'utilise dans les îles britanniques, en Amérique du Nord, conserve toujours son vieux sens restreint de la "mobilisation générale d'août 14", soit le domaine militaire ou para-militaire strict et n'a point connu de dérivation métonymique.

Impossible de dresser Google à traduire "mobiliser des ressources" par "leveraging resources" ou voire "mustering resources" (lequel pourtant garderait un pied dans le voculaire militaire), ou de traduire "mobiliser la filière" par quelque chose comme "to raise the industry's interest", etc. Non, Google ne bronche pas, il est inébranlable, "mobiliser", c'est "to mobilize" et rien d'autre, c'est à la langue de Shakespeare de plier face à lui, et non le contraire. Et voilà les anglophones forcés de se mettre en bouche des "mobilizing resources", like it or not.

Ce qu'il convient de souligner : ces barbarismes Google commencent à apparaître naturellement sous la plume de rédacteurs anglais (ou français dans l'autre sens).

Aujourd'hui, sous la plume d'une traductrice, j'ai trouvé "proratiser" (pour calculer au pro rata, qui malgré les apparences ne désigne pas l'action opposée à la dératisation).

Le noeud du problème demeure celui-ci : pour ce que nous appelons "intelligence artificielle", l'écrit n'est habité d'aucun sens. Et ce problème, très fondamental demeure aussi inentamé en 2014 qu'il pourvait l'être en 1714, dans le siècle des automates, soit des illusionnistes. Les automates, qui fascinaient les philosophes (d'Alembert, La Mettrie, etc.) créaient l'illusion d'une cognition, d'une imitation cognitive, étaient des machines de foire et de distraction. Trois siècles plus tard, le robot-jouet à la japonaise, interactif, doit son succès à la même illusion.

Le problème est inentamé parce que s'il l'était un tant soit peu, l'irréfragrabilité de la conscience humaine le serait aussitôt, comme nous l'avons vu dans l'autre discussion s'agissant de la lecture, et cela se saurait : une effroyable révolution serait enclenchée dès lors que la fonction de lecture intelligente, celle qui, chez l'homme, pour être acquise ne se désapprend point, serait authentiquement prise en charge par une conscience robotique. Chez l'homme, c'est, dans la lecture, l'accès au sens et la vie de la conscience qui ne se désapprennent point. Le chemin du sens demeure l'apanage de la créature humaine, non-artificielle, culturelle, et sur ce sentier étroit la créature naturelle-culturelle qu'est l'homme ne rencontre pas son imitateur, sa marionnette, son robot.

Chez les êtres biologiques, la vie de la conscience (manifestée chez l'homme dans la lecture intelligente) ne se désapprend pas, tandis que chez les automates et les êtres robotiques, êtres artificiels qui ne présentent que des imitations de conscience, par conséquent et corollairement, c'est l'impérissabilité de la conscience qui ne s'acquiert point, et partant, ne se manifeste dans aucune lecture intelligente de l'écrit circulant dans la communication inter-humains. Privé d'expression, l'homme ayant appris à lire saura toujours lire, trouvera d'autres voies de manifestation du maintien de la fonction connaissante et de l'entretien de sa vie consciente qui remplaceront celles dont il a été privé, tandis que privé de ses fonctions qui font savoir aux humains (et éventuellement à ses frères robots) qu'il décode (déconne) encore, le robot "intelligent" est définitivement en état de mort cérébrale. Ce fossé, en 2014, demeure tout aussi infranchissable qu'en 1714 : le robot demeure encore dépourvu d'une âme muette qui saurait lire silencieusement, qui absorberait le sens sans agir et il ne continue de connaître que deux états : l'interagir ou la mort, soit la dépendance et l'assujettissement à ses maitres-concepteurs ou la mort, ce qui définit le statut de la marionnette, de l'automate.

Un mot sur l'IA et les jeux d'échecs : le champ aléatoire de ce jeu est fini. La combinatoire des coups y est, à tout moment de la partie, immense bien entendu, mais néanmoins strictement bornée. C'est qu'à vrai dire cette immensité, outre qu'elle est enclose, est trompeuse car à chaque mouvement de pièces c'est 99,9 % des coups possibles en aval du mouvement qui conduisent, à très court terme, à l'anéantissement du champ soit la fin de la partie, sa fin de vie; il faudrait, transposé au champ communicationnel ouvert que chaque mot, chaque phrase échangé engage l'existence même de l'échange à très court terme, et qu'elle l'engage absolument. Il est donc faux au sens plein du terme, il est inintelligent de vouloir appliquer aux champs aléatoires ouverts de la cognition et de l'interagir existentiel les modèles arrêtés et "mortels" de la conversation échiquiéenne, d'où le désastre des modèles "Deep Mind" dérivés des succès de l'IA dans le jeu d'échecs.

Le nœud du problème me semble être que l’émergence d'états mentaux subjectifs à partir d'éléments physiques et biologiques — éléments dont on peut donc rendre compte objectivement — demeure à ce jour un mystère, dont il n'existe aucune description, aucun modèle permettant de les expliquer, serait-ce partiellement ; et que la reproduction d'un phénomène qu'on ne connaît pas est en principe très problématique, voire impossible en réalité.

Ce qui fera toujours défaut à la pensée de la machine c'est la réflexivité, c'est-à-dire la capacité de la pensée à se prendre elle-même comme objet de pensée. Une pensée réflexive est continûment aspirée vers le haut par la conscience qu'elle a d'elle-même, dans une sorte de transcendement sans cesse repris. L'homme étant frappé du sceau de la finitude, lui et ses créatures ne pourront jamais être que sur deux plans ontologiques inconciliables.

La singularité technologique est fantasme démiurgique avant d'être objet d'inquiétude. Toute ces petites affaires sont aussi spectaculaires qu'insignifiantes sur le plan de la création d'une intelligence subjective. Si ces choses acquièrent à l'avenir un pouvoir croissant, ce dont je ne doute pas, ce sera par l'abrutissement des masses et la fascination exercée sur elles, et non grâce à une intelligence propre. La singularité qui nous attend serait alors inversée.

Je souscris pleinement aux conclusions d'Alain Eytan et de Sébastien Thomas ci-dessus.

Toutafé.

[video.lefigaro.fr]

Une ressemblance troublante. On se croirait dans un épisode de Real Humans.

De la Francine de Descartes à l'Aibo de Sony (http://en.wikipedia.org/wiki/AIBO) ou au Deep Mind de Google, toujours la même illusion, la même prestidigitation de marionnettiste, le même canard de Vaucanson :



Les premiers automates authentiques ne paraissent pas antérieurs au XVIIe siècle. Descartes en construisit un, auquel il donna la figure d'une jeune fille et qu'il appelait en plaisantant sa fille Francine. Dans un voyage sur mer, on eut la curiosité d'ouvrir la casse dans laquelle Francine était enfermée. Surpris par les mouvements de cette machine qui se remuait comme un être animé, le capitaine la jeta à la mer, craignant que ce fut quelque instrument de magie.
Le XVIIIe siècle est véritablement l'âge des automates. Dans les essais de sa jeunesse, l'illustre mécanicien Vaucanson enfanta de "sublimes jouets". Le joueur de flûte traversière, représentant un faune, sur le modèle de la belle statue de Coysevox, et qui exécutait douze airs différents en lançant dans la flûte un courant d'air réellement modifié par les mouvements de la langue, des lèvres et des doigts ; le joueur de tambourin ; une vielleuse existant encore à Paris, au Conservatoire des arts et métiers ; un Aspic, qui servit dans la représentation de la Cléopâtre de Marmontel ; enfin, un canard artificiel, qui battait des ailes, nageait, barbotait, avalait du grain, digérait et évacuait par les voies ordinaires. La vie apparente de ce canard était due à l'action de leviers et d'engrenages mus par un ressort. Le phénomène de la digestion demeura longtemps mystérieux. Robert Houdin, qui fut chargé, vers 1844, de réparer cet automate, raconte dans ses Confidences que l'eau et la graine aspirées tombaient dans une boite placée sous le canard ; quant au prétendu produit de la digestion, qu'on recevait soigneusement sur un plateau d'argent, c'était une bouillie de pain colorée, chassée en dehors par une pompe.






Parmi les autres automate célèbres, il faut citer :
- les têtes parlantes de l'abbé Mical,
- l'androïde écrivain que Frédéric de Knauss exposa à Vienne en 1760,
- les automates montrés en France et en Suisse en 1783 par les frères Droz, de la Chaux-de-Fonds,
- le Panharmonicon (instrument composé, destiné à imiter un certain nombre d'autres instruments, de façon à pouvoir tenir lieu d'un orchestre) construit en 1808 par Léonard de Maelzel, de Ratisbonne,
- les horloges de Lyon, de Cambrai, celle de Strasbourg, due à Schwilgué (1842),
- l'escamoteur, le danseur de corde, l'oiseau chantant, l'écrivain dessinateur, l'oranger mystérieux, le pâtissier, etc. de Robert Houdin.
Le joueur d'échecs, qui piqua si fort la curiosité de l'Europe, n'était qu'un pseudo-automate. Il fut imaginé, en 1778, par un baron hongrois, Wolfgang de Kempelen, pour faire sortir du territoire russe un proscrit polonais (Woronsky), très habile au jeu des échecs. L'automate joua avec succès contre l'impératrice Catherine II et, plus tard, contre Napoléon Ier, à Schoenbrunn (1809). C'était un androïde assis sur un siège faisant corps avec un coffre monté sur des roulettes. le bruit des rouages permettait au "vrai joueur" de se cacher à volonté dans l'androïde ou dans le meuble.
L'industrie des automates semble surtout restreinte de nos jours à la confection de jouets, de curiosités ou d'objets d'attraction ou de réclame : personnages riant, sifflant, dansant, oiseaux chanteurs et animés en cage ou sur perchoir ; tableaux, boites, sujets et meubles à musique fonctionnant après introduction de pièces de monnaie, etc. On construit cependant des chefs d'oeuvre automatiques pour des plus nobles destinations : la plupart des appareils télégraphiques, les chronomètres, etc., sont de merveilleux automates.

[diccan.com]

Et puis un jour Francine prépare vos repas et vos médicaments avant de vous lire un brin de Montaigne ou de Rabelais en prononciation reconstituée d'époque et vous commencez à vous attacher à elle, la question de son "intelligence" ou de sa "bêtise" ne se posant plus, gommée par la réalité de sa présence et des services qu'elle vous rend.

Oui. Et puis il est aussi possible, si la présence est ce qui importe dans cette affaire, de se commander une poupée gonflable sur internet afin de s'en amuser le soir après l'avoir renommée Francine à la réception en décidant, pour apaiser sa conscience, qu'elle est douée d'intelligence artificielle.

Si l'intelligence artificielle et le fétichisme ne font qu'un, alors oui, l'intelligence artificielle depuis le Canard de Vaucanson et les automates truqués de Houdini a accompli de notables progrès, c'est là un fait indéniable: le language et l'appellation-- intelligence artificielle, quel merveilleux artifice de language ! -- aidant en cela les menus progrès de la technique, l'entichement affectif pour la chose remuante et mécanique montre une progression qui ne saurait être ignorée.

Je crois que la robotique sexuelle a de beaux jours devant elle : il est d'ores et déjà théoriquement possible de créer des artefacts bioniques bien plus convaincants que les ridicules prototypes que l'on peut voir ici et là sur le marché. Avec les techniques de cultures cellulaires — fabriquer de belles et douces peaux et du poil soyeux à partir de cellules souches n'est plus un problème —, et de greffes des organes excréteurs et incréteurs idoines reliés à de beaux systèmes digestifs artificiels pour que l'illusion soit parfaite, ces créatures pourront offrir de multiples options : mamelles en chair vraie ou siliconée, verges en caoutchouc gonflable ou peau d'éléphant, regards de félin, d'oiseau de proie ou de chien battu, langues graduellement abrasives, térébrantes, culs sur mesure ! etc., le tout relié à des centres de coordination motrice équipés des derniers systèmes d'IA et dotés de récepteurs ultrasensibles, et l'on peut aisément imaginer que le résultat serait bluffant et les performances offertes à couper le souffle et susciter de véritables passions, je ne plaisante absolument pas.