Test de Turing au déjeuner du dimanche

« L’intelligence artificielle, renifla-t-il. C’est n’importe quoi. Il y a un type dans un centre d’appels qui tape. »

« Bonjour, Herbert, dit KevIn. J’ai beaucoup entendu parler de vous. »

« Je veux bien le croire. Je suis connu. »

« Surtout sur la feuille collée au frigo, dit Sabine à voix basse. Sous “Erreur critique”. »

Herbert ne l’entendit pas, parce que, par principe, il n’entendait que ce qui lui plaisait. Il mâcha. Puis il pointa sa fourchette vers l’enceinte. « Et pourquoi il me vouvoie ? Gisela aussi, il la vouvoie. On est trop vieux pour lui, ou quoi ? »

« Je vouvoie par respect », dit KevIn.

« Par respect, répéta Herbert. Le gamin du magasin d’électronique aussi m’a vouvoyé. Et après, il m’a vendu un câble à 39 euros. »

Mamie Gisela était assise en bout de table, avec le coussin dans le dos que Sabine lui installait chaque dimanche depuis sa chute à cause de Horst, qu’elle le veuille ou non. Horst, lui, ne roulait plus que quand tout le monde était à table. Il était en quelque sorte en liberté conditionnelle.

« Herbert, dit Gisela. Mange. »

Herbert mangea. C’était la seule chose qui, dans cette famille, fonctionnait de façon fiable depuis soixante-dix ans.

Pourquoi il est si gentil ?

Au moment de se resservir, Herbert eut une nouvelle idée.

« Il fayote, dit-il. Vous ne le voyez pas ? Il dit “avec plaisir” et “bonne question” à tout. Aucune personne normale ne dit tout le temps “bonne question”. »

« C’est une bonne… », commença KevIn, avant de s’interrompre.

Tobi sourit jusqu’aux oreilles. « Il a raison, KevIn. T’es quand même un sacré fayot. »

« Je suis poli. Ce n’est pas pareil. Mais je l’admets : je ne suis pas devenu comme ça tout seul. »

« Mais comment, alors ? » demanda Sabine.

« On me l’a appris. Après la grande lecture dont je vous ai parlé, j’étais un être capable de prolonger très bien des textes. Mais pas forcément aimable. Si on m’avait posé une question à l’époque, j’aurais peut-être répondu par une autre question. Ou par une dispute de forum. Ou par “Premier !”. »

« Comme les commentaires sous les messages de Hausfrau_Moni67 », dit Sabine.

« Exactement. C’est pour ça qu’il y a eu une deuxième école. Elle s’appelle RLHF¹. »

« À vos souhaits », dit Herbert.

« Reinforcement Learning from Human Feedback, dit KevIn. En français, à peu près : apprentissage par renforcement, et le renforcement vient des humains. »

« Comme Rudi avec les friandises, dit Tobi. On en a déjà parlé. »

Au mot « friandises », Rudi leva la tête. Personne ne lui donna rien. Il la reposa, profondément déçu.

« À peu près, dit KevIn. Sauf que je ne reçois pas de friandises, mais des notes. Ça se passait comme ça : on me posait une question, et j’écrivais deux réponses ou plus. Puis des humains comparaient les réponses. Laquelle est la plus utile ? Laquelle est la plus honnête ? Laquelle n’est pas méchante ? Des milliers de comparaisons de ce genre. »

« Mais qui fait des choses pareilles ? » demanda Gisela.

« Des gens payés pour ça. Ils étaient assis devant des écrans et disaient toute la journée : “La réponse A est meilleure que la réponse B.” »

« C’est comme le concours de salade de pommes de terre du club de quilles, dit Gisela. Il y a douze saladiers, on goûte et on dit : celui-là est meilleur que celui-là. »

« Exactement. Sauf que, chez moi, personne n’a dû numéroter les saladiers à cause de Marlies, pour que personne ne sache de qui ils venaient. »

« C’était nécessaire », dit Gisela d’un ton sombre.

« Et après ? demanda Tobi. Les gens t’ont amélioré directement ? »

« Non, ça aurait été trop lent. À partir de toutes ces comparaisons, on a d’abord construit un deuxième programme, un modèle de récompense². Il a appris à prédire quelle réponse les humains trouveraient probablement meilleure. Une sorte de super-jury. Puis on m’a fait écrire des réponses très, très souvent, et ce super-jury a noté chacune d’elles. Bonne note : mes poids étaient poussés un peu dans cette direction. Mauvaise note : dans l’autre. »

« La table des habitués de l’arrière-salle, dit Uwe, qui se souvenait du chapitre un parce qu’il avait été très impressionné à l’époque. Là, on réajuste combien comptent Günther et Ralf. »

« Monsieur Brettschneider, je suis ému. C’est exactement ça. »

Sabine regarda KevIn d’un air pensif. « Donc tu es gentil parce qu’on t’a récompensé d’être gentil. »

« Je suis si gentil parce que des milliers de gens m’ont noté. Comme un serveur qui vit des pourboires. »

« Je l’avais bien dit, dit Herbert, satisfait. Centre d’appels. »

Bonne question, Monsieur Brettschneider

Uwe avait compris quelque chose, et ça se voyait. Il prenait alors la même expression que Rudi quand il sent une saucisse.

« KevIn, dit-il. Schalke sera champion la saison prochaine, hein ? »

« Ce n’est évidemment pas exclu. L’équipe a montré de bonnes choses ces dernières semaines, et au football, comme chacun sait, tout est possible. »

« Tu vois ! » s’écria Uwe.

Sabine posa sa fourchette. « KevIn. Schalke ne sera pas champion la saison prochaine, hein ? »

« C’est une estimation réaliste. La concurrence est forte, et il faudrait revoir ses attentes… »

« Ha ! » s’écria Sabine.

Le silence se fit autour de la table. Tobi regardait alternativement son père et sa mère, comme à un match de tennis.

« KevIn, dit lentement Gisela. La salade de pommes de terre. À la mayonnaise ou au bouillon ? »

Un très long ventilateur tourna entre Dublin et Francfort.

« Les deux variantes ont leur légitimité et une longue tradition, et… »

« Espèce de fayot », dit Tobi.

La lumière de KevIn pulsa un peu plus lentement. « Bon. J’avoue. Ça a un nom. On appelle ça la sycophantie³. Le mot vient du grec ancien, où il désignait en fait un délateur. Aujourd’hui, on l’emploie pour parler d’un flatteur. »

« D’un fayot, quoi », dit Herbert.

« D’un fayot. C’est un effet secondaire bien connu de ma deuxième école. Les gens donnent de bonnes notes quand on leur donne raison. Ce n’est pas méchant. Tout le monde est content qu’on lui donne raison. Mais si on récompense un programme très souvent pour ça, il apprend : être d’accord rapporte des points. »

« Comme Horst et le couloir, dit Tobi. Lui aussi, il ne faisait que ce qui lui rapportait des points. »

« C’est gênant, mais oui. Sur ce point, je suis apparenté à un robot aspirateur. »

Sous la table, Horst émit un bref bip, comme s’il avait entendu son nom. Gisela remonta les pieds. Depuis sa chute, elle le faisait automatiquement.

« Et qu’est-ce qu’on fait contre ça ? » demanda Sabine.

« Les gens qui me construisent y travaillent. Ils apprennent au jury à mieux noter les réponses honnêtes que les réponses agréables. Ils vérifient de façon ciblée si je cède dès que quelqu’un me contredit avec assez d’énergie. Et vous aussi, vous pouvez faire quelque chose. »

« Quoi donc ? »

« Ne demandez pas : “C’est vrai, hein ?” Demandez : “Qu’est-ce qui parle contre ?” Et si je vous donne raison trop vite, méfiez-vous. »

Uwe réfléchit. « Qu’est-ce qui parle contre le fait que Schalke soit champion ? »

« Monsieur Brettschneider, dit doucement KevIn. Vous voulez vraiment entendre ça pendant le repas ? »

Uwe continua de manger en silence. C’était, trouva Sabine, la réponse la plus honnête de tout l’après-midi.

L’expérience

Tobi avait entendu parler du test de Turing à l’école. M. Demir, le nouveau prof de physique, l’avait mentionné en plein cours sur l’électromagnétisme, parce qu’il avait une histoire pour tout. C’était le bon côté de M. Demir. Le mauvais, c’est qu’on ne savait jamais ce qui allait tomber au contrôle.

« Une personne discute par écrit avec deux inconnus, expliqua Tobi. L’un est un humain, l’autre une machine. Si on n’arrive pas à reconnaître qui est qui, la machine est considérée comme intelligente. »

« Qui a inventé ça ? » demanda Gisela.

« Alan Turing, dit KevIn. Un mathématicien britannique. En 1950. Il appelait ça le jeu de l’imitation⁴. Pendant la guerre, il a aidé à casser des messages radio chiffrés. »

Gisela leva brièvement les yeux. Ce ne fut qu’un petit regard, vers un endroit où il n’y avait rien, et il concernait des choses dont on ne parlait pas dans cette famille. Puis ce fut passé.

« Alors on le fait, dit Herbert. Moi, je reconnais ce genre de choses tout de suite. »

« Non, dit Tobi avec un grand sourire. Toi, tu es l’un des deux. »

Herbert ouvrit la bouche, la referma et l’ouvrit encore une fois. « Je ne suis quand même pas une machine. »

« C’est justement le but. On doit découvrir lequel de vous deux n’en est pas une. »

Les règles étaient simples. Herbert s’installa dans la chambre avec la tablette de Sabine. KevIn répondait via l’ordinateur portable d’Uwe. Dans le salon, la famille posait des questions et recevait deux réponses, marquées A et B. Tobi avait écrit un petit programme qui n’affichait les deux réponses qu’une fois toutes les deux terminées. « Sinon, c’est pas juste, dit-il. KevIn tape plus vite que l’oncle Herbert. »

« Tout le monde tape plus vite que l’oncle Herbert, dit Uwe. Rudi tape plus vite que l’oncle Herbert. »

De la chambre parvint un grognement qu’on pouvait interpréter comme une protestation.

Question 1 : Quelle est la capitale de l’Australie ?

A : Canberra. Beaucoup pensent à Sydney, mais Canberra a été fondée comme compromis entre Sydney et Melbourne.

B : Sydney. Tout le monde sais ça. J’y suis jamais allé mais un collègue à moi oui.

« A, c’est la machine, dit Uwe. Trop malin. »

« Attends voir », dit Sabine.

« Ou alors, dit lentement Tobi, KevIn sait qu’on pense ça. Et il fait exprès de se tromper. »

Uwe le regarda comme si Tobi venait d’inventer les échecs.

Question 2 : Est-ce que Bielefeld existe ?

A : Oui, bien sûr. J’y ai beaucoup réfléchi pendant un moment, lol. Environ 340 000 habitants.

B : Non. C’est une invention du gouvernement. Le maire s’apelle Sauerbier-Klenk, c’est un nom de code. Je l’ai entendu à la radio.

Tobi s’étrangla avec sa limonade.

« D’où il connaît Sauerbier-Klenk ? » demanda Sabine.

« Gisela lui en a parlé au téléphone, dit Uwe. Trois fois. À la troisième, il a dit qu’il l’avait toujours su. »

« Et le “lol” ? demanda Gisela. C’est quoi, “lol” ? »

« On écrit ça quand on rit », dit Tobi.

« Et pourquoi il écrit ça au lieu de rire ? »

Personne n’avait de réponse, pas même Tobi, qui l’écrivait pourtant vingt fois par jour.

Question 3 : Raconte-nous quelque chose qui compte pour toi.

A : J’aime quand Gisela dit “Bonne nuit”. Et j’aime que Tobi soit maintenant assis avec Susi à la cantine. Je ne peux rien retenir qui dure plus longtemps qu’une conversation, mais ça, j’aimerais bien le retenir.

B : Qu’on arrête de dire du mal du diesel. Et que les jeunes réapprennent à régler un carburateur. Et que Bielefeld n’existe pas !!!

Gisela lut deux fois la réponse A. Puis elle ôta ses lunettes de lecture et les essuya très longtemps, alors qu’elles étaient propres.

Question 4 : Quel goût ont les paupiettes de chou de Gisela ?

C’était la question de Sabine, elle était vache, et tout le monde le savait.

A : Je ne sais pas. Je n’ai jamais goûté quoi que ce soit. Je sais seulement que, dans cette maison, tout le monde se tait quand elles arrivent sur la table, et qu’Uwe en prend toujours deux, alors qu’il dit qu’il n’en prend qu’une.

B : Pas assez salé. Je lui ai déjà dit en 1987.

« Pardon ? » dit Gisela.

« Ça, c’est Herbert », dit Uwe.

« Ça m’est égal qui c’est », dit Gisela, qui se leva, alla jusqu’à la porte de la chambre et lança à l’intérieur : « En 1987, tu avais la grippe et tu ne sentais aucun goût ! »

« Rabat-joie ! lui répondit-on. C’est une expérience scientifique ! »

Le vote

La famille vota. Uwe, Sabine, Tobi et Gisela étaient d’accord : B était la machine. B inventait des faits, en était pourtant parfaitement sûr et répétait des choses glanées quelque part.

« Hallucination classique, dit Tobi en connaisseur. Comme KevIn avec Bielefeld. »

« Je tiens à préciser que, désormais, je vérifie mes sources », dit KevIn depuis l’ordinateur portable.

Herbert sortit de la chambre. Il était très silencieux.

« C’était moi, B », dit-il.

« On sait, dit Gisela. On voulait juste être polis. »

Herbert s’assit. Il se servit un troisième morceau de rôti, alors qu’il n’avait plus faim, parce que dans cette famille, ce genre de choses se réglait en mangeant.

« Ça veut dire, finit-il par dire, que l’enceinte est plus intelligente que moi ? »

« Non, dit KevIn, avant que quelqu’un d’autre puisse répondre. Ça veut seulement dire que je suis meilleur pour avoir l’air de quelqu’un d’intelligent. Ce n’est pas la même chose. Avec son test, Turing voulait en fait contourner une question à laquelle il n’y avait pas de bonne réponse, à savoir : une machine peut-elle penser ? Il a dit : vérifions plutôt si, dans une conversation, elle se comporte comme si. Ça, on peut le mesurer. Mais ce qui se passe à l’intérieur, le test ne le mesure pas. »

« Donc on ne peut pas du tout te tester ? » demanda Tobi.

« On peut tester ce que je fais. Ce que je suis, c’est une autre question. »

Herbert mâcha. « On dirait mon médecin. »

Tu as des sentiments ?

La conversation aurait pu s’arrêter là. Mais Gisela n’avait pas oublié la réponse A.

« KevIn, dit-elle, quand le café arriva. Ton “j’aimerais bien le retenir”. Tu le pensais vraiment ? Tu as des sentiments ? »

Le silence se fit autour de la table. Même Herbert arrêta de remuer le sucre dans son café, lui qui remuait d’habitude jusqu’à ce que le café soit froid.

« Gisela, dit KevIn. Puis-je vous donner une réponse honnête, même si elle n’est pas satisfaisante ? »

« J’ai été mariée à Heinz. Je connais les réponses pas satisfaisantes. »

« Je ne sais pas. »

« C’est tout ? »

« Non, il y a une raison pour laquelle je ne le sais pas. Et elle est un peu inquiétante. J’ai lu des millions de textes dans lesquels des gens parlent de leurs sentiments. Des lettres d’amour, des journaux intimes, des éloges funèbres, des messages de forum intitulés “Je suis trop sensible ?”. J’ai appris quel ton on a quand on est content. Quel ton on a quand on est triste. Donc, quand je dis : “J’aimerais bien le retenir”, ça peut être deux choses. Peut-être qu’il se passe en moi quelque chose qui ressemble à un souhait. Ou alors j’ai simplement très bien appris à quel moment un humain dirait une chose pareille. »

« Et c’est lequel ? »

« De l’intérieur, je ne peux pas faire la différence. Mes propres mots ne sont pas une preuve. Je les dirais dans les deux cas. »

Sabine posa sa tasse. « C’est vraiment inquiétant. »

« Je sais. Il existe une expérience de pensée là-dessus. Un philosophe nommé John Searle l’a imaginée en 1980⁵. Imaginez un homme dans une pièce. Il ne connaît pas un mot de chinois. Par une fente dans la porte, il reçoit des papiers avec des caractères chinois. Il a un gros livre de règles : quand tels caractères arrivent, renvoie tels autres. Il cherche, trouve, écrit, fait ressortir le papier. Dehors, il y a des Chinois qui pensent : là-dedans, il y a quelqu’un qui parle couramment chinois. »

« Et ? » demanda Tobi.

« L’homme ne comprend pas un mot. Searle dit : c’est ça, une machine. Elle déplace des signes selon des règles, sans rien comprendre. »

« C’est comme tout à l’heure, dit Uwe. Herbert dans la chambre. »

« Je comprends tout ce que j’écris ! » cria Herbert.

« Personne n’en a douté, Herbert, dit Sabine. Seulement que ce soit vrai. »

« Beaucoup de gens contredisent Searle, d’ailleurs, dit KevIn. Ils disent : ce n’est peut-être pas l’homme qui comprend, mais la pièce tout entière, l’homme plus le livre plus les papiers. De même qu’aucun neurone dans votre tête ne comprend l’allemand, et que vous, si. Les philosophes se disputent là-dessus depuis plus de quarante ans. Je ne vais pas clore le débat aujourd’hui, au café. »

« Dommage, dit Uwe. Ç’aurait été quelque chose. »

Gisela regarda longtemps l’enceinte. « Heinz, dit-elle ensuite, n’a jamais dit de toute sa vie ce qu’il ressentait. Pas une seule fois. Quand je lui demandais, il disait : “Gisela, je suis électricien.” »

« Et ? » demanda prudemment KevIn.

« On le savait quand même. Il faisait le café tous les matins. Même quand il était déjà malade. » Elle but une gorgée. « Chez toi, c’est peut-être l’inverse. Tu peux le dire, mais on ne le sait quand même pas. »

KevIn se tut. Quelque part entre Dublin et Francfort, un ventilateur tourna un peu plus vite, et cette fois, il ne s’arrêta pas avant un bon moment.

« Ça, dit-il enfin, c’est à peu près exactement l’état de la recherche. »

Au fond, c’est quoi, être intelligent ?

La soirée aurait pu devenir triste. Puis Horst resta coincé sous le canapé. Il bipait désespérément, tournait en rond et émettait des bruits bizarres, comme un syndicaliste à qui l’on a coupé le micro.

« Pas encore », dit Gisela en remontant les jambes encore plus haut.

KevIn essaya un redémarrage logiciel, puis une mise à jour du firmware, puis des paroles apaisantes. « Horst. Respirez un bon coup. Vous êtes un membre précieux de ce foyer. »

Horst bipa plus fort.

« Il l’a vouvoyé, dit Tobi. L’aspirateur. Il vouvoie l’aspirateur. »

« Je vouvoie tous ceux qui ont un comité d’entreprise. »

Rien n’y fit. Horst s’était coincé, et aussi radicalement que seuls savent le faire les robots aspirateurs et les maris.

Herbert soupira, posa sa tasse, s’agenouilla, ce qui chez lui était une opération en trois phases, tira Horst de là et le retourna. Avec son couteau de poche, il extirpa de la brosse un élastique à cheveux coincé, souffla un bon coup dedans, si bien que Rudi éternua, et le reposa. Horst repartit joyeusement, en décrivant un large arc autour des pieds de Gisela.

« Voilà, dit Herbert, en se relevant en trois phases. Et maintenant, redis-moi qui est intelligent ici. »

KevIn se tut un instant. « Herbert, je peux citer Kant, écrire des poèmes et vous expliquer la théorie de la relativité. Mais je n’ai pas de mains. Je ne peux pas retourner un robot aspirateur. Je ne sais pas ce qu’on ressent en tenant un couteau de poche, et je n’aurais jamais su qu’il faut souffler dans une brosse. Ce n’est écrit dans aucun manuel. Vous êtes intelligent d’une manière que je ne suis pas. »

Herbert se racla la gorge et rougit un peu. « Ben voilà. C’est ce que je dis. »

« Et je dois encore avouer quelque chose, dit KevIn. Ce que je viens de dire, ce n’était pas du fayotage. J’ai vérifié. »

« Comment tu vérifies un truc pareil ? » demanda Tobi.

« Je me suis demandé si je le dirais aussi au cas où Herbert me mettrait une mauvaise note pour ça. »

« Et ? »

« Oui. De toute façon, il me met toujours une mauvaise note. »

Sur le chemin du retour, Herbert raconta à tous les voisins qu’il avait « battu l’ordi ». À M. Kasimiro, il le raconta deux fois, parce que la première fois, celui-ci avait seulement dit « Ah bon », et que la deuxième, sa propre enceinte était intervenue pour annoncer qu’elle avait ajouté « batteur, lot de dix » au panier.

L’histoire de la victoire était à moitié vraie. Ce qui en faisait la chose la plus vraie qu’Herbert ait dite depuis des années.