au sommaire
Voilà à quoi ressemble le site où l'on peut interroger en ligne une version d'Eugene Goostman, le chatbot qui aurait réussi à passer le test de Turing en trompant des être humains sur sa vraie nature. On ne sait pas encore si une version plus évoluée a été utilisée lors du test conduit à la Royal Society. © copie d'écran du site d'Eugene Goostman
Si l'on en croit le communiqué de presse de l'University of Reading, un événement majeur dans l'histoire de l'intelligence artificielle s'est produit récemment dans les locaux de la fameuse Royal Society. Un ordinateur aurait réussi le mythique test de Turing en se faisant passer pour un adolescent ukrainien de 13 ans. Sur 30 personnes discutant chacune pendant cinq minutes avec l'ordinateur, le tiers aurait estimé parler avec un être humain authentique, du nom d'Eugene Goostman.
L'annonce a été rapidement relayée par la toile mondiale, ce qui n'est pas surprenant. Pour beaucoup, l'affirmation qu'un ordinateur est capable de passer le test de Turing revient à dire qu'une machine est capable de penser et d'être consciente comme un être humain. Le corollaire d'un tel événement est que la singularité technologique prédit par le gourou du transhumanisme Ray Kurzweil à l'horizon des années 2040 serait en fait imminente.
Si l'on compare le cerveau humain à un ordinateur, on peut en arriver à la conclusion que le jour ou la puissance de calculs de ces machines sera suffisamment importante, et avec des algorithmes appropriés, il devrait être possible de fabriquer une machine pensante et consciente. Elle passerait alors le test de Turing. Un corollaire est qu'il devrait être possible de faire une copie de la conscience et de la mémoire d'une personne avec un superordinateur comme dans le film Transcendance, qui sortira en salle le 25 juin 2014. © Cinémas Gaumont Pathé
Eugene Goostman, un agent conversationnel et pas Hal 9000
La réalité semble bien différente et plusieurs critiques se sont élevées, soulignant les limites et les exagérations du communiqué de l'University of Reading. Il y a d'abord le fait qu'Eugene Goostman n'est pas un superordinateursuperordinateur, comme cela avait été présenté initialement, mais un programme, un agent conversationnelagent conversationnel, un chatterbot, ou chatbot en anglais, c'est-à-dire un logiciel destiné à simuler un certain niveau de conversation avec un interlocuteur. Il a commencé à être développé en 2001 par un groupe d'informaticiens russes et ukrainien, en l'occurrence Vladimir Veselov, Sergey Ulasen et Eugene Demchenko. Eugene Goostman est un habitué des compétitions où des chatterbots tentent de se faire passer pour des être humains. Ainsi, à l'occasion du centenaire de la naissance d'Alan Turing en 2012, Eugene a réussi à tromper 29 % des personnes impliqués dans les conversations qu'il a eues, là aussi, avec 30 personnes. En deux ans, son score est donc passé de 29 % à 33 %, ce qui n'est guère impressionnant.
De plus, ce n'est pas la première annonce de réussite du test de Turing par un agent conversationnel. Ce fut le cas en 2011 pour Cleverbot. Le score annoncé était même supérieur à celui d'Eugene mais il est vrai que le temps imparti pour les discussions avec le programme était plus court. Le communiqué de l'University of Reading reconnaît d'ailleurs que d'autres agents conversationnels ont été présentés comme ayant déjà passé le test de Turing. Mais c'est pour les discréditer aussitôt en affirmant par exemple que, contrairement au cas présent, il existait des restrictions sur les questions et les sujets que pouvaient aborder les interlocuteurs discutant avec les autres chatterbots. Il est difficile de prendre cette affirmation au sérieux car, d'entrée de jeu, Eugene est présenté comme un adolescent ukrainien de 13 ans discutant avec des anglophones de naissance. Cette information biaise forcément le jugement des humains impliqués dans le test en les rendant plus indulgents avec les réponses d'Eugene.
Tout comme pour Cleverbot, il existe une version en ligne d'Eugene Goostman. Avec elle, comme plusieurs personnes l'ont constaté, il n'est guère difficile de comprendre en quelques minutes à qui, ou plutôt à quoi, on a affaire. On retrouve la technique habituelle des agents conversationnels existant depuis des décennies, c'est-à-dire des réponses évasives et des tentatives de faire dévier la conversation dans une direction plus ou moins incongrue avec des questions lorsque l'on atteint les limites du programme. Cela ne peut tromper qu'un enfant ou un interlocuteur peu attentif et peu impliqué dans la conversation. La version ayant prétendûment réussi le test de Turing devrait donc être considérablement plus étoffée.
Un faux test de Turing
Il y a plus grave, comme le fait remarquer fort justement sur son blog Jean-Paul Delahaye, mathématicienmathématicien et professeur bien connu d'informatique à l'université de Lille I. On peut affirmer que le test de Turing n'a en réalité pas encore été passé du tout (en tout cas pas au sens fort), que ce soit par Eugene Goostman, par Cleverbot ou un autre agent conversationnel. C'est aussi ce qu'affirme dans une interview Murray Shanahan, professeur de robotique cognitive au fameux Imperial College de Londres.
En effet, dans l'article original de Turing, il n'est pas affirmé que son test consistait à ce qu'un ordinateur puisse se faire passer pour un être humain pendant 5 minutes de conversation auprès d'au moins 30 % d'un groupe de personnes. Il estimait juste que l'évolution des capacités des ordinateurs et des programmes permettrait d'arriver à ce résultat à l'horizon des années 2000. Ce qu'il avait en tête, c'est qu'en l'absence d'une définition claire de l'intelligence et de la conscience, on pourrait prendre pour critère opératoire parfaitement défini pour savoir si une machine peut penser comme un humain d'exiger qu'il soit absolument impossible de faire la différence entre elle et une personne lors d'une discussion. Le grand mathématicien n'a donc posé aucune limite de temps, d'âge ni de sujets de conversations. Ceci constitue le vrai test de Turing. On en est encore très loin...
Une chose semble certaine en revanche. Il devient de plus en plus facile de tromper et donc de manipuler quelqu'un sur InternetInternet pendant un court laps de temps avec un agent conversationnel. Il y a donc du souci à se faire de ce côté face à la cybercriminalité.
