L'Intelligence artificielle est-elle condamnée à être stupide ?

Les médias se sont emballés ces derniers temps pour les exploits des machines battant à plate couture les humains aux échecs, au jeu de Go ou aux jeux vidéos. Le programme DeepMind de GoogleGoogle a ainsi créé le buzz en janvier dernier lorsqu'il est parvenu à battre un joueur humain professionnel au jeu StarCraft II, considéré comme étant très stratégique. Les logiciels de reconnaissance de voix ou d'images ont aussi de quoi bluffer les observateurs, comme cet algorithme capable de reconnaître des objets à partir d'une description vocale.

« L’IA actuelle est en réalité très, très stupide »

Mais aussi impressionnantes que soient ces victoires, il n'y a pas de réelle intelligenceintelligence là-dedans : les machines se contentent d'analyser des millions de combinaisons possibles en s'entraînant contre elles-mêmes, c'est ce que l'on appelle l'apprentissage supervisé. Un ordinateur champion jeu de Mario Kart sera, par exemple nul au Sudoku.

« L'IA actuelle est en réalité très, très stupide, lançait en novembre dernier le vice-président de Google, Andrew Moore, lors de l'évènement Google Cloud Event. C'est vraiment bien pour certaines choses que notre cerveaucerveau ne peut pas gérer, mais ce n'est pas une intelligence sur laquelle nous pourrions nous reposer pour faire un raisonnement général avec des analogiesanalogies, une pensée créative ou pour s'aventurer en dehors des sentiers battus. »

L’IA est généralement spécialisée dans un domaine précis, par exemple le jeu d’échecs, mais il suffit de changer le contexte ou quelques paramètres pour la déboussoler. © Michail Petrov, Fotolia

Des informaticiens de Vicarious, une firme d'IA à San Francisco, ont donné une excellente démonstration, en 2017, des limites actuelles de ces systèmes. Ils ont entraîné un programme comme celui utilisé par DeepMind sur un jeu de casse-briques. Ils ont ensuite légèrement modifié la disposition du jeu, avec par exemple une raquette située légèrement plus haut ou une zone incassable au centre des blocs. Des changements auxquels un joueur humain peut facilement faire face, mais devant lesquels l'ordinateur s'est trouvé incapable de répondre.

Petits dessins, grosse complexité

C'est ce « sens commun » humain que les chercheurs de l'Institut Paul Allen pour l'intelligence artificielle (AI2) ont voulu mettre à l'épreuve. Pour cela, ils ont développé un jeu du type Pictionnary, dans lequel l'ordinateur doit deviner ce qu'un joueur humain a dessiné ou l'inverse. Rien à voir avec le basique Quick and Draw de Google, où l'ordinateur se contente de piocher des mots dans une base de données pré-enregistrée.

Le Pictionnary est plus complexe, car il met en scène des situations et des relations entre des concepts. Afin d'éviter des problèmes légaux avec Mattel, le détenteur des droits du Pictionnary, les chercheurs ont développé leur propre jeu de dessin, baptisé Iconary. Le jeu diffère légèrement de la version originale.

Un joueur dessine d'abord un dessin, que l'ordinateur transcrit ensuite en icône, puis il assemble ensuite plusieurs icônes pour former une phrase. Deux niveaux de difficulté sont ainsi proposés, allant de « Une femme buvant un jus d'orange » à « Relâcher un oiseauoiseau dans le désertdésert ». Le jeu offre ainsi pour l'instant 1.200 images possibles pouvant être utilisées pour représenter 75.000 scénarios différents.

Dans cette partie d’Iconary, l’ordinateur essaie de faire deviner une phrase au joueur. © AI2

« Gagner à Iconary requiert bien plus que la simple reconnaissance d'objets : cela nécessite un raisonnement  avancé », explique Ali Farhadi, qui dirige le projet. Par exemple, un groupe de plusieurs bonhommes devient une « équipe » si un ballon est placé à côté, ou bien une « salle de classe » si un tableau est ajouté. « AllenAI [le programme d'AI2, ndlr] est capable de reconstituer des concepts sans y avoir été exposé auparavant avec une habilité et une finesse surprenante », assure Ali Farhadi.

Imaginons qu'il ait appris à identifier un agriculteur avec un bonhomme et un tracteur. Il lui faut retrouver ce même mot si on dessine un bonhomme avec un épi de bléblé. Naturellement, comme avec les programmes de Deep Learning classiques, l'ordinateur se perfectionne au fur et à mesure des parties. Mais comme il a besoin d'assimiler des concepts, par essence inconnus, pas question de le faire jouer en boucle avec lui-même : « Cela servirait seulement à développer un protocoleprotocole de conversation qu'il maîtrise déjà », balaie Ani Kembhavi, un autre chercheur impliqué dans le projet.

Dans cette partie d’Iconary, le joueur essaie de faire deviner la phrase à l’ordinateur. © AI2

Une plage, c’est du sable ou des palmiers ?

Selon les chercheurs, il s'agit de « l'exemple le plus significatif d'intelligence artificielleintelligence artificielle dans la collaboration homme-machine ». Les subtilités de l'esprit humain sont pourtant loin d'être atteintes. Futura a testé plusieurs parties et cela s'est avéré plutôt... laborieux. Impossible par exemple de faire deviner « Dormir sur la plage » avec un lit, la mer et un palmier (un indice si vous tombez sur cette phrase : il faut rajouter un tas de sablesable). De même, il n'a pas été simple de faire deviner « Verser du savon dans une bouteille » avec le dessin d'une bouteille avec des bulles. Néanmoins, on s'approche ici plus près d'un véritable « sens commun » proche de celui que nous utilisons dans la vie de tous les jours, et qui fait défaut à l'IA.

L’IA apprend à partir d’exemples ; elle ignore par exemple les lois de la physique fondamentale qui font qu’une balle lancée en l’air retombe par gravité. © Albachiaraa, Fotolia

Reconstituer la « vie réelle »

À la tête de l'Institut Paul Allen depuis 2014 (du nom du cofondateur décédé de MicrosoftMicrosoft), Oren Etzioni milite depuis des années pour réinventer complètement l'intelligence artificielle. « Pour que l'IA soit réellement aussi intelligente que les humains, il faudrait lui apprendre les principes de base de la physiquephysique -- une balle jetée en l'airair va retomber --, ou la notion de taille relative -- un éléphant ne peut pas tenir dans une baignoirebaignoire », détaille-t-il dans une interview au magazine Wired. Cet expert mondial préconise, ni plus ni moins, l'abandon du Deep LearningDeep Learning, incapable, selon lui, d'assimiler des concepts qui lui sont inconnus et pourtant basiques.

L'équipe d'Oren Etzioni mise au contraire sur l'apprentissage par l'Homme. Par exemple, elle a entièrement reconstitué une maison remplie avec tous les objets de la vie courante. « Quand on demande à la machine "Où puis-je trouver des tomatestomates ?", elle n'a pas désormais à explorer toutes les pièces de la maison et va directement vers le frigo dans la cuisine ».

Les spécialistes en intelligence artificielle ne sont pas tous d'accord sur la façon de parvenir au plus près du « sens commun » humain. Est-ce même d'ailleurs possible et faut-il le souhaiter ? Cherche-t-on à obtenir une IA la plus performante possible ou criblée de mauvaises réponses, d'erreurs grossières et de décisions biaisées inhérentes à l'Homme ? Des questions que l'on évite pour l'instant soigneusement de se poser en faisant jouer nos superordinateurssuperordinateurs à de petits jeux inoffensifs.