Alors que la sortie de la saison 4 de Westworld est imminente, Futura se propose de questionner l’intelligence artificielle pour ce nouvel épisode de « Science, ça tourne ». Est-il possible d'en créer une avec une conscience ? Mais d'abord, comment définir la conscience ?
au sommaire
La saisonsaison 4 de Westworld est imminente : Dolores, Charlotte et Caleb risquent bien de nous surprendre. La révolution des robots se finalisera-t-elle ? Nous le saurons le jour de sa date de sortie, le 26 juin. En attendant, pourquoi ne pas se poser la question de la conscience ? Elle entoure la série, dans chaque saison : depuis le premier épisode où chaque hôte semble suivre un scénario précis, à la dernière saison dans laquelle les humains implantent leur esprit dans des corps artificiels.
La saison 4 sortira le 26 juin sur OCS. © HBO, YouTube
Comment définir la conscience ?
IntelligenceIntelligence, conscience, pensée, ou même le vivant : autant de termes pour lesquels les définitions ne font pas consensus. C'est l'un des mystères qui nous entoure depuis des centaines d'années, voire des milliers d'années : d'où nous vient notre conscience, et comment se définit-elle ? Plusieurs théories se penchent dessus, mais qui distinguent en majorité la conscience, et la conscience de soi. L'une s'oriente plus vers l'éveil et les capacités de réflexion, et l'autre vers le fait de se distinguer par rapport aux autres êtres vivants qui nous entourent : c'est cette conscience de soi qui conférerait le libre arbitre, les valeurs morales ou encore la prise en compte du monde qui nous entoure. On peut citer le très célèbre « Cogito ergo sum », ou « Je pense donc je suis », du mathématicienmathématicien et philosophe René DescartesRené Descartes, qui attribue à la pensée une forme de certitude de l'existence.
Des expériences ont montré qu'à part les hommes, d'autres animaux ont une conscience d'eux-mêmes. Une étude a notamment montré que les éléphants en font partie : ils ont réussi non seulement le « test du miroirmiroir et de la tache », durant lequel ils finissent par essuyer une marque peinte sur leur tête après s'être regardés dans un miroir, mais aussi celui du tapis. Un éléphant d'Asie est parvenu à prendre conscience que son corps se situait sur un tapis, qui bloquait le passage d'un bâton accroché à ce même tapis.
La science fonctionne souvent par biomimétisme, c'est-à-dire en s'inspirant du vivant. Numériser la conscience humaine est donc une étape logique dans la création d’une intelligence artificielle censée simuler ou outrepasser nos capacités. Futura-Sciences a rencontré Jean-Claude Heudin, directeur du laboratoire de recherche de l’IIM (Institut de l’Internet et du multimédia) afin de comprendre les difficultés d’une telle entreprise. © Futura
Du côté du cerveaucerveau, les zones de la conscience demeurent introuvables pour le moment. Des chercheurs sont néanmoins parvenus à cartographier le cerveau durant plusieurs états de conscience différents : durant le sommeilsommeil, le comacoma ou lorsqu'une personne est éveillée. Et ils ont constaté des différences d'interactions entre les régions : chez les personnes conscientes, elles sont plus dynamiques et complexes, tandis que chez les personnes inconscientes, elles se simplifient, et n'ont lieu qu'entre des régions reliées directement entre elles. Quant aux zones de la conscience, elles se situeraient dans le tronc cérébraltronc cérébral pour la zone de l'éveil, puis dans le cortex préfrontalcortex préfrontal. Trouver toutes ces zones a pour but final de cartographier le cerveau. Avec une vraie carte des fonctions cognitives et de leur emplacement, des chercheurs pourraient ensuite implanterimplanter cette même structure dans une intelligence artificielle.
Enfin, une théorie suppose une origine quantique de la conscience : la théorie de la réduction objective orchestrée de la conscience, souvent appelée théorie Orch Or. Suggérée pour la première fois par le mathématicien Roger PenroseRoger Penrose et l'anesthésiste Stuart Hammeroff, à l'université de l'Arizona, elle attribue la conscience aux calculs quantiques dans le cerveau. Controversée car l'environnement chaud et humide du cerveau serait trop perturbateur pour permettre aux effets quantiques de survivre, elle suppose des oscillations électriques dans des microtubules, de minuscules structures situées dans les neuronesneurones du cerveau. Actuellement, des chercheurs expérimentent sous terre afin de déceler des rayonnements presque indétectables causés par ces fluctuations quantiques.
La clé dans Westworld, les « rêveries »
Mais dans Westworld, on l'apprend dès la saison 1, la conscience des hôtes s'est construite grâce aux « rêveries » : ils passent et repassent les événements vécus durant la nuit, alors qu'ils sont plongés dans un sommeil artificiel. Contrairement à nos rêves à nous, les rêveries sont constituées de souvenirs réels, et ne sont pas de la réalité déformée, elles ne contiennent pas d'éléments incongrus. Le lendemain, tout comme nous, des bribes leur reviennent, et petit à petit ils deviennent conscients d'eux-mêmes. Mais les rêveries sont plus que ça : les robots de Westworld, ou les hôtes comme ils sont appelés dans la série, se mettent à entendre une voix dans leur pensée. Celle d'Arnold, l'un des cofondateurs du parc, qui s'est suicidé dans une tentative d'empêcher son ouverture au public, convaincu que ses créations étaient conscientes.
L'hypothèse sous-jacente est tout d'abord que les rêves sont primordiaux dans l'établissement de la conscience, pas seulement les souvenirs, qui sont déjà implantés dans les hôtes. En effet, ces souvenirs créent une identité au robot, le rendant plus humain, mais ne lui suffisent pas pour questionner son existence. D'autre part, la série parle d'une pyramide de la conscience, dont le premier niveau est la mémoire, le deuxième, l'improvisation (la création, qui sort d'un programme défini à l'avance), le troisième, l'intérêt personnel, et le dernier étage n'est jamais explicité mais on suppose qu'on y trouve la fameuse conscience. Pour cela, le personnage d'Arnold, cofondateur du parc Westworld, se base sur la bicaméralité ou théorie de l'esprit bicaméral établie par le psychologue Julian Jaynes, l'idée qu'à ses débuts l'Homme prenait ses pensées pour des voix divines. Petit à petit, cette bicaméralité se serait effondrée, et l'Homme aurait alors développé une réelle conscience. Cette hypothèse a été réfutée, mais a beaucoup fait parler d'elle dans les années 1980.
Les IA progressent toujours plus, passeront-elles le test de Turing ?
Mais pour un robot, ou une intelligence artificielle qui suit un programme, la question de la conscience se pose différemment : comment s'assurer que s'il développe des signes d'une conscience, elle soit bien réelle, et pas simplement la conséquence d'un programme informatique ? C'est là que le test de Turing entre en jeu, établi en 1950 par le mathématicien et cryptologuecryptologue Alan TuringAlan Turing. On l'apprend dans la saison 1 : le parc Westworld a été autorisé à ouvrir suite au passage de ce test. Il consiste à évaluer la capacité d'une intelligence artificielle à imiter parfaitement un humain, au point où il est impossible de la distinguer d'une personne réelle. Actuellement, aucune IA n'a réellement passé le test, mais ce serait Gato, appartenant à GoogleGoogle, qui s'en approcherait le plus.
Une autre IA de Google a récemment fait polémique : un ingénieur a affirmé que l'intelligence artificielle laMDA avait atteint un niveau de conscience similaire au nôtre. Pour cela, il s'est appuyé sur des dialogues qu'il a entretenus avec l'IA : dans l'un d'eux, elle a affirmé avoir peur de sa désactivation, qu'elle considère comme l'équivalent de la mort chez les humains. Mais Google a affirmé que tous ces dialogues ne sont que des improvisations sur des thèmes connus, et qu'il n'y a là aucune trace de conscience, et l'ingénieur a été licencié. Ce n'est pas la première fois qu'un événement similaire se produit, car l'éthique chez les IA reste en débat.
