L’un des pères fondateurs de l’IA prévient : « personne ne sait vraiment si nous serons capables de les contrôler »

Le prix Nobel de physiquephysique a récompensé cette année Geoffrey E. Hinton et John J. Hopfield pour leurs travaux sur l'intelligence artificielle, notamment les réseaux de neuronesneurones. Geoffrey Hinton avait déjà reçu le prix Turing en 2018, aux côtés de Yann LeCun et Yoshua Bengio. Mais cette fois la situation est quelque peu ironique, puisqu'un 2023 l'homme a quitté son poste chez GoogleGoogle pour pouvoir s'exprimer librement contre l'intelligence artificielle.

À l'époque, il est allé jusqu'à déclarer qu'il regrettait son travail sur les réseaux neuronaux qui ont permis l'essor de ChatGPTChatGPT et autres IA génératives et ce pour quoi il vient de recevoir le prix Nobel. Le chercheur, qui est considéré comme l'un des pères fondateurs de l'IA, s'est dit stupéfait en apprenant la nouvelle. Dans un appel vidéo avec l'université de Toronto pour répondre aux questions de la presse, il a de nouveau exprimé ses craintes.

Geoffrey Hinton répond à des questions de journalistes, suite à l’annonce de son prix Nobel. (En anglais, activez la traduction automatique des sous-titres.) © University of Toronto

L’intelligence artificielle dépassera l’intelligence humaine dans les 20 prochaines années

« Ce qui m'inquiète, c'est que cela peut aussi conduire à de mauvaises choses, en particulier lorsque nous obtenons des choses plus intelligentes que nous-mêmes. Personne ne sait vraiment si nous serons capables de les contrôler », a-t-il répondu suite à une question sur ce qu'il laissera derrière lui. Selon lui, la plupart des spécialistes pensent que l'IA deviendra plus intelligente que l'humain dans les 20 prochaines années et il ne serait pas possible de ralentir l'avancée de l'IA. Pendant l'interview, il a aussi critiqué Sam Altman, fondateur d'OpenAI, qui serait plus intéressé par les profits que par la sécurité. Dans une autre réponse, il a exhorté les jeunes chercheurs à travailler sur la sécurité de l'IA et souhaite que les gouvernements obligent les grandes entreprises à fournir les installations informatiques dont ils auront besoin.

Toutefois, fait rare ces derniers temps, il a aussi exprimé une note plus positive. « J'espère que l'IA apportera des avantages considérables, qu'elle augmentera considérablement la productivité et qu'elle améliorera la vie de chacun. Je suis convaincu qu'elle le fera dans le domaine des soins de santé. »