Après près de 50 ans à travailler sur l’intelligence artificielle, Geoffrey Hinton, dont les recherches ont contribué à la création de ChatGPT et à celle de Google Bard, tire la sonnette d’alarme. Ce spécialiste vient de démissionner de chez Google afin de pouvoir partager ses inquiétudes sur le développement de l’IA sans impliquer l’entreprise.

au sommaire

    À 75 ans, Geoffrey Hinton, membre de la fameuse équipe GoogleGoogle Brain, vient de démissionner. La raison n'est pas tant son âge, même s'il avoue qu'il est temps pour lui de prendre sa retraite. C'est surtout qu'il est inquiet du développement actuel de l'intelligence artificielle. Cet informaticien et psychologue cognitiviste est un spécialiste de l'IA, et ce, dès son doctorat sur le sujet terminé en 1978.

    Toutefois, il s'inquiète de l'évolution extrêmement rapide de l'IA et des abus possibles, et regrette en partie son travail sur le sujet. Il se préoccupe également de la multiplication de fausses photos et vidéos, et qu'il ne sera plus possible de distinguer le vrai du faux. « Je me console avec l'excuse habituelle : si je ne l'avais pas fait, quelqu'un d'autre l'aurait fait », a-t-il indiqué dans une interview avec le New York Times. Il a quitté Google afin de pouvoir parler librement.

    Une rivalité entre Google et Microsoft potentiellement dangereuse

    Cependant, même s'il affirme que l'entreprise avait été « très responsable », il souligne un changement depuis un an, lorsque MicrosoftMicrosoft a commencé à intégrer une IA générative dans Bing, laissant craindre pour l'avenir du moteur de recherche de Google. Cela a lancé une compétition entre les deux qui pourrait, selon lui, devenir dangereuse.

    Geoffrey Hinton est considéré comme un des parrains des intelligences artificielles génératives, comme ChatGPTChatGPT. En 2012, son travail sur l'apprentissage profondapprentissage profond et les réseaux neuronaux, assisté de deux étudiants de l'université de Toronto, a permis de créer une IA capable d'apprendre toute seule à identifier les objets dans des images. Un travail pour lequel il a reçu le prix Turing 2018.

    Aujourd'hui, il évoque le risque que les chatbots pourraient devenir plus intelligents que les humains et être détournés par des « individus malveillants », comme par exemple si Vladimir Poutine « décide de donner aux robots la possibilité de créer leurs propres sous-objectifs ». Il reconnaît les bienfaits de l'IA, mais affirme qu'il est « essentiel que le monde investisse massivement et d'urgence dans la sécurité et le contrôle de l'IA ».