L’ancien patron de Google, Eric Schmidt, considère qu’il faudra songer à trouver un moyen de débrancher l’IA si elle devient incontrôlable par l’humain. Voici comment, selon lui.

au sommaire

    Voici encore une nouvelle voix qui s'érige contre la dangerosité des intelligences artificielles (IA), et pas n'importe laquelle. Il s'agit de celle d'Eric Schmidt, l'ancien patron de GoogleGoogle. Interrogé par George Stephanopoulos d'ABC, il s'est inquiété de la vitessevitesse de l'innovation en matièrematière d'IA et estime qu'elle pourrait nous dépasser avant même que nous puissions reconnaître les dangers qu'elle peut représenter. Alarmiste, l’ancien patron de Google va même plus loin en suggérant qu'il faudrait que les humains puissent pouvoir « débrancher » l'IA avant qu'il ne soit trop tard.

    Mais, en marge de ces propos inquiétants, l'ancien patron du géant de l'Internet a affirmé que, du haut de sa carrière, il n'a jamais vu un tel développement technologique. Pour lui, il est vrai que c'est une réussite humaine remarquable. L'IA apporte des avantages incroyables dans bien des domaines, comme pour la découverte de nouveaux médicaments ou matériaux.

    Un bouton d’arrêt d’urgence pressé par l’IA

    En contrepartie, pour Eric Schmidt, avec ce rythme soutenu, le développement des IA va devenir fatalement problématique. Ce sera le cas lorsque les IA deviendront suffisamment autonomes pour s'auto-améliorer. Elles pourront alors décider de ce qu'elles veulent faire sans contraintes. C'est pourquoi, si c'est le cas, il faudra sérieusement songer à les débrancher, toujours selon lui. Mais qui pourrait être en mesure de le faire si, justement, une superintelligence serait capable de contrer toute tentative de la détruire ?

    Puisque les humains ne seront plus capables de contrôler les intelligences artificielles, alors il faudra que des systèmes d'IA soient capables de débrancher les IA. Une intention assez paradoxale, car les garde-fousgarde-fous appropriés pour préserver la dignité humaine devraient être également tenus par une machine. Eric Schmidt n'est pas le seul parrain de la tech à s'exprimer sur le danger des IA et leur potentiel apocalyptique.