Des chercheurs américains se sont intéressés à l’oubli catastrophique des intelligences artificielles, qui oublient des informations au fur et à mesure qu’elles apprennent de nouvelles tâches. Ce phénomène pourrait devenir particulièrement problématique dans une société qui dépend de plus en plus des IA.

au sommaire

    Les intelligences artificielles sont souvent décrites comme des boîtes noires, car les spécialistes ne savent pas vraiment ce qu'il s'y passe. Des réseaux neuronaux sont entraînés sur de grandes quantités de données et doivent effectuer certaines tâches, mais les algorithmes qui en résultent sont trop complexes pour être analysés. Cependant, toutes les IA rencontrent un même problème : l'oubli catastrophique.

    Des chercheurs de l'université d'État de l'Ohio ont étudié ce phénomène pour tenter de trouver des solutions. Au fur et mesure que l’IA apprend de nouvelles tâches, elle oublie les informations précédemment apprises. L'oubli catastrophique est particulièrement problématique pour l'apprentissage en continu, et peut devenir dangereux, par exemple si les voitures autonomesvoitures autonomes oublient des règles de sécurité de base.

    Apprendre très tôt des tâches distinctes

    Les chercheurs ont découvert que la mémoire des IA présente des similarités avec la mémoire humaine. Les humains peuvent avoir du mal à se remémorer des détails de deux scénarios similaires, et se souviennent plus facilement de deux évènements très distincts. De la même manière, les réseaux neuronaux artificiels retiennent mieux les informations lorsque les tâches qui se succèdent sont très différentes.

    Les chercheurs ont notamment découvert qu'en apprenant très tôt une diversité de tâches, l’IA peut plus facilement apprendre de nouvelles informations et des tâches similaires plus tard. Les chercheurs espèrent que l'analyse des similarités entre les machines et le cerveaucerveau humain permettra de créer des IA qui peuvent apprendre et s'adapter comme nous. Ils présenteront les résultats de leurs recherches à la conférence internationale sur l'apprentissage machine (ICML) qui se déroule la semaine prochaine.