Des chercheurs allemands ont réussi à entraîner une intelligence artificielle qui utilise des impulsions pour communiquer entre les neurones, contrairement aux réseaux neuronaux habituellement utilisés. Cette approche pourrait réduire la consommation énergétique de la phase d’entraînement des IA de manière significative.
au sommaire
Les modèles utilisés pour l'intelligence artificielle générative s'appuient sur l'apprentissage profondapprentissage profond. C'est un procédé basé sur des réseaux neuronaux. Toutefois, contrairement au cerveau humain, ces réseaux artificiels nécessitent énormément d'énergieénergie, plus particulièrement pendant leur phase d'entraînement.
Pour tenter de résoudre ce problème, des chercheurs de l’université de Bonn, en Allemagne, se sont intéressés aux réseaux de neuronesneurones à impulsions artificiels (SNN pour Spiking Neural Network). Ils ont publié leurs résultats dans la revue Physical Review Letters. Les neurones biologiques communiquent à l'aide de courtes impulsions, contrairement aux réseaux de neurones artificiels habituellement utilisés, qui sont alimentés sans interruption, nécessitant beaucoup plus d'énergie.
Des impulsions décalées dans le temps
Avec un entraînement classique d’une IA, l'intensité des signaux envoyés par les neurones artificiels est modifiée petit à petit en fonction de la force de connexion, par exemple en passant de 0,9 à 0,8. Avec les réseaux de neurones à impulsions artificiels, il n'est pas possible de modifier l'intensité des impulsions. Soit il y a une impulsion, soit il n'y en a pas. Jusqu'à présent, la conclusion était qu'il était impossible d'utiliser un entraînement classique avec les SNN. Toutefois, les chercheurs se sont rendu compte que s'il n'était pas possible de jouer sur l'intensité du signal, les neurones pouvaient émettre une impulsion plus ou moins rapidement en fonction de la force de la connexion dans le réseau.
Cette découverte permet d'ajuster l'influence d'un neurone sur un autre en fonction de la force de la connexion et de la temporisation de l'impulsion. « Et nous pouvons utiliser la même méthode d'entraînement conventionnelle hautement efficace pour les deux dans les réseaux neuronaux à impulsions que nous avons étudiés », a affirmé Christian Klos, l'un des chercheurs.
L'utilisation de SNN permettrait de réduire considérablement la consommation énergétiqueconsommation énergétique de la phase d'entraînement des IA. Les chercheurs sont déjà parvenus à entraîner un réseau neuronal à impulsions pour qu'il parvienne à distinguer des chiffres manuscrits. Ils comptent ensuite apprendre à un SNN à reconnaître la parole.