Des IA trop « woke », qui sont l’expression des idées radicales de la gauche et des freins éthiques qui ralentissent l’innovation. Voici ce que pense le futur président des États-Unis, Donald Trump. Il compte abroger un décret qu'avaient promulgué les Démocrates pour sécuriser leur développement.
au sommaire
Des IAIA débridées pour accélérer leur développement et aussi les empêcher de devenir « woke ». C'est le souhait du futur président américain Trump. Sans aucun doute sous l'influence de son contributeur de campagne Elon MuskElon Musk, il a promis d'abroger les réglementations existantes sur l'IA, mises en place par le président actuel Joe Biden. Des dispositions adoptées en octobre 2023 et qui, de toute façon, avaient une portée déjà assez limitée sur les freins apportées aux IA en matièrematière de sécurité.
Pour Trump, ce décret est considéré comme « dangereux » et entravant pour l'innovation en matière d'IA. Mais ce n'est pas tout, puisqu'il voit dans ce décret un acte politique des Démocrates qui « impose des idées radicales de gauche au développement de cette technologie ». Il souhaite une IA « enracinée dans la liberté d'expression et l'épanouissement humain ». Des mots qui semblent sortir tout droit de la bouche d'Elon Musk qui prône cette philosophie depuis son rachat de TwitterTwitter et sa transformation en X.
Deux dispositions du décret de Biden sont dans le collimateur des Républicains et de certaines sociétés de la high-tech poussant au développement débridé des IA. Ces derniers critiquent une disposition qui impose l'évaluation des risques des grands modèles d'IA. Les sociétés du secteur doivent partager leurs résultats d'un test baptisé « red-team » avec le gouvernement. L'évaluation porteporte notamment sur la vulnérabilité des IA au piratage.
Le saviez-vous ?
La pratique du « red teaming » tire ses origines de la stratégie militaire de Sun Tzu dans L’Art de la guerre. Elle consiste à chercher les vulnérabilités cachées que pourrait exploiter l'adversaire pour les colmater. Dans le cas des IA, il s’agit de garder le contrôle sur les initiatives éthiquement discutables qu'elles pourraient générer d'elles-mêmes.
Elon Musk parle à l’oreille du président
Ce processus de red teaming ralentit le rythme de développement des IA et oblige les entreprises à divulguer leurs secrets de conception, selon ses pourfendeurs. Du côté des Républicains, c'est plutôt un autre point qui est attaqué : celui qui impose de garantir que les modèles d'IA soient exempts de biais susceptibles de discriminer certains groupes en fonction, par exemple de la race ou du sexe. Trop « woke » pour les soutiens de Trump et en premier lieu Elon Musk.
Ce dernier a surtout beaucoup à gagner d'une abrogation de ce décret. Cela lui permettrait de gagner du temps sur le retard qu'il a pris sur ses propres IA. Paradoxalement, lors de l'ouverture de ChatGPTChatGPT vers le grand public, il avait demandé la mise en place d'un moratoire sur le développement des IA pour éviter qu'elles deviennent hors de contrôle éthiquement. C'était, là encore, un prétexte pour tenter de rattraper OpenAI.
En attendant l'arrivée d'une abrogation ou d'un nouveau décret, cette annonce a de quoi inquiéter les spécialistes de l'IA, qui, comme l'un de ses parrains, Yann LeCun considèrent qu'elle sera bientôt suffisamment intelligente pour rivaliser avec les humains et devenir dangereuse pour l’humanité.
