Le responsable de l’IA de Microsoft met en garde contre une IA qui pourrait devenir une nouvelle « espèce de silicium »

Jeudi dernier, Mustafa Suleyman, le responsable de l’IA chez Microsoft, a lancé une sérieuse mise en garde. Dans une interview accordée à la BBC, il a averti que l’intelligence artificielle non réglementée pourrait entraîner l’émergence d’une nouvelle « espèce de silicium » qui entrerait en concurrence avec les humains pour les ressources. Dans un précédent article, Suleyman avait critiqué l’approche de l’entreprise concurrente Anthropic en matière d’IA.

Suleyman a reproché à Anthropic « d’anthropomorphiser » son chatbot Claude, en l’encourageant à refléter des particularités typiquement humaines, telles que celles liées à la curiosité, aux désirs ou au respect de certaines valeurs. Selon lui, cette approche est « mal avisée » et risque de créer des systèmes d’IA plus difficiles à contrôler pour l’humanité, quelles que soient les intentions de leurs concepteurs.

Suleyman a également reconnu que les deux entreprises partageaient le même objectif : développer une IA avancée en toute sécurité. Il a souligné que les futurs systèmes d’IA devaient rester subordonnés à l’humanité afin de garantir que l’IA reste alignée sur les valeurs humaines.