L’avertissement ne vient plus seulement des chercheurs, des régulateurs ou des voix critiques à l’égard de l’intelligence artificielle. Dario Amodei, cofondateur et directeur général d’Anthropic, l’une des entreprises en concurrence dans le développement des modèles les plus avancés, a accusé le secteur lui-même d’avoir trop longtemps dissimulé les risques associés à cette technologie.
« Pendant trop longtemps, l’industrie a menti au public sur le fait que cette technologie comportait des risques », a déclaré Amodei dans une interview. Le dirigeant a assuré qu’il existait des « dangers réels » et estimé que l’essor rapide des capacités des systèmes d’intelligence artificielle constituait un signal d’alarme obligeant à réexaminer le rythme auquel progresse le secteur.
Ses propos interviennent à un moment de concurrence intense entre les grands laboratoires technologiques pour développer des modèles toujours plus performants. Anthropic, créatrice de Claude, figure précisément parmi les entreprises au cœur de cette course, aux côtés d’acteurs tels qu’OpenAI et Google DeepMind. Cette position fait de l’intervention d’Amodei bien davantage qu’un avertissement extérieur : elle soulève, au sein même du secteur, la possibilité que les mécanismes de sécurité et de supervision ne progressent pas au même rythme que la technologie elle-même.
Une proposition pour ralentir le rythme
Amodei a développé sa position dans un essai intitulé We Must Pace the Frontier, dans lequel il soutient que le développement des systèmes de pointe doit progresser avec davantage de prudence. Son inquiétude porte notamment sur la possibilité que les capacités des modèles croissent plus vite que la faculté humaine à les comprendre, les évaluer et les contrôler.
Le dirigeant d’Anthropic propose notamment d’accorder aux évaluateurs externes un accès continu aux systèmes afin de vérifier le respect des mesures de sécurité, d’analyser les incidents et d’étudier le comportement des modèles pendant leur entraînement.
Cette proposition dépasse les décisions qu’une seule entreprise pourrait prendre. Amodei juge nécessaire une coordination entre les principaux développeurs d’intelligence artificielle, puis, dans un second temps, des accords internationaux susceptibles de fixer certaines limites et normes de sécurité.
Le problème est qu’un ralentissement unilatéral du développement pose une difficulté évidente dans un secteur soumis à une forte concurrence à la fois économique et géopolitique. Si une entreprise décide d’avancer plus lentement tandis que ses concurrents maintiennent leur cadence, elle risque de perdre du terrain dans une technologie considérée comme stratégique. La même tension se retrouve à l’échelle internationale, notamment dans la compétition technologique entre les États-Unis et la Chine.
Un débat qui divise le secteur
Les avertissements d’Amodei ont trouvé un écho auprès de certains des noms les plus influents du secteur. Des dirigeants tels que Sam Altman, d’OpenAI, Demis Hassabis, de Google DeepMind, et Elon Musk ont eux aussi fait part de leurs préoccupations quant à la vitesse de développement des systèmes les plus avancés, même si leurs positions et propositions concrètes ne sont pas identiques.
Dans le même temps, l’appel à ralentir a suscité des critiques. Ses détracteurs remettent en cause tant la possibilité de coordonner des entreprises et des pays concurrents que l’opportunité d’introduire des restrictions susceptibles de freiner l’innovation ou de favoriser les entreprises déjà en position dominante.
Le débat revêt également une dimension politique. Les propositions en faveur d’un contrôle accru des systèmes avancés se heurtent à la position de ceux qui estiment que les États-Unis doivent maintenir le rythme le plus élevé possible afin de préserver leur avance technologique sur la Chine. Des médias officiels chinois ont critiqué les positions d’Amodei et interprété ses propositions sur le contrôle technologique comme un élément de la rivalité entre les deux pays.
Anthropic alerte depuis des années sur les risques
La position d’Amodei ne constitue pas une rupture complète avec son discours antérieur. Anthropic est née en plaçant fortement l’accent sur la sécurité des systèmes d’intelligence artificielle, et son directeur général alerte depuis des années sur les effets négatifs potentiels de modèles toujours plus puissants.
Dans le même temps, Amodei a publiquement défendu l’immense potentiel de cette technologie. En 2024, il a publié l’essai Machines of Loving Grace, dans lequel il décrivait un scénario où une intelligence artificielle suffisamment avancée pourrait accélérer le progrès dans des domaines tels que la biologie, la médecine, les neurosciences ou le développement économique.
Cette combinaison d’attentes et de risques permet de comprendre sa position actuelle. Amodei ne préconise pas de renoncer au développement de l’intelligence artificielle, mais de gagner du temps afin que les mécanismes de contrôle puissent progresser avant l’apparition de systèmes dont les capacités seraient beaucoup plus difficiles à superviser.
La discussion revêt une importance particulière, car elle émane de ceux qui sont directement en mesure de décider jusqu’où et à quelle vitesse la technologie continuera de progresser. La question n’est plus seulement de savoir ce que l’intelligence artificielle peut faire, mais quelles limites les entreprises qui rivalisent pour la construire sont prêtes à accepter.
