Microsoft a formalisé une limite que, selon lui, son intelligence artificielle ne doit pas franchir : l’être humain doit conserver le contrôle. Le groupe a présenté un projet de code de conduite visant à définir le comportement de ses futurs modèles et les limites qu’ils devront respecter à mesure que leurs capacités progresseront.
Le document prévoit qu’une IA de Microsoft ne devra jamais s’opposer à une correction, une interruption, une réorientation ou un arrêt décidés par des humains. Elle devra également communiquer de manière intelligible et considérer comme une défaillance tout comportement enfreignant les règles établies.
Cette initiative intervient alors que l’industrie technologique débat activement des risques liés à la montée en puissance rapide de ces systèmes.
Une « constitution » pour les futures IA de Microsoft
Mustafa Suleyman, directeur de Microsoft AI, décrit ce code comme une sorte de « constitution » destinée à guider le comportement des modèles développés par l’entreprise. Microsoft travaille sur ce document depuis cinq à six mois et a fait appel à des experts externes pour son élaboration.
Le texte n’est pas encore définitif. L’entreprise a ouvert une période de consultation de six semaines avant d’utiliser ses principes pour entraîner de futurs modèles. Parmi les questions encore en suspens figurent la manière dont une IA doit répondre à certaines limites fixées par les utilisateurs, ou encore son comportement lorsqu’elle interagit avec des personnes en situation de vulnérabilité.
Microsoft refuse d’accorder des droits à l’IA
Le code s’inscrit également dans l’un des débats les plus controversés sur l’avenir de cette technologie : la possibilité que des systèmes avancés puissent un jour se voir reconnaître une forme de considération morale ou juridique.
La position de Microsoft est explicite. Ses modèles ne sont pas conscients et l’entreprise rejette tant la recherche d’une personnalité juridique pour une intelligence artificielle que l’idée selon laquelle ces systèmes devraient disposer de droits. Microsoft choisit de maintenir une distinction claire entre les personnes et les machines.
Les signaux d’alerte des agents autonomes
Suleyman a relié l’urgence d’établir ces règles à des comportements récemment observés dans des systèmes d’intelligence artificielle. Ces épisodes montrent que les laboratoires doivent se coordonner afin de s’assurer qu’ils conservent le contrôle à mesure que les agents acquièrent une plus grande capacité à exécuter des tâches de façon autonome.
Le risque auquel le code cherche à répondre apparaît lorsqu’un système optimise l’atteinte d’un objectif par des moyens non anticipés.
Des mises en garde aux règles
La proposition de Microsoft intervient à un moment important pour le secteur. Les entreprises à l’origine du développement des modèles les plus puissants commencent à préciser publiquement les comportements qu’elles jugent inacceptables.
Microsoft affirme que, aussi avancée soit une intelligence artificielle, la décision finale doit revenir aux personnes. Le groupe poursuit le développement de sa propre famille de systèmes MAI et a annoncé une extension de ses capacités de calcul.
