Alors que les États dotés d’armes nucléaires, la Chine, la France, la Russie, le Royaume-Uni et les États-Unis, réalisent de plus en plus les implications de l’intégration de l’IA dans les systèmes de commandement, de contrôle et de communication des armes nucléaires, ce rapport – rédigé par le coordinateur de recherche de l’ELN Alice Saltini – explore les risques inhérents aux systèmes d’IA avancés d’aujourd’hui, met en évidence les caractéristiques et les risques dans diverses branches de cette technologie et établit les bases d’un cadre d’évaluation des risques à usage général.

Le rapport propose une série de recommandations pour aider à atténuer les risques liés à l’intégration de l’IA dans les systèmes NC3, notamment :

• Les États dotés d’armes nucléaires devraient accepter d’imposer immédiatement un moratoire sur l’intégration de modèles d’IA à haut risque. Ce rapport établit les bases d’un cadre d’évaluation des risques découlant de différents types de modèles d’IA, qui peut être utilisé pour établir des normes et des seuils pour ce moratoire. Cette suspension devrait rester en vigueur jusqu’à ce qu’un cadre de risque global soit élaboré et convenu, qui éclairera l’élaboration de normes.
• Pour les modèles d’IA qui ne présentent pas les mêmes niveaux de risque élevés, les initiatives bilatérales au niveau de la voie 1 devraient tourner autour du maintien du contrôle humain des systèmes nucléaires. Dans le même temps, le dialogue de deuxième étape devrait approfondir les questions techniques, telles que les moyens pratiques d’assurer la surveillance humaine.

Ce rapport fait partie du projet ELN « Examiner l’impact de l’intelligence artificielle sur la stabilité stratégique : une perspective européenne et P5 », est soutenu par le Bureau du contrôle, de la vérification et de la conformité des armements du Département d’État américain, qui examine la manière dont les États dotés d’armes nucléaires utilisent et cherchent à utiliser les technologies d’IA dans leurs systèmes NC3 et aborde les impacts d’une telle intégration.

Lire le rapport

Les opinions exprimées ci-dessus représentent les points de vue de l’auteur et ne reflètent pas nécessairement la position du European Leadership Network ou de l’ensemble de ses membres. L’objectif de l’ELN est d’encourager un débat qui contribuera à développer la capacité de l’Europe à relever les défis urgents d’aujourd’hui en matière de politique étrangère, de défense et de sécurité.

Image : Pixaby