L’Organisation des Nations unies (ONU) met en garde contre les risques liés à l’utilisation croissante de l’intelligence artificielle dans les opérations militaires, notamment pour l’identification des cibles, le pilotage des drones et les cyberattaques. À New York, le 20 octobre, Robin Geiss, directeur de l’Institut des Nations unies pour la recherche sur le désarmement (UNIDIR), a appelé à préserver le contrôle humain sur les décisions militaires susceptibles de coûter des vies.
« Allons-nous laisser des machines cibler et tuer des êtres humains ? », a-t-il interrogé lors d’une conférence de presse consacrée aux enjeux militaires de l’intelligence artificielle.
Pour le responsable, les risques ne se limitent pas à l’émergence de robots capables de combattre sans intervention humaine. L’intelligence artificielle est déjà utilisée à différentes étapes des opérations militaires, de l’analyse du renseignement à la reconnaissance des cibles, en passant par le pilotage de drones et certaines cyberattaques.
Des décisions militaires de plus en plus rapides
L’intégration de ces technologies accélère les processus de décision et réduit le temps disponible pour évaluer une situation avant d’agir. Une évolution qui pourrait limiter la capacité des responsables humains à apprécier les risques et les conséquences d’une intervention.
« Les cycles de décision se raccourcissent, ils se rapprochent de la vitesse des machines, et la marge laissée au jugement humain se rétrécit, y compris dans le domaine nucléaire », a averti Robin Geiss.
Cette accélération fait craindre des erreurs d’analyse ou des réactions militaires fondées sur des informations erronées. Dans un contexte de tensions entre puissances nucléaires, une mauvaise interprétation pourrait contribuer à une escalade difficile à maîtriser.
Au-delà des performances techniques, la question porte aussi sur la responsabilité en cas d’erreur et sur le maintien d’une supervision humaine effective dans les décisions relatives à l’usage de la force.
ARVE error: No attachment with ID 152021
Les entreprises appelées à encadrer leurs pratiques
Le développement de l’intelligence artificielle militaire repose en partie sur des entreprises privées qui conçoivent les logiciels et les systèmes utilisés par les armées. Les données servant à entraîner ces outils et les choix effectués lors de leur conception peuvent influencer leur fonctionnement sur le terrain.
Pour encadrer ces pratiques, l’UNIDIR prépare, avec le Haut-Commissariat des Nations unies aux droits de l’homme, un cadre de conduite destiné aux entreprises du secteur. L’objectif est de formuler des recommandations fondées sur le droit international et les principes des Nations unies relatifs aux entreprises et aux droits de l’homme.
Ces recommandations devraient toutefois rester volontaires, alors que les technologies progressent rapidement et que les négociations internationales peinent à aboutir à des règles communes.
Le risque de détournement par des acteurs non étatiques
L’accès croissant aux outils d’intelligence artificielle suscite également des inquiétudes concernant leur utilisation par des acteurs non étatiques.
Selon Robin Geiss, des recherches indiquent que des groupes mal intentionnés utilisent déjà l’IA pour faciliter la planification, l’exécution et la logistique de certaines opérations. Des organisations terroristes ou des réseaux criminels pourraient ainsi exploiter des outils sophistiqués sans disposer d’importantes capacités technologiques.
Les mécanismes traditionnels de contrôle des exportations et de non-prolifération sont cependant mal adaptés à des capacités numériques susceptibles de circuler largement.
Avec l’Institut des Nations unies pour la formation et la recherche (UNITAR) et l’Autriche, l’UNIDIR travaille sur des pistes visant à prévenir ces détournements tout en préservant les usages pacifiques de l’intelligence artificielle.
Un accord international toujours attendu
Sur le plan diplomatique, les États peinent à s’accorder sur les restrictions à imposer aux systèmes d’armes autonomes. Les divergences entre grandes puissances compliquent les négociations, alors que les technologies continuent d’évoluer.
L’UNIDIR prévoit notamment de promouvoir un vocabulaire commun autour de notions telles que l’autonomie, la sûreté et la sécurité, afin de faciliter les discussions entre gouvernements. Un forum réunissant des États, des industriels, des chercheurs et des représentants de la société civile doit également être mis en place à Genève.
Le secrétaire général de l’ONU, António Guterres, plaide pour l’adoption d’un traité juridiquement contraignant sur les armes autonomes.
En attendant un accord international, la question du rôle des machines dans les décisions militaires reste entière. Pour les Nations unies, l’enjeu est de faire évoluer les règles suffisamment rapidement afin que l’automatisation des opérations militaires ne se traduise pas par un recul du contrôle humain sur l’usage de la force.