IA : l’ONU alerte sur le risque d’une guerre menée par les machines

L’intelligence artificielle s’impose dans les arsenaux militaires, accélérant les décisions et réduisant la part du jugement humain, y compris dans le domaine nucléaire. Mardi, l’ONU a mis en garde contre une évolution que les règles internationales peinent à encadrer, tout en annonçant plusieurs initiatives pour tenter de reprendre la main.

Les machines décideront-elles bientôt seules de qui doit vivre ou mourir sur un champ de bataille ? La question n’appartient plus à la science-fiction. « La guerre menée par les machines se rapproche toujours davantage, et la question qui se pose à nous est, tout simplement : allons-nous laisser des machines cibler et tuer des êtres humains ? », a lancé mardi Robin Geiss, directeur de l’Institut des Nations Unies pour la recherche sur le désarmement (UNIDIR), lors d’une conférence de presse à New York.

Le danger, selon lui, ne réside pas seulement dans l’apparition de robots tueurs entièrement autonomes. Il tient à une transformation déjà engagée des opérations militaires, dans laquelle l’IA intervient à presque toutes les étapes, de l’analyse du renseignement à l’identification des cibles, en passant par le pilotage des drones et les cyberattaques.

À mesure que ces technologies progressent, les décisions s’accélèrent et la possibilité d’une intervention humaine se réduit. « Au moment où nous parlons, les cycles de décision se raccourcissent, ils se rapprochent de la vitesse des machines, et la marge laissée au jugement humain se rétrécit, y compris dans le domaine nucléaire », a averti M. Geiss.

Cette accélération pourrait rendre les conflits plus difficiles à maîtriser. Les systèmes d’IA, dont le fonctionnement demeure parfois opaque, introduisent de nouveaux risques d’erreur, de mauvais calcul et d’escalade involontaire. Dans un affrontement entre puissances nucléaires, une décision prise trop rapidement sur la base d’une analyse erronée pourrait avoir des conséquences catastrophiques.

Une diplomatie encore à la traîne

L’obstacle est aussi politique. Les rivalités entre grandes puissances compliquent l’élaboration de règles communes. Les négociations internationales restent dispersées entre plusieurs enceintes, tandis que les États divergent sur la portée des restrictions à imposer aux systèmes d’armes autonomes.

Pour faciliter le dialogue, l’UNIDIR lancera vendredi un projet de lexique commun. Derrière des termes apparemment consensuels, comme « autonomie », « sûreté » ou « sécurité », les gouvernements placent en effet des réalités parfois très différentes, ce qui entrave les négociations.
L’institut inaugurera également jeudi, avec la Suisse et le Pakistan, un forum réunissant États, industriels, chercheurs et représentants de la société civile. Rattaché à son Centre d’excellence créé en juin à Genève, il doit offrir un espace permanent de concertation sur les enjeux militaires de l’IA.

Robin Geiss a néanmoins relevé quelques signes d’ouverture. En septembre, les États-Unis ont proposé à la Chine une ligne de communication consacrée aux incidents liés à l’IA susceptibles de menacer la sécurité nationale. Les appels répétés du Secrétaire général de l’ONU, Antonio Guterres, à un traité juridiquement contraignant sur les armes autonomes trouvent également un écho croissant, selon lui.

Reste un décalage considérable entre la rapidité des innovations militaires et celle de la diplomatie. Les initiatives annoncées cette semaine visent à rapprocher les positions, non à imposer de nouvelles obligations. Pendant que les États cherchent encore à définir les règles, les machines occupent déjà une place grandissante dans les décisions de guerre.

Avec ONU Info