L’intelligence artificielle militarisée : vers une guerre sans conscience ?

Sur le plan stratégique, l’intégration de l’IA dans les opérations militaires n’est plus une vision du futur. Elle transforme déjà le traitement du renseignement, la coordination des forces et l’aide à la décision. Certaines applications peuvent améliorer la perception d’une situation ou réduire des erreurs ; ces bénéfices possibles ne dispensent pas d’examiner leurs limites et leurs conditions d’emploi. Les États-Unis ont notamment développé l’initiative Joint All-Domain Command and Control (JADC2), dont le plan de mise en œuvre a été signé en mars 2022. Elle vise à relier les informations recueillies dans les différents milieux d’opération et à accélérer leur exploitation, en mobilisant notamment l’automatisation, l’IA et l’apprentissage automatique.[1]

La Chine, quant à elle, inscrit le rapprochement entre innovation civile et développement militaire dans sa stratégie de « fusion militaro-civile » (Military-Civil Fusion). Cette articulation nourrit une compétition dans laquelle les États cherchent à transformer la maîtrise des données et des algorithmes en avantage stratégique. La Russie, Israël et la Turquie participent également, selon des moyens et des approches différents, à cette évolution de l’armement et des opérations.

Il faut toutefois distinguer l’IA d’aide à la décision, l’automatisation de certaines fonctions et l’autonomie dans la sélection et l’attaque d’une cible. Un drone n’est pas nécessairement autonome ; une arme autonome ne repose pas nécessairement sur l’IA. Confondre ces catégories empêche de mesurer précisément ce qui est délégué à la machine et ce qui demeure sous contrôle humain.[2]

Enfin, ces transformations soulèvent d’importantes controverses éthiques : jusqu’où peut-on déléguer la prise de décisions létales à des machines ? Quelles garanties peuvent être apportées pour éviter des situations où des IA risqueraient d’engendrer des conflits imprévus ou d’être exploitées à des fins malveillantes ? La modification des rapports de force et d’éthique qui en découle pousse à un débat mondial visant à encadrer ces technologies pour préserver la paix et la sécurité, tout en respectant les principes fondamentaux du droit international humanitaire.

L’IA et les nouvelles formes de la guerre stratégique

Les États-Unis, la Chine, la Russie, ainsi que des acteurs comme Israël ou la Turquie, cherchent à acquérir un avantage stratégique par la conception, le développement et le déploiement de systèmes intégrant l’IA. La recherche d’opérations plus rapides et plus efficaces soulève néanmoins un enjeu majeur : l’absence d’un instrument international universel spécifiquement consacré à l’encadrement des systèmes d’armes létaux autonomes (SALA). Cette situation ne signifie pas que le recours à ces systèmes échappe au droit existant. Elle laisse cependant subsister des désaccords sur les interdictions et les restrictions supplémentaires à établir.[2]

Le cas libyen illustre la nécessité de ne pas confondre capacités techniques et faits établis. Publié en mars 2021, le rapport du Groupe d’experts des Nations Unies sur la Libye évoque, à propos des opérations de 2020, l’emploi de systèmes tels que le drone turc Kargu-2 et leur capacité à opérer sans liaison permanente avec un opérateur. Ce rapport ne permet toutefois pas, à lui seul, d’affirmer avec certitude qu’un Kargu-2 a sélectionné et tué une personne de façon entièrement autonome. L’incertitude porte précisément sur le mode d’emploi effectif de ces armes.[3]

Le développement de l’IA militaire s’inscrit aussi dans une compétition industrielle et technologique. Chaque acteur cherche à maîtriser la chaîne de valeur de l’armement, de la conception des algorithmes à la fabrication des systèmes physiques. La course à l’innovation ne porte donc pas seulement sur l’efficacité immédiate des forces : elle engage les dépendances technologiques, la circulation des compétences et les rapports de puissance qui façonneront la sécurité internationale.

La vitesse constitue un autre enjeu de puissance. Un outil d’aide à la décision peut raccourcir le temps d’analyse sans pour autant comprendre les intentions adverses. Si ses utilisateurs prennent une corrélation pour une preuve, ou si plusieurs systèmes réagissent les uns aux autres dans un temps trop court pour permettre une appréciation humaine, le risque d’erreur peut devenir un risque d’escalade. Il ne suffit donc pas qu’un système traite davantage de données : encore faut-il que ses conclusions puissent être discutées avant qu’elles produisent des effets irréversibles.

L’avantage algorithmique ne se mesure pas seulement à la performance d’une arme. Il dépend aussi des infrastructures de calcul, de l’accès aux données, de la maîtrise des communications et de la capacité à maintenir un dispositif dans la durée. Une armée peut disposer d’un logiciel performant tout en restant dépendante de composants, de services ou de mises à jour qu’elle ne contrôle pas. La souveraineté revendiquée peut ainsi déplacer la dépendance plutôt que la supprimer. Cette question est politique autant qu’industrielle : qui conserve la capacité de comprendre, de modifier et de suspendre l’outil lorsque les intérêts du fournisseur et ceux de l’utilisateur divergent ?

La diffusion de ces technologies complique les politiques de non-prolifération. Une partie des connaissances et des composants mobilisés possède des usages civils : traitement d’images, navigation, communications, calcul ou robotique. Il serait donc trompeur d’imaginer une frontière simple entre un secteur civil pacifique et un secteur militaire entièrement séparé. Cela ne signifie pas que toute innovation civile conduise nécessairement à un usage guerrier. Cela signifie que le contrôle doit examiner les applications et les conditions d’emploi, tout en tenant compte de la circulation des compétences et des possibilités de détournement. Une interdiction indifférenciée de la recherche en IA manquerait sa cible ; l’absence de limites sur ses usages militaires serait tout aussi inadéquate.

Cette compétition peut, en outre, produire un mécanisme d’entraînement. Chaque puissance peut justifier l’accélération de ses programmes par la crainte d’un retard face à ses adversaires. Le raisonnement est compréhensible à l’échelle d’un État, mais dangereux à l’échelle collective : des décisions présentées comme défensives peuvent être perçues ailleurs comme la préparation d’un avantage offensif. La recherche de sécurité alimente alors l’insécurité que chacun prétend réduire. L’IA ne crée pas ce dilemme stratégique ; elle peut l’intensifier en rendant les capacités réelles plus difficiles à apprécier et les intentions plus difficiles à distinguer des simples possibilités techniques.

L’enjeu devient particulièrement grave lorsque l’IA intervient dans des dispositifs d’alerte ou dans des décisions susceptibles d’affecter l’équilibre nucléaire. Une information mal interprétée n’a pas les mêmes conséquences selon qu’elle influence une activité logistique ou l’appréciation d’une menace existentielle. Dans ce second cas, la réduction du temps de décision et la confiance excessive accordée à une recommandation peuvent aggraver les risques de méprise. Les inquiétudes exprimées dans les travaux du Conseil consultatif pour les questions de désarmement, publiés par l’UNIDIR, portent précisément sur cette compression des délais et sur les possibilités d’escalade.[7] Il faut toutefois garder la distinction : l’emploi d’IA dans l’analyse d’une alerte n’équivaut pas, par lui-même, à déléguer à une machine la décision d’un emploi nucléaire.

Ruptures normatives et obstacles à la régulation internationale

Le droit international humanitaire s’applique déjà aux armes autonomes, comme aux autres moyens et méthodes de guerre. Les règles de distinction, de proportionnalité et de précaution continuent de s’imposer. La difficulté tient notamment à la prévisibilité des effets, à la capacité de respecter ces obligations dans un environnement changeant et au maintien d’un contrôle humain effectif. Le CICR considère que les règles existantes doivent être complétées par de nouvelles interdictions et restrictions juridiquement contraignantes.[2]

La responsabilité ne disparaît pas davantage parce qu’un logiciel intervient dans la chaîne de décision. Les États restent liés par leurs obligations internationales, et la responsabilité pénale d’une personne dépend des faits et des conditions juridiques applicables. En revanche, établir les contributions respectives d’un opérateur, d’un commandant ou d’un concepteur peut devenir particulièrement difficile. L’opacité d’un système et la dispersion des interventions compliquent l’enquête et l’attribution des actes ; elles ne créent pas, par elles-mêmes, une exemption de responsabilité.

Des tentatives diplomatiques ont pourtant émergé. Réuni depuis 2017 dans le cadre de la Convention sur certaines armes classiques (CCAC), le Groupe d’experts gouvernementaux sur les systèmes d’armes létaux autonomes a élaboré des principes directeurs et poursuivi ses travaux. Il serait donc excessif de parler d’une absence totale d’avancées. Mais ces travaux n’ont pas encore débouché sur un traité universel spécifique. Les divergences entre États portent notamment sur la définition des systèmes concernés, les limites à imposer et la forme juridique de leur encadrement.[4]

Plusieurs ONG, dont Human Rights Watch et le Future of Life Institute, ainsi que des chercheurs comme Stuart Russell et Noel Sharkey, défendent un encadrement international contraignant et le maintien d’un contrôle humain significatif. Les propositions ne sont cependant pas toutes identiques. Le CICR préconise notamment l’interdiction des armes autonomes imprévisibles et de celles conçues ou utilisées pour cibler directement des personnes, ainsi que des restrictions strictes sur les autres systèmes. Il ne demande pas l’interdiction de toute utilisation de l’IA dans les armements.[2]

Les divergences entre une logique privilégiant la souveraineté et l’avantage stratégique des États, d’une part, et une approche centrée sur la protection des personnes, d’autre part, compliquent la recherche d’un accord. Ces deux orientations ne se répartissent pas toujours en blocs homogènes. Leur confrontation n’en nourrit pas moins une impasse politique qui peut laisser les pratiques militaires progresser plus vite que les limites négociées.

La qualité des données et les conditions de déploiement sont également déterminantes. Des informations incomplètes, biaisées, périmées ou manipulées peuvent conduire à des recommandations erronées. Un résultat satisfaisant dans un environnement d’essai ne garantit pas un comportement identique dans une situation de combat changeante. À ces limites s’ajoutent les risques de compromission informatique et la difficulté d’expliquer certaines sorties algorithmiques. L’apparence de précision ne doit pas être confondue avec la fiabilité d’une décision.

L’examen juridique préalable d’une arme offre un point d’appui concret. L’article 36 du Protocole additionnel I de 1977 impose aux États qui y sont parties de déterminer, lors de l’étude, de la mise au point, de l’acquisition ou de l’adoption d’une nouvelle arme, si son emploi serait interdit dans certaines ou dans toutes les circonstances. Cette obligation ne doit pas être présentée comme une procédure de certification universelle : elle dépend des engagements applicables à l’État concerné et ne préjuge pas de la licéité de chaque emploi ultérieur.[8] Un outil jugé utilisable dans une situation déterminée peut demeurer inadapté, voire être employé illégalement, dans une autre.

La distinction entre civils et combattants ne se résume pas à reconnaître une silhouette sur une image. L’appréciation d’une situation dépend d’informations contextualisées, parfois contradictoires, et d’éléments qui ne se laissent pas réduire à une classification automatique. De même, la proportionnalité ne consiste pas à choisir un seuil statistique général : elle exige une appréciation liée à une attaque déterminée. Une performance moyenne élevée ne garantit donc pas le respect du droit dans chaque circonstance. Cette limite ne prouve pas que tout système autonome serait nécessairement illicite ; elle impose d’examiner précisément les tâches, l’environnement et les conditions de contrôle retenus.[2]

La question est plus délicate encore pour les outils qui ne tirent pas eux-mêmes. Un logiciel peut organiser les informations disponibles, classer des hypothèses ou hiérarchiser des recommandations de telle manière que les choix proposés paraissent déjà tranchés. La décision demeure juridiquement humaine, mais son élaboration peut être largement orientée en amont. Les travaux consacrés à l’aide algorithmique à la décision militaire soulignent le risque de biais d’automatisation : dans certaines conditions, un utilisateur peut accorder une confiance excessive à la sortie d’un système, surtout lorsque le temps manque pour la contester.[6] La seule présence d’un humain au terme du processus ne suffit donc pas à décrire la qualité du contrôle qu’il exerce.

Une difficulté supplémentaire concerne l’évolution des logiciels. La modification des données d’entrée, une mise à jour ou un changement d’environnement peuvent remettre en cause les conclusions d’une évaluation antérieure. Un contrôle sérieux doit pouvoir identifier ce qui a été effectivement testé et ce qui a changé depuis. Faute de quoi, la validation d’une version risque d’être invoquée comme garantie pour des usages qu’elle n’a jamais couverts. L’exigence ne consiste pas à prévoir tous les événements imaginables ; elle consiste à ne pas présenter les limites connues ou les incertitudes importantes comme si elles avaient disparu.

Enjeux éthiques et stratégiques de la déshumanisation du combat

Au-delà des questions techniques et juridiques, la militarisation de l’IA pose des enjeux existentiels profonds concernant la nature même de la guerre et la responsabilité humaine. Peut-on légitimement confier à un algorithme la décision de tuer ? Qu’adviendra-t-il de la responsabilité morale, lorsqu’une machine est capable de prédire, cibler, puis neutraliser des cibles sans intervention humaine directe ? Ces interrogations mettent à l’épreuve un principe essentiel : la guerre demeure une activité politique dont les décisions doivent engager la responsabilité des êtres humains.

Les travaux de Mary Kaldor sur les « nouvelles guerres » invitent à examiner les transformations des acteurs, des logiques politiques et des économies de la violence.[5] Dans cette perspective, l’autonomisation des armements pose une question supplémentaire : des choix politiques pourraient être présentés comme de simples nécessités techniques, et la délégation opérationnelle pourrait rendre leur responsabilité moins visible.

Certains analystes redoutent également un abaissement du seuil de recours à la force. Si les dirigeants estiment qu’une opération expose moins leurs propres forces et entraîne un coût politique moindre, la tentation d’une action préventive ou unilatérale pourrait s’accentuer. Cette hypothèse ne constitue toutefois pas une conséquence automatique de l’autonomie. De même, l’expérience des drones téléopérés permet d’interroger la distance morale entre l’opérateur et la violence exercée ; elle ne prouve pas, à elle seule, les effets d’armes capables de sélectionner et d’attaquer des cibles sans nouvelle intervention humaine.

De plus, la compétition stratégique autour de l’IA intervient dans une dynamique plus large de reconfiguration de l’ordre international. Dans un contexte où l’asymétrie technologique devient un vecteur de puissance susceptible de modifier les équilibres stratégiques, la nature même de la sécurité globale doit être reconsidérée. La possibilité d’avoir des armements autonomes, rapides et déconnectés d’un contrôle humain direct, pourrait transformer les équilibres de force et créer un nouvel horizon de risques imprévisibles.

Le terme de « conscience » mérite ici d’être précisé. Il ne s’agit pas de supposer qu’un dispositif informatique pourrait éprouver la culpabilité ou comprendre la valeur d’une vie comme un être humain. La question concerne les personnes et les institutions qui décident de l’utiliser. Une guerre ne devient pas responsable parce qu’elle conserve formellement un opérateur ; elle ne perd pas toute responsabilité humaine parce qu’une fonction est automatisée. Le danger apparaît lorsque l’organisation de la décision permet à chacun de se considérer comme l’exécutant d’une nécessité technique dont personne ne se reconnaît pleinement l’auteur.

Il faut, par ailleurs, prendre au sérieux l’argument de ceux qui défendent certains usages militaires de l’IA. Les êtres humains commettent des erreurs, peuvent agir sous l’effet de la fatigue, de la peur, de la vengeance ou de préjugés. Une technologie peut, dans une tâche précise et des conditions définies, contribuer à réduire certains de ces risques. Mais on ne peut déduire d’un bénéfice local la supériorité générale d’un dispositif. La comparaison doit porter sur des situations et des conséquences réelles, et intégrer les erreurs rares mais graves, les limites du contexte d’emploi et les effets sur la conduite des opérations. L’efficacité annoncée n’est pas un substitut à cette démonstration.

L’évaluation éthique doit également tenir compte des personnes qui subissent l’usage de la force. Un débat centré uniquement sur la protection des soldats de l’État utilisateur peut oublier les civils et les populations exposées. Réduire les risques pour ses propres forces ne suffit pas à rendre une opération plus acceptable si les dommages sont déplacés vers d’autres personnes, moins visibles dans le calcul politique. C’est pourquoi la question ne peut se limiter à la distance entre l’opérateur et la cible. Elle porte sur la manière dont les vies sont prises en considération et sur la possibilité, pour les victimes, d’obtenir des explications et d’accéder à des mécanismes de responsabilité.

La déshumanisation peut ainsi résulter d’une organisation du travail autant que d’une autonomie technique. La fragmentation des tâches, la multiplication des intermédiaires et le langage impersonnel des indicateurs peuvent éloigner la décision de ses effets humains. L’IA peut renforcer ce mouvement si elle transforme des personnes en catégories réputées objectives ou des incertitudes en résultats apparemment incontestables. Elle peut aussi être soumise à des procédures qui obligent à expliciter les doutes et à conserver une faculté de refus. Le choix entre ces deux orientations ne relève pas de la seule qualité d’un algorithme : il dépend de la doctrine, de la formation, de la hiérarchie et de la culture institutionnelle.

Les conditions d’une gouvernance responsable

Or, la question qui se pose aujourd’hui est celle de savoir si, compte tenu de la conjoncture géopolitique et de la montée des forces de droite et d’extrême droite en Europe et aux États-Unis notamment, il demeure réaliste d’espérer un engagement international pour une gestion plus responsable et plus rigoureuse de l’IA militaire. À bien des égards, un accord global apparaît peu probable à court terme. Mais l’orientation politique des gouvernements ne suffit pas à expliquer cet obstacle : les intérêts militaires, les rivalités de puissance, les dépendances industrielles et les difficultés de vérification pèsent également sur les négociations.

Ce constat ne rend pas les efforts diplomatiques inutiles. Il oblige à mesurer l’écart entre l’affirmation de principes communs et l’acceptation de contraintes effectives. Un contrôle humain significatif ne peut se réduire à la présence formelle d’un opérateur dans une chaîne de décision dont il ne comprendrait ni le fonctionnement ni les conséquences. Il suppose une capacité réelle à apprécier l’emploi de la force, à en limiter les effets et à y renoncer.

Cela implique d’évaluer les systèmes avant leur emploi, de définir précisément les tâches qui peuvent leur être confiées et de fixer les situations dans lesquelles leur utilisation doit être interrompue. La possibilité technique d’annuler une action ne suffit pas si l’opérateur ne dispose ni du temps ni des informations nécessaires pour le faire. De même, conserver une trace exploitable des décisions et des interventions humaines est indispensable pour permettre un contrôle a posteriori. Ces exigences donnent un contenu concret à la responsabilité ; elles ne peuvent être remplacées par une déclaration générale de confiance dans la technologie.

La gouvernance doit aussi porter sur la chaîne industrielle. Les autorités publiques ne peuvent transférer leur responsabilité à un fournisseur au motif qu’un logiciel serait trop complexe ou protégé par le secret commercial. Les conditions d’acquisition, d’évaluation et de maintenance doivent permettre de comprendre les limites du système et d’identifier les obligations des différents intervenants. Le contrôle démocratique conserve ici toute sa place : protéger des informations sensibles ne peut justifier l’absence de débat sur les catégories d’armes admises et sur les décisions que la société refuse de déléguer.

L’encadrement international doit distinguer ce qui doit être prohibé de ce qui peut être admis sous des limites strictes. La position défendue par le CICR offre une articulation de ce type : elle vise certaines catégories jugées inacceptables et demande des restrictions sur les autres, plutôt qu’une interdiction globale de l’IA militaire.[9] Cette distinction a une importance politique : mettre sur le même plan un outil de maintenance et un système capable de sélectionner une personne pour l’attaquer dilue le débat. Elle permet au contraire de concentrer les obligations sur les usages et les effets qui appellent les garanties les plus exigeantes.

La vérification restera difficile. Un logiciel est moins visible qu’un matériel lourd, ses fonctions peuvent être modifiées et une même plateforme peut recevoir des usages différents. Reconnaître cette difficulté ne revient pas à renoncer à toute règle. Des engagements sur les conditions d’emploi, des évaluations documentées, des mécanismes de notification ou des échanges sur les limites techniques peuvent contribuer à rendre les pratiques plus lisibles. Aucun de ces instruments ne constitue, isolément, une garantie absolue. Leur utilité dépend de leur combinaison, de la possibilité de contrôler leur respect et de la volonté politique de traiter les manquements autrement que comme de simples incidents techniques.

Une autre précaution s’impose : la guerre ne doit pas servir de modèle juridique indistinct pour tous les usages de la force. Un système développé pour un conflit armé ne saurait être transféré à des missions de police ou de contrôle de populations comme si les mêmes règles s’appliquaient mécaniquement. Les cadres juridiques, les finalités et les contraintes doivent être réexaminés selon la situation. Cette question est d’autant plus importante que les outils de surveillance, d’identification et d’analyse de comportements peuvent circuler entre institutions. Le caractère « dual » d’une technologie ne dispense jamais de justifier la licéité et la nécessité de son emploi concret.

Enfin, la prudence ne peut être réservée aux adversaires. Un État ne peut réclamer des limites internationales tout en considérant que ses propres procédures suffiraient, par principe, à rendre tout développement acceptable. La crédibilité d’une régulation dépend de règles auxquelles les puissances qui les défendent acceptent elles-mêmes d’être liées. L’enjeu est donc aussi celui de la réciprocité et de la confiance, dans un contexte qui les fragilise. C’est précisément parce qu’un accord d’ensemble demeure difficile que la définition de limites explicites, contrôlables et applicables à tous ne devrait pas être remise à un avenir indéterminé.

L’intégration de l’IA dans la sphère militaire ne peut donc être vue comme une simple avancée technologique, mais comme une mutation qualitative, juridique et morale profonde. Sans accord international sur des règles spécifiques et contraignantes, la crainte d’une guerre « sans conscience » - où la vitesse, la complexité et la sophistication échappent à la capacité humaine de contrôle - constitue un risque majeur.