Tribune : Robots tueurs : « Nous devons anticiper, pour ne pas les subir, les ruptures politiques et stratégiques liées à leur développement »

Considérant l’effroyable caricature du mythe des « robots tueurs », donnée à voir par la série de films Terminator de James Cameron, il est pertinent de s’interroger sur sa concrétisation, dans un avenir relativement proche.

Alliant robotique et intelligence artificielle à des fins d’applications militaires, les systèmes d’armes létales autonomes (SALA), communément connus sous le vocable « robots tueurs », portent intrinsèquement un changement radical de paradigme dans les rapports de l’homme à la guerre. Les armes autonomes ont été décrites comme « la troisième révolution des techniques de guerre, après la poudre à canon et les armes nucléaires », et c’est précisément pour cette raison que, député, membre de la commission de la défense, je me suis saisi du sujet et que j’appelle à la création d’une mission d’information parlementaire.

Délitement du multilatéralisme

Il semble, en effet, que la position française puisse nécessiter d’être affirmée plus fermement tant d’un point de vue juridique qu’au niveau de la recherche et du développement technologique. Que l’on considère que la guerre est le prolongement de la politique par d’autres moyens, selon la formule de Clausewitz, ou qu’à l’instar de Foucault l’on estime que c’est la politique qui est la continuation de la guerre par d’autres moyens, il reste que politique et stratégie militaire sont étroitement liées.

Dans un contexte international de délitement du multilatéralisme, avec en miroir une exacerbation des nationalismes, et où les conflits armés se pérennisent, notamment en raison de la lutte contre le terrorisme, une prochaine rupture stratégique pourrait intervenir plus rapidement que ce que nous pouvons imaginer, avec le développement et l’utilisation des SALA.

Et il pourrait s’avérer relativement périlleux de se refuser catégoriquement à s’engager dans cette voie de la robotique militaire, au risque de souffrir tôt ou tard d’un déclassement stratégique. La France semble osciller entre un refus de voir émerger des SALA hors intervention humaine, et une préférence pour l’adoption d’un texte international non contraignant, avec une politique industrielle de défense empêchée d’investir dans une telle technologie.

Or, si la Chine, les Etats-Unis et la Russie sont réticents à tout texte contraignant, ces pays investissent massivement dans le développement de ce type d’armes. Le département de la défense américain indiquait, il y a peu, envisager l’utilisation des SALA pour protéger ses soldats. En décembre 2017, le secrétaire adjoint de la défense des Etats-Unis annonçait, déjà, un effort budgétaire de 10 milliards de dollars (8,82 milliards d’euros), consacré au développement des technologies dans cinq domaines-clés, tous liés à la robotique ou à l’intelligence artificielle.

Autonomisation

Face aux Etats-Unis, la Chine, avec l’objectif de devenir la première puissance mondiale de l’intelligence artificielle, semble ne pas s’être fixée de limite aux niveaux stratégique et éthique, comme l’a relevé Thierry Berthier, chercheur au sein de la chaire de cyberdéfense et cybersécurité Saint-Cyr.

Quant à la Russie, il est indispensable d’observer, avec vigilance, son intention déclarée d’assurer la surveillance de ses sites de missiles nucléaires par des plates-formes autonomes, dès cette année, à l’aune de son annonce de 2015 relayant l’intégration réussie de machines autonomes, dans une campagne d’exercices militaires en Baltique.

Article réservé à nos abonn

Si les machines actuelles restent contrôlées par l’homme, cette situation tend à évoluer vers une autonomisation plus globale des machines dotées de force létale. A la frontière entre les deux Corées, il existe des plates-formes autonomes SGR-A1 de Samsung dotées, notamment, d’un mode qui permet à la machine de décider en toute autonomie de la mise en œuvre de ses armes.

C’est dans l’élaboration des réponses éthique et juridique au développement des SALA que se cristallisent les divergences de positions.

Ainsi, la résolution 2018/2752 du Parlement européen, adoptée le 12 septembre 2018, exhorte les Etats membres à s’engager dans des négociations internationales, en vue d’un instrument contraignant prohibant les SALA, et prône deux positions politiques majeures : l’adoption d’une position commune qui garantisse le contrôle humain dans les fonctions critiques du système, et l’interdiction de tout programme de développement et de production de SALA pouvant opérer sans intervention humaine.

Points de tension presque irréconciliables

Or, dans le cadre des débats, engagés à l’ONU, devant le groupe d’experts à la convention sur certaines armes classiques, la France et l’Allemagne ont conjointement déclaré que la définition des SALA dépendrait, à la fois, de l’évolution technologique, se refusant ainsi à arrêter une définition juridique, et de la détermination des statuts juridique et politique voulus pour les SALA.

Article réservé à nos abon

On observe donc des points de tension presque irréconciliables, à l’heure où, en Europe, des voix s’élèvent en faveur d’un droit des robots instaurant jusqu’à une personnalité juridique des robots, avec les risques induits par l’imputation de la responsabilité. Qui du fabricant, du programmeur, du décisionnaire militaire pourra se voir déclaré responsable en cas de défaillance du système dans l’usage de la force létale ?

Mais je dois aussi alerter sur le risque, non moins important, de voir notre capacité militaire surpassée, par les autres puissances militaires mondiales, voire par l’acquisition ou le piratage de cette technologie par des groupes terroristes.

Enfin, à l’heure du renforcement, bienvenu, d’une Europe de la défense, à l’initiative du président de la République, il serait judicieux que le législateur français se saisisse, au plus tôt, des questions relatives au statut juridique et politique des SALA. Nous devons anticiper, pour ne pas les subir, les ruptures politiques et stratégiques qui pourraient, prochainement, résulter du développement des SALA par d’autres pays.

Fabien Gouttefarde

Député de l'Eure

Pin It on Pinterest