Comment imaginer les armées nationales dans quelques dizaines d'années? Peut-on anticiper des forces militaires composées de Robocop et d'Iron Man? Et comment mettre en place des garde-fous absolument nécessaires pour que la machine ne supplante pas l'Homme? La chroniqueuse Rachel Marsden interrogeait sur ce sujet Emmanuel Goffi, ancien officier de l'armée de l'air, spécialiste d'éthique militaire et de sécurité.
Si vous désirez regarder la vidéo de l'émission, l'intégralité de l'interview est accessible via ce lien
Constatant les grandes avancées technologiques en matière de robotique et d'intelligence artificielle, Emmanuel Goffi n'est pas surpris par ces évolutions: «ça fait quelques années qu'on voit converger un certain nombre de travaux dans différents domaines, l'intelligence artificielle évidemment, la robotique, l'armement et je me doutais bien qu'à un moment donné, tout cela allait amener à la mise en place d'une fusion entre ces différentes technologies et puis la mise en place parce qu'on y va, ce que vous appelez robots tueurs, qu'on appelle les systèmes d'armes létaux autonomes».
Le cas des drones est plus spécifique, ajoute l'universitaire:
«L'avantage des drones, c'est de pouvoir traverser une frontière, violer la souveraineté d'un État sans que cet État le sache et de le faire hors du droit des conflits armés. L'idée des drones, c'est essentiellement […] la reconnaissance, surveiller des individus, et éventuellement faire des frappes ciblées.»
Les robots utilisés dans les conflits actuels sont essentiellement des robots démineurs, selon Emmanuel Goffi, qui a servi également 22 ans dans l'armée de l'air française. Il existe en outre «des petits robots chenillés sur lesquels on a des armes automatiques, on a des robots sous-marins qui sont l'équivalent du drone pour la mer. Il y a aussi le développement […] de robots de logistique, donc qui permettent de transporter du matériel.»
La France est-elle préparée pour accueillir des drones dans ses forces armées? Emmanuel Goffi pointe le manque de réflexion prospective sur l'avenir de ces systèmes et leurs risques potentiels: «il y a un rapport du Sénat qui a établi qu'il fallait aller vers de plus en plus d'autonomie, vers l'intelligence artificielle parce que ça serait bénéfique à l'humanité. C'est une vision à très, très court terme. La vision à très, très long terme c'est de se dire, est-ce que si on crée une espèce qui sera une machine qui sera en compétition avec l'être humain, est-ce que cette espèce va vivre de manière pacifique avec l'être humain? Est-ce que si on reconstitue des cerveaux humains ou des intellligences humaines qu'on met dans des machines, est-ce que ces nouvelles intelligences humaines vont vivre pacifiquement avec nous?».
«Il est très difficile généralement de tirer sur un autre être humain. Quand vous avez une machine face à un être humain, vous n'avez pas une identification de la machine. Si la machine est capable de prendre un certain nombre de paramètres émotionnels en compte, l'environnement etc… et qu'elle décide de tuer, elle le fera sans hésitation, contrairement à l'être humain».
Quels sont les pays les plus en pointe sur les robots-tueurs? Emmanuel Goffi cite ainsi les États-Unis, le Japon, Israël, la France, la Corée du Sud et de nombreux autres pays asiatiques très avancés sur la technologie «qui ont des relations aux robots qui est très différente de la nôtre donc ils n'ont pas des réserves que nous on peut avoir vis-à-vis du développement de ces robots». Le spécialiste de l'éthique militaire ajoute que ce sont logiquement les grandes puissances qui sont les plus favorables à cette évolution:
«Quand vous êtes un petit pays qui a une industrie de défense qui est très peu developpée, évidemment vous allez très facilement vous opposer au développement de systèmes d'armes létaux autonomes. Quand vous êtes un pays comme la France, comme les États-Unis, comme la Russie, comme la Chine, que vous avez des intérêts economqiues, militaires, les armées qui sont très développées, évidemment que vous n'allez pas être d'accord pour vous contraindre légalement et limiter vos potentialités.»
Et sur le terrain des opérations, comment ces évolutions sont perçues? Comment les cadres de l'armée française se préparent-ils à ces évolutions majeures? L'ancien officier de l'armée de l'air a constaté ainsi une certaine défiance, sans doute liée à des différences générationnelles: «il y avait vraiment une crainte de la part notamment des pilotes de l'armée de l'air de se voir supplanter par les systèmes de drone, il y a donc eu un gros travail de communication en interne, pour expliquer que les drones étaient là en complémentarité des pilotes de chasse et que c'était pas la fin des pilotes de chasse. On voit aussi qu'il y a de nouvelles générations qui rentrent dans l'armée et que ces nouvelles générations sont beaucoup plus accoutumées à entendre parler de drones à entendre parler de robots donc ils n'ont pas le blocage que pouvaient avoir les plus anciens.»
Comment peut être recruté un pilote de drone? Emmanuel Goffi répond, en faisant référence à la carence d'opérateurs de drones aux États-Unis:
«Les États-Unis se sont retrouvés très rapidement embêtés parce qu'ils n'avaient pas suffisamment de pilotes d'aéronefs pour les transformer en opérateurs de drones. Ce qu'ils ont fait, c'est qu'ils ont lancé une campagne de recrutement où en fait on regardait les compétences des candidats sur leurs capacités à jouer sur des jeux vidéo. Lorsqu'on regarde bien une console de drone, ça ressemble plus ou moins à une console de jeu vidéo.»
