Les avions de chasse sans pilote et les robots soldats autonomes pourraient sonner le glas des combattants humains. Lambèr Royakkers de l’Université technique d’Eindhoven évoque les dangers que représentent des machines ayant le pouvoir de vie ou de mort.
La guerre robotisée, c’est déjà maintenant: à fin 2008, près de 12’000 robots terrestres et 7’000 drones avaient été déployés en Irak. Les nouvelles applications robotiques et d’intelligence artificielle développées aujourd’hui ne sont d’ailleurs plus réservées aux tâches ingrates et dangereuses, mais ont désormais pour but d’attaquer et de tuer directement des cibles. Aux côtés des Etats-Unis, pas moins de 76 pays investissent massivement dans le développement de technologies robotiques militaires, dont la Russie, la Chine, le Pakistan et l’Inde. D’après Lambèr Royakkers, spécialiste de la déontologie et de la technologie à l’Université technique d’Eindhoven, leur utilisation doit être strictement encadrée.
A quand des guerres entre armes autonomes?
L’US Air Force estime que d’ici à 2050 environ, il sera possible d’utiliser des véhicules de combat aérien totalement autonomes. Une stratégie rentable: ces véhicules sont moins coûteux que les robots pilotés à distance et permettent d’éviter des coûts de personnel. A l’inverse, les pilotes au sol, qui avaient auparavant un rôle de supervision, sont de plus en plus cantonnés à des tâches de contrôle.
Quels risques encourrait-on si nous donnions aux machines le pouvoir de prendre des décisions engageant des vies humaines?
Les machines peuvent différencier une personne d’un objet, mais sont incapables de déterminer s’il s’agit d’un civil ou d’un militaire. Pour cela, elles devraient être capables de comprendre ses intentions et d’imaginer ce qu’elle est susceptible de faire dans une situation donnée. Des qualités d’autant plus importantes à l’heure où les guerres menées sont de plus en plus asymétriques, impliquant des armées conventionnelles qui utilisent des technologies modernes à l’encontre de rebelles. Bien souvent, les rebelles, principalement des combattants irréguliers et insubordonnés dirigés par des seigneurs de guerre, ne sont pas identifiables en tant que combattants.
Quels avantages offrent les machines par rapport aux humains?
L’utilisation de robots militaires autonomes pourrait permettre d’éviter des actes de vengeance et de torture. C’est l’avis du roboéthicien américain Ronald Arkin. Car les soldats sur le terrain sont soumis à un stress considérable. Plusieurs publications scientifiques ont démontré que durant les opérations menées par les Américains en Irak, le sentiment de colère et le désir de vengeance liés à la perte d’un compagnon d’armes se traduisaient par la multiplication par deux des exactions commises contre la population. En période de guerre, les émotions peuvent fausser le jugement des militaires.
Doit-on limiter le développement des armes autonomes?
Oui. Il est absurde de confier le pouvoir de vie ou de mort à des machines. Heureusement, cette question fait déjà l’objet d’un débat sérieux. Chaque année, les Nations Unies organisent une convention sur ce thème. L’an dernier, d’influents experts de la robotique — comme Elon Musk, Steve Wozniak, et Stephen Hawkins — ont demandé l’interdiction des armes autonomes dans une lettre ouverte signée par des milliers de spécialistes de l’intelligence artificielle et de la robotique.
_______
Une version de cet article est parue dans le magazine Technologist (no 11).
Pour souscrire un abonnement à Technologist au prix de CHF 45.- (42 euros) pour 8 numéros, rendez-vous sur technologist.eu.