Les systèmes de « robots massacreur » terroriseront-ils les civils ? Image : Ban Lethal Autonomous Weapons

« Slaughterbots » — un avertissement

Politique • règlements • espace aérien Sécurité • autorités • contre-mesures

Une coalition de groupes de surveillance participant à la réunion de la Convention des Nations Unies sur les armes classiques (CCW) à Genève, la semaine du 13 novembre, a présenté un court métrage décrivant un futur proche dystopique, où de minuscules « drones tueurs » autonomes sont utilisés dans des attaques terroristes et des assassinats.

Le film commence par le PDG d’une start-up fictive, « Morgan Sinclair » de « StratoEnergetics », vantant les vertus des drones automatiques qui chassent les humains par reconnaissance faciale avant de les tuer d’un coup explosif à la tête. « Les armes intelligentes consomment des données », explique l’entrepreneur très content de sa petite personne, démontrant ainsi que la datamining pour des cibles humaines dans les médias sociaux et d’autres sources peut permettre aux drones meurtriers de chasser des personnes.

Une violation de données entraîne la disponibilité de l’intelligence artificielle (IA) de l’entreprise sur Internet et des groupes voyous ciblant des politiciens, des minorités et des étudiants universitaires avec des essaims de drones minuscules. Des « zones de sécurité » sans drone ressemblant à des cages ne sont pas une protection contre les robots volants mortels, contre lesquels les contre-mesures sont inefficaces.

Des chercheurs en intelligence artificielle et en robotique craignent que leurs travaux ne soient utilisés dans ce que l’on appelle des systèmes d’armes autonomes létales (LAWS) qui, une fois lancés, peuvent sélectionner eux-mêmes des cibles et appliquer une force meurtrière sans contrôle humain significatif.

Le film s’achève sur l’avertissement d’un professeur d’informatique, Stuart Russell, selon lequel de tels drones tueurs pourraient être développés si des mesures ne sont pas prises pour interdire de telles armes, qui ont été comparées à des agents biologiques ou à des lasers aveuglants, interdites toutes les deux sous des traités internationaux :

Ce court métrage est plus que de la spéculation. Il montre les résultats de l’intégration et de la miniaturisation des technologies dont nous disposons déjà… Le potentiel de [AI] en faveur de l’humanité est énorme, même en matière de défense. Mais permettre aux machines de choisir de tuer des humains sera dévastateur pour notre sécurité et notre liberté. Des milliers de mes collègues chercheurs sont d’accord. Nous avons l’occasion d’empêcher l’avenir que vous venez de voir, mais la fenêtre pour agir se ferme rapidement.

Le film, produit par Space Digital à MediaCityUK (Manchester) et réalisé par Stewart Sugg pour le Future of Life Institute de Boston, a été tourné à Edimbourg et à la Hertfordshire University et a été visionné plus d’un million de fois.

Tagged