Ces derniers temps, je lis des bribes d'info un peu partout sur telle ou telle intégration d'IA dans des armements.
Ce n'est pas une nouveauté en cours de recherche, c'est déjà opérationnel.
Et c'est inéluctable : toute nouvelle technologie est toujours forcément intégrée d'une manière ou d'une autre dans les armements, depuis toujours. C'est même un moteur d'innovation depuis la nuit des temps. Il n'y a rien de plus motivant pour certains que de se mettre sur la gueule, et pour les autres d'être suffisamment résistants pour inciter les premiers à ne pas venir nous embêter.
Donc de toute façon, c'est là, et on ne le changera pas.
Par contre... j'ai l'impression qu'on passe un nouveau seuil dans la capacité à nous détruire collectivement.
En vrac, et sélectionnés pour mon propos :
- Les Ukrainiens utilisent des robots marcheurs bardés d'armes (des sortes de chien robot) pilotés à distance, mais avec acquisition des cibles par IA. Ils seront capable d'ici quelques mois de décider eux-mêmes s'il faut tirer ou pas
- La prochaine version du Rafale aura un drone autonome volant associé, capable de recevoir des ordres généraux de son pilote (pars en reconnaissance, va détruire les défenses, etc)
- Des entreprises développent des robots de combat, capables de réaliser des techniques d'arts martiaux, avec une force forcément surhumaine
- Plusieurs cas de robots piratés par Bluetooth
- Une fuite de données énorme chez Thalès
Loin de moi l'idée de rappeler le scénario de Terminator (il faudrait une IA qui soit réellement intelligente - et concrètement, si une telle IA existait et voulait nous détruire, elle n'aurait pas besoin de robots tueurs, c'est une débauche d'énergie inutile)
Par contre, ce qui est beaucoup plus plausible, et qui va devenir très très fréquent, ça va être les bugs, les prises de contrôle par l'ennemi (par piratage), ... qui vont retourner les armes contre leurs propriétaires ou estimer une cible légitime alors qu'elle ne l'est pas, avec tous les dégâts collatéraux qu'on peut imaginer.
Un peu comme le scénario de la première scène de Robocop, mais à l'échelle planétaire.
On vit dans un monde formidable...
—
Permalien