L’entreprise américaine Raytheon a commencé à développer un réseau neuronal capable d’établir une chaîne logique entre les décisions prises par les robots et leurs actions. Une commande pour ce développement a été reçue du département de la défense des États-Unis.
Les unités militaires des États-Unis prévoient de s’équiper de robots de combat dans un avenir proche. C’est difficile à imaginer pour l’instant, mais les experts affirment que les voitures travailleront en équipe avec les humains sur un pied d’égalité. Ces affirmations sont naturellement inquiétantes pour les soldats, car les machines à proximité des personnes sont toujours perçues comme quelque chose de menaçant et d’imprévisible. Afin d’établir une confiance potentielle entre les membres des futures unités, il a été décidé de créer un réseau neuronal spécialisé.
Baptisé XAI, le projet a pour principal objectif de créer un réseau à action rapide permettant de surveiller et de démontrer la prise de décision.
L’algorithme sera appliqué aux véhicules de combat. En d’autres termes, le robot va désormais expliquer pourquoi il a pris telle ou telle décision avant de réaliser telle ou telle action.
Si l’on comprend le mécanisme de fonctionnement d’une machine, celle-ci devient plus sûre pour les autres et, par conséquent, le niveau de confiance des gens dans les robots augmente. Le réseau permettra de transformer les robots en membres d’équipe à part entière, en leur donnant le pouvoir de prendre les décisions les plus importantes.
Je suis curieux de savoir quelles sont les implications éthiques et morales de cette intégration des robots dans les unités militaires américaines. Comment cela influence-t-il la prise de décision et la responsabilité des actions menées sur le terrain ? Quelles sont les mesures mises en place pour garantir un usage responsable et respectueux des droits de l’homme lors de l’utilisation de ces robots ?