Home » Intelligence artificielle » Nao refuse un ordre le mettant en danger

Nao refuse un ordre le mettant en danger

Nao refuse un ordre le mettant en danger

C’est un petit événement dans le monde de la robotique. Des chercheurs de l’université de Tufts aux Etats-Unis ont travaillé sur le robot Nao, désobéissant aux ordres qu’il estime le mettre en danger. Quelles conséquences sur l’avancement de l’intelligence artificielle.

Nao : le premier robot à désobéir

Les faits remontent à novembre 2015. Deux chercheurs de l’université de Tufts aux Etats-Unis, Matthias Scheutz et Gordon Briggs, ont travaillé sur la faculté du robot Nao à préserver son existence. Pour cela, ils lui demandaient dans un premier temps de s’assoir et se mettre debout, suite aux ordres du chercheur. Debout sur une table, le robot devait ensuite avancer alors qu’il était près du bord. Comprenant qu’il risquait de chuter, Nao refusa d’obéir à l’homme. Le robot n’accepta d’avancer qu’après que le chercheur l’eut «rassuré » en lui promettant de le rattraper au cours de sa chute.

Un pas de plus dans le domaine de l’intelligence artificielle

Cette expérience constitue une étape cruciale dans l’avancement de l’intelligence artificielle. En effet, pour la première fois un robot analyse les ordres d’un humain et décide de son application en fonction du risque qu’il encourt pour son intégrité. Les fans d’Asimov ne manqueront pas de faire le parallèle avec les trois lois de la robotique. Mises au point par l’écrivain de science-fiction, elles régulent les relations entre humains et robots. La troisième de ces lois énonce qu’un robot doit protéger son existence sauf si cela doit nuire à la vie d’un humain ou être contraire à l’ordre d’un humain. L’œuvre d’Asimov présente les contradictions et failles que comportent ces lois. Elles constituent les seules bases dont disposent les scientifiques pour dresser les limites de l’intelligence artificielle. Le fait que Nao remette en question l’ordre d’un humain constitue donc une nouvelle étape dans la relation homme-machine.  

Photo : Pierre Metivier CC BY-NC

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *