Homme-robot : comment faire confiance à l’IA ?

Des chercheurs, dirigés par Matthew Gombolay, directeur du Cognitive Optimization and Relational (CORE) Robotics Lab à Georgia Tech, ont récemment étudié la dynamique homme-robot.

À travers une série d’expériences, ils ont réussi à prouver que les humains ne font pas toujours confiance aux recommandations d’un robot. Cette méfiance est particulièrement manifeste en ce qui concerne les actions qu’ils doivent accomplir. Les scientifiques ont alors mis au point le cobot pour explorer les domaines dans lesquels un robot et un humain peuvent collaborer pour accomplir des tâches. Grâce au tennis de table, ce programme a réussi à déterminer quand l’humain a réussi à travailler en étroite collaboration avec le robot appelé « le bras Barrett WAM ». Ce robot équipé d’une caméra et d’une raquette s’est entrainé au tennis grâce à l’apprentissage par imitation.

Une solution possible serait de concevoir des robots plus transparents dans leurs processus de prise de décision.

Les robots peuvent devenir d’excellents partenaires de travail

Gombolay et son équipe ont entrainé un robot à devenir un partenaire de tennis de table sûr grâce à un processus d’apprentissage automatique. Ils ont utilisé pour cela des données issues de travaux antérieurs sur le tennis de table et des techniques d’apprentissage par démonstration. Ce sont, par exemple, des cours où des humains montrent au robot comment frapper une balle.

Pour tester les compétences du robot, ils ont mis au point un système de renforcement positif pour les volées réussies et un système de renforcement négatif pour les volées ratées. Les expériences ont montré que le robot a su travailler en étroite collaboration avec les humains.

Ces résultats permettent d’envisager le développement de systèmes intelligents capables de travailler en collaboration avec l’Homme tant sur le plan physique que social.

Les humains ont encore beaucoup de mal à faire confiance aux robots

Au cours de ces expériences, les chercheurs ont également constaté un manque de confiance de la part des participants humains. En dépit des explications données par le robot, ces derniers ont été moins enclins à collaborer avec lui. L’une des raisons possibles de cette méfiance vient probablement du fait que le robot n’a pas les mêmes motivations que son partenaire humain.

Dès que les participants ont senti que le robot avait les mêmes objectifs qu’eux, ils ont été plus enclins à faire confiance aux recommandations qu’il leur donnait. Selon Gombolay, il est important de développer des robots capables de communiquer efficacement avec les humains d’une manière qui suscite la confiance.

Dans certaines situations, les conséquences d’une mauvaise communication peuvent être graves. Une solution possible serait de concevoir des robots plus transparents dans leurs processus de prise de décision.