Par Laurence Devillers, professeur en intelligence artificielle à Sorbonne Université, chercheur au LIMSI-CNRS, membre de la CERNA-Allistène, auteur de Des robots et des hommes : mythes, fantasmes et réalité, Plon, 2017.
À la fin du XXe siècle, au sein des sciences cognitives, émerge un nouveau champ scientifique baptisé sciences affectives, dont l'objectif est de comprendre à la fois les mécanismes sous-jacents à l'affect – comment l'affect contribue au comportement et à la pensée –, mais aussi comment modéliser les affects sur machine.
Aujourd’hui, il est urgent d’étudier les effets de notre cohabitation avec des machines qui sont de plus en plus émotionnelles et de se poser les questions éthiques, juridiques et sociales qui s’imposent à cette nouvelle ère.
L’émotion, facteur explicatif déterminant du comportement humain
À la suite de l’explosion des travaux scientifiques sur les affects [1] dans les années 1990, l’émotion est maintenant considérée comme un facteur explicatif déterminant du comportement humain.
Antonio Damasio dans L’Erreur de Descartes (Odile Jacob, 1994) suggère qu’en l’absence d’émotions, l’humain ne peut être vraiment rationnel. Il démontre, dans son livre Spinoza avait raison (Odile Jacob, 2003), que Spinoza préfigure le mieux la neurobiologie moderne de l’émotion et du sentiment. Le rôle central de l’émotion au sein du système cognitif s’illustre par le fait que l’émotion occupe un « statut privilégié » dans le cerveau humain ; en effet, la plupart des mécanismes psychologiques sont soit nécessaires à l’émotion en tant que telle, soit influencés par l’émotion, soit impliqués dans la modulation de l’émotion. Plus récemment, Antonio Damasio, dans son dernier ouvrage L’Ordre étrange des choses (Odile Jacob, 2017), montre que le vivant porte en lui une force irrépressible, ce que Spinoza appelle le « conatus » [2], l’appétit de vie, et que Damasio nomme l’homéostasie, qui est le moteur de la continuation de la vie et en régule toutes les manifestations biologiques, psychologiques et sociales.
Des machines capables de détecter et simuler des affects
Un robot est une machine qui, grâce à des programmes informatiques, est capable de perception, de raisonnement et de génération d’action. Cette machine peut être également dotée de la capacité d’interagir verbalement avec les personnes et de simuler des affects. Le domaine de l’affective computing (ou programmation émotionnelle) par les machines prend ses sources dans les travaux de Rosalind Picard au laboratoire du Massachusetts Institute of Technology (Picard, 1997) et regroupe trois technologies :
- la reconnaissance des affects des humains,
- le raisonnement et la prise de décision en utilisant ces informations,
- la génération d’expressions affectives par les machines.
Un robot affectif peut détecter des indices émotionnels dans la voix, le visage et dans les mots reconnus à partir d’approches de reconnaissance de la parole et peut enchaîner des répliques de façon à simuler une conversation en générant également des comportements affectifs comme l’empathie, et vous dire « Je suis triste pour toi ».
Les robots affectifs vont partager notre espace, habiter nos maisons, nous aider dans notre travail et notre vie quotidienne et, également, partager avec nous une certaine histoire. Les robots sont, pour l’instant, créés pour des tâches spécifiques avec des fonctions bien particulières ; ils auront certaines capacités et pourront être doués d’adaptation à l’humain, mais ils ne seront en aucun cas des robots multifonctions doués d’une intelligence générale comme dans des films tels que Ex_Machina (2015) ou Her (2014). Pour l’instant ces systèmes sont émergents et peu robustes, il est possible de se rendre compte des limites des machines. « Sophia », robot d’Hanson Robotics, qui est citoyenne d’Arabie Saoudite et s’est exprimée à l’ONU, est un programme pré-scripté, une sorte de marionnette. La modélisation des affects sur machine ne touche que la composante expressive : il n’y a ni sentiment, ni désir, ni plaisir dans une machine. Malgré cela, des travaux montrent l’impact important de ces machines émotionnelles sur les humains.
Robot Sophia, qui s'est exprimé à l'ONU - Crédit : The Guardian
Evaluer les impacts des machines émotionnelles sur les humains
L’intelligence des robots n’a rien à voir avec celle des humains, il faut démystifier leurs capacités car l’homme a naturellement tendance à anthropomorphiser [3] la machine et à lui donner des capacités qu’elle n’a pas. Le concept d’intelligence artificielle « forte » fait référence à une machine capable de produire un comportement intelligent, et d’éprouver une conscience de soi, de « vrais sentiments », et « une compréhension de ses propres raisonnements ». L’intégration d’une conscience réflexive et une sensibilité de type humain semble très peu probable pour la machine. Malgré cela, tous ces outils dits d’intelligence artificielle « faible » deviennent de formidables alliés dans une interaction complémentaire avec les humains. La robotique affective veut créer des robots compagnons, censés nous apporter une assistance ou encore nous surveiller.
Développer une discipline de recherche interdisciplinaire avec des informaticiens, des médecins, des psychologues cogniticiens, pour étudier les effets de la coévolution avec ces machines de façon longitudinale est urgent. La machine va apprendre à s’adapter à nous, comment allons-nous nous adapter à elle ? Peut-on avoir une interaction humaine, teintée d’émotions et de sentiments éthiques, avec une machine qui simule parfaitement le comportement humain, mais qui ne l’éprouve pas ou ne le vit pas ?
Il faut éviter un déficit de confiance mais également une confiance trop aveugle dans les programmes d’intelligence artificielle. Un certain nombre de valeurs éthiques sont importantes : la déontologie et la responsabilité des concepteurs, l’émancipation des utilisateurs, l’évaluation, la transparence, l’intelligibilité, la loyauté, et l’équité des systèmes, enfin l’étude de la co-évolution humain-machine.
Les robots sociaux et affectifs soulèvent de nombreuses questions éthiques, juridiques et sociales. Qui est responsable en cas d’accident : le fabricant, l’acheteur, le thérapeute, l’utilisateur ? Comment réguler leur fonctionnement ? Faut-il intégrer des règles morales dans leur programmation ? Contrôler leur utilisation par des permis ? Pour quelles tâches souhaitons-nous créer ces entités artificielles ? Comment préserver notre intimité, nos données personnelles? Tout système doit être évalué avant d’être mis dans les mains de son utilisateur [4]. Comment évaluer une intelligence artificielle qui apprend des humains et s’adapte à eux, ou qui apprend seule ? Peut-on prouver qu’elle se cantonnera aux fonctions pour lesquelles elle a été conçue, qu’elle ne dépassera pas les limites fixées ? Les données que la machine exploite pour son apprentissage la dirigent vers certaines actions. Qui supervisera la sélection de ces données ?
Ces questions prégnantes ne sont évoquées que depuis peu. Les progrès spectaculaires du numérique permettront un jour d’améliorer le bien-être des personnes, à condition de réfléchir non pas à ce que nous pouvons en faire, mais à ce que nous voulons en faire. Dans mon ouvrage Des robots et des hommes : mythes, fantasmes et réalité [5], je propose d’enrichir les lois d’Asimov avec des règles éthiques. Nous avons besoin de démystifier, de former et de remettre au centre de la conception de ces systèmes robotiques affectifs, les valeurs de l’humain.
[1] Les états affectifs ou affects regroupent en autres les émotions, les sensations, les humeurs, les sentiments. Le concept d’émotion est souvent confondu avec celui d’affect dans le domaine de l’ « affective computing ».
[2] Éthique III, prop. 9, scolie.
[3] Anthropomorphiser : Prêter des traits humains et des intentions humaines à la machine
[4] G. Dubuisson Duplessis et L. Devillers, « Towards the consideration of dialogue activities in engagement measures for human-robot social interaction », International Conference on Intelligent Robots and Systems, Designing and Evaluating Social Robots for Public Settings Workshop, 2015, pp. 19-24.
[5] L. Devillers, « Des robots et des hommes : mythes, fantasmes et réalité », Plon, 2017.
Photo de une d'Alex Knight via Unsplash
