Par Laurence Devillers, professeur en intelligence artificielle à Sorbonne Université, chercheur au LIMSI-CNRS, membre de la CERNA-Allistène, IEEE P7008 Normes et standard pour le nudging, auteur de Des robots et des hommes : mythes, fantasmes et réalité, Plon, 2017
Le nudge est une méthode destinée à orienter les comportements sans jamais contraindre ni culpabiliser les individus. Lauréat du prix Nobel d'économie en 2017, l'Américain Richard Thaler a mis en lumière en 2008 le concept de nudge, technique qui consiste donc à inciter les individus à changer de comportement sans les contraindre en utilisant leurs biais cognitifs. En dialogue homme-machine et économie comportementale, la stratégie des nudges dans les interactions vocales n’a encore jamais été étudiée. Le pouvoir des nudges va être amplifié grâce au numérique et à l’intelligence artificielle à travers des objets qui vont détecter vos habitudes et comportements et nous influencer, nous inciter à consommer…
Le nudge ou la manipulation douce
Avec le développement des réseaux sociaux et des applications internet, les nudges sont un peu partout sans que l’utilisateur ne s’en rende compte. Lorsqu’on réserve par exemple un hôtel sur Internet, une petite phrase en rouge vous informe que vous êtes plusieurs à regarder cette offre vous incitant ainsi à réserver au plus vite. De nombreux autres exemples de nudges sont présents dans le monde numérique.
Les objets connectés, et spécifiquement les agents conversationnels comme Google Home ou Alexa Amazon, apportent une nouvelle dimension dans l’interaction, à savoir la parole, et pourraient devenir un moyen d’influence des individus. Une voix pourrait vous inciter à faire plus de sport, à manger moins, à être plus attentif, à acheter une crème antirides, à voter pour untel... Le nudge est souvent mis en œuvre pour surveiller notre santé et pour notre bien-être, il pourrait tout autant être insistant à des fins uniquement mercantiles. Tous ces systèmes ne sont pour l’instant ni régulés, ni évalués et très opaques.
Google Home
Un champ de recherche à explorer…
En se basant sur l’étude des nudges, techniques pour modifier le comportement des personnes, le projet Bad Nudge Bad Robot, projet de l’institut de convergence DATAIA, souhaite mettre en lumière l’importance de l’éthique dans la création de ces objets numériques conversationnels. Concrètement, une équipe d’informaticiens, d’économistes et de juristes vont mettre en place des expériences, sous la forme d’interactions vocales avec un robot capable de nudges, sur plusieurs types de population plus ou moins vulnérables afin de développer des outils d’évaluation des nudges pour en montrer l’impact. À l’échelle de leur laboratoire, puis sur le terrain, les deux équipes vont étudier si les personnes fragiles sont plus sensibles aux nudges et deux thèses sont en cours.
Les nudges présentés par des systèmes robotiques, intelligents ou autonomes sont définis comme des suggestions ou manipulations manifestes ou cachées conçues pour influencer le comportement ou les émotions d’un utilisateur. Les systèmes affectifs seront-ils conçus pour inciter les utilisateurs à changer leur comportement pour leur avantage personnel et/ou au profit de quelqu'un d'autre ? Ces systèmes peuvent être conçus pour nous soutirer des données privées dans notre intimité ou encore pour nous inciter à faire des actions ou à prendre des décisions que nous ne souhaitions pas. Cette manipulation douce peut être faite en se servant de nos biais cognitifs par des actions suggérées, pour faire comme son voisin, par paresse, pour simplifier le problème.
Cet axe de recherche est novateur, il est important de comprendre l’impact de ces nouveaux outils dans la société et de porter ce sujet sur l’éthique et la manipulation par les machines à l’international. Les objets vont s’adresser à nous en nous parlant. Il est nécessaire de mieux comprendre la relation à ces objets bavards sans conscience, sans émotions et sans intentions propres. Les concepteurs doivent, pour éviter ces confusions entre le vivant et les artefacts, donner plus de transparence et d’explications sur les capacités des machines. Les utilisateurs n’ont aujourd’hui pas conscience de la façon dont marchent ces systèmes, ils ont tendance à les anthropomorphiser. L’objectif ultime du projet est de créer des objets « ethic by design » et de réfléchir à une dynamique internationale sur ce sujet.
« L’objectif ultime du projet est de créer des objets « ethic-by-design » et de réfléchir à une dynamique internationale sur ce sujet. »
… pour assurer un comportement éthique à ces objets connectés
La valorisation des résultats issus des expérimentations de ce projet est de produire des mesures pour la surveillance de ces outils ainsi que des recommandations économiques (en matière de régulation), éthiques et juridiques à destination des décideurs publics. Le sujet des nudges n’a pour l’heure fait l’objet d’aucune analyse juridique transversale.
Tester la capacité d’empowerment (encapacitation) paraît également fondamentale à l’heure où les autorités de surveillance et de régulation n’auront pas les moyens suffisants pour assurer un comportement éthique des nombreux objets connectés et robots qui vont arriver au sein des foyers.
Il s’agit aussi particulièrement de penser aux moyens de protection des populations les plus fragiles tout en assurant le développement économique du secteur des TIC sur le territoire européen. Il est urgent de commencer à travailler sur ces problématiques d’éthique en interdisciplinarité : DATAIA est le premier institut sur l’IA en France à les mettre en avant.
