Par Lorraine Poupon, France Télévisions, MédiaLab

« On voulait des voiture volantes, on a eu 140 caractères ! ». On ne compte plus le nombre de fois où cette citation de Peter Thiel a été utilisée pour illustrer la déception entre l’effet d’annonce d’une révolution technologique et son véritable impact sur nos vies. Encore une nouvelle app ou un énième réseau social ? Ce genre d’initiative n’a pas eu sa place au Hello Tomorrow organisé la semaine dernière au CentQuatre à Paris. Profondément optimiste, cet événement annuel se propose de mettre en avant le meilleur de la deeptech afin de se réapproprier le futur et le dessiner tel que nous le désirons. Comment ? En rassemblant en un seul lieu les innovations les plus disruptives au monde, celles issues d’un travail en laboratoire et souhaitant passer du monde de la recherche à celui de l’entrepreneuriat. 

Face aux entrepreneurs venus présenter leurs découvertes, un public de curieux probablement conscient des enjeux et lassé du pessimisme quasi-systématique dans notre rapport à la technologie. Mais également des investisseurs. Car s’il s’agit de convaincre de la portée possible de leurs découvertes, encore faut-il financer leur industrialisation à large échelle.

Du côté de Méta-Media, c’est probablement l’intervention de Stuart Russell sur l’IA qui nous a le plus marqués car étant à contre-courant des peurs que cette question suscite.

Partant du constat que l'IA progresse bien plus vite que toutes nos prédictions,  il faut se préparer à l’évidence que bientôt, elle ne se limitera plus à battre le meilleur joueur au monde en jeu de Go, que bientôt elle pourra lire et comprendre tout ce que l’humanité a jamais produit de livres, et elle sera tout simplement plus "intelligente" que l’Homme. 

Sauve qui peut ?

Mais alors comment ne pas renoncer à l’IA tout en s’assurant qu’elle servira réellement l’Homme ? Pour Russell, au-delà des croyances et des peurs irrationnelles, il faut cibler le problème initial.

Il faudrait donc s’assurer que la machine a bien été programmée pour ce que nous souhaitons réellement qu’elle fasse. Or, même pour une tâche en apparence simple, il ne faudra que peu de temps à cette même machine pour comprendre qu’éteinte, elle ne pourrait plus l’accomplir. Cette tâche est sa raison d’être, ce pourquoi elle a été programmée : elle finira donc par trouver un moyen pour ne jamais être éteinte et afin que rien ne s’interpose entre elle et l’objectif qui lui a été donné. A ce stade, on pourrait croire au début d’un scénario de film catastrophe.

IA : Mode d'emploi

Russell y répond en tentant de redéfinir la logique de l’IA selon trois principes fondateurs :

• L’altruisme : l’unique objectif du robot est de participer à la réalisation des objectifs et des valeurs de l’Homme, en réponse à la troisième loi d’Asimov.
• L’humilité : le robot ne sait pas avec certitude quelles sont ces valeurs humaines, en réponse à la quête obsessionnelle de réalisation de sa tâche.
• L’observation : sa connaissance des valeurs humaines sera issue de l’observation des comportements et choix humains

Une première étape en apparence simple mais en réalité indispensable au développement d’une IA compatible avec l’homme. Et voilà qui pourrait probablement rassurer Elon Musk ou Bill Gates !

Pour revoir son keynote version TED :