5Des robots dotés de morale ?
Les robots pourront-ils être dotés de morale ? Comment les systèmes moraux fonctionnent-ils ? Ces systèmes normatifs, inventés par les Hommes, sont possiblement codables et il est maintenant envisageable de les représenter avec des systèmes en Intelligence Artificielle. En ce sens, le chercheur évoquera les recherches de son laboratoire, celui-ci travaillant sur les différentes formes de moral – les formes déontiques (reposant sur des lois, sur des règles) ou encore conséquentialistes (qui va reposer sur un calcul d’utilité) -, possiblement applicables au domaine robotique. Cela n’est pas sans poser de problème puisqu’il est difficile d’évaluer le jugement de cette moral. En outre, cela voudrait-il dire que l’on peut faire des choses plus éthiques que les Hommes ? Peut-on les modéliser ? Jean-Gabriel Ganascia exemplifiera ces questions en s’appuyant sur le domaine militaire. Dans un second temps, Dominique Moulon interrogera le chercheur sur la question de la singularité ; comment peut-on la définir ?
Jean-Gabriel Ganascia est professeur d’informatique à l’université Pierre et Marie Curie (UPMC), membre senior de l’Institut Universitaire de France, membre de la CERNA (Commission de réflexion sur l’éthique des recherches dans les sciences du numérique d’Allistene), EurAI (European Association for Artificial Intelligence) fellow et président du COMETS (comité d’éthique du CNRS). Il poursuit ses recherches sur l’intelligence artificielle au LIP6 (Laboratoire d’Informatique de l’université Paris 6) où il dirige l’équipe ACASA. Il est aussi directeur adjoint du laboratoire d’excellence (Labex) OBVIL au sein duquel les équipes de littérature de l’université Paris-Sorbonne coopèrent avec les informaticiens de l’UPMC sur le versant littéraire des humanités numériques. Dans le passé il a piloté la recherche française en sciences cognitives en dirigeant le groupement d’intérêt scientifique « Sciences de la cognition ». Ses activités de recherche portent actuellement sur l’apprentissage machine, sur la fusion symbolique de données, sur l’éthique computationnelle, sur l’éthique des ordinateurs et sur le versant littéraire des humanités numériques.
Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ?, éditions du Seuil, 2017.
L’intelligence artificielle : vers une domination programmée ?, éditions du Cavalier Bleu, 2017.
