Réclamé tant par le premier ministre Edouard Philippe que par le député Cédric Villani dans son rapport sur l’IA, le comité pilote d’éthique du numérique vient de voir le jour, ce 4 décembre 2019. Composé de 27 membres, ses premières missions seront liées justement à l’IA, en particulier aux chatbots, aux voitures autonomes et au diagnostic médical.
Le premier ministre Edouard Philippe avait appelé de ses vœux la créations d’une structure capable « de remettre des premières contributions sur l’éthique du numérique et de l’intelligence artificielle et de déterminer les équilibres pertinents pour l’organisation du débat sur l’éthique des sciences et technologies du numérique et de l’intelligence artificielle. » Le rapport de Cédric Villani sur l’IA réclamait également la mise en place d’un tel comité, indépendant.
2021 : premier horizon pour ce comité d’éthique du numérique
Finalement créé, ce comité pilote d’éthique du numérique s’est réuni pour la première fois le 4 décembre 2019. Il regroupe 27 membres, et est présidé par Claude Kirchner, directeur de recherche émérite de l’institut national français de recherche en sciences et technologies du numérique (INRIA), et membre du Comité consultatif national d’éthique.
Le comité va commencer à plancher sur ces questions centrales de l’évolution technologiques de nos sociétés. Un premier bilan de ses activités sera rendu public début 2021. Durant cette année 2021, les autorités décideront si ce comité doit être pérennisé, ou si la CNIL et le Conseil national du numérique pourront prendre le relai.
Chatbots, voitures autonomes et diagnostic médical au menu
Les trois sujets prioritaires identifiés par le comité sont la place de l’IA dans les chatbots, les voitures autonomes et le diagnostic médical. Les chatbots posent en effet de graves questions sur l’utilisation des données qu’ils recueillent ou sur les stratégies d’influence qu’ils peuvent mettre en place.
Pour les voitures autonomes, le comité devra se prononcer sur les « tensions existantes entre automatisation et maitrise humaine dans le contrôle du véhicule » et sur les responsabilités en cas d’accident.
Enfin, sur le champ du diagnostic médical, la question de la transparence des algorithmes utilisés sera central, ainsi que celle du risque si un professionnel de santé ne suit pas les recommandations d’une IA.