proposé par UT Capitole, Céline Castets-Renard s’intéresse en particulier à l’usage des données personnelles ainsi qu’au droit et à l’éthique de l’IA.
, elle est par ailleurs directrice adjointe de l’institut de recherche en droit européen, international et comparé (
). Lauréate d’une
en 2017-2018, elle est actuellement Visiting professor à la Fordham Law School à New York.
Projet de recherche La police prédictive
sous la direction de Céline Castets-Renard, avec le soutien du ministère de l’intérieur :
L’utilisation par le ministère de l’intérieur d’outils d’intelligence artificielle posent de nouveaux défis éthiques, mais aussi juridiques et techniques. Notre équipe pluridisciplinaire à la croisée du droit, de la sociologie et de la technique est en mesure de faire des recommandations précises et opérationnelles pour garantir la sécurité juridique, technique et acceptabilité sociale des outils déployés.
Le premier objectif du projet est d’envisager, d’une part, les risques de biais et discriminations et, d’autre part, d’opacité des algorithmes. Est ici posée la question de la qualité des données utilisées, des méthodes et du type de traitement mis en oeuvre. Des recommandations techniques seront faites pour minimiser les risques, tant en considération des données utilisées en amont que des moyens d’auditer les résultats en aval.
Le second et principal objectif est de préciser le cadre légal en pleine mutation sur la protection des données personnelles et transparence algorithmique, en doit français et de l’Union européenne, à l’heure de l’entrée en application du règlement européen n° 2016/679/UE de protection des données personnelles (RGPD). Des recommandations légales seront faites afin de garantir le respect du cadre législatif relatif au traitement automatisé des données personnelles et de la transparence algorithmique.