Le 15 décembre 2017, la Commission nationale de linformatique et des libertés (Cnil) a publié le rapport de synthèse du débat public quelle a animé sur les enjeux éthiques des algorithmes et de lintelligence artificielle (IA).
Les débats ont permis de dégager deux principes fondateurs :
– un principe de loyauté appliqué à tous les algorithmes envers ses utilisateurs, non pas seulement en tant que consommateurs, mais également en tant que citoyens, voire envers des communautés ou de grands intérêts collectifs dont lexistence pourrait être directement affectée ;
– un principe de vigilance/réflexivité, visant à organiser une forme de questionnement régulier, méthodique et délibératif à légard de ces objets mouvants et constituant une réponse directe aux exigences quimposent ces objets technologiques du fait de leur nature imprévisible (inhérente au machine learning), du caractère très compartimenté des chaînes algorithmiques au sein desquels ils sinsèrent et, enfin, de la confiance excessive à laquelle ils donnent souvent lieu. Cest lensemble des maillons de la chaîne algorithmique (concepteurs, entreprises, citoyens) qui doivent être mobilisés pour donner corps à ce principe, au moyen de procédures concrètes.
Ces principes font lobjet dune déclinaison sous la forme de 6 recommandations opérationnelles :
– former à léthique tous les acteurs-maillons de la « chaîne algorithmique » (concepteurs, professionnels, citoyens) où lalphabétisation au numérique doit permettre à chaque humain de comprendre les ressorts de la machine ;
– rendre les systèmes algorithmiques compréhensibles en renforçant les droits existants et en organisant la médiation avec les utilisateurs ;
– travailler le design des systèmes algorithmiques au service de la liberté humaine, pour contrer leffet « boîtes noires » ;
– constituer une plateforme nationale daudit des algorithmes ;
– encourager la recherche sur lIA éthique et lancer une grande cause nationale participative autour dun projet de recherche dintérêt général ;
– renforcer la fonction éthique au sein des entreprises (élaboration de comités déthique, diffusion de bonnes pratiques sectorielles, révision de chartes de déontologie
).
Pour formuler ces principes fondateurs et les recommandations, le rapport sest basé sur 6 problématiques essentielles remontées lors des débats afin de relever le défi éthique posé par ces technologies :
– lautonomie humaine au défi de lautonomie des machines ;
– biais, discrimination et exclusion ;
– fragmentation algorithmique (personnalisation contre logiques collectives) ;
– équilibre entre limitation des mégafichiers et développement de lIA ;
– enjeu des données fournies à lIA en termes de qualité, quantité et pertinence ;
– lidentité humaine au défi de lIA.