Rechercher

Les questionnements éthiques dans la conception des intelligences artificielles : une approche par les systèmes d’activité

2021
– 2026

Février 2025 – Janvier 2028

Sous la co-direction de Amandine Pascal
Financement : École Doctorale
Résumé

Cette thèse étudie les conditions dans lesquelles les enjeux éthiques deviennent objets de problématisation dans l’activité de conception de systèmes d’intelligence artificielle. La littérature sur l’IA responsable a identifié les principes susceptibles d’orienter une conception éthique et développé des méthodes pour leur opérationnalisation. D’autres travaux insistent sur les qualités morales et les capacités de jugement des concepteurs. Ces approches partagent une conception prescriptive de l’éthique et ne rendent pas compte de la manière dont les problèmes éthiques se constituent dans les pratiques ordinaires de conception et dans leur contexte organisationnel.

Cette recherche déplace l’attention des prescriptions vers les processus de problématisation éthique de l’activité de conception et répond à la problématique suivante : comment les questionnements éthiques émergent-ils, circulent-ils et produisent-ils des effets – ou non– dans les systèmes d’activité de conception de l’IA ? La thèse articule deux cadres théoriques. De l’ethics as practice, elle retient que l’analyse doit porter sur les processus par lesquels certaines situations en viennent à être reconnues et formulées comme éthiquement problématiques. Avec la théorie des systèmes d’activité (TSA), elle examine les médiations et les contradictions intervenant dans cette constitution et dans le devenir des questionnements. L’enquête qualitative, conduite entre 2023 et 2025 au sein d’une organisation spécialisée dans la conception, la recherche et le conseil en IA, combine entretiens et observations de terrain, complétés par l’analyse documentaire.

Les résultats distinguent deux voies de constitution des questionnements. La première procède des ressources normatives instituées. Les principes d’IA responsable rendent certains enjeux plus visibles et structurent leur examen, mais leur traduction tend à maintenir le questionnement à l’intérieur d’un cadrage technico-instrumental. La seconde voie apparaît à travers les contradictions des systèmes d’activité (SA) dont l’analyse donne accès à des questionnements plus émergents. Les résultats montrent aussi que l’existence d’un questionnement ne préjuge ni de son devenir ni de ses effets. Les espaces de discussion facilitent l’expression des préoccupations, sans impliquer toutefois que l’objet de l’activité et ses finalités soient réexaminés collectivement. De même, la réflexivité critique transforme davantage le rapport du sujet à son métier ou à l’organisation que l’activité elle-même. La contribution de la thèse consiste dès lors à replacer l’éthique dans les SA de conception qui rendent certaines situations questionnables, en maintiennent d’autres hors du champ de la réflexion et conditionnent la capacité du questionnement à produire des effets.

Sur le plan pratique, l’analyse des SA constitue un outil de diagnostic utile pour les organisations engagées dans une démarche d’IA responsable, pour identifier les conditions qui ouvrent ou ferment l’espace du questionnement éthique et les contradictions susceptibles de révéler des enjeux non anticipés par les référentiels existants. Elle permet d’examiner aussi les leviers permettant aux questionnements de devenir transformatifs. Concernant la formation des concepteurs, les résultats incitent à développer la réflexivité éthique, entendue comme la capacité individuelle et collective à interroger les présupposés, les cadrages et les finalités de l’activité, ainsi que sa propre responsabilité dans leur maintien ou leur transformation.


Mots clés :
 intelligence artificielle, éthique, conception, système d’activité, réflexivité