[ATHENA] CIS / Débats Santé, numérique et IA avec Jean-Marc Deltorn, 24 mars 2023

[Céline Vaslin <celine.vaslin AT cnrs.fr>]

Bonjour,

Le groupe de travail Santé, numérique et intelligence artificielle du GDR Internet, IA et Société reçoit en visioconférence Jean-Marc Deltorn (CEIPI, Université de Strasbourg) le 24 mars 2023 de 10h à 12h, pour un exposé intitulé "Transparence(s) et opacité(s) – entre dévoilement et secret, l’IA et le traitement algorithmique des données".

Inscription : https://cis.cnrs.fr/extras/inscriptions/debats_sante.php

Les données, notamment de santé, sont au cœur d’une nouvelle économie de la prédiction et du contrôle. Ces données représentent la matière première à partir de laquelle des algorithmes catégorisent les individus, en suivent les comportements et permettent de produire de nouvelles formes de services. L’exploitation à grande échelle de ces données – personnelles et non personnelles – au moyen des dernières générations d’applications d’apprentissage automatique et d’« intelligence artificielle » pose aujourd’hui des défis sans précédent au croisement d’enjeux de gouvernance, éthiques, psychologiques, économiques, juridiques et techniques.

Face à ces développements et confrontée à l’opacité (technique et commerciale) des processus de traitement de l’information, la notion de transparence s’est imposée comme l’une des valeurs fondamentales promues par l’UE pour le développement, le déploiement et l’utilisation des systèmes prédictifs basés sur les données. Déjà un élément incontournable du Règlement général sur la protection des données et du Livre blanc sur l’IA publié par la Commission européenne en février 2020, la première proposition législative de l’UE en la matière – la proposition de règlement sur l’intelligence artificielle de la Commission européenne (l’AI Act) – poursuit cette tendance et donne à la transparence une place centrale en incluant plusieurs articles qui lui sont explicitement consacrés. De fait, au-delà même de ces textes et des contraintes légales qu’ils imposent, la transparence semble s’être érigée au niveau d’une exigence morale.

Or, la transparence des systèmes de traitement de données connaît des limites qu’il nous faudra souligner. Limites intrinsèques, liées à l’interprétation et à la variété des sens associés à cette notion fort large, d’une part. Limites pratiques, également, dans sa mise en œuvre réglementaire et technique. Ainsi, après avoir évoqué la place d’un principe de transparence dans le paysage juridique européen, nous présenterons quelques-unes des contraintes s’opposant à son application à l’encadrement du traitement des données et à l’accès à la logique sous-jacente aux modèles prédictifs.

Jean-Marc Deltorn est maître de conférences au Centre d’études internationales de la propriété intellectuelle (CEIPI) à l’Université de Strasbourg et membre de l’Impact of Technology Expert Group à l’European Observatory de l’EUIPO. Au CEIPI, Jean-Marc Deltorn dirige le Diplôme AI&IP et étudie l’articulation entre les technologies numériques émergentes et la dynamique des normes en Europe. Il est titulaire d’un doctorat en astrophysique de l’Université de Paris et d’un doctorat en droit de l’Université de Strasbourg.

https://cis.cnrs.fr/debats-sante-numerique-et-ia/

Merci,
Bonne journée,

-- 
Centre Internet et Société
CNRS UPR 2000 / GDR 2091
https://cis.cnrs.fr