Contexte
Dans le domaine de la santé, la cybersécurité est au cœur des défis de l’intelligence artificielle (IA) avec l’accès à des données massives multi-échelles distribuées.
Les systèmes d’IA en santé doivent respecter de nombreuses règles éthiques et législatives : d’un côté, la sécurité des données doit être assurée, quelle que soit leur nature et les transformations qu’elles ont subies, d’un autre côté, les méthodes créées et appliquées à ces données doivent elles-mêmes être sûres.
Enjeux
Dans ce contexte, différents enjeux en termes de traçabilité sont à considérer pour permettre un développement fiable et sûr de l’IA en santé, avec l’externalisation des données et des traitements.
D’une part, il est nécessaire d’être certain de l’origine des données, de leur histoire, de la manière dont elles ont été créées, traitées, etc. Les mêmes questions se posent pour les modèles d’IA construits sur ces données. Ces derniers étant ensuite utilisés en pratique clinique.
D’autre part, il faut donner aux patients et aux professionnels de santé les moyens de gérer leur consentement.
La lutte contre la fuite de données est elle aussi essentielle.
La traçabilité englobe des enjeux à la frontière entre la cybersécurité, la gestion et le traitement des données en conformité avec le consentement du patient et des professionnels de santé ; enjeux qui doivent être traités conjointement en tenant compte des standards et des pratiques existants.
Objectifs
• Gouvernance des données et gestion du consentement des patients dans le temps – Etablir les bases d’une gouvernance des données à l’échelle des systèmes d’information de santé apprenants.
• Modélisation, gestion et certification de la provenance des données et des modèles d’IA – Essentiel pour (ré-)utiliser en confiance les données/modèles d’IA.
• Lutte contre la fuite des données – Prévenir, identifier et remédier la divulgation de données sensibles.
Partenaires
7 partenaires issus du monde de la recherche en informatique médicale et en cybersécurité :
- LaTIM Inserm UMR 1101/CYBER-HEALTH
- IMT Atlantique/LASCO
- LTSI Inserm UMR 1099/DOMASIA
- Télécom SudParis/SAMOVAR
- INSA Centre-Val de Loire/LIFO
- CEA Paris-Saclay/LIST
- CHU de Rennes
