Axe 1 – Gouvernance et aspects juridiques de la traçabilité
Encadrer la gouvernance des systèmes d’intelligence artificielle (SIA) est une nécessité. Il convient d’éatblir les besoins réglementaires et juridiques en matière de traçabilité des données et des modèles.
Dans le même temps, des critères de qualité des données à certifier pour un usage en intelligence artificielle sont à définir.
Axe 2 – Provenance et gouvernance des données
La traçabilité d’une donnée de son acquisition à sa réutilisation par l’IA, tout en affirmant sa qualité, implique : la modélisation de sa provenance, une gestion dynamique du consentement, des protocoles de certification.
Des modèles de provenance, des primitives cryptographique pour exprimer des règles d‘accès ou de certification comme aussi des techniques de pseudonymisation et dé-pseudonymisation sont à proposer.
Axe 3 – Traçabilité et cybersécurité – lutte contre la fuite de données
L’objectif est d’aborder les questions de sécurité liées à la traçabilité dans des environnements ouverts pour : i) lutter contre les fuites d’informations (prévention, détection, remédiation) dans la réutilisation des données, ii) protéger les modèles d’intelligence artificielle contre le vol et les modifications malveillantes.
Pour y parvenir, TracIA propose de développer des technologies innovantes en santé telles que : le tatouage de données et des modèles d’IA ; et, des outils de prévention de fuites de données fondés eux aussi sur l’IA.
Axe 4 – Expérimentation et validation
L’implémentation et l’évaluation des briques techniques doivent s’ancrer dans des cas d’usage concrets. A cette fin, TracIA profite de l’infrastructure technique d’un SIA développé au CHU de Rennes.
