En santé, le développement de méthodes innovantes et performantes d’intelligence artificielle fondées sur l’apprentissage automatique passe par l’accès à de très larges jeux de données sensibles. Ceux-ci sont par ailleurs largement distribués sur différents sites (hôpitaux, entrepôts de données de santé …)  et les centraliser à l’échelle d’une population en une seule place n’est pas envisageable. Et quand cela est possible, de nombreuses questions se posent en matière de respect du droit à la vie privée sachant que certaines données sont par nature identifiantes (e.g. données génétiques).

Dans de tels environnements, les algorithmes d’apprentissage soumis à différentes menaces cyber qui tirent avantage des vulnérabilités de leurs phases d’apprentissage et de déploiement. Par exemple, des attaques peuvent polluer des données d’apprentissage de telle sorte qu’un algorithme se trompe ou chercher à retrouver les données qui ont servi lors de l’apprentissage (e.g. identification de patients). D’autres ciblent la phase d’inférence. Il a été montré qu’il était possible qu’un système d’IA catégorise une lésion normalement identifiée comme bénigne en lésion maligne (avec 100% de confiance) par l’addition d’un bruit malveillant sur les données. Ces enjeux de robustesse et de sécurité, particulièrement d’actualité dans le contexte d’études médicales multicentriques, doivent être traités de manière complémentaire et coordonnée. C’est un des projets de recherche de CYBAILE qui vise des solutions également interopérables et flexibles avec les standards et normes du système de santé.