Menu
Le groupe THALES, la start-up AiiNtense et l’entreprise SOPHiA GENETICS s’associent au laboratoire LaTIM Inserm UMR 1101 – UBO/IMT Atlantique, au sein de la Chaire CYBAILE, portée par l’INSERM, afin de conjuguer leurs expertises en matière de cybersécurité, d’intelligence artificielle et de connaissance du domaine médical. L’objectif est de développer une intelligence artificielle de confiance en santé, sécurisée et robuste.
Dans le domaine de la santé, la cybersécurité est au cœur des enjeux de l’intelligence artificielle (IA) portée par les données massives. D’une part, la fiabilité des données doit être assurée quels que soient leur nature, les traitements et les transformations qu’elles ont pu subir. D’autre part, les méthodes qui seront appliquées en vue d’une exploitation doivent elles-mêmes être sûres. Dans les deux cas, il s’agit de faire face aux attaques et aux malversations de toute sorte. C’est ce défi que CYBAILE se propose de relever.
Deux grands thèmes sont aujourd’hui visés : le développement de méthodes d’apprentissage automatique sécurisées, fédérées et « scalables », respectueuses entre autres du droit à la vie privée; le déploiement de systèmes d’IA fiables, protégés contre la falsification et en termes de propriété intellectuelle.
Les performances d’un modèle d’IA dépendent d’un accès à des volumes d’information conséquents. Il convient dès lors de produire des systèmes d’IA sécurisés et de confiance au niveau global de l’infrastructure du système de santé, fédérant ainsi de multiples sources de données et donc l’apprentissage. Ici, CYBAILE vise le développement de systèmes d’IA dont la phase d’apprentissage des modèles est partiellement/complètement externalisée/distribuée, où la confidentialité des données et le respect du droit à la vie privée sont assurés.
Construire des systèmes d’IA en santé pour l’aide à la décision est coûteux (accès aux données, disponibilité d’une expertise médicale, et en science des données, puissance de calcul, …). Ils sont aussi des systèmes à « hauts risques » puisqu’utilisés dans et pour la prise en charge des patients. Il est donc impératif de les protéger en termes de fiabilité (i.e. preuves de leur intégrité et de leur origine) et de propriété intellectuelle (i.e. lutte contre la copie et la redistribution illégale). Pour répondre à ces enjeux, CYBAILE travaille sur des approches de tatouage ou de « watermarking » de réseaux de neurones.
© 2023 Cybaile