Santé et données numériques : pourquoi la vigilance est cruciale ?

La donnée de santé tient une place à part. Nom, dossier clinique, génome, tracé d’ECG, parcours de soins… Au-delà de la confidentialité, elle engage la dignité et la sécurité. Lorsqu’un algorithme l’utilise pour apprendre à reconnaître des tumeurs sur des scanners, il manipule potentiellement des informations permettant d’identifier un individu, bien au-delà de la simple histoire médicale.

En France, près de 1,5 million de personnes sont concernées par une fuite de données de santé depuis 2021, selon l’ANSSI (Source : ANSSI). L’accélération des cyberattaques depuis la pandémie oblige à repenser la sécurité des systèmes d’information en santé au rythme de l’innovation numérique. Mais le défi est encore plus subtil : l’IA, parce qu’elle learn à partir de vastes volumes de données, multiplie les vecteurs de risques, tant techniques qu’humains.

Les défis techniques : apprentissage profond vs anonymisation

1. Les limites des méthodes classiques d’anonymisation

En théorie, anonymiser – c’est-à-dire supprimer tout élément identifiant – suffit à protéger la vie privée. En pratique, le “recalibrage” des méthodes d’IA met à mal ce modèle. Par recoupement, certains algorithmes parviennent à réidentifier des individus à partir de jeux de données censés être anonymes. Par exemple, dès 2019, une étude du MIT (Source : MIT) démontre que 99,98% des Américains pourraient être réidentifiés à partir de 15 caractéristiques démographiques.

L’IA démultiplie cette capacité de croisement, surtout quand les bases médicales sont enrichies par des données comportementales, géographiques ou génétiques. Le risque de réidentifiabilité est donc structurel, obligeant à s’interroger sur la notion même d’anonymisation à l’ère de l’IA profonde.

2. Sécurité des infrastructures : cloud, edge et nouveaux points faibles

• Migrations cloud des hôpitaux : De plus en plus de systèmes hospitaliers externalisent leurs données vers des fournisseurs cloud. Une étude menée par Check Point Research (source) a recensé une hausse de 60% des attaques ciblant le cloud santé en 2023, souvent par hameçonnage ou ransomwares.
• Objets connectés et edge AI : Les dispositifs médicaux connectés (capteurs ECG, pompes à insuline, etc.) embarquent de l’IA pour analyser en temps réel, mais sont souvent les maillons faibles en sécurité. Plusieurs audits révèlent des milliers de vulnérabilités critiques (source : CISA, 2023).
• Attaques par empoisonnement de données : Des hackers peuvent introduire de fausses données pour manipuler une IA, soit pour fausser ses prédictions, soit pour extraire des informations confidentielles (exemple : attaque “membership inference”).

Vers un consentement élargi et repensé

L’IA en santé nécessite, par nature, d'énormes volumes de data pour entraîner, valider et adapter ses modèles. Or, le consentement individuel, conçu à une époque où la donnée circulait peu, atteint ses limites :

• Consentement dynamique : Face à la réutilisation des données dans des contextes imprévus (nouvel algorithme, nouvelle recherche), le consentement doit pouvoir évoluer, et informer le patient en continu.
• Consentement collectif : Nombre de bases de données sont construites sur des données agrégées. Doit-on demander un nouvel accord à chacun lors de réutilisations ? L’Union européenne réfléchit désormais à de nouveaux modèles de gouvernance collective (EHDS).

En mai 2023, la CNIL a estimé que 41% des Français ignorent la manière dont leurs données de santé sont utilisées hors contexte de soins (Source : étude CNIL). Ce déficit d’information nourrit une méfiance durable.

Réglementation : l’épineuse adaptation à l’IA générative

Trois textes majeurs encadrent la donnée de santé en IA :

1. RGPD (Règlement Général sur la Protection des Données) : il pose le principe “privacy by design”. Mais la logique itérative de l’IA (mise à jour constante, modulation selon le flux de données) interroge sa compatibilité avec les exigences de minimisation et de conformité.
2. Code de la santé publique (France) : exige le secret médical et limite strictement l’accès aux données. Plusieurs débats ont eu lieu sur la sécurité de l’hébergement des données sensibles par des acteurs américains soumis au Cloud Act.
3. AI Act européen : la proposition de la Commission européenne (2023-2024) vise à classer les IA médicales en “risque élevé”. Elle renforcera l’obligation de robustesse, d’auditabilité et de transparence des données d’entraînement, ce qui posera de nouvelles questions pratiques de sécurisation et de documentation.

Notons aussi l’essor des “sanctions record”. L’ICO britannique a infligé en 2020 une amende de 275 millions d’euros à une société suite à la fuite de données médicales (Source : ICO.uk).

IA, intégrité scientifique et biais dans les données de santé

Au-delà de la protection contre l’accès non autorisé, le contenu même des données pose de nouveaux défis.

• Biais d’échantillon : Si l’IA se base sur des dossiers majoritairement européens ou nord-américains, ses prédictions peuvent occulter des spécificités cliniques d’autres populations. Ce biais a été illustré par l’algorithme d’allocation de soins développé aux États-Unis, accusé en 2019 de sous-évaluer les besoins des patients afro-américains (Source : Science, octobre 2019).
• Qualité et intégrité : Le moindre défaut ou falsification d’une donnée (volontaire ou accidentelle) peut contaminer un modèle d’IA, avec des conséquences cliniques en cascade. Un rapport de l’ECRI Institute (2022) identifie la confiance dans la chaîne de vérification des données comme un des trois principaux risques de sécurité numérique en santé.

Enjeux éthiques : redonner la main au patient ?

La puissance prédictive de l’IA questionne de plus en plus la « propriété » de la donnée de santé. Depuis 2022, plusieurs projets pilotes (notamment à Estonie et Finlande) testent des modèles où l’usager contrôle via son smartphone l’usage de ses informations médicales. Une nouvelle forme d’”empowerment”, mais lourde de responsabilités :

• Accès individuel granulaire : Permettre à chacun de sélectionner, service par service, l’accès accordé. Reste à trancher la question du niveau de compréhension et d’accompagnement de tous les publics.
• Partage éthique des bénéfices : Si les IA en santé génèrent des retombées économiques majeures (le marché mondial de l’IA en santé a franchi 20 milliards de dollars en 2023, source: Statista), comment garantir que les patients, premiers fournisseurs de données, soient associés à la valeur créée ?

Des pistes de réponse : technologies, transparence, gouvernance

Face à ces défis majeurs, des pistes émergent :

• Techniques avancées d’anonymisation : masquage adaptatif, data masking, utilisation de données synthétiques ou de “differential privacy”. Le Health Data Hub français explore ces méthodes pour concilier utilité scientifique et respect du secret médical.
• Modèles fédérés : au lieu d’agréger les données dans un même serveur, l’IA apprend localement sur chaque site puis agrège les résultats, limitant leur circulation. Initiatives portées par la fédération européenne Gaia-X.
• Gouvernance multi-acteurs : de nouveaux comités éthiques “numériques” voient le jour, en France comme en Suisse, associant patients, médecins, data scientists et citoyens aux choix de partage des données.

Données et IA en santé : un laboratoire pour le numérique responsable

La protection des données en santé face à l’IA n’est pas qu’une affaire de code ou de chiffrement. Elle cristallise la tension entre avancée médicale et respect des droits fondamentaux. À chaque évolution technologique, le risque d’un “faible maillon” demeure : rareté des experts cybersécurité dans les hôpitaux, hétérogénéité réglementaire mondiale, difficulté à garder le patient au centre du jeu.

Pourtant, ce débat collectif offre aussi un formidable champ d’innovation sociale et technique. À condition d’associer très tôt l’ensemble des parties prenantes – patients, soignants, ingénieurs, citoyens, décideurs – à la construction d’écosystèmes de confiance. Le défi est moins de limiter l’IA que d’en faire un levier au service de la médecine humaniste, où la donnée n’est ni privatisée, ni abandonnée à l’algorithme, mais protégée, partagée et mise au service du soin. Les années à venir seront déterminantes pour façonner ce pacte numérique au cœur de la relation de soin.