Des dizaines de modèles d'IA de prédiction de maladies entraînés sur des données douteuses

Les faits

Une enquête menée par *Nature* révèle que des dizaines de modèles d'intelligence artificielle destinés à prédire les risques de maladies comme le diabète ou l'accident vasculaire cérébral ont été entraînés sur des données de qualité douteuse. Ces modèles, publiés dans des revues scientifiques, reposent souvent sur des ensembles de données publics mal documentés ou potentiellement biaisés, sans vérification rigoureuse de leur provenance ou de leur fiabilité. Selon l'article de Mohana Basu, publié en ligne le 15 avril 2026, certains de ces outils pourraient déjà avoir été appliqués à des patients, exposant ainsi la santé publique à des risques inutiles. L'analyse met en lumière des lacunes majeures dans la pratique courante : de nombreux chercheurs s'appuient sur des bases de données accessibles en ligne, comme celles issues d'études épidémiologiques anciennes, sans évaluer leur actualité ni leur représentativité. Par exemple, des données collectées il y a des décennies ne reflètent pas les évolutions démographiques ou environnementales actuelles, entraînant des prédictions erronées. *Nature* souligne que cette opacité freine la reproductibilité des résultats et compromet la confiance dans l'IA médicale. Au-delà des modèles incriminés, l'enquête pointe un problème systémique dans la communauté scientifique. Peu de protocoles standardisés existent pour valider les données d'entraînement, et les revues par les pairs se concentrent davantage sur les algorithmes que sur leurs fondations. Des experts interrogés estiment que jusqu'à 80 % des publications en IA médicale pourraient être affectées par ce fléau, appelant à une réforme urgente des standards de publication. Cette révélation intervient dans un contexte où l'IA gagne du terrain en santé, avec des investissements massifs dans des outils prédictifs. Elle rappelle les précédents scandales, comme les biais raciaux détectés dans certains algorithmes cardiaques, et insiste sur la nécessité de traçabilité pour toute donnée utilisée en apprentissage automatique.

Pourquoi c’est important

Cette affaire expose les fragilités structurelles de l'IA en médecine, un secteur où les erreurs prédictives peuvent avoir des conséquences dramatiques, comme des diagnostics manqués ou des traitements inadaptés. Elle met en péril la légitimité des avancées en intelligence artificielle appliquée à la santé, alors que les autorités sanitaires, comme la FDA aux États-Unis ou l'Agence du médicament en Europe, accélèrent l'approbation de tels outils. Sans garde-fous renforcés, le déploiement hâtif risque de saper la confiance des professionnels de santé et des patients, freinant l'adoption d'innovations pourtant prometteuses. Sur le plan stratégique, elle impose une introspection collective : les éditeurs scientifiques doivent imposer des checklists obligatoires pour les données d'entraînement, tandis que les financeurs publics et privés exigeront des audits indépendants. Cette crise pourrait catalyser une normalisation du secteur, favorisant des pratiques plus éthiques et robustes, à l'image des initiatives comme celles du consortium International Medical Device Regulators Forum. À terme, elle orientera les investissements vers des données de qualité certifiée, accélérant une IA médicale véritablement fiable.

Source

Auteur

Rédaction spécialisée dans la veille et l’analyse de l’actualité de l’intelligence artificielle, des puces IA, des robots, des agents IA et de la recherche.