A responsible framework for applying artificial intelligence on medical images and signals at the point-of-care: the PACS-AI platform

Le potentiel de l'intelligence artificielle (IA) en médecine réside dans sa capacité à améliorer la capacité des cliniciens à analyser les images médicales, améliorant la précision et l'exactitude diagnostiques et renforçant ainsi les tests actuels. Cependant, l'intégration de l'IA dans les soins de santé est semée de difficultés. L'hétérogénéité parmi les applications des systèmes de soins de santé, la dépendance à l'égard de logiciels propriétaires à code source fermé et les menaces croissantes en matière de cybersécurité posent des défis importants. En outre, avant d'être déployés en milieu clinique, les modèles d'IA doivent démontrer leur efficacité dans un large éventail de scénarios et être validés par des études prospectives, mais pour ce faire, il faut les tester dans un environnement reflétant le flux de travail clinique, ce qui est difficile à réaliser sans logiciel dédié. Enfin, l'utilisation de techniques d'IA dans les soins de santé soulève d'importantes questions juridiques et éthiques, telles que la protection de la vie privée des patients, la prévention des biais et le contrôle de la sécurité et de l'efficacité des dispositifs pour assurer la conformité aux réglementations. Cette étude décrit les défis posés par l'intégration de l'IA dans les soins de santé et fournit des lignes directrices sur la manière d'aller de l'avant. Nous décrivons une solution en source ouverte que nous avons développée et qui intègre des modèles d'IA dans le système d'archivage et de transmission d'images (PACS, de l’anglais ‘Picture Archives Communication System’), appelé PACS-AI. Cette approche vise à améliorer l'évaluation des modèles d'IA en facilitant leur intégration et leur validation dans les bases de données d'imagerie médicale existantes. Le PACS-AI peut surmonter de nombreux obstacles au déploiement de l'IA actuels et offrir une voie vers un déploiement responsable, équitable et efficace des modèles d'IA dans les soins de santé. En outre, nous proposons une liste de critères et de lignes directrices que les chercheurs en IA devraient adopter lors de la publication d'un modèle d'IA médicale afin d'améliorer la normalisation et la reproductibilité.

Abstract

The potential of artificial intelligence (AI) in medicine lies in its ability to enhance clinicians’ capacity to analyse medical images, thereby improving diagnostic precision and accuracy and thus enhancing current tests. However, the integration of AI within health care is fraught with difficulties. Heterogeneity among health care system applications, reliance on proprietary closed-source software, and rising cybersecurity threats pose significant challenges. Moreover, before their deployment in clinical settings, AI models must demonstrate their effectiveness across a wide range of scenarios and must be validated by prospective studies, but doing so requires testing in an environment mirroring the clinical workflow, which is difficult to achieve without dedicated software. Finally, the use of AI techniques in health care raises significant legal and ethical issues, such as the protection of patient privacy, the prevention of bias, and the monitoring of the device’s safety and effectiveness for regulatory compliance. This review describes challenges to AI integration in health care and provides guidelines on how to move forward. We describe an open-source solution that we developed that integrates AI models into the Picture Archives Communication System (PACS), called PACS-AI. This approach aims to increase the evaluation of AI models by facilitating their integration and validation with existing medical imaging databases. PACS-AI may overcome many current barriers to AI deployment and offer a pathway toward responsible, fair, and effective deployment of AI models in health care. In addition, we propose a list of criteria and guidelines that AI researchers should adopt when publishing a medical AI model to enhance standardisation and reproducibility.