Intelligence artificielle et prise de décision en santé: risques et opportunités (Foro Unesco - Montevideo 2024)

Intelligence artificielle et prise de décision en santé: risques et opportunités Pr. José Roberto Goldim Núcleo de Bioética Clínica, Hospital de Clínicas de Porto Alegre (HCPA) y Escuela de Medicina PUCRS (Brasil) Pr. Márcia Santana-Fernandes Cátedra UNESCO “Investigación clínica y Derecho”, Investigación Clínica Máster Program, Hospital de Clínicas de Porto Alegre (Brasil). Intelligence artificielle et prise de décision en santé: risques et opportunités L'essor de l'intelligence artificielle (IA) dans le domaine de la santé représente un tournant majeur, offrant des possibilités extraordinaires mais aussi soulevant des défis éthiques importants.

Cette présentation explore les aspects clés de l'IA dans le contexte de la santé, en examinant les opportunités, les risques et les considérations éthiques qui façonnent ce paysage complexe. Processus de prise de décision en santé et IA IA traditionnelle L'IA traditionnelle analyse les données existantes pour identifier des tendances et prédire des résultats. Elle s'appuie sur des algorithmes d'apprentissage supervisé et s'avère efficace pour des tâches spécifiques. IA générative L'IA générative crée de nouveaux contenus à partir de données d'apprentissage, comme des images, des textes ou des codes.

Elle ouvre des possibilités révolutionnaires en médecine, mais soulève des questions éthiques cruciales. Le domaine de la santé, l'IA et les processus décisionnels 1 Importance des dossiers de santé électroniques (DSE) Les DSE centralisent les informations médicales, offrant une vue complète de l'état de santé d'un patient. 2 Opportunités de l'IA dans les DSE L'IA peut analyser les DSE pour améliorer la qualité des soins, soutenir la recherche et éclairer les politiques. 3 Risques associés à l'IA dans les DSE La protection de la vie privée, la sécurité des données et les biais algorithmiques posent des défis éthiques importants.

4 Le phénomène des mégadonnées en santé L'accumulation massive de données de santé offre des opportunités uniques pour l'analyse et l'innovation, mais exige une gestion responsable. Les risques associés à l'IA dans les soins de santé Sécurité de l'information La protection des données de santé sensibles est essentielle. L'IA peut être vulnérable aux cyberattaques, ce qui met en danger la vie privée des patients et la qualité des soins. Biais algorithmique Les algorithmes d'IA peuvent refléter les biais présents dans les données d'entraînement, ce qui peut conduire à des décisions discriminatoires et préjudiciables.

Comprendre les données et l'information Il est crucial de différencier les données brutes de l'information contextuelle, pour éviter les conclusions erronées et les décisions hâtives. Évaluation et atténuation des risques Une évaluation approfondie des risques et des mesures d'atténuation sont nécessaires pour garantir l'utilisation responsable de l'IA en santé. La Bioéthique Complexe et l'IA 1 Naviguer entre les générations numériques Reconnaître l'existence de "digital natives" et "digital immigrants" qui interagissent avec l'IA de manière différente. 2 Limites de la rationalité de l'IA Soulignez les limites de l'IA, qui ne peut pas saisir les éléments non-rationnels de la décision humaine.

3 Considérations éthiques pour les systèmes d'IA Mettre l'accent sur les vertus, les intentions et le consentement dans le développement et l'utilisation de l'IA. 4 Cadre éthique multidimensionnel Intégrer les principes, les droits de l’homme et les conséquences pour une approche bioéthique globale. Répondre aux préoccupations éthiques concernant l'IA en santé Éthique de la responsabilité L'intégrité future des systèmes d'IA repose sur la responsabilité. Une prise de conscience collective est nécessaire pour garantir que l'IA est utilisée de manière éthique et responsable. Importance de l'altérité Chaque individu est unique et mérite une approche personnalisée.

L'IA ne doit pas se substituer à l'empathie et à la compréhension des besoins spécifiques des patients. Intégration de perspectives multiples Une approche bioéthique global intègre des points de vue variés, comme la médecine, la philosophie, la sociologie, la psychologie, etc. Défis du "régime informationnel" -Infocratie Naviguer dans le nouveau modèle social dominé par l’information nécessite une réflexion critique et complexe sur l’impact de l’IA sur la société. L'IA et l'avenir des soins de santé 1 Le potentiel de l'IA L'IA a le potentiel d'améliorer considérablement les soins de santé, en permettant des diagnostics plus précis, des traitements plus efficaces et une meilleure gestion des patients.

2 Le risque d'inversion Il est crucial d'éviter la'«stupidité artificielle», où l'IA devient un outil rigide et inefficace, incapable de s'adapter aux situations complexes. 3 Établir des normes éthiques Le développement responsable de l'IA exige des normes éthiques claires qui garantissent l'utilisation équitable et responsable de l'IA en santé. Surveillance et audit continus 1 Évaluation continue Surveillance et audit réguliers pour identifier les biais et les risques potentiels. 2 Visibilité et responsabilité Documenter les processus décisionnels de l'IA pour garantir la visibilité et la responsabilisation.

3 Amélioration continue Ajuster les algorithmes et les systèmes d'IA en fonction des résultats de la surveillance et des audits. Fernandes MS, Goldim JR. Artificial Intelligence and Decision Making in Health: Risks and Opportunities. In: Sousa Antunes, H., Freitas, P.M., Oliveira, A.L., Martins Pereira, C., Vaz de Sequeira, E., Barreto Xavier L, editor. Multidisciplinary Perspectives on Artificial Intelligence and the Law. Cham, Switzerland: Springer; 2024:187-204.