Une IA sûre et équitable a besoin de garde-fous, de la législation et de l’intervention humaine

Les organisations de santé ont parfois été lentes à adopter de nouveaux outils d’intelligence artificielle et d’autres innovations de pointe en raison de préoccupations légitimes en matière de sécurité et de transparence. Mais pour améliorer la qualité des soins et les résultats pour les patients, les soins de santé ont besoin de ces innovations.

Il est toutefois impératif qu’elles soient appliquées correctement et de manière éthique. Ce n’est pas parce qu’une application d’IA générative peut réussir un examen d’école de médecine qu’elle est prête à devenir un médecin en exercice. Les soins de santé devraient utiliser les dernières avancées en matière d’IA et de grands modèles linguistiques pour mettre la puissance de ces technologies entre les mains d’experts médicaux afin qu’ils puissent fournir des soins meilleurs, plus précis et plus sûrs. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Le Dr Tim O’Connell est radiologue en exercice et PDG et cofondateur d’emtelligent, un développeur de technologie alimentée par l’IA qui transforme les données non structurées. »ltr » Nous nous sommes entretenus avec lui pour mieux comprendre l’ target= »ltr »>importance »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″des garde-fous pour l’IA dans les soins de santé car elle contribue à moderniser la pratique de la médecine. Nous avons également parlé de la façon dont la discrimination algorithmique peut perpétuer les inégalités en matière de santé, de l’action législative pour établir des normes de sécurité de l’IA – et de la raison pour laquelle la présence humaine dans la boucle est essentielle. »https://www.healthcareitnews.com/news/healthcare-must-set-guardrails-around-ai-transparency-and-safety » Q. Quelle est l’importance des garde-fous pour l’IA dans le domaine de la santé, dans la mesure où cette technologie contribue à moderniser la pratique de la médecine ?

A. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″Les technologies d’IA ont ouvert des perspectives intéressantes pour les prestataires de soins de santé, les organismes payeurs, les chercheurs et les patients, offrant la possibilité d’obtenir de meilleurs résultats et de réduire les coûts des soins de santé. Cependant, pour exploiter pleinement le potentiel de l’IA, en particulier pour l’IA médicale, nous devons nous assurer que les professionnels de la santé comprennent à la fois les capacités et les limites de ces technologies.

>Cela inclut la sensibilisation aux risques tels que le non-déterminisme, les hallucinations et les problèmes de référencement fiable des données sources. Les professionnels de santé doivent être dotés non seulement de connaissances sur les avantages de l’IA, mais aussi d’une compréhension critique de ses pièges potentiels, afin de s’assurer qu’ils peuvent utiliser ces outils de manière sûre et efficace dans divers contextes cliniques. >Il est essentiel d’élaborer et d’adhérer à un ensemble de principes réfléchis pour l’utilisation sûre et éthique de l’IA. Ces principes doivent inclure la prise en compte des préoccupations concernant la confidentialité, la sécurité et les préjugés, et ils doivent être ancrés dans la transparence, la responsabilité et l’équité. »ltr »

target= »ltr »>La réduction des préjugés nécessite de former les systèmes d’IA »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″sur des ensembles de données plus diversifiés qui tiennent compte des disparités historiques dans les diagnostics et les résultats de santé, tout en modifiant les priorités de formation pour garantir que les systèmes d’IA sont alignés sur les besoins réels en matière de soins de santé. Cette focalisation sur la diversité, la transparence et une surveillance rigoureuse, y compris le développement de garde-fous, garantit que l’IA peut être un outil très efficace qui reste résilient face aux erreurs et contribue à apporter des améliorations significatives aux résultats des soins de santé. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ C’est là que les garde-fous – sous la forme de réglementations bien conçues, de lignes directrices éthiques et de garanties opérationnelles – deviennent essentiels. Ces protections permettent de garantir que les outils d’IA sont utilisés de manière responsable et efficace, en répondant aux préoccupations concernant la sécurité des patients, la confidentialité des données et les biais algorithmiques. »_blank » >Elles fournissent également des mécanismes de responsabilisation, garantissant que toute erreur ou conséquence imprévue des systèmes d’IA peut être retracée jusqu’à des points de décision spécifiques et corrigée. Dans ce contexte, les garde-fous agissent à la fois comme des mesures de protection et des facilitateurs, permettant aux professionnels de la santé de faire confiance aux systèmes d’IA tout en se prémunissant contre leurs risques potentiels.Q. Comment la discrimination algorithmique peut-elle perpétuer les inégalités en matière de santé, et que peut-on faire pour résoudre ce problème ? »ltr » »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″>A. »ltr »Si les systèmes d’IA sur lesquels nous comptons dans les soins de santé ne sont pas développés et formés correctement, il existe un risque très réel de discrimination algorithmique. Les modèles d’IA formés sur des ensembles de données qui ne sont pas suffisamment grands ou diversifiés pour représenter l’ensemble des populations de patients et des caractéristiques cliniques peuvent produire et produisent effectivement des résultats biaisés. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Cela signifie que l’IA pourrait fournir des recommandations de soins moins précises ou moins efficaces pour les populations mal desservies, notamment les minorités raciales ou ethniques, les femmes, les personnes issues de milieux socio-économiques défavorisés et les personnes atteintes de maladies très rares ou peu courantes. »ltr » Par exemple, si un modèle de langage médical est formé principalement sur des données provenant d’un groupe démographique spécifique, il peut avoir du mal à extraire avec précision des informations pertinentes à partir de notes cliniques qui reflètent des conditions médicales ou des contextes culturels différents. Cela peut conduire à des diagnostics manqués, à des interprétations erronées des symptômes des patients ou à des recommandations de traitement inefficaces pour des populations que le modèle n’a pas été formé à reconnaître correctement.

>En effet, le système d’IA pourrait perpétuer les inégalités qu’il est censé atténuer, en particulier pour les minorités raciales, les femmes et les patients issus de milieux socio-économiques défavorisés qui sont souvent déjà mal desservis par les systèmes de santé traditionnels. »ltr » >Pour résoudre ce problème, il est essentiel de »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ target=>s’assurer que les systèmes d’IA reposent sur de grands ensembles de données »ltr »très variés qui capturent un large éventail de données démographiques, de présentations cliniques et de résultats de santé des patients. Les données utilisées pour former ces modèles doivent être représentatives de différentes races, ethnies, sexes, âges et statuts socio-économiques afin d’éviter de fausser les résultats du système vers une vision étroite des soins de santé. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Cette diversité permet aux modèles de fonctionner avec précision dans diverses populations et scénarios cliniques, minimisant ainsi le risque de perpétuer les biais et garantissant que l’IA est sûre et efficace pour tous. »ltr »« docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0 »>Q. Pourquoi la présence humaine dans la boucle est-elle essentielle à l’IA dans le domaine de la santé ? »ltr »« docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0 »>A. »ltr »Bien que l’IA puisse traiter de vastes quantités de données et générer des informations à des vitesses qui dépassent de loin les capacités humaines, elle ne dispose pas de la compréhension nuancée des concepts médicaux complexes qui font partie intégrante de la prestation de soins de haute qualité. La présence humaine dans la boucle est essentielle à l’IA dans le contexte de la santé, car elle fournit l’expertise clinique, la supervision et le contexte nécessaires pour garantir que les algorithmes fonctionnent avec précision, sécurité et éthique. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Prenons un cas d’utilisation, à savoir l’extraction de données structurées à partir de notes cliniques, de rapports de laboratoire et d’autres documents de santé. Sans cliniciens humains pour guider le développement, la formation et la validation continue, les modèles d’IA risquent de passer à côté d’informations importantes ou de mal interpréter le jargon médical, les abréviations ou les nuances contextuelles du langage clinique. »https://www.healthcareitnews.com/news/healthy-datasets-are-cornerstone-effective-ai-initiatives » Par exemple, un système peut signaler à tort un symptôme comme étant important ou négliger des informations critiques intégrées dans la note d’un médecin. Les experts humains peuvent aider à affiner ces modèles, en s’assurant qu’ils saisissent et interprètent correctement le langage médical complexe. >Du point de vue du flux de travail, les humains impliqués dans la boucle peuvent aider à interpréter et à agir sur les informations générées par l’IA. Même lorsque les systèmes d’IA génèrent des prédictions précises, les décisions en matière de soins de santé nécessitent souvent un niveau de personnalisation que seuls les cliniciens peuvent fournir. »ltr » Les experts humains peuvent combiner les résultats de l’IA avec leur expérience clinique, leur connaissance des circonstances uniques du patient et leur compréhension des tendances plus larges en matière de soins de santé pour prendre des décisions éclairées et compatissantes.« ltr »Q. Quel est l’état d’avancement des mesures législatives visant à établir des normes de sécurité de l’IA dans les soins de santé, et que doivent faire les législateurs ?

A.La législation visant à établir des normes de sécurité de l’IA dans le domaine de la santé en est encore à ses débuts, même si l’on reconnaît de plus en plus la nécessité de lignes directrices et de réglementations complètes pour garantir l’utilisation sûre et éthique des technologies d’IA dans les milieux cliniques. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Plusieurs pays ont commencé à introduire des cadres de réglementation de l’IA, dont beaucoup s’appuient sur des principes fondamentaux et fiables de l’IA qui mettent l’accent sur la sécurité, l’équité, la transparence et la responsabilité, qui commencent à façonner ces conversations. Aux États-Unis, la Food and Drug Administration a introduit un cadre réglementaire pour les dispositifs médicaux basés sur l’IA, en particulier les logiciels en tant que dispositif médical (SaMD). Le cadre proposé par la FDA suit une »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″approche, qui s’aligne sur les principes d’une IA fiable en mettant l’accent sur la surveillance continue, les mises à jour et l’évaluation en temps réel des performances de l’IA. Cependant, bien que ce cadre aborde les dispositifs pilotés par l’IA, il n’a pas encore pleinement pris en compte les défis posés par les applications d’IA non liées aux dispositifs, qui traitent de données cliniques complexes. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >En novembre dernier, l’American Medical Association »ltr »>a publié des lignes directrices proposées pour une utilisation de l’IA »ltr »d’une manière éthique, équitable, responsable et transparente. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ >Dans son »ltr »l’AMA renforce sa position selon laquelle l’IA améliore l’intelligence humaine plutôt que de la remplacer et soutient qu’elle est >En favorisant cette collaboration entre les décideurs politiques, les professionnels de la santé, les développeurs d’IA et les éthiciens, nous pouvons élaborer des réglementations qui favorisent à la fois la sécurité des patients et le progrès technologique. Les législateurs doivent trouver un équilibre, pour créer un environnement où l’innovation en matière d’IA peut prospérer tout en garantissant que ces technologies répondent aux normes de sécurité et d’éthique les plus élevées. »ltr » >Cela comprend l’élaboration de réglementations qui permettent une adaptation agile aux nouvelles avancées de l’IA, en veillant à ce que les systèmes d’IA restent flexibles, transparents et réactifs aux besoins évolutifs des soins de santé. »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″ Suivez la couverture de HIT par Bill sur LinkedIn : target= »ltr »>Bill Siwicki »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″Envoyez-lui un e-mail : target= »ltr »>bsiwicki@himss.org »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″Healthcare IT News est une publication de HIMSS Media « total product lifecycle » class= »ltr »rel= »docs-internal-guid-86f54ae1-7fff-7ad9-1291-e6052bd334b0″target=>Lire la suite »ltr »