Asuu

Qui est responsable lorsqu’un conseil suivi se révèle erroné ?

Le concepteur du modèle, l’institution qui l’a approuvé et le clinicien qui l’utilise peuvent avoir des responsabilités différentes. Chaque processus doit les définir, en tenant compte du droit et de la pratique clinique du lieu où il est utilisé.

Question ouverte. Pas encore testée.

Sur cette page

Pourquoi c’est difficile.

Un modèle suggère une action, une institution approuve son utilisation et un clinicien agit. Si un dommage survient, la responsabilité dépend des faits et du droit applicable. Une trace claire pourrait aider à examiner qui a fait quoi, mais ne trancherait pas, à elle seule, une affaire juridique.

L’incertitude fait des dégâts avant tout dommage. Si la clinicienne porte tout, le plus sûr est d’ignorer l’outil, ou de le suivre chaque fois en disant que la machine l’a conseillé. Dans les deux cas, les soins se dégradent. Les chercheurs ont un nom pour la seconde habitude : le biais d’automatisation.

Ce qui a été tenté.

La situation juridique varie selon les juridictions et évolue avec les lois portant sur les logiciels et l’IA. Le livre blanc propose une méthode d’attribution mathématique pour examiner une trace enregistrée. Tout usage juridique nécessiterait un examen indépendant et resterait soumis au droit applicable.

Une piste que nous mettrions à l’épreuve.

Nous réglerions la question avant le premier patient, par écrit, pour chaque usage de chaque modèle. Le fabricant répond de ce que le modèle se comporte comme lors de l’examen. L’hôpital répond de l’avoir approuvé pour cet usage et de le surveiller. La clinicienne répond de la décision, compte tenu de ce qui était exactement à l’écran à ce moment-là. C’est le registre du Network qui rend cette dernière clause équitable.

Tirer les enseignements d’un incident et attribuer une responsabilité juridique sont deux tâches liées, mais distinctes. Les dispositifs de signalement et d’indemnisation varient selon les juridictions. Asuu devrait protéger les enseignements utiles tout en préservant les droits de la personne lésée.

Comment nous saurions que nous avons tort.

Une répartition écrite des responsabilités peut devenir un moyen de reporter le risque sur la partie qui a le moins de pouvoir, c’est-à-dire le plus souvent la clinicienne. Si les premiers textes que nous rédigeons sont de ceux qu’un syndicat d’internes refuserait de signer, nous aurons construit ce qu’il ne fallait pas.

Qui pourrait la résoudre.

Une avocate en responsabilité médicale. Un assureur d’hôpitaux ou de médecins. Un représentant des jeunes cliniciens, qui sont les plus susceptibles de se retrouver à porter la faute. Et quelqu’un de l’aviation, ou d’un autre secteur qui a appris à signaler les défaillances sans punir celui qui les signale.

Sources et portée

Les obligations juridiques dépendent de la juridiction, du produit et des parties concernées. Cette page pose une question de conception ; elle ne conclut pas sur un cas particulier.

Les références peuvent être en anglais.

À quoi cela se rattache.

Résolvez-en une avec nous.

Dites-nous sur quelle question vous travaillez et ce que nous avons mal compris.