Asuu

Un projet envisagé

Asuu Assay

L’évaluation indépendante de l’IA médicale.

Projet envisagé. Pas encore disponible.

Sur cette page

Le problème.

Avant qu’une clinicienne puisse soigner un patient, une personne indépendante évalue ses compétences. Avant qu’un médicament soit vendu, quelqu’un d’indépendant le teste. Les modèles qui conseillent aujourd’hui les cliniciens sont le plus souvent décrits, mesurés et garantis par les entreprises qui les ont construits.

Ce n’est pas une accusation de mauvaise foi. Un fabricant teste sur les données qu’il a, dans les hôpitaux qu’il connaît, et rapporte ce qu’il trouve. Mais un modèle qui fonctionne là peut échouer ailleurs, et peut changer le mois prochain.

Ce qu’il ferait.

Un organisme indépendant envisagé pour évaluer les modèles médicaux selon des usages clairement définis.

Ses questions seraient gardées sous scellés, de sorte qu’aucun modèle ne puisse être réglé pour réussir. Ses résultats se liraient comme un relevé dans le temps, et jamais comme une médaille décernée une fois.

Nous autorisons le clinicien à exercer. Nous testons le médicament. Quelqu’un devrait examiner le modèle.

Ce qu’il ne ferait pas.

Il ne certifierait rien au sens juridique tant que des régulateurs ne l’auraient pas reconnu pour cela, et cette reconnaissance n’existe pas aujourd’hui. Il n’accepterait d’un fabricant aucun financement qui ne soit rendu public, et il publierait ses propres conflits d’intérêts à côté de ses conclusions.

Sa place dans l’ensemble.

Assay est la raison pour laquelle on devrait croire le reste. L’assistant ne parlerait pas à un patient, et aucun modèle ne serait mis en service dans une clinique Asuu, avant qu’un examinateur indépendant de ses concepteurs ne l’ait testé pour cet usage. Assay s’appuie sur le Network pour savoir exactement quelle version il a examinée, et sur Research pour publier ce qu’il a trouvé.

La première étape.

Écrire une méthode d’examen pour une seule tâche étroite et l’appliquer, publiquement, à un modèle librement accessible. Inviter les concepteurs du modèle et ses critiques à dire ce que la méthode a manqué.

Les conditions à remplir d’abord

Des méthodes publiées, une gouvernance indépendante, des conflits d’intérêts déclarés et une reconnaissance préalable à tout rôle officiel de certification.

À quoi cela se rattache.

Où votre travail pourrait-il trouver sa place ?

Une observation clinique, une question de recherche, une institution ou l’expérience d’en avoir construit une. Nous aimerions savoir ce que vous pourriez apporter.