Asuu

Une machine qui sait où s’arrête son savoir.

La chose la plus utile qu’un modèle puisse dire est parfois qu’il ne sait pas.

Piste de recherche. Pas encore testée.

Sur cette page

Ce que l’on sait.

Un bon jeune médecin a une habitude qui passe avant toutes les autres. Quand un cas le dépasse, il le dit et va chercher quelqu’un. Les modèles actuels en sont le plus souvent dépourvus. Interrogés sur une chose hors de leur expérience, ils répondent de la même voix fluide et assurée qu’ils emploient pour tout.

Il existe une mesure pour cela. Un modèle est bien calibré si, parmi toutes les réponses qu’il donne avec quatre-vingt-dix pour cent de confiance, neuf sur dix sont justes. Des chercheurs ont montré en 2017 que les grands réseaux de neurones qui entraient alors en usage étaient nettement plus sûrs d’eux qu’ils n’avaient raison.

La question ouverte.

L’exactitude n’est qu’une dimension de l’évaluation d’un modèle. L’étalonnage, l’incertitude et le choix de ne pas répondre sont également étudiés. Asuu demande comment mesurer ces propriétés pour un usage médical défini et les rendre claires pour la personne responsable de la décision.

Ce qu’Asuu pourrait faire.

Le protocole central en fait déjà une question de sécurité : un modèle dont la confiance s’écarte de son exactitude doit être suspendu. Un examinateur indépendant pourrait aller plus loin et noter chaque modèle sur son honnêteté quant à ses propres limites, à côté de son exactitude.

Le dossier pourrait garder chaque occasion où un modèle s’est effacé. Et l’assistant serait tenu à la première règle de sa manière d’être au chevet, qui est de dire clairement ce qu’il ne sait pas.

On classe les modèles selon la fréquence à laquelle ils ont raison. Il faudrait aussi demander s’ils savent quand ils ont tort.

La première expérience.

Prenez des modèles librement accessibles et notez-les deux fois sur les mêmes questions médicales : une fois pour avoir raison, une fois pour savoir quand ils ont probablement tort. Publiez les deux tableaux côte à côte. Si les deux classements se révèlent identiques, il n’y a rien de nouveau à mesurer. Nous pensons qu’ils ne le sont pas.

Ce qui pourrait mal tourner.

Un modèle qui décline trop souvent ne sert à rien, et chaque refus renvoie le travail à un clinicien fatigué. Un fabricant pourrait aussi apprendre à esquiver les cas difficiles et à en paraître meilleur. La note devrait sanctionner un refus inutile aussi fermement qu’une erreur commise avec assurance.

Sources et portée

Les études citées ici motivent une question de recherche. Elles ne démontrent pas l’efficacité de la méthode proposée par Asuu. L’expérience décrite n’a pas encore été menée.

Les références peuvent être en anglais.

À quoi cela se rattache.

Quel horizon est le vôtre ?

Si vous travaillez dans l’un de ces domaines, nous aimerions comprendre ses besoins.