En langage clair
Le livre blanc, en langage clair.
Cent quatre-vingt-sept pages, lues pour vous en dix minutes.
Une lecture en langage clair d’une proposition publiée. En cas d’écart, le document fait foi.
Sur cette page
L’idée en une phrase.
Le livre blanc propose un réseau placé sous l’IA médicale, qui enregistre quel modèle a agi, qui l’a permis et comment il a changé, d’une manière qu’aucune entreprise ni aucun gouvernement ne contrôle seul.
Où restent les données.
Le document appelle son idée centrale l’ambassade de données. Les dossiers des patients d’un hôpital restent dans l’hôpital, sous la loi du pays, comme une ambassade reste sous son propre drapeau. Seules des empreintes et des preuves mathématiques quittent le bâtiment.
Une preuve à divulgation nulle de connaissance peut établir un énoncé précis tout en cachant les données secrètes utilisées pour le démontrer. La proposition explore son emploi pour vérifier l’éligibilité. Ce qui reste confidentiel dépend de l’énoncé, des données d’entrée publiques, des métadonnées et de l’implémentation du système.
La première procédure.
Le document choisit, pour commencer, une tâche sans éclat : la demande qu’un cabinet adresse à un assureur avant qu’un traitement soit approuvé. Elle est lente, lourde de paperasse, et détestée de tous côtés.
Cette partie est d’une franchise inhabituelle. Elle énumère les raisons pour lesquelles un assureur pourrait adopter un tel système, puis celles pour lesquelles il refuserait. Un assureur ne renoncera pas à son droit de décider, et n’acceptera pas un registre qui lui demande des comptes tout en laissant les cabinets sans examen. La conception proposée est donc hybride. Le système vérifie les critères documentés et enregistre le résultat. L’assureur garde la décision, sauf dans les types de cas qu’il a accepté à l’avance de déléguer.
Un passeport pour chaque modèle.
À la place d’une description figée d’un modèle, le document propose un passeport qui voyage avec lui et qui est mis à jour à chaque changement. Il indique à quoi sert le modèle, comment il s’est comporté et quels changements sont permis sans nouvelle approbation.
Les régulateurs et le promoteur du modèle disposent d’un canal distinct par lequel ils peuvent ordonner la suspension d’un modèle. Les établissements qui tiennent le registre ne peuvent pas élargir de leur propre chef ce qu’un modèle est autorisé à faire.
L’humain reste aux commandes.
Le document entend faire de la supervision humaine une propriété du système et non une ligne dans un règlement. Une action qui requiert l’autorisation d’un clinicien ne peut pas être enregistrée comme achevée sans elle.
La proposition définit les permissions par rôle sur sept niveaux, en combinant justificatifs, règles d’autorisation et mécanismes cryptographiques. Elle prévoit aussi une voie d’accès d’urgence hors des permissions habituelles, dont l’utilisation est consignée. Ces contrôles restent à implémenter et à évaluer.
Qui répond quand cela tourne mal.
Quand plusieurs parties contribuent à un dommage, le document propose de répartir la responsabilité à l’aide d’une méthode issue de la théorie des jeux, appliquée à la trace enregistrée. Il consacre ensuite une section aux cas où cette méthode échoue, par exemple quand plusieurs parties d’un système cèdent pour la même raison.
Où il va plus loin.
Les chapitres suivants portent le même registre dans d’autres domaines : suivre un médicament le long de sa chaîne d’approvisionnement, garder honnête la conduite d’un essai clinique, repérer les effets indésirables d’un médicament à travers de nombreux hôpitaux, et se préparer à une pandémie.
Un chapitre réunit la surveillance des maladies chez les personnes, chez les animaux et dans l’environnement, qui relèvent aujourd’hui d’organismes séparés. Un autre porte sur les qualifications d’un clinicien, afin qu’elles puissent être vérifiées dans un autre pays. Les lecteurs de ce site reconnaîtront là l’origine de plusieurs des projets que nous proposons.
Les dossiers d’un hôpital restent dans l’hôpital. Seules des empreintes quittent le bâtiment.
Ce qui n’existe encore que sur le papier.
Tout. Il n’y a pas de réseau en service. Le document comprend un modèle économique dans lequel les établissements qui tiennent le registre mettent quelque chose en jeu. Rien de cela ne fonctionne aujourd’hui. Les chiffres donnés pour un pilote sont des objectifs. Les vérifications formelles des preuves sont prévues et n’ont pas été publiées.
Le livre blanc est une proposition, exposée pour que des personnes qui en savent plus que nous puissent en trouver les défauts. La prochaine étape est la petite évaluation décrite ailleurs sur ce site, et le document devra être jugé de nouveau quand elle sera faite.
À quoi cela se rattache.
Les bonnes questions font avancer le travail.
Partagez une difficulté dans un processus de travail, une objection au protocole ou une exigence d’évaluation. Votre courriel sera adressé directement à Berkcan pour ouvrir un échange.
Sources et portée
Ce résumé présente la proposition publiée dans le cadre de ses hypothèses explicites. Une preuve portant sur un modèle ne démontre ni la sécurité clinique ni celle d’une implémentation.
Publication originale en anglais