En lenguaje llano
El documento técnico, en lenguaje llano.
Ciento ochenta y siete páginas, leídas para ti en diez minutos.
Una lectura en lenguaje llano de una propuesta publicada. Si difieren, prevalece el documento.
En esta página
La idea en una frase.
El documento técnico propone una red que se sitúa por debajo de la IA médica y registra qué modelo actuó, quién lo permitió y cómo cambió, de un modo que ninguna empresa ni ningún gobierno controla por sí solo.
Dónde se quedan los datos.
El documento llama a su idea central la embajada de datos. Las historias de los pacientes de un hospital se quedan dentro del hospital, bajo la ley de ese país, como una embajada permanece bajo su propia bandera. Del edificio solo salen huellas y pruebas matemáticas.
Una prueba de conocimiento cero puede demostrar una afirmación concreta sin revelar la información secreta utilizada para demostrarla. La propuesta explora este mecanismo para comprobar si se cumplen ciertos requisitos. Lo que permanece privado depende de la afirmación, los datos públicos de entrada, los metadatos y la implementación del sistema.
El primer flujo de trabajo.
El documento elige para empezar una tarea sin brillo: la solicitud que una clínica envía a una aseguradora antes de que se apruebe un tratamiento. Es lenta, cargada de papeleo y nadie la quiere.
Esta sección es inusualmente franca. Enumera las razones por las que una aseguradora podría adoptar un sistema así, y después las razones por las que lo rechazaría. Una aseguradora no renunciará a su derecho a decidir, ni aceptará un registro que le pida cuentas mientras deja a las clínicas sin examinar. Así que el diseño propuesto es híbrido. El sistema comprueba los criterios documentados y registra el resultado. La aseguradora conserva la decisión, salvo en los tipos de caso que haya aceptado de antemano delegar.
Un pasaporte para cada modelo.
En lugar de una descripción estática de un modelo, el documento propone un pasaporte que viaja con él y se actualiza en cada cambio. Declara para qué sirve el modelo, cómo ha rendido y qué cambios se permiten sin una aprobación nueva.
Los reguladores y el responsable del modelo conservan un canal aparte por el que pueden ordenar que se suspenda. Las instituciones que llevan el registro no pueden ampliar por su cuenta lo que se le permite hacer a un modelo.
La persona sigue al mando.
El documento se propone que la supervisión humana sea una propiedad del sistema y no una línea de una política. Una acción que necesita la autorización de un profesional clínico no puede registrarse como completada sin ella.
La propuesta define permisos por función en siete niveles, combinando credenciales, reglas de autorización y mecanismos criptográficos. También especifica una vía de emergencia para acceder fuera de los permisos habituales, dejando un registro de su uso. Estos controles aún necesitan implementación y evaluación.
Quién responde cuando algo sale mal.
Cuando varias partes contribuyen a un daño, el documento propone repartir la responsabilidad con un método de la teoría de juegos aplicado al rastro registrado. Después dedica una sección a los casos en que ese método falla, como cuando varias partes de un sistema se rompen por la misma causa.
Hasta dónde llega.
Los capítulos posteriores llevan el mismo registro a otros campos: seguir un medicamento a lo largo de su cadena de suministro, mantener honesta la conducción de un ensayo clínico, advertir los efectos secundarios de un fármaco en muchos hospitales y prepararse para una pandemia.
Un capítulo une la vigilancia de las enfermedades en las personas, en los animales y en el medio ambiente, que hoy informan a organismos separados. Otro trata de las titulaciones de un profesional clínico, para que puedan comprobarse en otro país. Quien lea este sitio reconocerá dónde empezaron varias de nuestras iniciativas propuestas.
Las historias de un hospital se quedan dentro del hospital. Del edificio solo salen huellas.
Lo que sigue estando solo en el papel.
Todo. No hay ninguna red en funcionamiento. El documento incluye un diseño económico en el que las instituciones que llevan el registro ponen algo en garantía. Nada de eso opera hoy. Las cifras que se dan para un piloto son objetivos. Las comprobaciones formales de las demostraciones están previstas y no se han publicado.
El documento técnico es una propuesta, expuesta para que quienes saben más que nosotros encuentren sus fallos. El siguiente paso es la pequeña evaluación descrita en otra parte de este sitio, y el documento debería juzgarse de nuevo cuando esté hecha.
Con qué se relaciona.
Las buenas preguntas hacen avanzar el trabajo.
Comparte un problema del flujo de trabajo, una objeción al protocolo o un requisito de evaluación. Tu correo llegará directamente a Berkcan para iniciar una conversación.
Fuentes y alcance
Este resumen describe la propuesta publicada dentro de los supuestos que en ella se establecen. Una demostración sobre un modelo no acredita la seguridad clínica ni la seguridad de una implementación.
Documento original en inglés