¿Quién es responsable cuando un consejo seguido resulta ser incorrecto?
El creador del modelo, la institución que lo aprobó y el médico que lo utiliza pueden tener diferentes responsabilidades. Cada flujo de trabajo necesita esas responsabilidades definidas, teniendo en cuenta la ley y la práctica clínica del lugar donde se utiliza.
Pregunta abierta. Aún sin probar.
En esta página
Por qué es difícil.
Un modelo sugiere una acción, una institución aprueba su uso y un profesional clínico la lleva a cabo. Si se produce un daño, la responsabilidad depende de los hechos y de la ley aplicable. Un registro claro podría ayudar a examinar quién hizo qué, pero no resolvería por sí solo un caso legal.
La incertidumbre hace daño antes de que ocurra ningún daño. Si la profesional lo carga todo, lo seguro es ignorar la herramienta, o seguirla siempre y decir que lo aconsejó la máquina. Las dos cosas empeoran la atención. Los investigadores tienen nombre para la segunda costumbre: sesgo de automatización.
Qué se ha intentado.
La situación legal varía según la jurisdicción y cambia a medida que la legislación aborda el software y la IA. El documento técnico propone un método matemático de atribución para examinar un rastro registrado. Cualquier uso legal requeriría un examen independiente y seguiría sujeto a la ley aplicable.
Una dirección que pondríamos a prueba.
Resolveríamos la cuestión antes del primer paciente, por escrito, para cada uso de cada modelo. El fabricante responde de que el modelo rinda como se examinó. El hospital responde de haberlo aprobado para ese fin y de vigilarlo. La profesional responde de la decisión, dado exactamente lo que había en la pantalla en ese momento. Es el registro de la Network lo que hace justa esa última cláusula.
Aprender de un incidente y atribuir responsabilidad legal son tareas relacionadas, pero distintas. Los sistemas de notificación y compensación varían según la jurisdicción. Asuu tendría que proteger el aprendizaje útil y preservar los derechos de la persona que sufrió el daño.
Cómo sabríamos que nos equivocamos.
Un reparto escrito de responsabilidades puede convertirse en un instrumento para cargar el riesgo sobre quien menos poder tiene, que suele ser la profesional. Si los primeros textos que redactemos son de los que un sindicato de médicos residentes se negaría a firmar, habremos construido lo que no debíamos.
Quién podría resolverlo.
Una abogada que trabaje en responsabilidad médica. Un asegurador de hospitales o de médicos. Un representante de los profesionales jóvenes, que son quienes con más probabilidad cargarán con la culpa. Y alguien de la aviación, o de otro sector que aprendió a notificar los fallos sin castigar a quien los notifica.
Fuentes y alcance
Las obligaciones legales dependen de la jurisdicción, del producto y de las partes implicadas. Esta página plantea una pregunta de diseño; no ofrece una conclusión sobre un caso concreto.
Las referencias pueden estar en inglés.
Con qué se relaciona.
Resuelve uno con nosotros.
Cuéntanos en qué problema trabajas y en qué nos hemos equivocado al respecto.