Quem é o responsável quando um conselho seguido se revela errado?
O criador do modelo, a instituição que o aprovou e o médico que o utiliza podem ter responsabilidades diferentes. Cada fluxo de trabalho necessita dessas responsabilidades definidas, tendo em conta a legislação e a prática clínica do local onde é utilizado.
Questão em aberto. Ainda não testada.
Nesta página
Por que é difícil.
Um modelo sugere uma ação, uma instituição aprova seu uso e um profissional clínico a executa. Se houver dano, a responsabilidade dependerá dos fatos e da lei aplicável. Um registro claro poderia ajudar a examinar quem fez o quê, mas não resolveria um caso jurídico sozinho.
A incerteza faz estrago antes de qualquer dano. Se o clínico carrega tudo, o caminho seguro é ignorar a ferramenta, ou segui-la sempre e dizer que a máquina recomendou. As duas coisas pioram o cuidado. Os pesquisadores têm um nome para o segundo hábito: viés de automação.
O que já foi tentado.
A situação jurídica varia conforme a jurisdição e muda à medida que a legislação aborda software e IA. O whitepaper propõe um método matemático de atribuição para examinar um rastro registrado. Qualquer uso jurídico exigiria análise independente e continuaria sujeito à lei aplicável.
Um caminho que testaríamos.
Resolveríamos a questão antes do primeiro paciente, por escrito, para cada uso de cada modelo. O fabricante responde por o modelo funcionar como foi examinado. O hospital responde por aprová-lo para aquele fim e por vigiá-lo. O clínico responde pela decisão, considerando exatamente o que estava na tela naquele momento. O registro da Network é o que torna justa essa última cláusula.
Aprender com um incidente e atribuir responsabilidade jurídica são tarefas relacionadas, mas distintas. Os sistemas de notificação e compensação variam conforme a jurisdição. A Asuu precisaria proteger o aprendizado útil e preservar os direitos da pessoa que sofreu o dano.
Como saberíamos que estamos errados.
Uma divisão escrita de responsabilidades pode virar um instrumento para empurrar o risco para quem tem menos poder, que costuma ser o clínico. Se as primeiras declarações que redigirmos forem do tipo que um sindicato de médicos residentes se recusaria a assinar, construímos a coisa errada.
Quem poderia resolvê-lo.
Um advogado que trabalha com responsabilidade médica. Uma seguradora de hospitais ou de médicos. Um representante dos clínicos em início de carreira, que são os que mais provavelmente ficarão com a culpa. E alguém da aviação, ou de outro setor que aprendeu a relatar falhas sem punir quem relata.
Fontes e alcance
As obrigações legais dependem da jurisdição, do produto e das partes envolvidas. Esta página levanta uma questão de projeto; não oferece uma conclusão sobre um caso específico.
As referências podem estar em inglês.
Onde isto se liga.
Resolva um conosco.
Conte-nos em qual problema você está trabalhando e em que nos equivocamos sobre ele.