当遵循的建议被证明是错误的时,谁负责?
模型的制造者、批准模型的机构以及使用模型的临床医生可能承担不同的责任。每个工作流程都需要定义这些职责,并考虑到使用地点的法律和临床实践。
待解问题,尚未验证。
本页内容
难在哪里。
模型提出行动建议,机构批准使用,临床人员据此采取行动。若随后发生伤害,责任取决于具体事实与适用法律。清晰记录能够帮助审视各方做了什么,但本身并不能决定案件结果。
这种不确定在伤害发生之前就已经在起坏作用。如果一切都由临床医生承担,稳妥的做法就是无视这个工具,或者每次都照办,然后说是机器建议的。两种做法都让照护变差。研究者给第二种习惯起了个名字:自动化偏倚。
已有的尝试。
法律情况因法域而异,也随着有关软件与人工智能的立法不断变化。白皮书提出一种数学归因方法,用于审视已记录的行为轨迹。任何法律用途都需要独立审查,并仍须遵守适用法律。
我们想检验的方向。
我们会在第一位患者之前,针对每个模型的每种用途,用书面方式把这个问题定下来。制造方对模型按受检时的水平运行负责。医院对批准它用于这一用途以及对它的监督负责。临床医生对决定负责,依据的是当时屏幕上确切显示的内容。让最后这一条公平的,正是 Network 的记录。
从事件中学习与认定法律责任,彼此相关却是不同任务。报告与赔偿安排因法域而异。Asuu 需要在保护有用学习的同时,维护受害者的权利。
怎样知道我们错了。
一份书面的责任划分,可能变成把风险推给最弱势一方的工具,而那一方通常是临床医生。如果我们起草的头几份声明是年轻医生的工会不肯签的那种,我们就造错了东西。
谁能解决它。
一位处理医疗责任的律师。一家承保医院或医生的保险机构。一位年轻临床医生的代表,他们最有可能最后背上责任。还有来自航空业或其他行业的人,那些行业学会了报告失误而不惩罚报告的人。
资料来源与适用范围
法律义务取决于适用法域、产品及相关各方。本页提出的是一个设计问题,并非对某个具体案件的法律结论。
部分参考资料可能为英文。