従ったアドバイスが間違っていたことが判明した場合、誰が責任を負いますか?
モデルのメーカー、モデルを承認した機関、およびモデルを使用する臨床医には異なる責任がある場合があります。各ワークフローには、それが使用される場所の法律と臨床慣行を考慮して、定義された責任が必要です。
未解決の問い。未検証です。
このページの内容
なぜ難しいのか。
モデルが行動を提案し、機関が利用を承認し、臨床の専門家が行動に移します。その結果として被害が生じた場合、責任は事実関係と適用される法律によって決まります。明確な記録は、誰が何をしたかを検討する助けになりますが、それだけで法的な事案の結論は決まりません。
この不確かさは、害が起こる前から損害を生みます。すべてを臨床医が負うなら、安全なのはツールを無視するか、毎回従って機械がそう助言したと言うことです。どちらもケアを悪くします。研究者は二つ目の習慣に名前を付けています。自動化バイアスです。
これまでに試されたこと。
法的な位置づけは法域によって異なり、ソフトウェアやAIに関する立法に伴って変化しています。ホワイトペーパーは、記録された経緯を検討するための数学的な帰属方法を提案しています。法的に利用する場合には、独立した検討が必要であり、適用される法律にも従う必要があります。
私たちが試したい方向。
私たちは、最初の患者より前に、モデルの用途ごとに、この問いを書面で決めておきます。作り手は、モデルが検査されたとおりに働くことに責任を負います。病院は、この目的にそれを承認したことと、それを見守ることに責任を負います。臨床医は、そのとき画面に何が表示されていたかを正確に踏まえたうえで、判断に責任を負います。この最後の条件を公正なものにするのが、Network の記録です。
出来事から学ぶことと法的責任を定めることは、関連していますが、別の課題です。報告や補償の仕組みは法域によって異なります。Asuuは、被害を受けた人の権利を守りながら、有用な学びを支える必要があります。
間違っていたと分かるのはどんなときか。
責任分担を書面にすると、それが最も力の弱い者、たいていは臨床医に危険を押しつける道具になりかねません。私たちが最初に起草する文書が、若手医師の組合なら署名を拒むようなものであれば、私たちは間違ったものを作ったことになります。
誰なら解けるか。
医療過誤の責任を扱う法律家。病院や医師の保険者。責任を負わされる立場に最もなりやすい若手臨床医の代表。そして航空など、報告した人を罰せずに失敗を報告する方法を学んだ業界の人。
出典と適用範囲
法的義務は、法域、製品、関係する当事者によって異なります。このページは設計上の問いを示すもので、個別の事案について結論を出すものではありません。
参考資料には英語のものがあります。