机构如何在不见到对方患者的情况下验证对方的工作?
这是Asuu Network 的核心问题。论文提出了一种方法。尚未在医院进行测试。
待解问题,尚未验证。
本页内容
难在哪里。
患者信息不能直接公开供人检查。机构间共享需要适当的法律依据、许可与保护措施。Asuu 探索的是:能否在减少信息披露的情况下,核验一项关于模型使用与授权的明确声明,以及这种方法有哪些隐私局限?
这是 Asuu Network 的核心难题,也是我们最先着手做 Network 的原因。
已有的尝试。
今天的答案是一位上门的、被信任的审计员。研究团队在不移动数据的情况下跨医院训练模型,但那解决的是另一个问题。我们的两份文件提出一种共享账本,上面只有指纹和数学证明,每位患者的记录都留在保管它的机构里。这还是纸上的设计。没有一家医院运行过它。
我们想检验的方向。
我们会从比文件更小的地方起步。选一个工作流程,使用虚构的患者,请一位外部审计员仅凭记录重建发生过的事。然后请同一位审计员用医院自己签名、自己保存的普通日志再做一遍,那是任何人能造出的最简单的替代方案。
这场比较就是实验。共享记录应该靠本地日志做不到的事来挣回它的额外成本:证明日志在事后没有被改写,以及让一家机构可以与另一家相比较。我们会测量审计员花了多少小时,以及医院员工为了喂养这个系统花了多少小时。
怎样知道我们错了。
如果签名的本地日志做得一样好,那么就这个用途而言 Network 是多余的,我们应该公开这样说,然后去造别的东西。这个结果是可能出现的。这正是评估排在其后一切之前的原因。
谁能解决它。
一位曾在事后查明某个系统做过什么的审计员。医院里负责临床 AI 或信息系统的人。一位能告诉我们文件中的证明哪里最薄弱的密码学家。还有一家愿意用虚构数据承办一次小型测试的机构。