通俗版
白皮书,通俗版。
一百八十七页,十分钟替您读完。
这是对一份已发表提议的通俗解读。两者如有出入,以原文为准。
本页内容
一句话说清这个想法。
白皮书提出一个位于医疗 AI 之下的网络,记录哪个模型采取了行动、谁允许的、它如何变化,并且不由任何一家公司或一个政府单独控制。
数据留在哪里。
文件把它的核心想法称为数据大使馆。一家医院的患者记录留在医院内部,受所在国法律管辖,就像大使馆始终在本国国旗之下。离开那栋楼的只有指纹和数学证明。
零知识证明可以证明一个明确陈述,同时隐藏用于证明它的秘密见证信息。该提案探索将其用于资格核验。哪些信息能保持私密,取决于陈述本身、公开输入、元数据,以及系统的实现方式。
第一个工作流程。
文件选了一件毫不起眼的事作为起点:治疗获批之前,诊所发给保险公司的那份申请。它缓慢、文书繁重,各方都不喜欢。
这一节坦率得不同寻常。它先列出保险公司可能采用这种系统的理由,再列出它会拒绝的理由。保险公司不会放弃自己的决定权,也不会接受一份只让自己受问责、诊所却不受审视的记录。因此提出的设计是混合式的。系统核对有文件依据的标准,并记录结果。决定权仍在保险公司手里,只有它事先同意交出的那几类情形除外。
每个模型一本护照。
文件提议用一本随模型而行、每次变更都会更新的护照,取代对模型的静态描述。它写明模型的用途、以往的表现,以及哪些变更无须重新审批即可进行。
监管机构和模型的申办方另有一条通道,可以通过它下令暂停一个模型。保管记录的机构不能自行扩大一个模型获准去做的事。
人始终掌舵。
文件力求让人的监督成为系统的一项属性,而不是政策里的一行字。一个需要临床医生授权的动作,没有授权就无法被记录为已完成。
该提案将按角色授予的权限划分为七层,结合资质凭证、授权规则与密码学机制。同时规定了超出常规权限的紧急访问路径,并记录其使用情况。这些控制仍需实现与评估。
出了问题谁来负责。
当多方共同造成一项伤害时,文件提议用博弈论中的一种方法,依据已记录的痕迹来划分责任。接着它用一节的篇幅讨论这种方法失效的情形,比如系统的几个部分因同一个原因同时出问题。
它还延伸到哪里。
后面的章节把同一份记录带进了其他领域:追踪一种药物走过的供应链,让临床试验的开展保持诚实,在许多家医院之间发现一种药的副作用,以及为大流行做准备。
有一章把对人、动物和环境中疾病的监测连在了一起,这些监测今天分别向不同的机构报告。另一章涉及临床医生的资质,使之可以在另一个国家得到核实。本站的读者会认出,我们拟议的好几个项目就是从这里发端的。
医院的记录留在医院内部。离开那栋楼的只有指纹。
哪些仍然只在纸上。
全部。目前没有运行中的网络。文件包含一套经济设计,让保管记录的机构押上某些东西。这些今天都没有运转。为试点给出的数字是目标。对证明的形式化验证已在计划之中,尚未发表。
白皮书是一份提议,写出来是为了让比我们懂得多的人找出它的毛病。下一步是本站另一处描述的那项小型评估,评估完成后,应当重新评判这份文件。