Asuu

Sade bir dille

Teknik rapor, sade bir dille.

Yüz seksen yedi sayfa, sizin için on dakikada.

Yayımlanmış bir önerinin sade bir dille okunuşu. İkisi ayrıştığında makale esas alınır.

Bu sayfada

Fikir, tek cümleyle.

Teknik rapor, tıbbi yapay zekânın altında duran ve hangi modelin harekete geçtiğini, buna kimin izin verdiğini ve modelin nasıl değiştiğini, hiçbir şirketin ya da hükümetin tek başına denetlemediği bir biçimde kaydeden bir ağ öneriyor.

Veri nerede kalır.

Rapor ana fikrine veri elçiliği diyor. Bir hastanenin hasta kayıtları, bir elçiliğin kendi bayrağı altında kalması gibi, o ülkenin hukuku altında hastanenin içinde kalır. Binadan yalnızca parmak izleri ve matematiksel ispatlar çıkar.

Bir sıfır bilgi ispatı, belirli bir önermeyi doğrulamakta kullanılan tanığı gizlerken o önermeyi doğrulayabilir. Öneri, uygunluk kontrolleri için bu yöntemi araştırır. Neyin gizli kalacağı önermeye, herkese açık girdilere, üstveriye ve sistemin uygulanma biçimine bağlıdır.

İlk iş akışı.

Rapor, başlamak için gösterişsiz bir işi seçiyor: bir kliniğin, bir tedavi onaylanmadan önce sigortacıya gönderdiği talep. Yavaştır, evrak yüklüdür ve hiçbir taraf onu sevmez.

Bu bölüm alışılmadık ölçüde açık sözlü. Bir sigortacının böyle bir sistemi benimsemesi için nedenleri, ardından da reddetmesi için nedenleri sıralıyor. Bir sigortacı karar verme hakkından vazgeçmez; klinikleri incelemesiz bırakırken kendisini hesap vermeye zorlayan bir kaydı da kabul etmez. Bu yüzden önerilen tasarım melezdir. Sistem belgelenmiş ölçütleri denetler ve sonucu kaydeder. Karar, önceden devretmeyi kabul ettiği vaka türleri dışında sigortacıda kalır.

Her model için bir pasaport.

Rapor, bir modelin durağan bir tanımı yerine, onunla birlikte yolculuk eden ve her değişiklikte güncellenen bir pasaport öneriyor. Pasaport, modelin ne için olduğunu, nasıl performans gösterdiğini ve hangi değişikliklere yeni onay olmadan izin verildiğini belirtir.

Düzenleyiciler ve modelin sorumlusu, bir modelin askıya alınmasını emredebilecekleri ayrı bir kanalı ellerinde tutar. Kaydı tutan kurumlar, bir modelin yapmasına izin verilenleri kendi başlarına genişletemez.

İnsan sorumlu kalır.

Rapor, insan gözetimini bir politika metnindeki satır değil, sistemin bir özelliği hâline getirmeyi amaçlıyor. Bir klinisyenin yetkilendirmesini gerektiren bir eylem, o yetkilendirme olmadan tamamlanmış olarak kaydedilemez.

Öneri, kimlik bilgilerini, yetkilendirme kurallarını ve kriptografik mekanizmaları birleştirerek izinleri role göre yedi kademede tanımlar. Olağan izinlerin dışındaki erişim için, kullanımının kayda geçtiği bir acil durum yolu da belirtir. Bu kontrollerin uygulanması ve değerlendirilmesi hâlâ gereklidir.

İşler ters gittiğinde kim hesap verir.

Bir zarara birkaç taraf katkıda bulunduğunda rapor, sorumluluğu oyun kuramından bir yöntemi kayıtlı ize uygulayarak paylaştırmayı öneriyor. Ardından, bir sistemin birkaç parçasının aynı nedenle bozulması gibi, bu yöntemin başarısız olduğu durumlara bir bölüm ayırıyor.

Daha uzağa nereye uzanıyor.

Sonraki bölümler aynı kaydı başka alanlara taşıyor: bir ilacı tedarik zinciri boyunca izlemek, bir klinik çalışmanın yürütülüşünü dürüst tutmak, bir ilacın yan etkilerini pek çok hastanede fark etmek ve bir salgına hazırlanmak.

Bir bölüm, bugün ayrı kurumlara rapor veren insanlardaki, hayvanlardaki ve çevredeki hastalık gözetimini birleştiriyor. Bir başkası, bir klinisyenin yeterliliklerini başka bir ülkede doğrulanabilecek biçimde ele alıyor. Bu sitenin okurları, önerdiğimiz girişimlerden birkaçının nerede başladığını tanıyacaktır.

Bir hastanenin kayıtları hastanenin içinde kalır. Binadan yalnızca parmak izleri çıkar.

Hâlâ yalnızca kâğıt üzerinde olan.

Hepsi. Canlı bir ağ yok. Rapor, kaydı tutan kurumların bir şeyi teminat olarak ortaya koyduğu bir ekonomik tasarım içeriyor. Bunların hiçbiri bugün işlemiyor. Bir pilot uygulama için verilen rakamlar hedeftir. İspatların biçimsel denetimleri planlanmıştır ve henüz yayımlanmamıştır.

Teknik rapor bir öneridir; bizden daha çok şey bilen insanlar kusurlarını bulabilsin diye ortaya konmuştur. Bir sonraki adım, bu sitenin başka bir yerinde anlatılan küçük değerlendirmedir ve rapor, o yapıldıktan sonra yeniden değerlendirilmelidir.

Nerelere bağlanıyor.

İyi sorular çalışmayı ileri taşır.

Bir iş akışı sorununu, protokole ilişkin bir itirazı veya bir değerlendirme gereksinimini paylaşın. E-postanız doğrudan Berkcan’a ulaşır ve bir görüşmenin başlangıcı olur.

Kaynaklar ve kapsam

Bu özet, yayımlanmış öneriyi belirtilen varsayımları çerçevesinde anlatıyor. Bir modele ilişkin ispat, klinik güvenliği veya bir uygulamanın güvenliğini ortaya koymaz.

Özgün makale İngilizce