Asuu

Her ay değişen bir model nasıl incelenir?

İnceleme, modelin o günkü hâlini anlatır. Tıp, şu anda kullanılan model hakkında güvenceye ihtiyaç duyar.

Açık bir soru. Henüz sınanmadı.

Bu sayfada

Neden zor.

Bir sınav, modeli sınandığı gündeki hâliyle tanımlar. Altı ay sonra kullanımda olan model, üreticisi tarafından on iki kez güncellenmiş bambaşka bir model olabilir. Değişmeyen bir model bile yaşlanır; çünkü hastaneler cihazlarını, hastalarını ve alışkanlıklarını değiştirir, model ise eskilerle eğitilmiştir.

Bu boşluk kuramsal değil. Yüzlerce hastanede kullanılan bir sepsis uyarı aracı 2021'de bağımsız araştırmacılar tarafından sınandı. Sepsisi olan hastaların çoğunu kaçırdı, olmayanların birçoğu için de alarm verdi. Yıllardır her gün kullanılıyordu.

Bugüne kadar ne denendi.

Düzenleyici kurumlar, üreticinin izin verilen değişiklikler için önceden bir plan üzerinde anlaşmasına olanak tanımaya başladı; böylece bir model her seferinde yeni onay almadan belirli sınırlar içinde güncellenebiliyor. Çekirdek protokol bu fikrin üzerine kurulu: üzerinde anlaşılan koridorun dışındaki bir değişiklik reddedilir, güveni doğruluğundan uzaklaşan bir model de sınırlı bir süre içinde askıya alınır. İkisi de henüz bir hastanede denenmedi.

Sınamak istediğimiz bir yön.

Sınamayı dört parçalı, sürekli bir görev olarak ele alırdık. Üreticinin hiç tanımadığı bir sınayıcı mühürlü bir vaka seti tutar ve her yeni sürüm bu sınava yeniden girer. Yeni sürüm, konuşmasına izin verilmeden önce gerçek işlerde eskisinin yanında sessizce çalışır. Her hastane kendi vakalarından küçük bir set tutar; çünkü Boston'da işleyen bir model Ankara'da işlemeyebilir.

Dördüncü parça sonucun kendisi. Sonuç, performansı zaman içinde gösteren bir karne olmalı; bir kez verilip çerçevelenen bir sertifika asla olmamalı.

Yanıldığımızı nasıl anlarız.

Mühürlü sorular sızar; bir model de tıpta daha iyi olmadan sınavı geçecek biçimde ayarlanabilir. Sınayıcı vakalarını taze ve gizli tutamazsa ya da bunları sürdürmek hastanelerin ödeyeceğinden pahalıya gelirse sürekli sınav bir gösteriye dönüşür.

Bunu kim çözebilir.

Bir hastanede klinik yapay zekâyı yöneten ve kimse duyurmadan bir modelin kötüleştiğini izlemiş insanlar. Hile yapılamayan sınavlar tasarlayan istatistikçiler. Değişen modeller için kuralları yazan düzenleyiciler. Ve kendi denetimlerinde olmayan bir sınayıcıyı memnuniyetle karşılayacak model üreticileri.

Nerelere bağlanıyor.

Birini birlikte çözelim.

Hangi soru üzerinde çalıştığınızı ve nerede yanıldığımızı bize anlatın.