İzlenen öneri yanlış çıktığında kim sorumludur?
Modeli geliştirenin, onu onaylayan kurumun ve kullanan klinisyenin sorumlulukları farklı olabilir. Her iş akışında bu sorumluluklar, kullanıldığı yerin hukuku ve klinik uygulaması dikkate alınarak tanımlanmalıdır.
Açık bir soru. Henüz sınanmadı.
Bu sayfada
Neden zor.
Bir model bir eylem önerir, bir kurum kullanımını onaylar ve bir klinisyen buna dayanarak hareket eder. Zarar oluşursa sorumluluk, olayın gerçeklerine ve uygulanacak hukuka bağlıdır. Açık bir kayıt kimin ne yaptığını incelemeye yardımcı olabilir; ancak hukuki bir davayı tek başına karara bağlamaz.
Belirsizlik, herhangi bir zarar ortaya çıkmadan önce de zarar verir. Bütün yükü klinisyen taşıyorsa güvenli yol aracı görmezden gelmek ya da her seferinde ona uyup makine böyle önerdi demektir. İkisi de bakımı kötüleştirir. Araştırmacılar ikinci alışkanlığa bir ad vermiş: otomasyon yanlılığı.
Bugüne kadar ne denendi.
Hukuki durum, hukuk düzenine göre değişir ve yazılım ile yapay zekâya ilişkin düzenlemelerle gelişmektedir. Beyaz kitap, kaydedilmiş bir izi incelemek için matematiksel bir sorumluluk atıf yöntemi önerir. Herhangi bir hukuki kullanım, bağımsız inceleme gerektirir ve uygulanacak hukuka tabi olacaktır.
Sınamak istediğimiz bir yön.
Soruyu ilk hastadan önce, yazılı olarak, her modelin her kullanımı için çözerdik. Üretici, modelin sınandığı gibi çalışmasından sorumludur. Hastane, modeli bu amaç için onaylamaktan ve izlemekten sorumludur. Klinisyen, o an ekranda tam olarak ne varsa ona göre verdiği karardan sorumludur. Bu son maddeyi adil kılan şey Network'ün kaydıdır.
Bir olaydan öğrenmek ve hukuki sorumluluğu belirlemek birbiriyle ilişkili ama ayrı görevlerdir. Bildirim ve tazminat düzenlemeleri hukuk düzenine göre değişir. Asuu, zarar gören kişinin haklarını korurken yararlı öğrenmeyi de korumalıdır.
Yanıldığımızı nasıl anlarız.
Yazılı bir sorumluluk paylaşımı, riski en az gücü olana, çoğu zaman da klinisyene, yüklemenin bir aracına dönüşebilir. Hazırladığımız ilk metinler bir asistan hekim derneğinin imzalamayı reddedeceği metinlerse yanlış şeyi kurmuşuz demektir.
Bunu kim çözebilir.
Tıbbi sorumluluk alanında çalışan bir hukukçu. Hastaneleri ya da hekimleri sigortalayan biri. Suçun üzerinde kalma olasılığı en yüksek kişiler olan genç klinisyenlerin bir temsilcisi. Ve havacılıktan ya da başarısızlığı, bildireni cezalandırmadan bildirmeyi öğrenmiş başka bir sektörden biri.
Kaynaklar ve kapsam
Hukuki yükümlülükler, uygulanacak hukuk düzenine, ürüne ve ilgili taraflara bağlıdır. Bu sayfa bir tasarım sorusu ortaya koyuyor; belirli bir vakaya ilişkin hukuki sonuca varmıyor.
Kaynaklar İngilizce olabilir.
Nerelere bağlanıyor.
Birini birlikte çözelim.
Hangi soru üzerinde çalıştığınızı ve nerede yanıldığımızı bize anlatın.