Doktorlar, yapay zekâ hatalarına karşı sorumluluk koruması istiyor
Axios
🔹 Hastaneler ve kliniklerde yapay zekânın hızla yaygınlaşması, doktorların yapay zekânın hastalara zarar verdiği durumlarda yeni hukuki koruma talep etmesine yol açtı.
🔹 Amerikan Tabipler Birliği, doktorların yapay zekâ ürünlerini kullanım talimatlarına uygun kullanmasına rağmen hastaların zarar gördüğü durumlarda sorumluluktan korunması için federal ve eyalet düzeyinde yasalar çıkarılmasını istedi.
🔹 Birlik, yapay zekâ şirketlerinin yeterli sorumluluk sigortası taşımasını ve ürünlerinin sınırlamalarıyla performans verilerini açıklamasını zorunlu kılacak düzenlemeler talep etti.
🔹 Belirli yapay zekâ ürünlerinin kullanımının zorunlu tutulması nedeniyle oluşan zararlı hatalardan hastaneler, sağlık sistemleri, sigortacılar ve sağlık teknolojisi şirketlerinin sorumlu olması istendi.
🔹 Yapay zekâ sistemleri, klinik geçmiş, yaşamsal bulgular ve görüntüleme verilerini değerlendirirken vakaların ciddiyetini yanlış belirleyebilir; eksik laboratuvar sonuçları veya güncel olmayan tanılarla makul görünen ancak hatalı tedavi önerileri üretebilir.
🔹 Hasta zarar gördüğünde sorumluluğun, doktorlara karşı tıbbi malpraktis davası açılması yerine yapay zekâ üreticileri ve tedarikçilerine, bazı durumlarda da sistemlerin kullanımını zorunlu tutan sağlık kuruluşlarına yönelmesi talep edildi.
🔹 Alabama’da kalp anormalliklerini tarayan bir yazılımla bağlantılı haksız ölüm davası açıldı; yazılım geliştiricisi, nihai tıbbi kararları doktorlara bırakan lisans sözleşmesi nedeniyle sorumlu tutulmadı.
🔹 California Üniversitesi, Davis’te görev yapan Martin Hilbert, yapay zekâ sistemlerini tasarlayan, eğiten ve kullanan şirketlerin sistemlerin eylemlerinden sorumluluk taşıdığını söyledi. Sorumluluğun, sistemi oluşturan tarafların katkısına, kapalı model içinde kusurun kanıtlanmasına ve zararların kullanım sonrasında ortaya çıkmasına bağlı olduğunu belirtti.
🔹 ABD Gıda ve İlaç Dairesi, yapay zekâ destekli tıbbi cihazların düzenlenmesi için yeni bir çerçeveye ihtiyaç olup olmadığını değerlendiriyor; kurum yalnızca tıbbi cihaz tanımına giren yazılımları denetliyor.
🔹 Hastaneler, sistemlerin “kara kutu” niteliğinin hataların belirlenmesini zorlaştırdığını belirterek performans takibinin geliştiriciler ve tedarikçiler tarafından yapılmasını destekliyor. Tıbbi cihaz üreticilerini temsil eden AdvaMed ise mevcut değerlendirme yöntemlerinin sürmesini ve ürünün gerçek riskinden bağımsız ek yük getiren piyasa sonrası izlemeden kaçınılmasını istiyor.





