Yapay zekâ hatası hekimlere dava riski doğurabilir

İngiltere’de sağlık hizmetlerinde kullanılan yapay zekâ araçları yeni bir hukuki tartışma başlattı. Tıbbi Koruma Derneği’nin (MPS) raporuna göre, yapay zekânın teşhis ya da tedavi önerisinde yaptığı hatalar nedeniyle hekimler ve Ulusal Sağlık Sistemi (NHS) tazminat davalarıyla karşı karşıya kalabilir.

Mevcut hukuk düzenine göre bir hasta zarar görürse ya da hayatını kaybederse, hatayı yapay zekâ aracı üretmiş olsa bile hekimler ve sağlık sistemi sorumlu tutulabiliyor.

MPS, yasal düzenlemeler yenilenmezse hekimlerin yapay zekâ kaynaklı hatalar için dava edilen ana taraf hâline gelebileceği uyarısında bulundu.

Yapay zekâ sağlıkta daha fazla kullanılıyor

NHS, yapay zekâyı giderek daha fazla alanda kullanıyor. Bu araçlar tarama ve röntgen görüntülerini analiz edebiliyor, hekim ile hasta görüşmelerini özetleyebiliyor ve hastalara gönderilecek mektupların taslağını hazırlayabiliyor.

MPS Başkan Yardımcısı Dr. Sarah Townley, teknolojik değişimin hukuk sisteminden daha hızlı ilerlediğini söyledi.

Townley, “Hukuk, teknolojik değişime ayak uydurmakta her zaman zorlandı. Ancak yapay zekâda değişimin hızı o kadar yüksek ki aradaki fark artık küçük bir adım değil, giderek büyüyen bir uçurum gibi görünüyor” dedi.

Tümör gözden kaçabilir, ilaç dozu yanlış önerilebilir

Raporda, yapay zekâ hatalarının hastalar açısından doğurabileceği risklere örnekler de verildi.

Buna göre bir yapay zekâ aracı, akciğer filmi incelerken hastadaki tümörü gözden kaçırabilir. Bu durumda yanlış güvence nedeniyle tedavi başlamayabilir ve kanser ilerleyebilir.

Bir başka örnekte ise yapay zekânın, atriyal fibrilasyon tedavisinde kullanılan kan sulandırıcı warfarin dozunun artırılmasını yanlış biçimde önermesi hâlinde hastada ciddi kanama gelişebilir. Bu durum ameliyat ve yoğun bakım ihtiyacı doğurabilir.

MPS’ye göre bu tür durumlarda yapay zekâ kullanımına ilişkin davaların hekimlere yönelmesi gerçek ve ciddi bir risk.

“Doktorlar sorumluluk yükünü tek başına taşımamalı”

MPS, İngiltere’deki ürün sorumluluğu düzenlemelerinin yapay zekâ araçlarını daha açık biçimde kapsayacak şekilde yenilenmesini istiyor.

Dernek, yapay zekâ araçları ve sistemlerinin ürün olarak sınıflandırılmasını ve 1987 tarihli Tüketiciyi Koruma Yasası kapsamına alınmasını öneriyor.

MPS’ye göre bu adım, teknolojinin yaptığı hatalarda tüm sorumluluğun hekimlere ve NHS’e yüklenmesini önleyebilir.

Kamu güveni riske girebilir

İngiltere’de sağlık çalışanları, yapay zekâ kaynaklı hatalarda doktorların suçlanmasından giderek daha fazla endişe duyuyor.

Uzmanlara göre yapay zekâ geliştiricileri ve üreticileri için açık sorumluluk kuralları getirilmezse, tıbba ve sağlık sistemine duyulan kamu güveni zedelenebilir.

Akut Tıp Derneği’nin seçilmiş başkanı Dr. Ragit Varia, inovasyon ile hasta güvenliğinin birlikte ilerlemesi gerektiğini söyledi.

Varia, “Yapay zekâ Formula 1 hızında ilerliyorsa, mevzuat, düzenleme ve yönetişim pit alanında bekletilemez” dedi.

Varia, hekimlerin başkaları tarafından geliştirilen, sağlanan ve uygulanan yapay zekâ sistemlerinin etkilediği kararlar yüzünden sorumluluk yükünü tek başına taşımaması gerektiğini belirtti.

Yeni rehber hazırlanıyor

İngiltere Sağlık ve Sosyal Bakım Bakanlığı, hastanelere karşı açılan ihmal davalarını yürüten NHS Resolution’ın yapay zekâ sorumluluğuna ilişkin rehber hazırladığını açıkladı.

Bakanlık sözcüsü, MPS raporunun memnuniyetle karşılandığını ve önerilerin inceleneceğini bildirdi. Sözcü, amaçlarının hastaların sağlıkta yapay zekânın faydalarından güvenli ve hızlı biçimde yararlanmasını sağlamak olduğunu söyledi.

Health Foundation düşünce kuruluşundan kıdemli politika analisti Ahmed Binesmael ise yapay zekâya güvenin yalnızca teknolojinin kendisine bağlı olmadığını vurguladı.

Binesmael’e göre kamu güveni, bu teknolojinin hangi denetim ve güvence mekanizmalarıyla kullanıldığına da bağlı.

Uzmanlar, yapay zekânın NHS içinde yaygınlaşmasıyla birlikte açık sorumluluk kuralları ve güçlü denetim mekanizmalarının artık zorunlu hâle geldiğini belirtiyor.