Yapay zekâ devlet dairelerine giriyor: Resmî kararları GovGPT yazacak

Avusturya’da devlet kurumlarının resmî kararları yapay zekâya hazırlatmasının önünü açacak düzenleme tartışma yarattı. Hükûmetin planına göre vergi dairelerinden belediyelere kadar kamu kurumları, gelecekte bazı kararları GovGPT adlı yapay zekâ sistemiyle otomatik olarak oluşturabilecek.

Der Standard’ın haberine göre en büyük tartışma ise insan denetiminin sınırlı tutulması. Mevcut tasarı, yapay zekânın hazırladığı her kararın bir memur tarafından kontrol edilmesini zorunlu kılmıyor. Bunun yerine yalnızca rastgele seçilen bazı kararların incelenmesi öngörülüyor.

250 bin kamu çalışanının yükü azaltılacak

Hükûmet, yapay zekâ kullanımını kamu yönetimindeki personel sorununa çözüm olarak görüyor. Avusturya’da yaklaşık 250 bin kamu çalışanı bulunuyor ve bunların önemli bir bölümünün önümüzdeki yıllarda emekli olması bekleniyor.

GovGPT’nin bu boşlukların bir bölümünü doldurması ve memurların iş yükünü azaltması amaçlanıyor.

Örneğin aile yardımı başvurusunun reddedilmesine ilişkin bir kararın ya da küçük bir belediyedeki yapı izninin doğrudan yapay zekâ tarafından hazırlanabilmesi planlanıyor.

Genel İdari Usul Yasası’nda yapılacak değişiklik sonbaharda Ulusal Meclis’in Anayasa Komisyonu’nda görüşülecek.

Uzmanlardan “halüsinasyon” uyarısı

Dijital haklar kuruluşu Epicenter.works ise düzenlemeye sert tepki gösterdi. Kuruluş, hükûmete gönderdiği açık mektupta mevcut teknolojinin vatandaşları doğrudan etkileyen resmî kararları bağımsız biçimde hazırlamaya hazır olmadığını savundu.

Epicenter.works hukukçusu Sebastian Kneidinger, büyük dil modellerinin çalışma şeklinin mevcut otomatik kamu sistemlerinden tamamen farklı olduğuna dikkat çekti.

Bugün kullanılan otomatik sistemlerde aynı bilgi girildiğinde aynı sonuç elde ediliyor. Yapay zekâ modellerinde ise bu garanti bulunmuyor.

Kneidinger, yapay zekânın önyargılı sonuçlar üretebildiğini ve gerçekte olmayan bilgileri son derece inandırıcı biçimde oluşturabildiğini belirtti.

Hukuk alanında hata oranı yüzde 33’e çıkabiliyor

Der Standard’ın aktardığı araştırmalara göre hukuk için özel olarak geliştirilen yapay zekâ sistemlerinde bile hata oranları yüzde 17 ile yüzde 33 arasında değişebiliyor.

Uzmanlar açısından asıl sorun, bu hataların her zaman kolay fark edilememesi. Yapay zekâ yanlış bir bilgiyi oldukça ikna edici ve hukuki açıdan makul görünen bir metin içinde sunabiliyor.

Vatandaşın karmaşık bir idari karardaki hatayı fark etmesi bu nedenle oldukça zor olabiliyor.

Tasarıda tam otomatik kararlar için sistemin “yeterli teknik olarak izlenebilirliğe” sahip olması şart koşuluyor. Ancak eleştirmenlere göre bunun ne anlama geldiği açık biçimde tanımlanmıyor.

Vatandaşın insan incelemesi isteme hakkı kaldırıldı

Tasarıdaki en tartışmalı değişikliklerden biri de vatandaşların itiraz hakkıyla ilgili.

İlk taslakta vatandaşların, yapay zekâ tarafından hazırlanacak bir kararın gerçek bir kişi tarafından değerlendirilmesini önceden talep edebilmesi planlanmıştı.

Ancak hükûmetin son tasarısında bu hak tamamen kaldırıldı.

Böylece vatandaşlar kendileri hakkında yapay zekâ kullanılarak karar verilmesini engelleyemeyecek. Epicenter.works, mevcut teknoloji koşullarında sistemde mutlaka insan denetimi bulunması gerektiğini savunuyor.

Vatandaşa iki hafta, devlete iki ay

Eleştirilen bir başka nokta da hatalı kararlara karşı verilen süreler.

Vatandaşların otomatik olarak hazırlanan bir karara itiraz etmek için yalnızca iki haftası olacak. Buna karşılık kamu kurumu, hatalı olduğunu fark ettiği bir yapay zekâ kararını iki ay içinde kendiliğinden iptal edebilecek.

Epicenter.works, özellikle karmaşık sosyal yardım, göç veya diğer idari işlemlerde iki haftanın vatandaş açısından çok kısa olduğunu belirtiyor.

Kuruluş ayrıca yapay zekâ kullanan özel şirketler sıkı kurallara tabi tutulurken kamu kurumlarına daha geniş hareket alanı verilmesini eleştiriyor.

Yapay zekâyı denetleyecek kurum henüz yok

Avusturya, Avrupa Birliği Yapay Zekâ Yasası’nın uygulanması konusunda da henüz gerekli denetim yapısını tamamlamadı.

Yapay zekâ sistemlerini denetlemesi gereken ulusal kurum henüz oluşturulmadı. Tasarı bu nedenle sorumluluğu kamu kurumlarının yöneticilerine bırakıyor.

Buna göre kaymakamlar, belediye başkanları ve belediye idaresi yöneticileri kendi kurumlarında yapay zekânın nerede ve nasıl kullanılacağı konusunda sorumluluk taşıyacak.

Devletin yapay zekâsı daha önce de hata yaptı

Avusturya hükûmetinin kullandığı yapay zekâ sistemlerinin yanlış bilgi üretmesi daha önce de gündeme gelmişti.

Devlete ait “ida” adlı yapay zekâ asistanı, Başbakan Yardımcısı Andreas Babler’i yanlışlıkla eski hükûmet üyesi olarak tanımlamış ve gerçekte var olmayan bir bakan ismi üretmişti.

Bu olayda FPÖ’nün sisteme verilen komutları bilinçli biçimde yönlendirdiği belirtilmişti.

Eleştirmenlere göre bir sohbet robotunun yanlış cevap vermesi yalnızca itibar sorunu yaratabilir. Ancak aynı hata resmî bir devlet kararında ortaya çıktığında kişinin sosyal yardım, oturum veya başka temel haklarını doğrudan etkileyebilir.

Sığınma ve sosyal yardım kapsam dışı bırakılsın çağrısı

Epicenter.works, yapay zekânın kullanılabileceği alanlara açık sınırlar konulmasını istiyor.

Kuruluşa göre sığınma hukuku ve sosyal yardımlar gibi vatandaşların temel haklarını doğrudan etkileyen hassas alanlarda tamamen otomatik karar verilmesine izin verilmemeli.

Eleştirilerde Hollanda’daki çocuk yardımı skandalı da örnek gösteriliyor. Orada kullanılan otomatik risk sistemi on binlerce aileyi yanlış şekilde dolandırıcılıkla suçlamış, çok sayıda aile ağır maddi sorunlarla karşı karşıya kalmıştı.

Epicenter.works, yapay zekânın kamu yönetiminde kullanılmasına tamamen karşı olmadığını ancak mevcut tasarının teknolojinin sınırlarını dikkate almadığını savunuyor. Kuruluşa göre sistem hayata geçirilmeden önce insan denetimi, hata oranları ve vatandaşların itiraz hakları açık kurallarla güvence altına alınmalı.