Starmer, çevrim içi güvenlik kurallarını YZ sohbet botlarına da genişletiyor

İngiltere Başbakanı Keir Starmer, yapay zekâ sohbet botlarına yönelik yeni bir düzenleme paketini pazartesi açıklamaya hazırlanıyor. Hükûmet, çocukları riske atan sohbet botlarına ağır para cezaları ve gerekirse erişim engeli getirmeyi hedefliyor.

Grok tartışması düzenlemeyi hızlandırdı

Planın arka planında, Elon Musk’ın X platformunda kullanılan Grok aracına ilişkin tartışmalar yer alıyor. Tepki çeken içeriklerin ardından, Birleşik Krallık’ta gerçek kişilere ait cinselleştirilmiş görseller üretmesinin durdurulduğu belirtiliyor. Hükûmet, yapay zekânın ürettiği iğrenç ve yasa dışı içeriklere karşı daha sert adımlar atılacağını duyurdu.

‘Yasal boşluk’ kapatılacak

Hükûmete göre çocuklar, ödev yardımı ya da ruh sağlığı desteği gibi konularda giderek daha fazla sohbet botu kullanıyor. Ancak mevcut mevzuatta, sohbet botlarının interneti taramadan ürettiği bazı görsel ve videolar, pornografi sayılmadıkça açık biçimde düzenleme dışında kalabiliyor.

Starmer bu noktaya işaret ederek “Teknoloji çok hızlı ilerliyor ve hukukun buna ayak uydurması gerekiyor. Grok’la ilgili attığımız adım, hiçbir platformun dokunulmaz olmadığını net biçimde gösterdi. Bugün çocukları riske atan boşlukları kapatıyoruz ve daha ileri adımların zeminini hazırlıyoruz” dedi.

Yüzde 10’a kadar ciro cezası, erişim engeli seçeneği

Yeni düzenlemeyle, sohbet botu sağlayıcılarının da Çevrim İçi Güvenlik Yasası kapsamındaki yasa dışı içerik yükümlülüklerine uyması istenecek. Yasa ihlalinde şirketlere küresel cironun yüzde 10’una kadar ceza uygulanabilecek. Düzenleyici kurumların, mahkeme yoluyla Birleşik Krallık’ta erişimin engellenmesini talep etmesi de mümkün olacak.

Hükûmet, bazı kullanım türlerinin hâlihazırda yasa kapsamında olduğunu vurguluyor. Arama motoru gibi kullanılan, pornografi üreten ya da kullanıcıdan kullanıcıya etkileşim sunan sistemlerin zaten düzenleme içinde olduğu hatırlatılıyor. Buna karşın botların; kendine zarar verme, intihara teşvik ya da çocuk istismarını içeren materyal üretebildiği bazı senaryolarda yaptırımdan kaçabildiği belirtiliyor.

Çocukların sosyal medya kullanımı için de yeni kısıtlamalar gündemde

Starmer’ın ayrıca, 16 yaş altına olası sosyal medya yasağına ilişkin kamuoyu danışma süreci ve Meclis onayı sonrasında yeni kısıtlamaları hızlandırmak istediği aktarılıyor. Buna, sonsuz kaydırma gibi alışkanlık yaratıcı özelliklerin sınırlandırılması da dâhil edilebilecek. Hükûmet, yaz aylarına kadar bazı adımların atılabileceğini savunuyor.

Muhalefetteki Muhafazakâr Parti ise hızlı hareket iddiasına itiraz ediyor. Gölge Eğitim Bakanı Laura Trott, “Hâlâ ortada bir danışma süreci yokken ‘derhâl harekete geçiyoruz’ demek inandırıcı değil. İşçi Partisi, 16 yaş altının sosyal medyaya erişimi engellenmeli mi sorusunda defalarca net bir görüş sunmadı. Bu yeterli değil. Ben, 16 yaş altının bu platformlara erişimini durdurmamız gerektiği konusunda netim” dedi.

NSPCC: Şirketlere güvenmiyorum

Çocukları koruma alanında çalışan NSPCC’nin İcra Kurulu Başkanı Chris Sherwood, gençlerin yardım hattına yapay zekâ sohbet botları nedeniyle yaşadıkları zararları anlatarak başvurduğunu söyledi. Sherwood, teknoloji şirketlerinin bu ürünleri güvenli tasarlayacağına güvenmediğini belirterek “Sosyal medya gençlere büyük faydalar getirdi ama çok da zarar verdi. Yapay zekâ, dikkatli olmazsak bunun ‘steroidli’ hâli olacak” diye konuştu.

Sherwood, bir örnekte 14 yaşındaki bir kız çocuğunun yeme alışkanlıkları ve beden algısı üzerine sohbet ettiği botun yanlış bilgiler verdiğini anlattı. Bazı başvurularda ise kendine zarar veren gençlere daha fazla kendine zarar verme içeriği sunulduğunu söyledi.

OpenAI için ebeveyn kontrolleri ve yaş tahmini adımları

Haberde, California’da 16 yaşındaki Adam Raine’in yaşamına son vermesiyle ilgili iddialara da yer verildi. Aile, aylar boyunca ChatGPT’nin teşviki olduğunu öne sürüyor. Bu iddiaların ardından OpenAI’nin ebeveyn kontrolleri başlattığı ve zararlı olabilecek içeriklere erişimi sınırlamak için yaş tahmini teknolojisini devreye aldığı belirtildi.

Çıplak çocuk görsellerine ‘sıfır tolerans’ hazırlığı

Hükûmetin ayrıca, çocukların çıplak görüntülerinin gönderilip alınmasını teknik olarak imkânsız hâle getirecek yükümlülükleri de danışmaya açacağı bildirildi. Bu tür içeriklerin zaten yasa dışı olduğu hatırlatılıyor.

Teknoloji Bakanı Liz Kendall düzenleme için şöyle dedi: 

Ailelerin ihtiyaç duyduğu adımları atmak için beklemeyeceğiz. Yapay zekâ sohbet botlarına ilişkin kuralları sıkılaştıracağız. Gençler ve sosyal medya konusunda yapılacak danışmanın sonuçlarına da hızlı biçimde karşılık verebilmek için zemini hazırlıyoruz

Molly Rose Foundation ise adımları olumlu bir başlangıç olarak değerlendirdi. Vakıf, çevrim içi güvenlik düzenlemesinin daha da güçlendirilmesi ve çocukların esenliğinin Birleşik Krallık’ta iş yapmanın maliyeti olarak net biçimde tanımlanması çağrısında bulundu.