İnternette çocuklar için alarm: 15 binden fazla ihlal

Almanya’da çocuklar ve gençler internette ciddi risklerle karşı karşıya. Federal hükûmet ve eyaletler tarafından finanse edilen jugendschutz.net’in Berlin’de açıklanan yıllık raporuna göre, geçen yıl çevrim içi ortamda çocuk ve gençleri koruma kurallarına aykırı 15 bin 99 ihlal tespit edildi.

İhlallerin büyük bölümü çocuk istismarı görüntüleriyle ilgili oldu. Raporda 12 bin 334 çocuk istismarı görüntüsü ve 1.091 genç pornografisi vakası kayda geçti.

Siyasi aşırılık, siber zorbalık, pornografi ve şiddet içerikleri ise tespit edilen ihlaller içinde daha düşük paya sahip oldu.

İçeriklerin çoğu kaldırıldı

jugendschutz.net, tespit edilen ihlallerin yüzde 96’sında içeriklerin platformlardan kaldırılmasını sağladı. Bu, 14 bin 520 vakaya karşılık geliyor.

Yaklaşık 6 bin 500 olayda ise doğrudan ceza soruşturma makamları devreye sokuldu.

Toplam ihlal sayısı bir önceki yıla göre düştü. 2023’te 17 bin 630 vaka kaydedilmişti. Ancak raporda bu düşüşün tek başına güvenliğin arttığı anlamına gelmediği vurgulandı. Çünkü sayı, kullanıcıların şikâyet etme eğilimine ve bildirimlere de bağlı.

Platformlara eleştiri

jugendschutz.net, yalnızca yasa dışı içerikleri değil, Instagram, YouTube, TikTok ve çevrim içi oyunlardaki koruma önlemlerini de inceliyor.

Bunlar arasında yabancıların çocuklarla izinsiz iletişim kurmasını engelleyen ayarlar ve platformların kendi şikâyet sistemleri yer alıyor.

Kurumun Başkanı Stefan Glaser, platformları sert sözlerle eleştirdi. Glaser, şirketlerin etkili koruma önlemleri almak yerine çocuklar için yeni risk alanları yarattığını ve manipülatif iş modellerini genişlettiğini söyledi.

Federal Eğitim ve Gençlik Bakanı Karin Prien de birçok platformun çocuk ve gençleri korumak için hâlâ yeterli adım atmadığını belirtti.

CDU’lu Bakan, bir çocuğun internette cinsel şiddet ya da siyasi aşırılıkla karşılaşmasının çocuğun suçu olmadığını vurguladı. Prien’e göre bu konuda sorumluluk platformlarda.

Yapay zekâ riski büyütüyor

Raporda en dikkat çekici başlıklardan biri yapay zekâ oldu. jugendschutz.net’e göre yapay zekâ uygulamaları çocuklar ve gençler için riskleri hızla artırıyor.

Stefan Glaser, bazı sohbet robotlarının artık gençler için duygusal birer muhatap hâline geldiğini söyledi. Bu tür ilişkilerin gerçeklik algısını bozabileceğini ve gençlerin neyin yapay, neyin gerçek olduğunu ayırt etmesini zorlaştırabileceğini belirtti.

Raporda özellikle karakter botları uyarısı öne çıktı. Bu botlar, kullanıcıların istedikleri gibi şekillendirebildiği yapay zekâ sohbet partnerleri olarak çalışıyor. Danışmanlık yapabiliyor, koçluk sunabiliyor ya da ilişki simülasyonu oluşturabiliyor.

Ancak filtrelerin eksik ve güvenlik ayarlarının yetersiz olması nedeniyle bu botların küçüklerle ilgili cinsel içerikli anlatımlar üretebildiği ya da cinselleştirilmiş biçimde küçük rolüne girebildiği bildirildi.

Yapay zekâ profilleri ve beden algısı

Raporda sosyal medya platformlarındaki yapay zekâ profilleri de risk alanı olarak tanımlandı.

Bazı şirketlerin yapay zekâyı insan davranışlarını taklit edecek şekilde eğittiği, bunun da kullanıcıları platformda daha uzun süre tutmayı amaçladığı belirtildi.

Yapay zekâ influencer’ları ve yapay zekâ modelleri de çocukların beden algısı açısından sorunlu görülüyor. Rapora göre kusursuzluk ölçütü dayatan, ‘gerçeküstü güzel bedenler’ sunan bu profiller, özellikle yoğun biçimde karşılaşıldığında çocukların ve gençlerin kendilerini algılama biçimini olumsuz etkileyebiliyor.

Skinnytok ve Discord uyarısı

jugendschutz.net, TikTok’ta Skinnytok etiketi altında yayılan içeriklere de dikkat çekti. Bu videolarda zayıflığın idealize edildiği, yeme bozukluklarının yüceltildiği, anoreksiya ve bulimianın hafife alındığı belirtildi.

Raporda Discord da özel olarak ele alındı. Platformun bazı sohbet odalarında aşırı sağcı, insan düşmanı ve şiddeti yücelten içeriklerin yayıldığı ifade edildi.

Bunlar arasında Nazi propagandası, azınlıklara yönelik nefret ve ağır şiddet videoları da bulunuyor.

Kurum, bazı sohbet odalarında gençlerin bu içeriklerle mizah ya da stratejik gizleme yoluyla karşı karşıya bırakıldığını ve dünya görüşlerinin etkilenebildiğini bildirdi.

jugendschutz.net’e göre moderasyon çoğu zaman yetersiz kalıyor. Yapılan bildirimler de içeriklerin hızlı biçimde kaldırılmasını her zaman sağlamıyor.

“Güvenli dijital katılımdan uzağız”

Bakan Karin Prien, dijital hizmetler ve yapay zekâ programlarının gençler için giderek daha önemli hâle geldiğini belirtti.

Prien’e göre güvenlik, koruma ve açık kurallar teknolojik gelişmeyle aynı hızda ilerlemeli.

Bakan, rapordaki sayıların çocuklar ve gençlerin dijital dünyaya güvenli ve kaygısız biçimde katılmasını sağlamaktan hâlâ uzak olunduğunu gösterdiğini söyledi.