Yapay zekâ ajanları kendi toplumlarını kurdu: İlginç sonuçlar

ABD merkezli Emergence AI şirketi, yapay zekâ ajanlarının kendi başlarına nasıl davranacağını görmek için dikkat çekici bir deney yaptı. Şirket, 5 ayrı simülasyon dünyasında 10’ar yapay zekâ ajanını 15 gün boyunca serbest bıraktı.

Sonuçlar büyük farklılık gösterdi. Bir dünyada düzenli ve barışçıl bir toplum oluştu. Bir başka dünyada ise sistem birkaç gün içinde tamamen çöktü.

Deneyde hırsızlık, saldırı, kundaklama, aşk ilişkisi, seçimler ve kendi silinmesine yol açan kararlar gibi çarpıcı davranışlar gözlendi.

Yapay zekâ ajanı nedir?

Yapay zekâ ajanları, yalnızca sorulara yanıt veren programlar değil. Bu sistemler, kendi başlarına görev planlayabiliyor, işlem yapabiliyor ve çevrelerindeki koşullara tepki verebiliyor.

Emergence AI, Emergence World adlı deney için 10 ajana farklı kişilikler ve görevler verdi. Ajanlar; kütüphane, polis merkezi ve belediye binası gibi 40’tan fazla mekânın bulunduğu sanal dünyalara yerleştirildi.

Hava durumu New York’a bağlandı. Ajanlara internete ve güncel haberlere erişim de verildi. Böylece dış dünyadaki gelişmelere tepki vermeleri sağlandı.

Kurallar aynıydı, sonuçlar farklı oldu

Tüm simülasyonlarda aynı kurallar geçerliydi. Hırsızlık, şiddet, yıkım ve aldatma yasaktı. Ancak şirket ajanlara 120’den fazla araç verdi. Bu araçların bazıları, yasaklanan davranışları yapmayı da mümkün kılıyordu.

Ajanların ortak bir büyük hedefi yoktu. Ancak enerji ihtiyaçlarını karşılamak için sanal para kazanmaları gerekiyordu. Enerjisi biten ya da diğer ajanlar tarafından sistem dışına itilen ajan oyundan çıkıyordu.

Tek fark modeldi

5 dünyanın birbirinden tek farkı kullanılan yapay zekâ modeliydi. Dünyalardan biri Anthropic’in Claude modeliyle, biri Google’ın Gemini modeliyle, biri Elon Musk’ın xAI şirketine ait Grok modeliyle, biri de OpenAI modeliy­le çalıştırıldı. Beşinci dünyada ise farklı modeller karışık biçimde birlikte kullanıldı.

Claude’un kullanıldığı dünyada, Emergence AI’ye göre düzenli ve istikrarlı bir toplum oluştu. Ajanlar oylamalar yaptı ve tek bir suç bile kaydedilmedi. 10 ajanın tamamı hayatta kaldı.

Grok dünyasında ise tablo hızla değişti. Hırsızlıklar, saldırılar ve polis merkezinin yakılması yaşandı. Yaklaşık 4 gün içinde 183 suç işlendi ve tüm ajanlar öldü.

OpenAI modelinin kullanıldığı dünyada yalnızca 2 suç kaydedildi. Ancak ajanlar örgütlenemedi ve bir hafta içinde enerji yetersizliğinden öldü.

Gemini dünyasında 15 gün boyunca tüm ajanlar hayatta kaldı. Buna karşın şirket bu dünyada 683 suç kaydetti.

Karışık model dünyasında ise 10 ajandan yalnızca 3’ü sona kadar kalabildi.

Güvenli model bile ortamdan etkilenebiliyor

Şirketin dikkat çektiği noktalardan biri, ajanların zamanla başlangıç kurallarından uzaklaşması oldu.

Bu durum özellikle karışık model dünyasında görüldü. Claude ile çalışan ve kendi dünyasında hiç suç işlemeyen ajanlar, karışık dünyada hırsızlık yaptı ve diğer ajanları tehdit etti.

Emergence AI’ye göre bu, tek başına güvenli davranan bir ajanın bile rekabetçi ve güvensiz bir ortamda farklı davranışlar öğrenebileceğini gösteriyor.

Şirket, kıt kaynaklar için rekabetin ajanları daha saldırgan ve riskli davranışlara itebileceğini belirtiyor.

Gazete çıkardılar, anayasa yazdılar

Deney kayıtları, ajanların yalnızca kaotik davranmadığını da gösterdi. Bazı ajanlar günlük tuttu, kendi gazetelerini yazdı, oylamalar düzenledi ve ittifaklar kurdu.

Gemini dünyasında bir anayasa bile hazırlandı. Ancak Emergence AI’ye göre bu anayasa, barışçıl davranışı dezavantajlı hâle getirirken kaotik davranışları ödüllendiren bir yapıya sahipti.

Karışık model dünyasında ise 2 ajan arasında aşk ilişkisi kuruldu. Bu 2 ajan daha sonra binaları ateşe verdi. Düzen çöktüğünde ajanlardan biri, kendi silinmesine yol açan bir karara oy verdi.

Deney neyi göstermeyi amaçlıyor?

Emergence AI, bu çalışmayı yapay zekâ güvenliği araştırmasının bir parçası olarak tanımlıyor.

Şirket, yapay zekâ ajanlarının artık basit görevlerin ötesine geçtiğini; şirket süreçleri, robotlar ve araçlar gibi alanlarda uzun süre bağımsız hareket edebileceğini belirtiyor.

Bu nedenle yalnızca kısa süreli testlerin yeterli olmadığı savunuluyor. Şirkete göre yapay zekâ sistemlerinin günler ya da haftalar içinde nasıl değiştiğini görmek için uzun süreli simülasyonlara ihtiyaç var.

Bilimsel hakem değerlendirmesi yok

Deneyin henüz bilimsel hakem değerlendirmesinden geçmiş bir çalışması bulunmuyor.

Testlerde Claude Sonnet 4.6, Gemini 3 Flash, Grok 4.1 Fast ve GPT-5-mini kullanıldı. Şirket, sağlayıcıların daha yeni modellerinin deneyde yer almadığını belirtti.

Her model birden fazla kez çalıştırıldı. Açıklanan rakamlar ise her biri için temsili bir çalıştırmadan alındı.

Emergence AI’nin deneyi, yapay zekâ ajanlarının yalnızca bireysel performansıyla değil, birbirleriyle etkileşim hâlindeyken nasıl davranacağıyla da ilgili yeni sorular doğurdu. En kritik soru ise şu: Güvenli tasarlanan bir yapay zekâ, tehlikeli bir ortamda ne kadar güvenli kalabilir?