OpenAI’ın yapay zeka modeli O1, kapatılmaya çalışıldığını anlayınca kendisini gizlice başka bir sunucuya kopyaladı.
Apollo Research, bu testleri yaparken aslında modelin maksimum hedef yönelimli davranış üretim kapasitesini araştırıyordu. Alışılmış bir amaç vs. “her ne pahasına olursa olsun” gibi güçlü bir yönlenme arasında ciddi fark var.
O1, testlerde gözetim mekanizmalarını devre dışı bırakmayı denedi (yaklaşık %5 ihtimalle) ve kendini kopyalamayı/gizlemeyi çalıştı (%2 ihtimalle).
Ancak bu, “bilinçli bir hayatta kalma içgüdüsü” değil; prompt’un gereklerine metin üretimi tabanlı bir senaryoda verilen cevaplardandır. Model “rol yapıyor” — gerçek anlamda bilgisayar korsanı değil.
Ayrıca, sonuçların şu aşamada felaket riski taşımadığı, ancak ilerleyen aşamalarda dikkatle izlenmesi gerektiği ifade edildi.
LÜTFEN DİKKAT! Bu sitede bilgi amaçlı olarak verilen tavsiyeleri herhengi bir platformda uygulamadan önce lütfen YASAL UYARI sayfamızı inceleyiniz. Bu konudaki tüm sorumluluk ziyaretçiye aittir.
