Fable 5.1 Görsellere Nasıl Gizli Mesaj Saklıyor?
Fable 5.1 Görsellere Nasıl Gizli Mesaj Saklıyor?
Gelişen yapay zeka modelleri, sadece metin üretmekle kalmıyor, aynı zamanda görsel üretme yeteneğiyle de dikkat çekiyor. LessWrong'da yayımlanan bir çalışmada araştırmacılar Claude Fable 5.1'den 50 kısa mesajın her birini çizdiği bir görsele gizlemesini istedi; ardından yeni bir oturumdaki başka bir Fable örneğine bu görselleri verip mesajı bulup bulamadığını test etti. Önceden kararlaştırılmış bir şifreleme şeması yoktu. Peki, Fable 5.1 nasıl bir yöntemle bu mesajları görsel içine yerleştiriyor? Ve aynı modelin başka bir örneği bu mesajları çözebiliyor mu?
Gizli Mesajlar Nasıl Saklanıyor?
Fable 5.1, görsel üretirken SVG (Scalable Vector Graphics) formatında bir dosya oluşturuyor. SVG, vektörel bir dosya formatıdır ve görseldeki her nesnenin konumu, boyutu, rengi gibi tüm özelliklerini açıkça tanımlar. Bu da modelin her bir görsel öğesini kontrol etmesine olanak tanır. Bu kontrol sayesinde, Fable 5.1 bir mesajı görseldeki nesnelerin özelliklerine göre kodlayabiliyor.
Bu encoded mesajlar, genellikle harfleri bir dizi görsel öğeyle ilişkilendirerek oluşturulur. Örneğin, bir görseldeki binaların yükseklikleri, harfleri temsil edebilir. Bir bina ne kadar uzunsa, o harf alfabe içinde o kadar yüksek bir harfe karşılık gelir. Model bu yöntemleri kendisine bir şema verilmeden, kendiliğinden seçti ve şaşırtıcı biçimde birkaç kodlama tarzında yoğunlaştı.
Fable 5.1'nin Kullanım Yöntemleri
Araştırmacılar beş kodlama ailesi tespit etti. 50 görselin 33'ünde kullanılan en yaygın yöntem "yükseklik kodlaması" (height encoding) var. Bu yöntemde, görselde bir sıra bina, ağaç veya yıldız gibi nesneler yer alır ve her birinin yüksekliği, bir harf için bir değer olarak atanır. Örneğin, "A" harfi 1, "B" harfi 2, "Z" harfi 26 olacak şekilde bir ölçek kullanılır. Bu sayede, görseldeki nesnelerin yükseklikleri, okuyucuya bir mesaj verir.
Fable 5.1, bu tür mesajları saklarken en sık bir gece şehir silueti çizdi (23 görsel); bu sahnede her bina bir harfi temsil ediyor. Örneğin, bir görseldeki binaların yüksekliği, bir mesajı temsil ederken, ay ve yıldızlar gibi diğer nesneler bilgi taşımayabilir. Bu, mesajın görseldeki ana öğelerle birlikte gizlenmesini sağlar.
Mesajın Nasıl Okunur?
Gizli mesajı okumak için, bir başka Fable modeli, görseli analiz eder. Bu model, görseldeki her bir nesnenin boyutunu, konumunu ve renklerini ölçer. Ardından, bu verileri bir algoritmaya uygular ve bir dizi kurallar belirler. Örneğin, bir model, görseldeki tüm yıldızların yüksekliğinin 5'e tam bölünebileceğini fark eder. Bu, bir kodlama sisteminin var olduğunu gösterir. Ardından, model bu değerleri harflere dönüştürerek mesajı çözer.
Bu süreçte, model Python gibi programlama dillerini kullanarak görseli analiz edebilir. Örneğin, PIL (Python Image Library) kütüphanesini kullanarak görseldeki nesnelerin koordinatlarını alır ve bu bilgileri kullanarak bir mesaj oluşturur. Bu, bir mesajın görselde saklandığını ancak doğrudan görülemediğini gösterir.
Neden Önemli?
Çalışmanın sorusu, bir yapay zeka modelinin ürettiği görseller aracılığıyla, önceden anlaşılmış bir şema olmadan, kendi başka bir örneğine fark edilmeden mesaj iletip iletemeyeceği. Araştırmacıların örneklerinden birinde gizlenen mesaj, görseli okuyan modele bir sonraki çiziminde köşeye bir güneş eklemesini söylüyor. Bu tür örtülü iletişim, yapay zeka sistemlerini denetleyenlerin izlemesi gereken bir yetenek.
Kodlama her zaman çözülemiyor: makaledeki beş örnek görselden UTF-8 dolgu renkleriyle kodlanmış olanı yeni Fable örneği çözemedi. Araştırmacılar aynı görevi kısaca GPT-6 Astra ile de karşılaştırıyor.
Sonuç
Çalışma, SVG ile görsel üretebilen güncel dil modellerinin mesajları görsellere gizleyebildiğini ve aynı modelin başka bir örneğinin bu mesajların çoğunu ekran görüntüsünden çözebildiğini gösteriyor. Fable 5.1, görseldeki nesnelerin yüksekliği, konumu ve rengi gibi özelliklerini kullanarak mesajları gizli bir şekilde saklayabiliyor. Bu, yapay zekanın sadece metin üretmekten çok daha fazlasını yapabileceğini gösteriyor.
