içgözlem (introspection), bir sistemin kendi iç durumları veya süreçleri hakkında bilgi üretip üretemediğini sınama fikri. insan için neden böyle düşündüm sorusuyla yan yana gelir; büyük dil modelinde ise mesele, üretilen açıklamanın gerçekten yanıtı oluştururken kullanılan iç duruma bağlı olup olmadığıdır. akıcı bir gerekçe, kendi başına içeriye açılan pencere sayılmaz; model sonradan makul görünen bir açıklama da kurabilir.
bu soruyu sınayan ilginç yöntemlerden biri, modele doğrudan düşünce ifadeleri enjekte edip davranışını izlemek. bir araştırmanın görünür özetinde, büyük dil modellerinin kendi düşüncelerini bilip bilmediğini bu yolla sınamaya çalıştığı aktarılıyor. kritik ayrım, modelin kendini bildiğini söylemesi değil, dışarıdan eklenen içeriğe yanıtında ve ölçülebilir davranışında tutarlı bir duyarlılık gösterip göstermemesidir. enjeksiyonun nasıl yapıldığı, hangi model sürümlerinin karşılaştırıldığı ve başarının hangi ölçütle tanımlandığı sonucu taşıyan ayrıntılar.
neden önemli: dil, iç durum raporu gibi göründüğünde okur kolayca bilinç sonucuna atlıyor. oysa deney, en fazla belirli bir müdahale altında belirli bir bilgi erişimi veya davranış ilişkisini gösterebilir; bunu insan deneyimiyle birebir eşitlemek başka bir iddiadır. ölçüm cihazının kendi hatası da burada devreye girer: istemin biçimi, modelin sürümü ve değerlendirme kuralı değişince aynı içgözlem etiketi başka bir şeyi ölçebilir. bu yüzden araştırmanın ağırlık merkezi, modelin kullandığı kelimeden çok enjeksiyonun ve ölçümün nasıl kurulduğunda duruyor.
kaynak: quantamagazine.org