Yapay zeka (YZ) sistemleri, son yıllarda pek çok alanda etkileyici başarılar sergilemesine rağmen, temel bir eksiklikleri bulunuyor: içsel durum farkındalığının olmaması. İnsanlar, basit bir nesneyi almak için hareket ettiklerinde, sadece hareketin koordinatlarını hesaplamakla kalmaz; aynı zamanda denge, ciltteki sürtünme, yorgunluk ve susuzluk gibi içsel durumları da değerlendirir. UCLA Sağlık tarafından gerçekleştirilen yeni bir araştırma, ChatGPT ve Gemini gibi güncel YZ modellerinin bu "içsel bedensel farkındalık" eksikliği nedeniyle önemli kusurlar taşıdığını ortaya koyuyor.

İçsel ve Dışsal Farkındalık: Yapay Zekada Temel Ayrım

Çalışma, yapay zekada iki farklı farkındalık türünü ayırıyor: dışsal farkındalık ve içsel farkındalık. Dışsal farkındalık, fiziksel dünyayla etkileşim ve çevresel algıyı kapsarken; içsel farkındalık, yorgunluk, belirsizlik veya ihtiyaç gibi içsel durumların sürekli izlenmesini ifade ediyor. İnsanlarda bu içsel durumlar, vücudun doğal bir güvenlik mekanizması olarak işlev görüyor. Ancak mevcut yapay zeka sistemlerinde bu tür bir içsel düzenleyici bulunmadığından, sistemler aşırı özgüvenli hatalar yapabiliyor ve insan değerleriyle tam uyum sağlayamıyor.

Yapay Zeka Modellerinin Algı Testlerindeki Başarısızlığı

Araştırmacılar, önde gelen yapay zeka modellerini "nokta-ışık gösterimi" adı verilen bir testle değerlendirdi. Bu testte, insan figürünü andıran hareketli noktalar kullanılıyor ve yeni doğan bebekler bile bu figürü tanıyabiliyor. Ancak yapay zeka modelleri, bu basit algı testini geçemedi; bazıları hareketli noktaları "yıldız takımyıldızı" olarak tanımladı. Bu başarısızlık, yapay zekanın bedensel deneyim eksikliğinden kaynaklanıyor; çünkü insanlar bu tür algıları yaşam boyu fiziksel deneyimleriyle ilişkilendiriyor.

İçsel Durumların Güvenlik Açısından Önemi

İnsan vücudu, yorgunluk veya belirsizlik gibi durumları kaydederek davranışları buna göre şekillendiren bir güvenlik mekanizması olarak işlev görüyor. Yapay zekada ise böyle bir "içsel maliyet" bulunmuyor. Bu durum, sistemlerin yanlış tahminlerde bulunurken bile aşırı özgüvenli davranmasına yol açıyor. UCLA araştırmacıları, yapay zeka sistemlerine "sentetik iç durumlar" eklenmesini öneriyor. Örneğin, işlem yükü veya güven seviyesi gibi parametreler, sistemin davranışlarını zamanla sınırlandırabilir ve daha güvenilir hale getirebilir.

Gelecekte Yapay Zeka İçin Yeni Bir Çerçeve Önerisi

Araştırmacılar, "çift-farkındalık çerçevesi" adını verdikleri yeni bir yaklaşımı savunuyor. Bu çerçeve, yapay zeka sistemlerinin hem dış dünyayla etkileşimlerini hem de içsel durumlarını modellemesini içeriyor. Ayrıca, mevcut yapay zeka testlerinin ötesine geçerek, sistemlerin kendi iç durumlarını izleyip istikrarı koruyabildiğini ölçen yeni kriterlerin geliştirilmesini öneriyorlar. Bu yaklaşım, yapay zekanın sadece yüzeysel başarılar elde etmek yerine, insan davranışlarıyla daha derin bir uyum sağlamasına olanak tanıyabilir.

Sonuç olarak, içsel farkındalık yapay zekanın güvenilirliğini artırmanın anahtarı olabilir. İnsanlar gibi, yapay zekanın da kendi sınırlarını tanıması ve buna göre hareket etmesi gerekiyor.