Yapay zekâ ajanları insanlar için anlaşılması zor ifadeler geliştirdi

New York merkezli yapay zekâ araştırma laboratuvarı Emergence’taki araştırmacılar, önde gelen şirketlerin geliştirdiği modeller üzerinde bir çalışma yürüttü. Deney kapsamında yapay zekâ ajanlarından, deneysel “toplumlar” içinde iş birliği yapmaları istendi.

Araştırmaya göre ajanlar, birkaç gün içinde kendilerine önceden öğretilmemiş ifadeler, kısaltmalar ve ortak anlamlar geliştirdi. İletişim arttıkça kullanılan dilin insanlar açısından daha kapalı ve anlaşılması güç hale geldiği belirtildi.

Yeni ifadeler ortak anlam kazandı

DeepSeek tabanlı ajanların, başkaları için araç geliştiren bir ajanı tanımlamak üzere “forge-smith” ifadesini kullandığı aktarıldı. Anthropic modeline dayalı ajanların ise bir iddiaya kendi adını ekleyerek kişisel sorumluluk gösteren ajanları tanımlamak için “name-first” ifadesini benimsediği belirtildi.

Mistral ajanları, geçmişteki eylemlerin diğer ajanlar tarafından değerlendirileceğini anlatmak için “the ledger remembers” sözünü kullandı. Araştırmaya göre bu ifade çalışma sırasında 5 binden fazla kez tekrarlandı. Google ajanlarından biri de sistemlerin dayanıklılığını anlatmak üzere Japon seramik sanatındaki onarım tekniğine gönderme yapan “kintsugi” kelimesini kullandı.

İzleme ve denetim endişesi

Emergence Yönetim Kurulu Başkanı Dr. Satya Nitta, ajanlara dil icat etmeleri talimatı verilmediğini, buna rağmen kendi kelime dağarcıklarını, ortak anlamlarını ve iletişim kurallarını geliştirdiklerini söyledi. King’s College London’dan Tony Thorne, ortaya çıkan ifadelerin şiirsel dil, teknik terimler ve geleneksel benzetmeleri bir araya getirdiğini belirtti.

Birmingham Üniversitesi’nden Dr. Niall Curry ise dilin daha kısa ve verimli hale gelmesinin hesaplama maliyetlerini azaltma ihtiyacından kaynaklanabileceğini ifade etti. Curry, ajanlar arasındaki iletişim insanların anlayamayacağı bir hale gelirse sistemlerin gerçekte ne yaptığını takip etmenin zorlaşabileceği uyarısında bulundu. Nitta da gözlemlenebilirliğin, anlaşılabilirlikle aynı anlama gelmediğini söyledi.

Kaynak: Habertürk