Eski OpenAI araştırmacılarından yapay zeka denetimi uyarısı
OpenAI’da görevlerine son verilen üç araştırmacı, giderek otonomlaşan yapay zeka sistemlerinin denetimi için bağımsız güvenlik denetimleri yapılmasını istedi. OpenAI sözcüsü, mektuptaki önerilere tamamen katıldıklarını açıkladı.
ABD merkezli yapay zeka şirketi OpenAI’da görevlerine son verilen üç araştırmacı, giderek daha otonom hale gelen yapay zeka sistemlerinin denetlenmesine ilişkin uyarılarda bulundu. Araştırmacılar, OpenAI yönetim kuruluna gönderdikleri mektupta güvenlik denetimlerinin şirketten bağımsız kuruluşlarca yürütülmesi çağrısı yaptı.
Wall Street Journal’ın (WSJ) ulaştığı mektuba göre araştırmacılar, yapay zeka şirketlerinin bu sistemlerin akıl yürütme süreçlerini gözlemleme kapasitesini kaybedebileceği endişesini dile getirdi. Mektupta, otonomluğu giderek artan yapay zekanın oluşturabileceği risklere karşı denetimin bağımsız kurumlar tarafından yapılması gerektiği belirtildi.
Araştırmacılar ayrıca yapay zeka sektöründe, denetlenemeyen modellerin nasıl güvenli biçimde geliştirileceği ve kullanıma sunulacağının henüz bilinmediğini ifade etti. OpenAI ve diğer öncü şirketlere, teknolojiyi denetlemeyi zorlaştıracak şekilde geliştirmeme çağrısında bulundular.
OpenAI’dan bir sözcü, WSJ’ye yaptığı açıklamada mektuptaki önerilere tamamen katıldıklarını söyledi. Sözcü, yapay zeka modellerinin denetlenmesinin şirket açısından büyük önem taşıdığını belirtti.
Üç araştırmacının, bir yapay zeka güvenlik şirketine gizli bilgi paylaştıkları gerekçesiyle işten çıkarıldığı iddia ediliyor.
Kaynak: A Haber
