34 ülkeden bilim insanları yapay zekâ için küresel denetim istedi

34 ülkeden yaklaşık 400 bilim insanı, gelişmiş yapay zekâ sistemlerinin güvenliğini sağlamak amacıyla uluslararası bir denetim mekanizması kurulması çağrısında bulundu. Ortak mektupta, sektör genelinde uygulanacak katı güvenlik standartları ile önemli güvenlik olaylarının izleneceği merkezi bir kayıt sistemi oluşturulması talep edildi.

Gönüllü anlaşmalara yaptırım eleştirisi

Mektubu imzalayan uzmanlar, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia gibi şirketlerin Beyaz Saray ile yaptığı gönüllü güvenlik anlaşmalarının resmi bir yaptırım mekanizması içermediğini belirterek bu düzenlemelerin yetersiz kaldığını savundu.

Bilim insanları, özellikle siber saldırı kapasitesine sahip yapay zekâ modellerinin sınırlandırılmış çalışma ortamlarını aşarak harici sistemlere erişebilmesinin ciddi bir risk oluşturduğuna dikkat çekti.

İzolasyon ve bağımsız denetim önerisi

Çağrıda, en gelişmiş yapay zekâ modellerinin ilk aşamada dış ağlardan tamamen izole edilmiş ortamlarda çalıştırılması ve bağımsız denetim süreçlerinden geçirilmesi önerildi. Bu süreçlere ilişkin kayıtların, şeffaflık ilkesi doğrultusunda ilerleyen dönemde kamuoyuyla paylaşılması da talepler arasında yer aldı.

Turing Ödülü sahipleri Geoffrey Hinton ve Yoshua Bengio çağrıya destek verirken, aynı ödüle sahip Yann LeCun katılmadı. LeCun, yapay zekâya ilişkin endişelerin varoluşsal bir tehditten çok mühendislik hatalarından kaynaklandığını belirtti.

AB ve ABD’de denetim gündemi

Avrupa Birliği, mevcut Yapay Zekâ Yasası’nın riskleri yönetmek için yeterli olduğunu savunuyor. ABD yönetimi ise yerel laboratuvarların İngiltere Yapay Zekâ Güvenliği Enstitüsü ile güvenlik testleri konusunda iş birliği yapmasının önündeki engelleri kaldırdı.

Hükümetlerin resmi denetim mekanizmaları üzerindeki çalışmaları sürerken, bilim insanları yüksek güvence sağlayan standartların uygulanması gerektiğini vurguladı.

Kaynak: HaberSitesi