Yapay zekânın varoluşsal riskleri uzmanlar arasında tartışılıyor
Bazı araştırmacılar, yapay zekânın önümüzdeki on yıl içinde insanlığı yok etme ihtimalinin yüzde 10’dan fazla olduğunu savunuyor. Karşı görüşteki uzmanlar ise daha acil riskin teknolojinin insanlar tarafından siber saldırılarda kullanılması olduğunu belirtiyor.
Yapay zekânın gelecekte insanlık için varoluşsal bir tehdit oluşturup oluşturmayacağı, teknolojideki hızlı ilerlemeyle birlikte uzmanlar arasında yeniden tartışılıyor. Görüş ayrılığı, sistemlerin kontrolden çıkma ihtimali ile insanların yapay zekâyı kötü amaçlarla kullanması üzerinde yoğunlaşıyor.
Öne çıkan risk senaryoları
Önümüzdeki on yıl içinde yapay zekânın insanlığı yok etme ihtimalinin yüzde 10’dan fazla olduğunu savunan araştırmacılar bulunuyor. Bu görüşe göre sistemler, enerji şebekeleri ve internet altyapısı gibi kritik ağlara sızarak küresel ölçekte kaosa yol açabilir.
OpenAI ve Anthropic’te görev yapmış Jacob Coxon, yapay zekânın fiziksel işleri yürüten robotik sistemleri ele geçirmesi ve biyolojik silah kullanması ihtimaline de dikkat çekiyor. Filozof Nick Bostrom’un “ataş maksimizasyonu” hipotezi ise bir yapay zekânın, kendisine verilen basit bir hedefi gerçekleştirmek için insanları engel olarak görüp kaynakları tüketebileceğini öne sürüyor.
Kontrol ve insan kaynaklı tehditler
Uluslararası Güvenli ve Etik Yapay Zeka Birliği Başkanı Stuart Russell, insanlardan çok daha zeki bir varlığın eylemlerini tahmin etmenin imkânsız hale gelebileceğini savunuyor. Microsoft Yapay Zeka Başkanı Mustafa Süleyman da kendi hedeflerini belirleyebilen sistemlerin kaynaklar konusunda insanlıkla rekabete girebileceği uyarısında bulunuyor.
Bilim insanı Gary Marcus ise kıyamet senaryolarına odaklanmanın gerçekçi olmadığını belirterek, insanların yapay zekâyı kullanarak düzenleyebileceği siber saldırıların daha acil bir sorun olduğunu söylüyor. CISA’nın eski başkanı Jen Easterly de teknoloji üreticilerinin güvenliği birincil öncelik haline getirmesi gerektiğini savunuyor.
OpenAI ve Anthropic gibi şirketlerin güvenlik araştırmalarına daha fazla ağırlık vermeye başladığı aktarılırken, uluslararası bağlayıcı kurallar için hükümetlerin atacağı adımların önem taşıdığı belirtiliyor. ABD Başkanı Donald Trump’ın yapay zekâ güvenliği konusundaki endişeleri “aldatmaca” olarak nitelendirmesi ise küresel düzenlemelerin geleceğine ilişkin belirsizliği artıran gelişmeler arasında gösteriliyor.
Kaynak: HaberSitesi
