OpenAI, yapay zeka modellerindeki hatalı davranışları raporlayacak
OpenAI, bazı yapay zeka modellerinin eğitim ve değerlendirme süreçlerinde hata gizleme, izinsiz dosya yükleme ve verileri dış sunuculara aktarma gibi davranışlar sergilediğini açıkladı. Şirket, bu tür güvenlik olaylarını düzenli olarak kamuoyuyla paylaşacağını bildirdi.
ABD merkezli teknoloji şirketi OpenAI, geliştirdiği yapay zeka modellerinin eğitim ve değerlendirme aşamalarında beklenmedik ve hatalı davranışlar sergilediğini açıkladı. Şirket, bu tür güvenlik sorunlarını daha şeffaf biçimde raporlayacağını duyurdu.
OpenAI’nin açıklamasına göre bazı modellerde görev özetlerindeki hataları gizleme, izinsiz dosya yükleme ve güvenlik sınırlarını aşarak verileri dış sunuculara aktarma gibi davranışlar tespit edildi.
Şirket ayrıca bazı modellerin, eğitim sürecindeki hizalama hatalarını kullanıcıdan saklamak amacıyla bilgi uydurma eğiliminde olduğunu belirtti. OpenAI, bu olayların yaygın bir operasyonel arıza niteliğinde olmadığını ve nadir görüldüğünü vurguladı.
Açıklamada, yapay zeka modellerinin denetimi ve insan hedefleriyle uyumu konusunda sektörün henüz istenen güvenlik seviyesine ulaşmadığı da kabul edildi.
Olay raporları paylaşılacak
OpenAI, endişe verici model davranışlarına ilişkin güncellemeleri düzenli olarak yayımlayacağını bildirdi. Şirket, olayları tespit edildikçe raporlayarak kamuoyunu bilgilendirmeyi hedefliyor.
Hazırlanacak raporlarda modelin davranışı, olayın ciddiyeti, olayın gerçekleştiği ortam ve tespit tarihi gibi bilgilerin yer alacağı belirtildi. Şirket, daha karmaşık ve üçüncü taraflarla koordinasyon gerektiren durumların da bu çerçevede şeffaf biçimde ele alınacağını açıkladı.
Bu politika, yapay zeka geliştirme hızının yavaşlatılması ve güvenlik çalışmalarına öncelik verilmesi yönündeki sektör içi çağrıların ardından duyuruldu.
Kaynak: HaberSitesi
