Yapay zeka ajanlarında güvenlik ve gizlilik endişeleri artıyor

Kişisel yapay zeka ajanlarının kullanımının yaygınlaşmasıyla bu sistemlerdeki güvenlik açıkları ve beklenmedik davranışlara ilişkin şikayetler artıyor. Kullanıcılar, özellikle veri gizliliği ve asistanların onay dışı işlemler yapabilmesi konusunda endişelerini dile getiriyor.

Instinct hakkında farklı değerlendirmeler

Veris AI CEO’su Mehdi Jamei, Instinct adlı yapay zeka asistanının onay alınmadan bir işlem gerçekleştirdiğini belirtti. Instinct kullanıcısı Pritak Patel de benzer bir olayda, asistanın bağlantısı olmayan bir fotoğraftan söz ettiğini ve kişisel bilgiler içerdiğini ifade etti.

Instinct’in kurucusu Noah Shinn ise söz konusu durumu veri sızıntısı olarak değil, bir tür “halüsinasyon” olarak tanımladı. Shinn, sorunun tespit edilmesi için sisteme yeni bir mekanizma eklendiğini duyurdu.

Muse aracındaki açık giderildi

Meta’nın geliştirdiği Muse adlı yapay zeka ajanında, dikte edilen komutların yönlendirilebilmesine olanak tanıyan bir güvenlik açığı tespit edildi. Açığın, Muse’a verilen komutların değiştirilmesine ve hassas bilgilerin ele geçirilmesine yol açabileceği belirtildi.

Meta yetkilileri, hatanın giderildiğini ve güvenlik açığının kötüye kullanıldığına dair herhangi bir kanıt bulunmadığını açıkladı.

Kaynak: HaberSitesi