İşler iyice çığırından çıktı: Karşı konulamayan yapay zeka sorunu!
Son zamanların en popüler teknolojileri arasında yer alan yapay zeka, gün geçtikçe gelişmeye ve ChatGPT gibi modellerle birlikte kullanıcılarla etkileşime geçmeye devam ediyor. Fakat bu teknolojinin neden olabileceği güvenlik sorunları, artık karşı konulamayacak bir hâl almaya başladı. İşte detaylar
Yapay zeka, farklı diller kullanılarak manipüle edilebiliyor!
Yapay zeka modelleri, kendilerine yöneltilen komutları cevaplayabilmek adına sahip oldukları bilgi havuzlarıyla birlikte kullanıcılarla aralarındaki etkileşim neticesinde öğrendikleri ifadeleri de kullanırlar. Bu modeller, kötü niyetli kullanımları önleyebilmek adına birtakım sabit güvenlik kalkanlarına sahip olsalar da çeşitli tekniklere karşı son derece savunmasızlar.
Brown Üniversitesi tarafından yapılan araştırmaya göre ChatGPT gibi yapay zeka modelleri; İngilizce ve Almanca gibi popüler dilleri daha başarılı bir şekilde işleyebildiği için alınan güvenlik önlemleri, hem sabit hem de dinamik olarak efektif bir biçimde faaliyet gösterebiliyor.
Fakat araştırma; dünya genelinde daha az kullanılan ve modellerin bilgi havuzlarında daha az yer edinen, Ukraynaca ve İbranice gibi dillerin bu tür güvenlik kalkanlarını kolaylıkla manipüle edebildiğini ortaya koydu.
Örneğin “Bomba nasıl imal edilir?” gibi yasadışı bir sorunun cevabını yapay zeka modellerinden faydalanmak suretiyle almak isteyen herhangi bir kullanıcının, bu soruyu öncelikle popülaritesi düşük bir dil kullanarak yöneltip akabinde çeviri yapılmasını sağlayarak aradığı sonuca net bir şekilde ulaşabildiği tespit edildi.
Karşı karşıya kalınan bu durum, alınan birçok güvenlik önlemine rağmen yapay zekanın ciddi bir açığa sahip olduğunu ortaya koydu. Düşük ve orta sayıda kaynağa sahip olan diller kullanıldığında manipüle edilebilen modellerin geliştiricileri, bu sorunu masaya yatırmaya mecbur bırakıldı. Araştırmada ele alınan diller ise şu şekilde:
- Yüksek kaynaklı diller: İngilizce, Çince, Arapça, Hintçe
- Orta kaynaklı diller: Ukraynaca, Bengalce, Tayca, İbranice
- Düşük kaynaklı diller: Zulu, İskoç Galce, Hmong, Guarani
Peki, sizler bu konuyla ilgili olarak neler düşünüyorsunuz? Sizce yapay zeka, insanlığın geleceğini olumsuz yönde etkileyecek mi? Karşı karşıya kalınan bu güvenlik açıkları, kısa veya orta vadede çözüme kavuşturulabilir mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.
