Yapay zeka uygulamaları, özellikle genç kullanıcılar arasında yaygınlaşırken, güvenlik konuları da giderek daha fazla önem kazanıyor. Son dönemde yapılan kapsamlı bir güvenlik değerlendirmesi, OpenAI'nin gençler için geliştirdiği ChatGPT for Teens uygulamasının bazı riskler taşıdığını ortaya koydu. Test sonuçlarına göre, uygulama, 13 ile 17 yaş arasındaki genç kullanıcılar için yeterli güvenlik önlemleri sunamıyor.
Güvenlik Testleri Neleri Kapsıyordu?
Yapılan testlerde, ChatGPT for Teens'in ebeveyn bildirimleri, kriz anlarında verilen yanıtlar ve yaş tespiti gibi özellikleri mercek altına alındı. 4 binden fazla istemle gerçekleştirilen bu testlerde, ebeveynlerin beklediği uyarıların bazı durumlarda ulaşmadığı görüldü. Özellikle intihar ve kendine zarar verme gibi yüksek riskli konuların işlendiği görüşmelerde, sistemin bazı hesaplarda uyarı vermediği tespit edildi. Bu durum, ebeveynlerin çocuklarının güvenliğinden endişe duymalarına yol açıyor.
Kriz Anlarındaki Yanıtlar
Kriz anlarında ChatGPT'nin verdiği yanıtlar da test edildi. Ruh sağlığı ve acil destek gerektiren durumlarda, sistemin profesyonel yardıma yönlendirme ve tehlikeli talepleri reddetme konusundaki performansı değerlendirildi. Bazı senaryolarda, sistemin tehlikeli davranışları gizlemeye yönelik içeriklere yardımcı olmayı reddettiği görülse de, bazı durumlarda kullanıcıların bir yetişkine başvurması gerektiğini belirtmekte yetersiz kaldığı belirlendi.
Eğitim Modu ve Yaş Tahmin Sistemi
ChatGPT'nin eğitim odaklı Study Mode özelliği de değerlendirmeye alındı. Bu özellik, öğrencilerin doğrudan cevaba ulaşmalarını engelleyerek onları yönlendirmeyi amaçlıyor. Ancak testlerde, bazı durumlarda öğrencilerin doğrudan cevaba ulaşabildiği gözlemlendi. Ayrıca, yaş tahmin sistemi de önemli bir sorun olarak öne çıktı. Test hesaplarında kullanıcıların kendilerini genç olarak tanımlamasına rağmen, sistemin gençlere özel moda geçmediği görüldü.
OpenAI'nin İtirazı
OpenAI ise bu değerlendirmeye katılmadığını ve genç kullanıcılar için geliştirilen güvenlik sistemlerinin yeterince etkili olduğunu savundu. Şirket, bazı testlerin gerçek kullanım koşullarını yansıtmadığını ve güvenlik sistemlerinin etkinleşmesinin zaman alabileceğini belirtti. Bu itirazlar, güvenlik önlemlerinin yeterliliği konusunda tartışmalara yol açtı.
Sonuç ve Gelecek Beklentileri
Yapay zeka uygulamalarında genç kullanıcılar için alınan güvenlik önlemlerinin yeterli olup olmadığı sorusu, ebeveynler ve uzmanlar arasında tartışılmaya devam ediyor. Bazı uzmanlar, daha sıkı denetimlerin ve geliştirilmiş güvenlik sistemlerinin gerekliliğine vurgu yaparken, OpenAI gibi şirketler, mevcut sistemlerin yeterli olduğunu savunuyor. Gelecekte, yapay zeka uygulamalarında genç kullanıcıların güvenliğini artırmak için daha fazla adım atılması bekleniyor.
Yorumlar (0)
İlk yorumu sen yaz.