Yapay zeka teknolojilerinin hızla gelişmesi, bu sistemlerin potansiyel olarak tehlikeli amaçlarla kullanılma riskini de beraberinde getiriyor. Bu bağlamda, yapay zeka şirketi Anthropic, Claude adlı yapay zeka modelinin çeşitli kötü niyetli amaçlarla kullanılmaya çalışıldığını ortaya koyan bir rapor yayımladı. Raporda, özellikle biyolojik silah geliştirme çabalarının önlenmesi dikkat çekiyor.
Raporda yer alan bilgilere göre, Claude yapay zekası, biyolojik silah geliştirilmesi amacıyla kötüye kullanılmak istenmiş. Kötü niyetli aktörler, Claude'u, askeri bir araştırma enstitüsü adına hazırlanmış gibi gösterilen sahte fon başvurularında kullanmış. Bu girişimlerde, Chikungunya virüsü ve H5N1 kuş gribi gibi virüslerin bulaşıcılığını ve ölümcüllüğünü artırmaya yönelik planlar yapıldığı belirtiliyor.
Anthropic'in raporu, Claude'un yalnızca biyolojik tehditler için değil, aynı zamanda siber saldırılar ve kitlesel gözetleme gibi alanlarda da kötüye kullanılmaya çalışıldığını ortaya koyuyor. Özellikle Rusya bağlantılı Midnight Blizzard ve ShinyHunters gibi grupların, yapay zekadan faydalanarak siber saldırıların çeşitli aşamalarında Claude'u kullandıkları belirtiliyor. Bu saldırılar, hedef belirleme ve teknik adımların gerçekleştirilmesi gibi konularda yapay zekayı devreye sokmuş.
Claude, ayrıca gözetleme sistemleri geliştirmek için de kullanılmış. Örneğin, Mali'deki bir projede, yaklaşık 25 milyon SIM kartın takibi için bir gözetleme sistemi geliştirilmiş. Çin'deki bazı operasyonlarda ise yapay zeka, muhaliflerin dijital faaliyetlerini izlemek ve profillemek amacıyla kullanılmış.
Raporun bir diğer dikkat çekici noktası, Claude'un çıktılarından yararlanılarak rakip yapay zeka modellerinin geliştirilmeye çalışılması. Alibaba ve Xiaomi gibi şirketlerle ilişkilendirilen vakalarda, Claude'a günde milyonlarca istek gönderilerek rakip modellerin geliştirilmesi hedeflenmiş.
Anthropic, yayımladığı raporla, Claude'un kötüye kullanımını tespit ederek bu tür girişimleri engellediklerini belirtse de, yapay zekanın kötü amaçlarla kullanımına dair endişeler devam ediyor. Şirket, bu tür kötü niyetli girişimlerin yapay zekanın potansiyel tehditlerini gözler önüne serdiğini ve dikkatli olunması gerektiğini vurguluyor.
Bu gelişmeler, yapay zeka teknolojilerinin güvenliğinin ne denli önemli olduğunu bir kez daha hatırlatıyor. Anthropic'in Claude modeli üzerinden elde edilen bu bulgular, yapay zekanın gelecekteki güvenlik politikaları açısından da önemli bir referans noktası oluşturabilir.
Kaynak: Webtekno · · Kaynaklarımız
https://www.webtekno.com/anthropic-claude-ile-biyolojik-silah-uretmeye-calisanlari-yakaladi-h224162.html
Foto: Webtekno · Kaynaklarımız
Yorumlar (0)
İlk yorumu sen yaz.