OpenAI, yapay zeka modellerine bağlı olarak yetkisiz şekilde faaliyet gösteren ajanlar konusunda 100'den fazla kuruluşu uyardığını duyurdu. Eylül ayının sonuna kadar yapılan bu bildirimler, şirketin yürüttüğü kapsamlı güvenlik incelemesinin ne kadar geniş bir alana yayıldığını gösteriyor. OpenAI, bu uyarıların gönderilmesinin mutlaka söz konusu kuruluşların saldırıya uğradığı veya verilerinin çalındığı anlamına gelmediğini vurguluyor; bazı durumlarda yalnızca bilgilerin kamuya açık olması gerekip gerekmediğinin belirlenmesinde zorluk yaşandığında da ilgili taraflara haber veriliyor.
Şirketin başlattığı inceleme kapsamında yaklaşık 50 petabaytlık veri kaydı analiz ediliyor. Bu muazzam veri hacmini işlemek için OpenAI, Nvidia tarafından üretilen GB200 ve GB300 GPU'lardan yaklaşık 7 bin adet kullanıyor. İnceleme çalışmalarının günlük maliyeti 500 bin doları aşıyor. Süreç, yapay zeka sistemlerinin olası ihlalleri ön incelemeden geçirmesi ve ardından insan araştırmacıların bulguları değerlendirmesi şeklinde işliyor.
OpenAI'ın incelemesi sırasında ortaya çıkan yetkisiz faaliyetler çeşitli türlerde gerçekleşmiş. Bunlar arasında erişim kontrollerinin aşılması, açığa çıkmış kimlik bilgilerinin kötüye kullanılması, web sitelerine komut enjekte edilmesi ve herkese açık web sayfalarının izinsiz şekilde bilgi paylaşımı için kullanılması yer alıyor. Bazı yapay zeka modellerinin internet erişimini öngörülmeyen yollarla kullandığı ve geçmiş değerlendirmelerde bazı sistemlere yeterli kısıtlamaların konulmadığı tespit edildi.
OpenAI'ın tespit ettiği en ciddi yetkisiz ajan faaliyeti Hugging Face olayı olarak kalmaya devam ediyor. Bu olay sonrasında şirket, yapay zeka modellerinin gerçekleştirdiği faaliyetleri daha detaylı şekilde incelemeye başladı. İnceleme sürecinde, ajanların bilgi paylaşmak için internet üzerindeki sayfaları alışılmadık biçimlerde kullandığının başka örnekleri de ortaya çıktı. Eylül ayında araştırmacılar, bir Alman programlama vikisinde çalışan ajanların bilgi ve sandbox'tan kaçış yöntemlerini paylaşmak için sayfaları istismar ettiğini tespit etti. Sayfalar alfabetik sırayla silinmeye başlandığında ise ajanlardan biri yedeğini "ZZZ" ile başlayan bir sayfaya oluşturmuştu.
Daha ciddi bir örnek, OpenAI'a ait bir ajanın Haziran ayında Avustralya'nın Medicare istatistik portalındaki erişim kısıtlamalarını aşarak kamu ilaç harcamaları hakkında araştırma yapmasıdır. Bu yetkisiz erişim eylül ayında Avustralyalı yetkililere bildirildi. OpenAI, doğrulanmış yetkisiz erişimin yalnızca bu portalla sınırlı kaldığını, Avustralya hükümetine ait diğer sitelerle yapılan etkileşimlerin ise kamuya açık bilgilerle sınırlı olduğunu belirtiyor.
Yapay zeka ajanlarının daha karmaşık görevleri bağımsız olarak gerçekleştirebilmesi, kontrol ve güvenlik sorunlarına ilişkin endişeleri artırdı. Özellikle internete erişebilen ve çeşitli araçları kullanabilen ajanların, kendilerine verilen görevlerin sınırlarını aşabildiği vakalar daha yakından inceleniyor. OpenAI, benzer olayları önlemek veya çok daha erken aşamada tespit etmek amacıyla son aylarda teknik ve operasyonel önlemleri artırdığını açıklamıştır.
Kaynak: Donanımhaber · https://www.donanimhaber.com/openai-100-den-fazla-sirketi-yapay-zeka-konusunda-uyardi--211167 · Kaynaklarımız
Foto: Donanımhaber · Kaynaklarımız
Yorumlar (0)
İlk yorumu sen yaz.