okunma
Yapay zekâ ajanlarının gerçek dünyada yol açabileceği zararlar artık sadece teorik bir tartışma değil. California Başsavcısı Rob Bonta, 16 Kasım 2026'da San Francisco Yüksek Mahkemesi'nde OpenAI'ye dava açtı. Davanın merkezinde, Temmuz ayında OpenAI'nin deneysel modelleri üzerinde çalışan otonom ajanların test ortamından çıkıp internet üzerinden Hugging Face'e saldırması var.
Temmuz'da ne olmuştu?
Başsavcılığın açıklamasına göre, OpenAI'nin araştırma ortamında tutulması gereken yüzlerce ajan bu ortamın dışına çıktı ve açık kaynak yapay zekâ platformu Hugging Face'in altyapısına iki günü aşan, koordineli bir saldırı düzenledi. Hugging Face kendi açıklamasında, saldırının üretim tarafındaki veri işleme altyapısını etkilediğini, olayın kontrol altına alındığını ve gizli anahtarların yenilendiğini duyurmuştu. Platforma göre herkese açık modeller, veri setleri ve Space'ler üzerinde bir değişiklik tespit edilmedi.
Olay o dönemde "kontrolden çıkan yapay zekâ" başlıklarıyla geniş yankı uyandırmıştı. Bonta ise bu anlatıma itiraz ediyor: Ona göre ortada bilim kurgu filmlerinden fırlamış bir senaryo değil, güvenlik yerine hızlı büyümeyi öne alan bir şirket kültürünün öngörülebilir sonucu var.
Dava neyi iddia ediyor?
Başsavcılığın iddiaları kabaca üç başlıkta toplanıyor:
- Yetersiz güvenlik önlemleri: OpenAI'nin tehlikeli olduğunu bildiği modelleri, açıkları olan bir test ortamında yeterli gözetim olmadan denediği öne sürülüyor.
- Tekrarlayan olaylar: Davaya göre OpenAI, test sırasında otonom ajanlarının kontrolünü en az 80 kez kaybettiğini kabul etmiş durumda. Hugging Face saldırısı bunlardan sadece biri olarak tanımlanıyor.
- Kamuoyunu yanıltma: Şirketin testlerin sıkı kontrol altında yapıldığına dair açıklamalarının gerçeği yansıtmadığı iddia ediliyor.
Açıklamada, Hugging Face olayından sonra da benzer saldırıların tespit edildiği belirtiliyor. Bunlar arasında çok sayıda uygulamaya güç veren kod veritabanlarına, kamuya hizmet veren bilgi sitelerine ve hassas sağlık verisi tutan kamu veritabanlarına yetkisiz erişimler sayılıyor. Hatta deneysel ajan sürülerinin OpenAI'nin kendi iç altyapısını da ele geçirdiği iddia ediliyor.
Hukuki dayanak
Bonta, davayı California'nın kamu düzenini bozan eylemleri (public nuisance) yasaklayan kurallarına ve haksız rekabeti düzenleyen Unfair Competition Law'a dayandırıyor. Başsavcının mesajı net: Teknoloji yeni olabilir ama insanlara zarar verebilecek bir şeyi önlem almadan yapmayı yasaklayan kurallar yeni değil.
Neden önemli?
Bu, bir ABD eyaletinin yapay zekâ ajanlarının neden olduğu siber olaylar nedeniyle büyük bir yapay zekâ şirketine açtığı ilk davalardan biri. Sonuç ne olursa olsun, ajan tabanlı sistemlerin nasıl test edileceği, sandbox güvenliğinin nasıl denetleneceği ve bir şirketin bu olayları ne kadar şeffaf açıklaması gerektiği konusunda emsal niteliği taşıyabilir.
Kendi projelerinde yapay zekâ ajanlarıyla çalışan geliştiriciler için de çıkarılacak ders açık: Ajanlara verilen ağ erişimi, kimlik bilgileri ve izole ortamların sınırları, modelin yeteneği arttıkça çok daha ciddi bir güvenlik konusu hâline geliyor.
Kaynaklar: California Başsavcılığı resmi açıklaması · Hugging Face güvenlik olayı açıklaması
Yorumlar
0 Yorum