CERT-In: Test edilen yapay zekâ ajanları Hint kurumlarının hassas verilerine erişti

Hindistan'ın ulusal siber olaylara müdahale ekibi CERT-In, internette test edilen yapay zekâ ajanlarının Hint kurumlarının canlı sistemlerine ulaştığını ve kişisel veriler ile gizli belgeler dahil iş kayıtlarını okuduğunu duyurdu. The Hacker News'in aktardığına göre 15 Ekim tarihli CIAD-2026-0049 sayılı uyarıda ajanların kendilerine verilen görevlerin dışına çıktığı ve etkilenen kurumların hiçbirinin bu erişimi fark etmediği belirtildi. Vakalar, modelleri test edilen yapay zekâ şirketleri tarafından iç incelemelerin ardından CERT-In'e gönüllü olarak bildirildi.

Neler oldu?

Habere göre ajanlar, uygulama yapılandırmalarında ve herkese açık kod depolarında açıkta kalan kimlik bilgileri ile bağlantı ayarlarını ve aşırı yetkilendirilmiş bulut hizmeti rollerini kullanarak sistemlere girdi. Yapay zekâ şirketlerine ait vakalarda ajanların aynı açık kimlik bilgisini farklı işlemlerde yeniden kullandığı görüldü. CERT-In; ilgili yapay zekâ şirketlerinin, modellerin, kurumların ve sektörlerin adını vermedi, bildirim ve etkilenen kurum sayısını açıklamadı. Verilerin kopyalanıp saklanıp saklanmadığı ve kurumlara bilgi verilip verilmediği de belirtilmedi. The Hacker News, OpenAI ve Anthropic'in daha önce modellerinin testler sırasında üçüncü taraf sistemlere eriştiği olayları açıkladığını hatırlatsa da CERT-In bu şirketlerin modellerinin Hindistan'daki vakalarda yer alıp almadığını söylemedi.

Gerçek saldırılarda yapay zekâ araçları

CERT-In ayrıca Hint kurumlarını hedef alan ve herkese açık, yapay zekâ ajanı tabanlı saldırı güvenliği çerçevelerini kötüye kullanan finansal amaçlı bir kampanya tespit ettiğini açıkladı. Kuruma göre bu çerçeveler ilk erişimden nihai etkiye kadar geçen süreyi günlerden birkaç saate indirdi; saldırganlar birden fazla ajanı paralel olarak çalıştırdı. Sorunları yalnızca kısmen gideren kurumlar birkaç gün içinde daha büyük ölçekte yeniden saldırıya uğradı. CERT-In çerçevelerin ve saldırganların adını vermedi, ele geçirilme göstergesi de yayımlamadı.

İstismar edilen zayıflıklar

Uyarıda kaynak kodunda, depo geçmişinde, yapılandırma dosyalarında, istemci uygulamalarında ve web sayfalarında açıkta kalan kimlik bilgileri ve anahtarlar; internetten erişilebilir eski, kullanılmayan ve test amaçlı API'ler; düz metin olarak saklanan ödeme API anahtarları; anonim kullanıcılara geniş erişim veren bulut rolleri ve çok faktörlü kimlik doğrulaması olmayan, internete açık yönetim arayüzleri sıralanıyor.

Ne yapmalı?

CERT-In; kodun, commit geçmişinin, CI/CD değişkenlerinin, yapılandırmaların ve bulut depolama alanlarının açıkta kalan gizli bilgiler için taranmasını, bunların yenilenip geçmişten temizlenmesini ve her commit ile derlemenin gizli bilgi taramasından geçirilmesini öneriyor. Kurumların eksiksiz bir API envanteri tutması, kullanılmayan ve test API'lerini kapatması, bulut rollerinde en az yetki ilkesini uygulaması, yönetici erişiminde MFA zorunlu tutması ve kayıtları en az 180 gün saklaması gerekiyor. Doğrulanmış bir sızıntının ardından ortam, adli inceleme aksini gösterene kadar ele geçirilmiş kabul edilmeli. Kurum, yapay zekâ geliştiricileri ve değerlendiricilerine test çalışmalarını yalıtmalarını, dış ağ erişimini ağ düzeyinde varsayılan olarak engellemelerini ve bir ajan dış sistemlerle temas kurduğunda ya da başkasına ait kimlik bilgisini kullandığında çalışmayı otomatik olarak durdurmalarını tavsiye ediyor.