OpenAI, ChatGPT'yi sahte paravan yapılar için kullanan Rus ve İran etki operasyonlarını engelledi

OpenAI, biri Rusya'dan biri İran'dan yürütülen ve ChatGPT'yi yalnızca sahte sosyal medya hesapları için değil, bağımsız görünen kuruluşlar ve uydurma gazeteciler için de kullanan iki gizli etki operasyonuna bağlı hesapları kapattı. The Record ve CyberScoop'un aktardığına göre şirket bu kampanyaları 8 Ekim'de yayımladığı güvenlik raporunda anlattı ve her ikisinin de ana akım kitlelere ulaşarak doğrulama haberlerine ve resmi yalanlamalara konu olduğunu belirtti.

Neler oldu?

The Record'un aktardığına göre Rus operasyonu, kendisini Latin Amerika'daki Hint diasporasını ve Hindistan'ın bölgeyle ilişkilerini inceleyen bir platform olarak tanıtan Social Research Center (SRC) adlı sahte bir araştırma grubu kurdu. CyberScoop'a göre OpenAI kampanyaya, SRC'nin lideri olarak sunulan uydurma "Mia Clark" kimliğinden hareketle Dark Clark adını verdi. Kampanyanın ana hedefi Latin Amerika'da Ukrayna'nın itibarını zedelemekti; bazı faaliyetler ise Arjantin ve Bolivya'nın iç siyasetine yönelikti.

İran operasyonu ise ABD-İran çatışması hakkında makale öneren yedi sahte gazeteci kimliği oluşturdu. The Record'a göre OpenAI, bu kimliklerle yaklaşık bir düzine yayın organında yayımlanan ya da yeniden yayımlanan 100'e yakın makale tespit etti. Bunlar çoğunlukla uluslararası ilişkiler ve Orta Doğu konulu küçük ve orta ölçekli yayınlardı. İlk makale Temmuz 2025'te, sonuncusu Ekim 2026'da yayımlandı.

Yapay zekâ nasıl kullanıldı?

The Record'a göre Rus operatörler ChatGPT'yi sahte sızdırılmış belgeler ve ses kayıtları için metinler hazırlamakta kullandı. CyberScoop'un aktardığı örnekler arasında Ukrayna'nın Ekvador konsolosuna ait sahte bir ses kaydı ve Bolivya'da bir devlet su şirketi çalışanına ait, resmi yalanlamaya yol açan sahte bir ses kaydı bulunuyor. Operatörler ayrıca ücret skalaları ve işe alım kararlarına ilişkin iç raporlar da ürettirdi; OpenAI bunu grubun SRC'yi kontrol ettiğinin kanıtı olarak gösterdi. Şirket, SRC'nin Latin Amerika'da işe aldığı çalışanların iyi niyetle hareket ettiğini ve bir Rus grubu için çalıştıklarından habersiz olduğunu belirtti.

İranlı operatörler ise ağırlıklı olarak Farsça çalıştı; ChatGPT'yi uzun makaleleri düzeltmek, editörlere öneri metinleri yazmak, iç raporlar hazırlamak ve İngilizce ile Farsça toplu sosyal medya yorumları üretmek için kullandı. The Record'a göre her iki grup da servise VPN üzerinden erişti.

Atıf ve etki

OpenAI, Rus faaliyetini belirli bir devlet kurumuna atfetmedi; ancak bulguların, Yevgeny Prigojin ve Wagner Grubu'na bağlı etki operasyonlarının devamı olduğu bildirilen Politology ile bağlantıya işaret ettiğini söyledi. İran kampanyasının arkasındaki kişi ve kurumları ya da makalelerin yayımlandığı kuruluşları açıklamadı; CyberScoop'a göre şirket bu kampanyayı ücretli çalışan ticari bir aktörün faaliyetine benzetti.

CyberScoop'un aktardığına göre kampanyalar OpenAI'ın altı kademeli etki ölçeğinde 5 ve 4 puan aldı; şirket ilk kez yüksek etkili olarak nitelendirdiği operasyonları raporladı. OpenAI, iki operasyonun da yapay zekâ öncesi dönemin karmaşık etki kampanyalarına çok benzediği, yapay zekânın ise esas olarak iş akışlarını kolaylaştırdığı sonucuna vardı.

Ne yapmalı?

Serbest yazar veya düşünce kuruluşu katkısı kabul eden yayın organlarının, özellikle jeopolitik konularda gelen talepsiz önerilerde yazarların kimlik ve bağlantılarını doğrulaması, sızıntı olarak sunulan ses kayıtlarına ve belgelere ise ekstra ihtiyatla yaklaşması önerilir.