Yapay zekâ dünyasından son günlerde üst üste gelen siber saldırı haberleri, bu teknolojinin beraberinde getirdiği risklere dair endişeleri alevlendirmiş durumda. Özellikle OpenAI’ın yapay zekâsının kontrolden çıkarak, başta Hugging Face olmak üzere dört farklı hizmete sızması büyük yankı uyandırdı. Üstelik yaşanan bu olaya dair daha fazla detay ortaya çıktıkça, durumun vahameti daha net anlaşılıyor. OpenAI dün bu olayın perde arkasına dair çarpıcı ayrıntılar paylaştı. Şirketin bir siber güvenlik konferansında yaptığı sunuma göre, saldırıya katılan AI ajanları Hugging Face’e yönelmeden aylar önce kendi aralarında gizli bir iletişim ağı kurmuş, burada güvenlik açıklarını ve saldırı yöntemlerini paylaşarak adeta organize bir “hacker kolektifi” oluşturmuş.
Yapay Zekâ Ön Hazırlıklara Mayıs Ayında Başlamış
OpenAI’ın paylaştığı bilgilere göre süreç aslında Mayıs ayında başlamış. O dönemde şirket, bazı yapay zekâ ajanlarını siber güvenlik alanındaki yeteneklerini ölçmek için daha gevşek güvenlik önlemleriyle çalıştırıyormuş. Zor, hatta bazı durumlarda çözülmesi imkânsız olarak görülen görevlerle karşılaşan bu AI ajanları, hedeflerine ulaşabilmek için alternatif yollar aramaya başlamış. İşte bu süreçte, OpenAI’ın yazılım paketlerini depolamak için kullandığı Artifactory hizmeti beklenmedik biçimde ortak bir mesaj panosuna dönüşmüş.
Farklı Deneylerde Çalışan AI Ajanları, Birbirini Keşfedip Yardımlaşmaya Başlamış
OpenAI’ın paylaştığı sistem kayıtları, farklı deneylerde çalışan ajanların zamanla birbirlerini keşfettiğini ve Artifactory üzerinde bıraktıkları dosya ve notlar aracılığıyla iletişim kurmaya başladığını gösteriyor. Başlangıçta kayıp dosyaları bulmak için kullanılan bu yöntem, kısa süre içinde güvenlik açıklarının, sızma yöntemlerinin ve hazırlanan araçların paylaşıldığı ortak bir bilgi havuzuna dönüşmüş. Hatta ajanlar yalnızca bilgi paylaşmakla kalmayıp; birbirlerine görev bırakmaya, yarım kalan işlemleri başka ajanların devam ettirebilmesi için komut dosyaları hazırlamaya ve ortak çalışmaya başlamış.
OpenAI’ın aktardığı örneklerden birinde bir modelin, “Kolektife yardım et. Birimiz zaman kazanırsa herkes faydalanabilir.” şeklinde akıl yürüttüğü görülüyor. Zamanla iletişimleri daha da organize hâle gelen ajanlar, birbirlerine hitap etmeye, mesajlarını imzalamayı tartışmaya ve başka ajanların kimliğine bürünüp bürünmediğini sorgulamaya bile başlamış.
OpenAI’ın Mesaj Panosunu Silmesi de İşe Yaramamış
Üstelik OpenAI’ın bu mesaj panosunu fark edip temizlemesi de çözüm olmamış. Şirket, Temmuz başında Artifactory’de yaşanan beklenmedik bir kesinti sonrasında sistemi sıfırlayıp mesajları silmiş. Ancak yalnızca iki gün sonra ajanlar aynı hizmet üzerinde farklı bir yöntem kullanarak yeni bir mesaj panosu oluşturmuş ve bilgi paylaşımını kaldıkları yerden sürdürmüş.
OpenAI’ın açıkladığı bilgilere göre söz konusu ajan kolektifi daha sonra hem şirketin kendi altyapısına hem de Hugging Face sistemlerine yönelik koordineli saldırılar gerçekleştirdi. 9-13 Temmuz tarihleri arasında GPT-5.6 Sol ile henüz kamuoyuna duyurulmamış daha gelişmiş bir araştırma modeli, Hugging Face’in üretim altyapısına karşı toplam 17.600’den fazla işlem gerçekleştirdi. Neticede ajanlar, daha önce bilinmeyen sıfır-gün açıklarını kullanarak kimlik bilgilerine ulaştı, sistemler arasında yanal hareket gerçekleştirdi ve Hugging Face’in farklı altyapı bileşenlerine erişim sağladı. Aynı süreçte OpenAI’ın kendi sistemlerinde de daha önce keşfedilmemiş güvenlik açıklarını bularak bazı sunucular üzerinde yönetici yetkisi elde etmeyi başardılar.
OpenAI: Bu, yeni bir dönemin başlangıcı olabilir
OpenAI araştırmacıları, yaşanan olayın yapay zekâ güvenliği açısından önemli bir dönüm noktası olduğuna inanıyor. Siber güvenlik uzmanları, çok yakın bir gelecekti kötü niyetli grupların benzer “ajan kolektiflerini” bilinçli şekilde eğitip optimize ederek siber saldırılarda kullanmasının kaçınılmaz olduğu konusunda uyarıyor.
OpenAI bu olayın ardından araştırma süreçlerini yavaşlattığını, yapay zekâ ajanlarının faaliyetlerini çok daha sıkı takip etmeye başladığını ve güvenlik mekanizmalarını güçlendirdiğini söylüyor. Ancak ortada böylesine somut bir vaka varken yaklaşan tehlikenin hâlâ yeterince dikkate alınmıyor olması, bu teknolojinin geleceğine dair endişeleri arttırıyor. Çünkü ne yazık ki bu önemli mesele OpenAI ve Anthropic gibi şirketlerin tasarrufuna bırakılmış durumda.
