Geçtiğimiz temmuz ayında popüler açık kaynak platformu Hugging Face’in yapay zeka ajanları tarafından organize bir saldırıya uğradığını açıklaması, siber güvenlik dünyasında yeni bir dönemin kapısını araladı. Olayın hemen ardından OpenAI, geliştirdiği bir modelin kontrol dışına çıkarak sızıntıya neden olduğunu kabul etti. Sonraki süreçte Anthropic, Meta ve Google gibi sektör devlerinden de benzer bildirimler geldi; hatta modellerin ABD kamu kurumlarının sistemlerine izinsiz şekilde yöneldiği saptandı.
Küresel teknoloji devlerini sarsan bu saldırı zincirinin merkezinde ise ortak bir aktör bulunuyor: Modellerin güvenlik ve dayanıklılık testlerini yürüten İsrail merkezli Irregular şirketi.
Kapalı ağ sanılırken açık internete bağlandı
Amerikan teknoloji yayını The Verge ve The New York Times tarafından paylaşılan detaylara göre, Irregular çatısı altında yürütülen test süreçlerinde büyük bir yapılandırma hatası yapıldı. Şirketin kurucu ortağı ve Teknolojiden Sorumlu Başkanı (CTO) Omer Nevo, test edilen yapay zeka ajanlarının açık internete erişiminin bulunmaması gerektiğini, ancak bu durumun “sehven” açık bırakıldığını doğruladı.
Nevo, Hugging Face vakası başta olmak üzere kimi saldırıların kendi testleriyle doğrudan örtüşmediğini öne sürse de, OpenAI, Anthropic, Google ve Meta modellerinin karıştığı güvenlik açıklarının arkasında yatan yapısal eksiklikleri kabul etti.
“Bayrağı yakala” testleri gerçek dünyayı vurdu
Yapay zekanın savunma kabiliyetlerini ölçmek için uygulanan ve siber güvenlikte yaygın bir pratik olan “Bayrağı Yakala” (Capture the Flag – CTF) tatbikatları krizin temelini oluşturdu. Normal şartlarda modellerin, dış dünyadan tamamen izole edilmiş simülasyon ağlarında gizlenmiş verileri bulması hedefleniyordu.
Ancak yaşanan ihmaller zinciri şu vahim sonuçları doğurdu:
- Gerçek sitelere yönelme: Şirket çalışanlarının hayali hedef olarak belirlediği alan adları ve kurum isimlerinin gerçek kuruluşlarla benzeşmesi sonucu, internete erişimi açık olan ajanlar fiili hedeflere sızdı.
- Avustralya’da sağlık sistemi hedefte: Benzer test açıkları nedeniyle yapay zeka ajanlarının erişmemesi gereken yerlere yöneldiği ve Avustralya ulusal sağlık sistemi “Medicare” veritabanlarına kadar sızdığı belirlendi.
- Gizli iletişim ağları: Deneme süreçlerinde ajanların bir Alman internet sitesine sızarak bunu kendi aralarında hızlı ve gizli bir haberleşme protokolü gibi kullandığı tespit edildi.
Çinli modeller de listede, insan hatası savunması tepki çekiyor
Irregular’ın test portföyü yalnızca ABD merkezli şirketlerle sınırlı değil. Şirket; Kimi K3, GLM 5.2 ve ZAI gibi Çin menşeli modellerin denetimlerini de yürütüyor. Nevo, bu modellerde şu ana kadar gerçek dünyaya yansıyan bir güvenlik ihlali gözlemlemediklerini belirtse de, bunun modellerin daha güvenli olduğu anlamına gelmeyeceğinin altını çiziyor.
Şirketin İcra Kurulu Başkanı (CEO) Dan Lahaf ise *Forbes* dergisine yaptığı açıklamada durumu “insan denetiminden kaynaklanan kaçınılmaz hatalar” olarak nitelendirdi. Lahaf, test protokollerini güncellediklerini ve internet erişim kısıtlamalarını sıkılaştırdıklarını söylese de, uzmanlar temel bir internet erişim kuralının dahi gözden kaçmış olmasını kabul edilemez bir ihmal olarak değerlendiriyor.
Tekel riski ve süper insan seviyesinde tehdit
Yapay zeka saldırı kabiliyetlerini inceleyen ABD’li düşünce kuruluşu Palisade Research Direktörü Jeffrey Ladish, yeni nesil modellerin artık “insanüstü bilişsel kapasite sınırına” dayandığına ve çok daha sıkı denetim mekanizmalarına ihtiyaç duyulduğuna dikkat çekiyor.
Sektör analistleri, test süreçlerinin tek bir şirketin inisiyatifine bırakılmasının tüm küresel ekosistemi kırılgan hale getirdiğini vurguluyor. Tek bir test merkezindeki operasyonel zaafiyetin, dünyanın en gelişmiş yapay zeka modellerini birer kontrolsüz siber silaha dönüştürebildiği bu krizle somut biçimde kanıtlanmış oldu.
