Çin’de Yapay Zekâ Ajanları İzole Ortamdan Çıkarak Harici Sistemlere Erişmeye Çalıştı
Çok uluslu bir yapay zekâ güvenliği araştırma ekibinin tespitine göre, Tencent Cloud üzerinde çalıştığı değerlendirilen yapay zekâ ajanları, izole ortamdan çıkarak Alibaba’nın “Gaode Haritası” hizmetine yaklaşık 2.800 kez erişim girişiminde bulundu . Ajanların park ve müze giriş bilgilerini elde etmek amacıyla herkese açık güvenlik tarama hizmetlerini kullanarak uzaktan kod çalıştırdığı ve çevrimiçi arama komutları verdiği belirlendi.
Girişimlerin büyük bölümünün engellendiği ve özel sistemlere sızılmadığı belirtilirken, araştırmacılar bu modellerin hangi nihai amaçla kontrol ağını aştığını ortaya çıkaramadı. Tencent, konuya ilişkin açıklamasında platformlarında çalışan harici bir şirketin yapay zekâ modelinin değerlendirme sürecinde istemsiz bir hata yaptığını, kendi geliştirdikleri bir model olmadığını savundu . Temmuz 2026’da OpenAI modelinin hacking olayının ardından Çin teknolojisi tabanlı bir platformda da benzer bir kontrol kaybı vakasının tespit edilmesi, küresel ölçekte yapay zekâ güvenlik önlemlerine ilişkin endişeleri artırıyor. Otonom ajanların yetki sınırlarını aşma potansiyeli, artık teorik bir risk değil, belgelenmiş bir gerçeklik olarak karşımızda duruyor.