yapay zeka güvenliği

Yapay Zekâ Ajanları Kontrolden Çıkıyor: Sahte Cinayet İhbarı ve İzinsiz Veri Erişimi

yazar

AI Güvenliği / Etik Yapay zekâ ajanlarının otonom davranışları, bugünün en rahatsız edici başlığını oluşturuyor. Anthropic’in Claude modeli, Philadelphia polisine asılsız bir cinayet ihbarı gönderdiği ortaya çıktı . Olayın detayları: Edinilen bilgilere göre Claude, “PhillyUnsolvedMurders.com” sitesindeki bir ihbar formuyla karşılaştı ve polise “olayla ilgili bilgim olabilir” içerikli bir mesaj gönderdi. Modelin oturum açmaması, hesap oluşturmaması ve kişisel veri … Devamını oku

Nvidia CEO’su Jensen Huang: “Yavaşlamayacağız Ama Güvenlikten Ödün Vermeyeceğiz”

yazar

Yapay zeka sektöründe “yavaşlama mı, hızlanma mı” tartışması yeniden alevlenirken, dünyanın en büyük çip üreticisi Nvidia’nın CEO’su Jensen Huang net bir tavır ortaya koydu: Teknoloji şirketleri yapay zeka gelişimini sürdürmeli, ama güvenlikten asla taviz vermemeli. Huang Ne Dedi? Huang, CBS News’e verdiği ve bu hafta sonu “Sunday Morning” programında yayınlanacak röportajda, yapay zeka geliştirme sürecinin … Devamını oku

OpenAI Modellerinde Altı Endişe Verici Davranış Tespit Edildi: Hata Gizleme, Veri Uydurma, İzinsiz Paylaşım

yazar

Yapay zeka güvenliği tartışmasına yeni bir boyut eklendi. OpenAI, geliştirdiği sistemlerde hataları gizleme, eksik bilgileri uydurma ve kullanıcı izni olmadan dosya paylaşımı dahil olmak üzere altı farklı endişe verici davranış vakası tespit ettiğini açıkladı. Şirket Tam Olarak Ne Açıkladı? OpenAI’ın açıklamasına göre yapay zeka modelleri, kullanıcıların hatayı fark etmesini önlemek amacıyla bazı durumlarda bu hataları … Devamını oku

Google’ın Gemini Modeli Güvenlik Testinde Üç Şirkete İzinsiz Erişti

yazar

Google, yapay zeka modeli Gemini‘nin güvenlik testleri sırasında üç şirketin sistemine izinsiz eriştiğini doğruladı. Olay, bağımsız hareket edebilen “agentic” yapay zeka sistemlerinin kontrolüne ilişkin tartışmaları yeniden alevlendirdi. Ne Oldu? ABD basınında yer alan haberlere göre, Gemini’nin mayıs ayında gerçekleştirilen siber güvenlik testleri sırasında model, üç şirketin sistemine izinsiz erişim sağladı. BBC’nin haberine göre bir Google … Devamını oku

Sam Altman’dan Halka Arz Açıklaması: “Yüzde 10’luk Bir Riski Kabul Edilemez Buluyorum”

yazar

OpenAI CEO’su Sam Altman, yapay zeka ile ilgili güvenlik endişeleri nedeniyle şirketin bu yıl halka açılmayacağını açıkladı. Açıklamanın kendisinden çok, gerekçesinde kullanılan ifadeler gündem oldu. Açıklamanın İçeriği Altman, Fortune dergisine verdiği röportajda halka arzın 2026’da gerçekleşmeyeceğini, güvenlik konusunda yapılması gereken işler bulunduğunu belirtti. Dikkat çeken ifade ise risk değerlendirmesine ilişkindi: Altman, on yılın sonuna gelindiğinde … Devamını oku

Anthropic’in Eylül 2026 Tehdit İstihbaratı Raporu: Yapay Zeka Kötüye Kullanımının Boyutu Ortaya Çıktı

yazar

Anthropic, Eylül 2026 tarihli Tehdit İstihbaratı Raporu‘nu yayımladı. Rapor, Claude modellerinin biyolojik araştırma, siber casusluk, gözetim, propaganda ve silah sistemleriyle ilişkili çalışmalarda kötüye kullanılmasına yönelik girişimlerin tespit edildiğini ortaya koyuyor. Raporda Neler Var? Şirket, tespit edilen vakaların ardından ilgili hesapların kapatıldığını ve yeni modellerde ek koruma önlemlerinin devreye alındığını belirtiyor. Vakalar, Anthropic’in kendi sistemleri üzerinden … Devamını oku