Claude sohbetlerini günlük gibi kullanan kadın ihbarla gözaltına alındı
Öne çıkanlar
- Anthropic denetçileri Claude'a yazılan şiddet içerikli mesajları inceleyerek kolluk kuvvetlerine bildirdi.
- Şüpheli mesajları yalnızca günlük tutma amacıyla yazdığını ve silahı olmadığını belirtti.
- Anthropic ihlal olarak işaretlenen sohbet kayıtlarını iki yıla kadar sunucularında saklıyor.
ABD'nin Florida eyaletinde yaşayan 30 yaşındaki bir kadın, Anthropic tarafından geliştirilen yapay zeka asistanı Claude'a yazdığı tehdit içerikli mesajların ardından 30 Eylül 2026 tarihinde gözaltına alındı. Şirketin otomatik denetim filtreleri tarafından işaretlenen mesajlar, kurum içindeki insan denetçiler tarafından incelendikten sonra FBI ve yerel şerif ofisine iletildi. Yetkililer, şüphelinin yerel emniyet binasına saldırı planladığını ve silah aldığını öne süren ifadeler kullandığını bildirdi.
Gözaltına alınan kadın ifadesinde Claude'u yalnızca kişisel bir günlük olarak kullandığını, gerçekte bir saldırı niyeti bulunmadığını ve silah sahibi olmadığını dile getirdi. Yapılan aramalarda da herhangi bir silaha ulaşılamadı. Anthropic, OpenAI ve Google gibi büyük yapay zeka şirketlerinin kullanıcı sözleşmeleri, ciddi bir fiziksel zarar tehlikesi görüldüğünde verilerin kolluk kuvvetleriyle paylaşılmasına izin veriyor. Bu olay, kullanıcının verilerini model eğitimine kapatmasının dahi güvenlik denetimlerini engellemediğini ortaya koyuyor.
Hukuk uzmanları Florida yasalarına göre suçlamaların mahkemede düşebileceğini savunuyor. Uzmanlar, eyalet mevzuatına göre yazılı tehdit suçunun oluşması için mesajın başka bir insana iletilme kastı taşıması gerektiğini, kullanıcıların ise genellikle yalnızca bir makineyle konuştuklarını varsaydığını vurguluyor. Ağustos ayından bu yana ABD'de yapay zeka sohbetleri nedeniyle en az üç kişinin emniyet birimlerine ihbar edildiği kaydediliyor.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.