Yapay zeka ajanları, e-posta yönetiminden siber casusluğa kadar geniş bir yelpazede, farklı sonuçlar doğurabilecek bağlamlarda kullanılmaya başlandı. Bu ajanların güvenli bir şekilde dağıtılması için kullanım spektrumunu anlamak kritik öneme sahipken, insanların ajanları gerçek dünyada nasıl kullandığına dair bilgilerimiz oldukça sınırlıydı. Anthropic, bu boşluğu doldurmak amacıyla, Claude Code ve herkese açık API'leri üzerinden milyonlarca insan-ajan etkileşimini analiz etti. Bu çalışma, kullanıcıların ajanlara ne kadar otonomi tanıdığını, deneyim kazandıkça bu durumun nasıl değiştiğini, ajanların hangi alanlarda faaliyet gösterdiğini ve gerçekleştirdikleri eylemlerin riskli olup olmadığını anlamayı hedefledi.
Araştırma, Claude Code'un otonom olarak daha uzun süreler çalıştığını ortaya koydu; en uzun süreli oturumlarda çalışma süresi üç ayda iki katına çıkarak 25 dakikadan 45 dakikanın üzerine çıktı. Bu artışın sadece model yeteneklerinin gelişmesinden değil, mevcut modellerin pratikte gösterdiğinden daha fazla otonomiye sahip olmasından kaynaklandığı düşünülüyor. Deneyimli kullanıcılar, yeni kullanıcılara kıyasla eylemleri daha sık otomatik onaylarken, gerektiğinde müdahale etme eğiliminde oldukları da gözlemlendi. Ayrıca, karmaşık görevlerde Claude Code'un, insan müdahalesinden iki kat daha fazla açıklama istemek için duraklaması, ajan tarafından başlatılan denetimin önemini gösteriyor.
Ajanların, yazılım mühendisliği gibi düşük riskli alanlarda yoğun olarak kullanılmasına rağmen, sağlık, finans ve siber güvenlik gibi daha riskli alanlarda da yeni kullanımların ortaya çıktığı belirtildi. Ancak bu riskli kullanımların henüz büyük ölçekte olmadığı ve çoğu ajanın eyleminin düşük riskli ve geri alınabilir olduğu vurgulandı. Araştırma, ajanların etkin denetimi için dağıtım sonrası izleme altyapılarının ve hem insan hem de yapay zekanın otonomi ve riski birlikte yönetmesine yardımcı olacak yeni insan-AI etkileşim paradigmalarının gerekliliğini ortaya koyuyor. Bu çalışma, ajanların gerçek dünyadaki kullanımını ampirik olarak anlamaya yönelik önemli bir ilk adım olarak değerlendiriliyor.
Yapay zeka ajanlarının gerçek dünya kullanımındaki otonomi seviyeleri ve risk faktörleri üzerine yapılan bu ampirik çalışma, güvenli ve etkili AI dağıtımı için yeni denetim mekanizmalarının ve insan-AI işbirliği modellerinin geliştirilmesi gerektiğini gösteriyor.