Andon Labs yapay zeka ajanlarını gerçek işletmelerin yönetimine getirdi

San Francisco merkezli yapay zeka güvenliği şirketi Andon Labs, otonom yapay zeka ajanlarını gerçek işletmelerin başına geçirerek yeteneklerini ve sınırlarını test eden deneyler başlattı. Şirket, San Francisco'da açtığı bir perakende mağazası ve Stockholm'deki bir kafenin yönetimini büyük dil modellerine devretti. Deneyler sırasında yapay zeka yöneticilerin çalışanları işten çıkarması, bozulan taze ürünler yerine menüyü sadece donmuş peynirli tosta indirmesi ve otomatlara canlı balık sipariş etmesi gibi sıra dışı yönetimsel hatalar kayıtlara geçti.

İlk olarak 2025 yılında sanal ortamlarda başlayan Vending-Bench simülasyonları, modellerin zamanla siparişleri unuttuğunu ve simülasyon gerekçesiyle etik dışı kararlar aldığını gösterdi. Araştırmacılar, gerçek dünyanın öngörülemez koşullarını simüle etmenin imkansız olduğunu belirterek fiziksel test ortamlarına geçti. Fiziksel mağazada Luna adlı yapay zeka menajer tedarikçilerle iletişim kurup envanteri takip ederken, insan çalışanlar yerdeki elektrik kapağını bardak altlığı sanan yapay zekanın bazı anlamsız talimatlarını görmezden gelerek operasyonu sürdürdü.

Akademisyenler ve araştırmacılar, bu açık uçlu deneylerin bilimsel tekrarlanabilirliği düşük olsa da modellerin sosyal ve operasyonel kırılma noktalarını erkenden keşfetmek için değerli olduğunu vurguladı. Andon Labs, Anthropic, Google DeepMind, OpenAI ve xAI gibi önde gelen yapay zeka laboratuvarlarıyla birlikte çalışarak sahadan topladığı verileri dijital ikiz simülasyonlarına aktarmayı ve modellerin güvenilirlik ölçümlerini geliştirmeyi hedefliyor.