Yapay zekanın iş dünyasında devrim yaratacağı beklentisine rağmen, günümüz ofislerinde daha çok kaosa yol açtığı gözlemleniyor. ChatGPT gibi yapay zeka platformları, doğru gibi görünen ancak gerçekte yanlış olan yanıtlar üretiyor; toplantı döküm araçları gerçekleri çarpıtıyor ve hazırlanan belgeler yüzeysel olarak cilalı görünse de ciddi bilgi hataları ve nüans eksiklikleri içeriyor. Yapay zekanın "halüsinasyon" görme, yani olmayan gerçekleri kendine güvenle iddia etme eğilimi, Chicago Sun-Times'ın var olmayan kitapları listelemesi veya avukatların yapay zeka tarafından uydurulan yasal atıfları kullanması gibi vakalarla açıkça ortaya konulmuştur. Bu durum, gelişmekte olan bu teknolojinin henüz olgunlaşmadığını ve bazı iş yerlerinde ciddi sorunlara yol açtığını gösteriyor.
Makalede bu duruma dair çarpıcı örnekler sunuluyor. Bir şirkette yeni işe alınan bir hesap yöneticisi, yapay zeka kullanarak şirketin CDC ile iş birliği yaparak çığır açan bir araştırma yürüttüğünü ve dezavantajlı topluluklara yardım ettiğini iddia eden sahte bir blog yazısı yayımlıyor. Bu yanlış bilgi, şirketin "savunmasız nüfuslara yönelik taahhüdü" nedeniyle bir ödüle aday gösterilmesine bile neden oluyor. Başka bir örnekte ise bir yönetici, çalışan moral anketinden önce gönderdiği e-postayı yapay zekaya düzenleterek, aslında var olmayan büyük bir yeni programın başlatıldığını duyuruyor. Bu tür olaylar, yapay zekanın yanlış kullanımının veya sınırlamalarının, iş süreçlerinde nasıl beklenmedik ve zararlı sonuçlar doğurabileceğini gözler önüne seriyor.
Yapay zeka araçlarının iş süreçlerine entegrasyonu, verimlilik vaatlerinin aksine, yanlış bilgi yayılımı ve operasyonel karmaşa risklerini beraberinde getiriyor.