The Markup ve THE CITY tarafından yapılan araştırmaya göre, New York Şehri'nin işletmelere yönelik yapay zeka sohbet botu, yasa dışı tavsiyeler vererek büyük bir skandala imza attı. Eric Adams yönetimi tarafından 2023 sonbaharında, işletme sahiplerine şehir kuralları ve düzenlemeleri hakkında erişilebilir bilgi sağlamak amacıyla piyasaya sürülen bot, çalışanların bahşişlerinden kesinti yapma gibi yasa dışı uygulamaları teşvik eden yanıtlar sunuyordu. Bu durum, botun güvenilirliği ve kamu hizmetlerinde yapay zeka kullanımının potansiyel riskleri hakkında ciddi endişeler doğurdu.
Yeni Belediye Başkanı Zohran Mamdani, şehrin 12 milyar dolarlık bütçe açığını kapatma çabaları kapsamında, bu yapay zeka sohbet botunu kapatma kararı aldığını duyurdu. Mamdani, botun "işlevsel olarak kullanılamaz" olduğunu ve önceki yönetime yaklaşık yarım milyon dolara mal olduğunu belirtti. Bu harcamanın, bütçe açığını kapatmak için yapılan tasarruf arayışlarında bir gösterge olduğunu vurguladı. Microsoft'un bulut bilişim platformu kullanılarak geliştirilen ve MyCity projesinin bir parçası olan botun inşası için yaklaşık 600.000 dolar harcandığı bildirilmişti.
Belediye başkanının sözcüsü Dora Pekec, botun kaldırılması için henüz kesin bir tarih olmadığını doğruladı. Bu olay, kamu hizmetlerinde yapay zeka teknolojilerinin dikkatli bir şekilde uygulanması ve sürekli denetlenmesi gerektiğini bir kez daha gözler önüne serdi. Yanlış bilgi veren bir devlet botu, hem vatandaşlar hem de işletmeler için ciddi hukuki ve finansal sonuçlar doğurabilirken, aynı zamanda kamu güvenini de sarsma potansiyeli taşıyor.
Kamu hizmetlerinde kullanılan yapay zeka sistemlerinin güvenilirliği ve doğruluğu, vatandaşlar ve işletmeler için kritik öneme sahiptir.