Yapay zekanın işlerimizi tehdit etmesi veya veri merkezlerinin faturaları artırıp çevreyi kirletmesi yetmezmiş gibi, şimdi de alışveriş alışkanlıklarımızı gözetleyerek bizi sadece daha fazla ürün almaya değil, aynı zamanda daha yüksek fiyatlarla satın almaya ikna ettiği ortaya çıktı. Şirketlerin yapay zekayı tüketicileri hedeflemek için nasıl kullandığını gösteren bir dizi rapor, Big Tech'in yapay zekayı hayatları kolaylaştıran bir araç olarak sunmasına rağmen, teknolojinin aslında hayatları daha da zorlaştırdığını açıkça ortaya koyuyor. Bu durum, büyük ve yoğunlaşmış bir endüstrinin denetimsiz büyümesine izin verildiğinde ortaya çıkan bir sonuçtur ve tüm işaretler durumun daha da kötüleşeceğini gösteriyor.
Vanderbilt Politika Hızlandırıcısı'nın Ekim ayında yayımladığı araştırma, şirketlerin sadakat programlarını kullanarak tüketicileri nasıl bağımlı hale getirdiğini ve izlenebilir bir kitle oluşturduğunu gösteriyor. Tüketiciler indirim ve ödül umuduyla bu programlara katıldıkları için, programlar birçok eyalet ve federal gözetim yasasından muaf tutuluyor. Bazı şirketler bu yasal boşluğu hevesle kötüye kullanıyor. McDonald's'ın yıllardır süren Monopoly oyun promosyonu, artık dijitalleşerek, kazanılan ödülleri kullanmak için uygulamanın indirilmesini ve karşılığında konum, tarama geçmişi, uygulama etkileşimleri ve sosyal medya faaliyetleri gibi kişisel verilerin paylaşılmasını gerektiriyor. McDonald's bu verileri yapay zeka modellerini eğitmek ve müşterilerinin "tercihleri, özellikleri, psikolojik eğilimleri, yatkınlıkları, davranışları, tutumları, zekaları, yetenekleri veya becerileri" hakkında profiller oluşturmak için kullanıyor. Şirket, bu psikolojik profilleri zaman içinde tekrar eden müşteri etkileşimini artırmak için değerlendiriyor.
McDonald's'ın 2027 yılına kadar 250 milyon aktif sadakat kullanıcısına ulaşma hedefi gerçekleşirse, şirket çeyrek milyar tüketici üzerinde ulusal bir istihbarat teşkilatıyla rekabet edebilecek ölçekte psikolojik ve davranışsal profillere sahip olacak. Temel amaç, en azından bildiğimiz kadarıyla, veri toplayarak hem bireysel hem de tüm müşteri tabanında McDonald's satışlarını artırmak. Ancak bazı şirketler, yapay zekayı kullanarak tüketicileri daha da fazla ödemeye ikna etmek için hileli yöntemlere başvuruyor. Groundwork Collaborative, Consumer Reports ve More Perfect Union iş birliğiyle bu ay yayımlanan bir araştırma, market alışverişi ve teslimat uygulaması Instacart'ın yapay zeka destekli veri toplama yöntemlerini fiyatları manipüle etmek ve değiştirmek için kullandığını ortaya koydu.
Yapay zekanın tüketici verilerini toplayarak sadece satışları artırmakla kalmayıp, aynı zamanda dinamik fiyatlandırma ve psikolojik manipülasyon yoluyla tüketicileri daha fazla harcamaya yönlendirmesi, dijital ekonomideki etik ve düzenleme boşluklarını ortaya koyuyor.