OpenAI, Çinli bir emniyet yetkilisinin ChatGPT kullanımını incelemesi sonucunda, Çin'in yurt dışındaki muhalifleri hedef alan geniş çaplı bir yıldırma operasyonunu ortaya çıkardı. Rapora göre, bu yetkili ChatGPT'yi adeta bir günlük gibi kullanarak gizli baskı kampanyasının detaylarını kaydetmiş. Operasyonun, ABD göçmenlik yetkililerini taklit ederek ABD'de yaşayan Çinli muhalifleri yasal ihlallerle uyarma ve sahte ABD mahkeme belgeleriyle sosyal medya hesaplarını kapattırma gibi yöntemler içerdiği belirtiliyor. Bu durum, otoriter rejimlerin sansür çabalarını belgelemek için yapay zeka araçlarını nasıl kullanabileceğine dair çarpıcı bir örnek sunuyor.
OpenAI'ın araştırmacıları, ChatGPT kullanıcısının açıklamalarını gerçek dünyadaki çevrimiçi faaliyetlerle eşleştirmeyi başardı. Örneğin, bir muhalifin ölümünü sahte bir ölüm ilanı ve mezar taşı fotoğraflarıyla taklit etme çabası, 2023'te çevrimiçi olarak yayılan sahte ölüm söylentileriyle örtüşüyor. Operasyonun yüzlerce Çinli operatör ve çeşitli sosyal medya platformlarında binlerce sahte çevrimiçi hesap içerdiği tahmin ediliyor. OpenAI baş araştırmacısı Ben Nimmo, bunun modern Çin'in ulusötesi baskısının bir göstergesi olduğunu ve sadece dijital trollemeden ibaret olmadığını, endüstriyel boyutta bir çaba olduğunu vurguladı. ChatGPT, bu gizli ağın takibinde bir günlük görevi görürken, içeriğin çoğu başka araçlarla üretilip sosyal medya ve web siteleri aracılığıyla yayılmış.
Raporda ayrıca, ChatGPT kullanıcısının Japonya'nın yeni başbakanını karalamak için çok aşamalı bir plan hazırlamasını istediği, ancak ChatGPT'nin bu isteği reddettiği belirtiliyor. Buna rağmen, başbakanın göreve gelmesiyle birlikte Japon grafik sanatçıları arasında ABD tarifelerini şikayet eden ve başbakanı hedef alan hashtag'lerin ortaya çıkması dikkat çekiyor. Bu rapor, ABD ile Çin arasındaki yapay zeka üstünlüğü mücadelesinin yoğunlaştığı bir döneme denk geliyor ve teknolojinin hem askeri hem de ekonomik alanlardaki kullanımının önemini bir kez daha gözler önüne seriyor. OpenAI, bu faaliyetleri keşfettikten sonra ilgili kullanıcıyı platformdan yasakladı.
Bu keşif, otoriter rejimlerin yapay zeka araçlarını kötüye kullanarak sofistike baskı taktiklerini istemeden nasıl ifşa edebileceğini gözler önüne seriyor.