OpenAI kullanıcıların ChatGPT sohbetlerini dış çalışanlara okutuyor

OpenAI, ChatGPT modellerinin yanıt kalitesini geliştirmek amacıyla yüzlerce dış sözleşmeli çalışana gerçek kullanıcı sohbetlerini okutuyor. 404 Media tarafından ortaya çıkarılan ve Project Lily kod adını taşıyan çalışma kapsamında denetçiler, 900 milyonu aşkın kullanıcının sisteme girdiği istemleri ve modelin ürettiği yanıtları inceliyor. Kullanıcıların terapi, profesyonel yardım veya arkadaşlık amacıyla girdiği hassas kişisel veriler, doğrudan bu çalışanların denetim panellerine düşebiliyor.

Süreçte görev alan çalışanlar, kullanıcıların istemlerini özetleyip modelin ürettiği alternatif yanıtları doğallık, dürüstlük ve emoji kullanımı gibi ölçütlere göre 1 ile 7 arasında puanlıyor. OpenAI, verilerin çalışanlara ulaşmadan önce otomatik bir gizlilik filtresinden geçirildiğini ve kullanıcı adlarının gizlendiğini belirtiyor. Buna karşın şirket, filtreleme sisteminin nadir tanımlayıcıları gözden kaçırabileceğini kabul ederken geçmiş sohbet özetleri gibi kişisel bağlamlar çalışanlarca görülebiliyor.

Sohbet incelemelerinin OpenAI dışında Anthropic ve Google tarafından da benzer amaçlarla yürütüldüğü doğrulanırken bu durum gizlilik tartışmalarını yeniden alevlendirdi. ChatGPT üzerinde ücretsiz, Plus ve Pro kullanıcıları için varsayılan olarak açık gelen model geliştirme ayarı kapatılmadığı sürece sohbetler eğitim havuzuna aktarılıyor. Uzmanlar, yapay zekanın sağladığı birebir mahremiyet hissinin arkasında çalışan denetim mekanizmalarının kullanıcılara yeterince açık biçimde anlatılmadığını vurguluyor.