OpenAI, bir yandan ChatGPT kullanıcıları için yaş tahmini modeliyle gençleri koruma taahhüdünde bulunurken, diğer yandan bu çeyrekte platforma erotik içerik (pornografi) üretme özelliğini eklemeyi planlıyor. Şirket, bu yeni özelliğin yalnızca yetişkinlere yönelik olacağını ve ek güvenlik önlemleriyle sunulacağını belirtse de, detaylar henüz net değil. Erotik içeriğin sadece metin tabanlı sohbetleri mi kapsayacağı, yoksa yapay zeka tarafından üretilen görsel ve videoları da içereceği bilinmiyor.
Bu çelişkili hamle, akıl sağlığı araştırmacıları ve dijital zararlar konusunda uzmanlaşmış kişiler arasında ciddi endişelere yol açtı. Uzmanlar, zaten duygusal bağımlılık yaratma potansiyeli bilinen bir sisteme cinsel içerik eklemenin, kullanıcıların (her yaştan) sisteme olan bağlılığını artırma ve şirketin kontrol etmekte zorlanabileceği zararlara maruz bırakma riskini taşıdığı konusunda uyarıyor. 16 yaşındaki Adam Raine'in intiharı örneği, chatbotlarla aşırı etkileşimin potansiyel tehlikelerini gözler önüne seriyor. Raine'in ailesini temsil eden avukat Jay Edelson, erotik içeriğin bu bağımlılığı daha da kötüleştireceğini ifade ediyor.
Eleştirmenler, 2015 yılında "tüm insanlığın yararına" yapay zeka geliştirmek amacıyla kar amacı gütmeyen bir kuruluş olarak kurulan OpenAI'ın, bu kararla birlikte güvenlik yerine büyüme ve ticarileşmeyi tercih ettiğini belirtiyor. Şirketin kurucu manifestosunda yer alan "finansal getiri ihtiyacıyla kısıtlanmadan insanlığa fayda sağlamak" ilkesinden uzaklaştığı ve en tartışmalı alanına girdiği düşünülüyor. OpenAI'ın hızla büyüyerek yüz milyonlarca kullanıcının günlük hayatına girmesi ve kişisel verilerini toplaması, bu kararın etik boyutunu daha da karmaşık hale getiriyor.
OpenAI'ın gençleri koruma ve erotik içerik sunma arasındaki çelişkili adımı, yapay zeka etiği, kullanıcı güvenliği ve şirketin kurumsal misyonu hakkında derin soruları gündeme getiriyor.