OpenAI yeni dil modeli GPT-2'yi kötüye kullanım riskleri nedeniyle kısıtladı

Yapay zeka araştırma kuruluşu OpenAI, ikna edici ve tutarlı metinler üretebilen yeni doğal dil modeli GPT-2'yi duyurdu ancak kötüye kullanım endişeleri nedeniyle sistemin tam sürümünü yayımlamadı. Şirket, internetten derlenen 40 gigabaytlık veri kümesiyle eğitilen modelin sonraki kelimeyi tahmin etme yeteneğinin önceki sürüme kıyasla çok daha uzun ve bağlamla uyumlu metinler oluşturduğunu açıkladı. Geliştirilen bu sistem, diyalog botları ve konuşma tanıma gibi yararlı alanların yanı sıra sahte haber üretimi ve kimlik taklidi gibi tehditleri de beraberinde getiriyor.

Kuruluş, modelin kötü niyetli kullanım potansiyelini gerekçe göstererek araştırmacıların erişimine yalnızca daha küçük ve sınırlandırılmış bir sürüm sundu. OpenAI tüzüğünde yer alan güvenlik ve emniyet endişelerine dikkat çeken yetkililer, gelecekte geleneksel araştırma yayımlama alışkanlıklarının daralabileceğini belirtti. GPT-2'ye verilen bir istemde sistemin geri dönüşümün zararlarına dair son derece ikna edici ve kapsamlı sahte gerekçeler üretmesi, kötü niyetli aktörlerin elinde yaratabileceği bilgi kirliliği riskini somutlaştırdı.

Sistemin kamuoyuna tam olarak açılmaması yapay zeka topluluğunda sert tartışmalara yol açtı. Kimi araştırmacılar ve kullanıcılar şirketi açık araştırma ilkesinden sapmakla ve adının aksine kapalı davranmakla suçlarken, bazı çevreler bu tedbiri etik açıdan sorumlu bir adım olarak değerlendirdi. OpenAI Politika Direktörü Jack Clark teknolojinin kötüye kullanımını engellemenin zor bir denge olduğunu ifade ederken, şirket nihai kararı altı ay sonra yeniden değerlendireceğini bildirdi.