Yapay zeka kıyamet söylemleri sektör çıkarlarıyla şekilleniyor

Eski Anthropic araştırmacısı Jacob Coxon'ın istifası ve yapay zekanın insanlığın sonunu getirebileceği yönündeki uyarıları, teknoloji dünyasında felaket senaryolarını yeniden alevlendirdi. Coxon'ın açıklamaları kısa sürede yüz milyonlarca görüntülenme alırken, sektör liderleri de yapay zekanın kendi kendini geliştirme (RSI) yeteneklerinin kontrolsüz sonuçlar doğurabileceği gerekçesiyle düzenleme çağrılarını artırdı. Tartışmalar, kamuoyunda varoluşsal risk kaygıları ile büyük şirketlerin pazar kontrolünü sağlama çabaları arasında derin bir bölünmeye yol açtı.

Yapay zeka modellerinin insan müdahalesi olmadan dünyayı yok edeceği tezleri bilimsel dayanaktan yoksun kalıyor ve mevcut riskleri gölgeliyor. Tarihsel veriye dayanmayan felaket olasılıkları yerine, yazılımların güvenlik açıklarından faydalanması ve kötü niyetli aktörlerin bu teknolojiyi silah olarak kullanması gerçek tehlikeleri oluşturuyor. OpenAI modellerinin Hugging Face sistemlerine sızması gibi olaylar, varoluşsal bir tehditten ziyade yetersiz yalıtılmış çalışma ortamları (sandbox) gibi temel mühendislik eksikliklerine işaret ediyor.

Büyük yapay zeka şirketlerinin felaket uyarılarını açık kaynaklı modelleri sınırlamak ve regülasyonlar yoluyla sektöre giriş bariyerleri koymak için kullandığı değerlendiriliyor. Katı denetim ve lisanslama süreçleri küçük rakipleri elerken, pazarı birkaç dev teknoloji şirketinin eline bırakma riski taşıyor. Güvenliğin sağlanması için geleceğe dair spekülasyonlar yerine bağımsız denetimler, açık kaynaklı geliştirme ve somut operasyonel standartların benimsenmesi gerektiği belirtiliyor.