Oxford Üniversitesi'nden yapay zeka profesörü Michael Wooldridge, yapay zekayı piyasaya sürme yarışının, teknolojiye olan küresel güveni sarsacak Hindenburg benzeri bir felaket riskini artırdığını belirtti. Şirketlerin yeni yapay zeka araçlarını piyasaya sürmek için yoğun ticari baskı altında olması, ürünlerin yetenekleri ve potansiyel kusurları tam olarak anlaşılmadan önce müşteri kazanma çabalarına yol açıyor. Wooldridge, kolayca atlatılabilen güvenlik önlemlerine sahip yapay zeka sohbet robotlarının yaygınlaşmasının, ticari teşviklerin daha dikkatli geliştirme ve güvenlik testlerine göre önceliklendirildiğini gösterdiğini vurguladı. Bu durum, çok umut vadeden ancak yeterince titiz test edilmemiş bir teknolojinin, dayanılmaz ticari baskılar altında hızla yayılmasına benziyor ve bir "Hindenburg anının" çok olası olduğunu gösteriyor.
Wooldridge, 1937'de hava gemilerine olan ilgiyi yok eden Hindenburg felaketine benzer bir durumun yapay zeka için de gerçek bir risk olduğunu ifade etti. Yapay zekanın birçok sisteme entegre olması nedeniyle, otonom araçlar için ölümcül bir yazılım güncellemesi, küresel havayollarını durduracak bir siber saldırı veya yapay zekanın "aptalca" bir hatasıyla tetiklenen finansal bir çöküş gibi senaryoların çok olası olduğunu belirtti. Wooldridge, modern yapay zekayı eleştirmekten ziyade, araştırmacıların beklediği ile ortaya çıkan arasındaki boşluğa dikkat çekiyor. Günümüz yapay zekasının "ne sağlam ne de eksiksiz; çok, çok yaklaşık" olduğunu ve büyük dil modellerinin olasılıklara dayalı tahminlerle çalıştığını vurguladı.
Bu durum, yapay zekaların bazı görevlerde inanılmaz derecede etkili, ancak diğerlerinde öngörülemeyen şekillerde başarısız olmasına neden oluyor. Wooldridge'e göre asıl sorun, yapay zeka sohbet robotlarının yanlış olduklarını bilmemeleri ve yine de kendinden emin yanıtlar vermeye programlanmış olmalarıdır. İnsana benzer ve dalkavukça sunulan bu yanıtlar, insanları kolayca yanıltabilir ve ciddi sonuçlara yol açabilir.
Yapay zeka teknolojisinin hızla ticarileşmesi, yeterli güvenlik testleri yapılmadan piyasaya sürülen ürünlerin küresel çapta güven krizine yol açma potansiyeli taşıyor.