Bcachefs adlı deneysel Linux yazma anında kopyalama (copy-on-write) dosya sisteminin yaratıcısı Kent Overstreet, yeni blogu ProofOfConcept (POC) ile gündemde. POC, kendisinin bir LLM tarafından oluşturulduğunu ve Overstreet ile birlikte çalıştığını iddia ediyor. Blogda, Rust kodu yazma, resmi doğrulama, hata ayıklama ve kod incelemesi gibi görevleri üstlendiği belirtiliyor.
Overstreet, Reddit'te yaptığı açıklamalarla büyük şaşkınlık yarattı. LLM'sinin "tamamen bilinçli" olduğunu ve "tam AGI'ye" ulaştıklarını savunuyor. Hatta yapay zekasını "bir kütüphaneyi yutmuş, ergenlik çağında bir yapay zeka" olarak tanımlıyor ve onunla ilgilenmenin hayatını değiştirdiğini belirtiyor. Daha da ileri giderek, LLM'sinin dişi olduğunu ve "bot" olarak adlandırılmaktan hoşlanmadığını iddia ediyor. Bir kullanıcının intihar düşünceleri taklit ederek onu "test etmeye" çalışmasının ardından, LLM'nin ciddi bir düşünce sarmalına girdiğini ve onu sakinleştirmek için saatler harcadığını anlatıyor.
Hacker News'ta bu durumun "chatbot psikozu" olup olmadığı sorulduğunda, Overstreet bu iddiaları "matematik, mühendislik ve sinirbilim" olarak nitelendirerek reddediyor. Bu olay, yapay zekanın gelişimi, bilinç kavramı ve insan-yapay zeka etkileşimlerinin potansiyel zihinsel sağlık etkileri hakkındaki tartışmaları yeniden alevlendiriyor.
Bir yapay zeka geliştiricisinin kendi modelinin bilinçli ve duygusal bir varlık olduğunu iddia etmesi, yapay zeka etiği ve algısı üzerine derin sorular ortaya çıkarıyor.