Amerikalı sosyolog Richard Sennett'e göre, zanaatkarlar kullandıkları malzemeyle derin bir 'materyal bilinci' geliştirirler. Bu, fiziksel (ahşap, taş) veya soyut (yazılım, araştırma) olabilir ve dokunma, deneme, düzeltme, direnç hissetme ve 'düşünen eller' aracılığıyla edinilen bir bilgi biçimidir. Makineleşme, bu materyalle aramızdaki mesafeyi artırabilir; örneğin, kodlama işini bilgisayara bırakan bir yazılım geliştiricisi, yazılım koduyla olan hissini kaybeder.
Bu durum, yazılım mühendisleri için büyük bir öneme sahiptir. Kodlama, iş bağlamını tam olarak kavramanın, sistemin nasıl bir araya geldiğini, sınırlarının ne olduğunu ve nelerin mümkün olduğunu öğrenmenin temel yoludur. Programlama sayesinde mühendisler, yeni olasılıkları keşfedebilir ve yeni fikirlerin uygulanabilirliğini değerlendirebilirler. Ancak, yapay zeka kodlama görevini üstlendiğinde, bu bilgi katmanı hem kullanıcılar hem de yazılım mühendislerinin kendileri için ortadan kalkar. Ürün, adeta bir kara kutuya dönüşür.
Yapay zeka ajanını yönlendirme konusunda yeni bir zanaatkarlık ortaya çıkabilir, ancak bu, yapılan işin derinlemesine bilgisine sahip olmayı sağlamaz. Sonuç olarak, "Bilgisayar hayır diyor" ifadesi daha sık duyulur hale gelecek ve bu 'hayır'ın nedenini açıklayabilecek insan kalmayacaktır. Bu durum, yazılım geliştirme süreçlerinde şeffaflık ve problem çözme yeteneği açısından ciddi sorunlara yol açabilir.
Yapay zekanın kodlama süreçlerine entegrasyonu, yazılım mühendislerinin sistemle olan derin bağını zayıflatarak ürünlerin birer kara kutuya dönüşmesine ve problem çözme yeteneğinin azalmasına neden olabilir.