Geçtiğimiz günlerde Hacker News'te Apple Research'ün açık kaynak MLX makine öğrenimi framework'ü üzerine yapılan bir tartışmada, Apple Neural Engine (ANE) hakkında "Apple'ın sattığı en büyük dolandırıcılık 'özelliği'" gibi iddialar ortaya atıldı. Bu tür söylemler yaygın olsa da, ANE'nin gerçek amacı ve kullanım alanları genellikle göz ardı ediliyor. Apple, ANE'yi 2017'de iPhone X ile tanıttı. Bu devre, özellikle nicelenmiş, ileri beslemeli sinir ağlarını çıkarım (inference) için çalıştırmaya adanmıştır. Temel amacı, gelişmiş işletim sistemi (OS) işlevselliğini sağlamak ve Face ID gibi özellikleri desteklemekti. İlk uygulaması 0.6 TOPS (saniyede trilyon işlem) sunarken, güç verimliliği ön planda tutuldu. Zamanla 35 TOPS'a kadar çıkan performansıyla, ANE hiçbir zaman büyük modellerin eğitimi için tasarlanmadı, ancak sistem özellikleri için düşük güç tüketimiyle yeterli NN operasyonları sunmayı hedefledi.
Günümüzde ANE, Apple ekosisteminde birçok kritik görevi üstleniyor. Yeni çekilen fotoğraflardan veya web'de gezinirken görsellerden metin ve konu çıkarma işlemleri ANE sayesinde gerçekleşiyor. Örneğin, fotoğraf arşivinizde bir metin parçasını arayabilir veya Safari'de görsellerdeki metinleri kopyalayabilirsiniz. "Hey Siri" komutundan sonra ses işleme ve metin okuma (TTS) görevleri de ANE tarafından yürütülüyor. Ayrıca, bazı üretken yapay zeka (genAI) özellikleri, hesaplamalı fotoğrafçılık ve hatta odaklanılacak konuyu belirleme gibi işlevler de ANE donanımıyla destekleniyor. Tüm bu işlemler, pil ömrü üzerinde ihmal edilebilir bir etkiyle ve CPU veya GPU çekirdeklerinin diğer görevleri yerine getirmesini engellemeden gerçekleşiyor.
Apple'ın ANE'yi öncelikli olarak işletim sistemi tarafından kullanılacak bir donanım olarak tasarladığı açıktır; üçüncü taraf uygulamalar başlangıçta birincil odak noktası değildi. 2018'de CoreML aracılığıyla sınırlı durumlarda ANE'den yararlanma imkanı sunulsa da, işletim sistemi kendi ihtiyaçları için yeterli kapasiteyi sağlamak amacıyla üçüncü taraf erişimini kısıtlamaktadır. MLX'in ANE'yi doğrudan kullanmamasının nedeni de budur; ANE'ye erişimin tek genel yolu CoreML üzerinden model oluşturmak ve çalıştırmaktır.
Apple Neural Engine, cihaz içi yapay zeka işlemlerini düşük güç tüketimiyle mümkün kılarak Apple ekosisteminin temel bir bileşeni haline gelmiştir.