Intel'in x86/x64 işlemcileri için hazırladığı kılavuzlar, fsin (trigonometrik sinüs hesaplama) komutunun yuvarlama modunda en fazla bir birim hata payına sahip olduğunu belirtir. Ancak bu iddia, gerçeklikten çok uzaktır. Küçük giriş değerleri için fsin komutunun en kötü durumdaki hatası aslında son basamakta yaklaşık 1.37 kentilyon birimdir ve bu da sonucun yalnızca dört bitinin doğru olduğu anlamına gelir. Makalenin yazarı bu şok edici hatayı, pi sayısının dört hassasiyetli bir tahminini elde etmek için kullandığı bir matematiksel özdeşlik üzerinde çalışırken keşfetmiştir. Bu teknik, sinüs fonksiyonunun pi'ye yakın bir sayının sinüsünün, pi tahminindeki hataya neredeyse eşit olması prensibine dayanır.
Yazar, bu tekniği denerken VC++'ın sin() fonksiyonunun yeterince doğru olduğunu, ancak pi'nin 33 basamaklı çıktısını alamadığı için alternatif olarak 32-bit Linux üzerindeki g++'ı denediğini belirtiyor. Ancak g++'ın 2.15 glibc sürümündeki sin() fonksiyonunun fsin komutunu kullandığını ve bu komutun giriş pi'ye yakın olduğunda son derece hatalı sonuçlar verdiğini fark etti. Bu durum, "felaket iptali" olarak bilinen bir hesaplama hatası türünden kaynaklanmaktadır. Trigonometrik fonksiyonların hesaplanmasındaki ilk adım olan aralık indirgeme, özellikle pi civarındaki değerler için yüksek hassasiyet gerektirir. Intel'in belgelerindeki bu büyük tutarsızlık, geliştiricilerin yanlış kararlar almasına yol açmıştır.
Neyse ki, yazar bu bulguları Intel ile paylaştığında, şirket hızlı bir şekilde harekete geçmiş ve belgelerin düzeltileceğini taahhüt etmiştir. Bu olay, işlemci komutlarının doğruluğunun ve belgelerinin ne kadar kritik olduğunu bir kez daha gözler önüne sermektedir.
Temel bir işlemci komutunun belgelendirilmiş hata payının gerçek değerinden katrilyonlarca kat daha az gösterilmesi, yazılım geliştirme ve bilimsel hesaplamalarda ciddi yanlışlıklara yol açabilecek potansiyel bir risk oluşturmaktadır.