Hindistan Yüksek Mahkemesi, bir alt mahkeme yargıcının yapay zeka tarafından üretilmiş sahte kararları kullanarak bir mülkiyet anlaşmazlığına hükmettiğinin ortaya çıkması üzerine yasal sonuçlar doğurabileceği uyarısında bulundu. Olay, yargı sürecinin bütünlüğünü doğrudan etkilediği gerekçesiyle "kurumsal bir endişe" kaynağı olarak nitelendirildi. Andhra Pradeş eyaletindeki bir davada, bir yargıç, bir mülkiyet anlaşmazlığıyla ilgili kararında dört sahte yasal karara atıfta bulunmuştu. Bu kararların daha sonra yapay zeka tarafından oluşturulduğu anlaşıldı ve sanıklar karara itiraz etti.
Eyalet yüksek mahkemesi, atıfta bulunulan kararların sahte olduğunu kabul etse de, alt mahkeme yargıcının hatayı "iyi niyetle" yaptığını belirtti. Yüksek mahkeme, yargıcın doğru hukuk ilkelerini değerlendirmesi halinde, yalnızca yanlış veya var olmayan atıfların kararı iptal etmek için yeterli bir gerekçe olamayacağına hükmetti. Yargıç, yapay zeka aracını ilk kez kullandığını ve atıfların gerçek olduğuna inandığını ifade etti. Yüksek mahkeme ayrıca "yapay zeka üzerinde gerçek zekanın kullanılması" gerektiğini savundu.
Ancak sanıkların temyiz başvurusu üzerine devreye giren Hindistan Yüksek Mahkemesi, yapay zekanın etkileri konusunda daha az hoşgörülü davrandı. Yüksek Mahkeme, sahte kararların kullanılmasını sadece "karar verme hatası" değil, aynı zamanda bir "suistimal" eylemi olarak nitelendirdi. Alt mahkemenin mülkiyet anlaşmazlığına ilişkin kararını durdurdu ve bu durumun yargı sürecinin güvenilirliği açısından ciddi kurumsal endişeler taşıdığını vurguladı. Bu olay, yapay zekanın yargı sistemleri üzerindeki potansiyel risklerini bir kez daha gözler önüne serdi.
Yapay zeka araçlarının yargı süreçlerinde denetimsiz kullanımının, hukuki kararların güvenilirliğini ve adaletin temel prensiplerini ciddi şekilde tehlikeye atabileceğini gösteriyor.