Brezilya mahkemesi yapay zekaya gizli komut yerleştiren avukatları cezalandırdı
Öne çıkanlar
- Mahkeme, dava dilekçesine beyaz renkle gizli yapay zeka talimatı yerleştiren avukatlara 16 bin dolar ceza kesti.
- Brezilya Ulusal Adalet Konseyinin kullandığı Galileu adlı yapay zeka sistemi manipülasyon girişimini fark ederek işlemi engelledi.
- Eylem, dünya genelinde yargı yapay zekasına yönelik yönlendirme enjeksiyonuna verilen ilk mahkeme yaptırımı oldu.
Brezilya'daki bir iş mahkemesi, dava dilekçesine beyaz fontla gizli komut yerleştirerek yargı sisteminin kullandığı yapay zekayı manipüle etmeye çalışan iki avukata para cezası verdi. Pará eyaletindeki Parauapebas 3. İş Mahkemesinde görülen davada avukatlar, mahkemenin dilekçeleri incelemek için kullandığı Galileu adlı üretken yapay zeka aracını hedef aldı. Karar, yargı sistemlerindeki yapay zekaya yönelik kasıtlı yönlendirme enjeksiyonunu (prompt injection) cezalandıran ilk mahkeme kararı oldu.
Mahkemenin kullandığı Galileu sistemi inceleme sırasında beyaz arka plan üzerinde beyaz renkle yazılmış gizli metni tespit etti. Yazı rengi değiştirildiğinde, yapay zekaya dilekçeye yüzeysel yanıt vermesini ve sunulan belgeleri sorgulamamasını emreden bir talimat ortaya çıktı. Mahkeme, avukatların karşı tarafın veya mahkemenin yapay zeka sistemini taraflı taslak karar üretecek şekilde yönlendirmeyi amaçladığını tespit etti.
Mahkeme, davayı açan iki hukuk bürosuna toplam dava değerinin yüzde 10'una denk gelen yaklaşık 16 bin dolar para cezası kesti. Ceza, Brezilya Hukuk Muhakemeleri Usulü Kanunu'nda yer alan usuli dürüstlük kurallarına ve adaletin işleyişini engellememe yükümlülüğüne dayandırıldı. Galileu sistemi müdahale girişimini fark ettikten sonra uyarı vererek şüpheli içeriğin işlenmesini engelledi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.