MIT yapay zekanın kesin güvenlik kurallarına uymasını sağlayan yöntem geliştirdi
Öne çıkanlar
- HardFlow, akış eşleştirme modellerinde katı kuralları ara adımlarda değil yalnızca son çıktıda denetliyor.
- Yöntem, modellerin yeniden eğitilmesine gerek kalmadan mevcut sistemlere doğrudan uygulanabiliyor.
- Simülasyon testlerinin tamamında kuralları sağlayan algoritma henüz fiziksel robot donanımlarında denenmedi.
Massachusetts Teknoloji Enstitüsü (MIT) araştırmacıları, üretken yapay zeka modellerinin kesin güvenlik kurallarına uymasını sağlayan HardFlow adlı yeni bir algoritma geliştirdi. Çalışma, özellikle robotik, fiziksel süreç denetimi ve bilgisayarlı görü gibi sıfır hata toleransı gerektiren alanlara odaklanıyor. IEEE Transactions on Pattern Analysis and Machine Intelligence dergisinde yayımlanan yöntem, modelleri baştan eğitmeye gerek kalmadan mevcut sistemler üzerinde doğrudan çalışabiliyor.
Yeni algoritma, rastgelelikten başlayıp adım adım sonuca ulaşan akış eşleştirme (flow matching) modellerini bir kontrol problemi olarak yeniden kurguluyor. HardFlow, üretim sürecindeki her bir ara aşamayı kurala zorlamak yerine bu kısıtlamayı yalnızca nihai çıktıda denetliyor. Araştırmacılar, her adımda kural dayatmanın modelin arama alanını daraltarak çıktı kalitesini düşürdüğünü, son adımda yapılan denetimin ise kaliteyi korurken kurallara tam uyum sağladığını belirtiyor.
Simülasyon ortamında yapılan deneylerde robot kolunun engellerden kaçması, labirent navigasyonu, fiziksel sınır denetimi ve görsel düzenleme görevleri test edildi. HardFlow, karşılaştırılan altı yöntemin aksine tüm simülasyon testlerinde kuralları eksiksiz karşıladı ve daha hızlı yollar üretti. Öte yandan yöntemin henüz gerçek donanımlar üzerinde test edilmediği ve bağımsız laboratuvarlar tarafından henüz doğrulanmadığı bildirildi.
Bu özet yapay zekâ ile hazırlanmıştır; ayrıntılar ve doğrulama için orijinal kaynağa başvurun.