AI ve Otomasyon
Human-in-the-loop
Otomasyon çalışsa da kritik kararlarda insan onayını veya müdahalesini sürecin içinde tutan yaklaşım.
Hızlı bakış Otomasyonun tek başına koşmasına izin vermeyip insan kontrolünü devrede tutmak.
Bu maddeyi kısa ve net hatırlamak istersen başlangıç noktası burası.
Mini örnek Gönderim öncesi onay
Bir ajanın taslağı hazırlayıp e-postayı insan onayı olmadan göndermemesi human-in-the-loop örneğidir.
Kısa tanım
Human-in-the-loop, kritik adımlarda insanın onay, düzeltme veya durdurma hakkını koruyan çalışma modelidir.
Basit anlatım
Otomatik pilot açık olsa da iniş kararını yine kaptanın vermesi gibi.
Ne zaman kullanılır?
- Dış dünyaya mesaj, ödeme veya yayın gidecekse
- Hata maliyeti yüksekse
- Güvenlik ve itibar riski olan işlemler varsa
Dikkat edilmesi gerekenler
- İnsan adımı çok geç eklenirse risk çoktan büyümüş olabilir
- Onay noktaları net tanımlanmalıdır
- Her şeyi insana bırakmak da otomasyonun değerini azaltır; denge gerekir
İlgili başlıklar
agent, tool calling, prompt injection