Human-in-the-Loop Nedir?

İnsan döngünün neresinde olmalı?

Yapay zeka sistemleri hızla daha fazla iş üstleniyor: e-posta yanıtlıyor, içerik yayımlıyor, reklam bütçesi ayarlıyor, müşteri iadelerini değerlendiriyor. Bu işlerin hepsinde insan onayı istemek sistemi yavaşlatır; hiçbirinde istememek ise bir hatanın yüzlerce kez tekrarlanmasına yol açabilir. Human-in-the-loop yaklaşımı, onayı en çok değer kattığı noktalara yerleştirmeyi hedefler.

Genel kural basittir: İşlemin geri alınabilirliği azaldıkça ve etkisi büyüdükçe insan onayı o kadar önemlidir. Bir ürün açıklaması taslağı hatalıysa düzeltilir; ama yanlış kişiye gönderilen bir e-posta ya da yanlış yapılan bir ödeme geri alınamaz. AB Yapay Zeka Yasası da yüksek riskli sistemlerde, bu sistemleri kullanan kişilerin çıktıları anlayıp gerektiğinde müdahale edebilmesini zorunlu tutar.

Sayılarla bir örnek: Bir yapay zeka sistemi günde 300 müşteri yorumuna yanıt taslağı hazırlıyor. Tüm yanıtları tek tek onaylamak bir çalışanın günde birkaç saatini alır. Ekip, olumlu yorumlara verilen yanıtları otomatik yayımlıyor; şikâyet, iade talebi ya da sağlık ve güvenlik içeren yorumlara verilen yaklaşık 45 yanıtı ise onaya gönderiyor. İlk ay otomatik yayımlanan yanıtlardan rastgele 50 tanesi de ayrıca kontrol ediliyor.

İnsan denetimi düzeyleri

Onay noktaları, teknik güvenlik sınırlarının en önemli parçalarından biridir.

Onay noktalarını belirlemek

1. İşlemleri listele. Yapay zekanın yaptığı ya da yapacağı tüm işlemleri çıkar.
2. Risk puanı ver. Her işlemi geri alınabilirlik, etki büyüklüğü ve yasal risk açısından değerlendir.
3. Eşik belirle. Tutar, müşteri segmenti ya da içerik türüne göre onaya gidecek durumları tanımla.
4. Onayı kolaylaştır. Onaylayan kişiye yapay zekanın gerekçesini ve kaynaklarını tek ekranda göster.
5. Düzeltmeleri kaydet. İnsanların yaptığı değişiklikleri toplayıp istemleri ve kuralları iyileştirmek için kullan.

İnsan onaylı sistemlerde yaygın sorunlar

• Otomatik onaylama alışkanlığı: Yüzlerce doğru öneriden sonra onaylayan kişi dikkatini kaybedip her şeyi onaylamaya başlayabilir.
• Yanlış yerde onay: Düşük riskli işlerde onay istemek ekibi yorar, yüksek riskli işler ise gözden kaçar.
• Bağlamsız onay: Onaylayan kişi, yapay zekanın hangi bilgiye dayandığını göremiyorsa sağlıklı karar veremez.
• Sorumluluk belirsizliği: Onaylanan bir hatada sorumluluğun kimde olduğu önceden tanımlanmalıdır.
• Onay kuyruğunun birikmesi: Onaya giden iş sayısı ekibin kapasitesini aşarsa işler bekler ve ekip denetimi atlamaya başlar; eşikler kapasiteye göre ayarlanmalıdır.

Sıkça sorulan sorular

Human-in-the-loop yasal bir zorunluluk mu?

AB'de yüksek riskli sistemler için insan denetimi zorunludur; ayrıntılar AI Act maddesinde. Diğer kullanımlarda ise iyi uygulama ve risk yönetimi gereğidir.

İnsan onayı yapay zekanın faydasını azaltmaz mı?

Doğru yerleştirildiğinde azaltmaz. Onay yalnızca riskli işlemlerde istenir; geri kalan işler hızla ilerler.

Yapay zekayla üretilen içerik yayımlanmadan önce insan kontrolünden geçmeli mi?

Kamuya açık içerikte bu güçlü bir tavsiyedir. İnsan kontrolü hem doğruluğu hem de marka güvenini korur; sorumlu yapay zeka yaklaşımının da temel parçasıdır.

Yüksek riskli sistemlerde insan denetimi yükümlülüğü için tüzüğün resmi metnine bakabilirsin: EUR-Lex: Regulation (EU) 2024/1689.

Yapay zekayla hazırlanan içeriklerde insan katkısının kaynak gösterilme şansına etkisini GEO ve yapay zeka SEO rehberinde ele aldım.