AI agent guardrail'ları: sınırlar ve örnekler
AI agent guardrail'ları, bir AI agent'ın etrafındaki sabit sınırlardır ve bir hatayı küçük tutar. AI agent, sizin için görevleri yapay zekayla yürüten bir programdır. Guardrail'lar, ajanın neyi göreceğine, neyi yapabileceğine ve ne zaman bir kişiye devretmesi gerektiğine karar verir. İyi guardrail'lar yapay zekanın iyi davranmasına güvenmez. Yapay zeka bir şeyi yanlış yapsa bile geçerli kalırlar.
Talimat guardrail değildir
Bir şirket kartını düşünün. Bir çalışana "Lütfen 500 euronun üzerinde harcama yapma" diyebilirsiniz. Bu bir talimattır. Ya da banka karta 500 euro limit koyabilir. Bu bir guardrail'dır. Birincisi kişiye bağlıdır. İkincisi ne olursa olsun çalışır.
Ajanda da böyledir. Talimatlarındaki "yüzde ondan fazla indirim asla önerme" bir ricadır. Ajan buna neredeyse her zaman uyar. Guardrail ise ajan ne yazmış olursa olsun yüzde on iki indirimli bir teklifi durduran kontroldür. Talimatı da yazın, ama onu koruma saymayın.
Örneklerle dört tür guardrail
- Ne görür. Faturalama ajanı yalnızca faturalarla ilgili soruları alır. Siparişleri ve faturaları okuyabilir. Maaş bordrosunu okuyamaz.
- Ne yapabilir. Bir cevap hazırlayabilir. Gönderemez. Hiçbir şeyi silme imkanı yoktur.
- Ne kadar yapabilir. Tek seferde en fazla yirmi kayıt. Müşteri başına günde bir mesaj. İadeler yalnızca belirli bir tutara kadar.
- Ne zaman devreder. Bir müşteri avukattan, iptalden ya da bir kişiyle ilgili şikayetten söz ederse ajan dosyayı ekip liderine aktarır ve hiçbir şey yazmaz.
Tek bir ajan için bir guardrail seti
Müşteri taleplerine cevap taslağı hazırlayan bir ajan için tam bir set şöyle görünebilir.
- Yalnızca iletişim formundan gelen talepleri alır.
- O müşterinin siparişlerini ve önceki taleplerini, bir de yardım metinlerinizi okur. Başka bir şey değil.
- Bir taslak yazar. Gönderemez.
- Taslak, dayandığı yardım metnini ya da siparişi belirtmek zorundadır.
- Asla bir tarih, iade ya da fiyat değişikliği vaat etmez. Gerektiğinde kişi için işaretli bir boşluk bırakır.
- Okuduklarından cevap veremezse bunu söyler ve talebi iletir.
Altı kural ve her biri kontrol edilebilir. Hiçbiri ajandan "dikkatli olmasını" istemiyor.
İşe yarayan bir guardrail nasıl yazılır
- Evet ya da hayırla kontrol edilebilir. "100 euronun üzerindeki iadeler finansa gider" kontrol edilebilir. "İadelerde sağduyulu davran" edilemez.
- Sonra ne olacağını söyler. Dur, sor ya da adı belli bir role devret. Sadece engelleyen bir kural işi ortada bırakır.
- Bir gerekçesi vardır. Her kural, yaşanmış bir hataya ya da net hayal edebileceğiniz bir hataya dayanmalı.
- Biri ona bakar. Sınırlar ve listeler eskir. Bir kişi onları güncel tutar.
Kaç guardrail yeterli?
Sıkı başlayın ve ajan kendini kanıtladıkça adım adım gevşetin. Çok az guardrail ile tek bir kötü çalışma zarar verir. Çok fazlasıyla ajan her şeyi devreder ve ekibinizin eski iş yükü artı bir kuyruğu olur. Devirler işin küçük bir kısmıysa ve çoğunun gerekçeli çıktığı görülüyorsa denge doğrudur.
Worknano bunu nasıl çözüyor
Worknano'da bir ajanın neye ulaşabileceği iki yerden gelir: o ajana verdiğiniz araçlar ve soran kişinin rolü. Kayıtlardaki değişiklikler onaylanacak bir önizleme olarak görünür. Tutara bağlı sınırlar için onay zincirleri, yalnızca sizin seçtiğiniz bir tutarın üzerinde finans onayı gibi bir adım içerebilir. Workflow koşulları da hangi kayıtların bir ajana ulaşacağına karar verir.
- Roller ve izinler: her rol neyi görebilir ve yapabilir
- Approvals: zincirler, koşullar ve yükseltme
- Workflow'lar: bir ajan adımından önce koşullar
Ücretsiz bir workspace oluşturun ve kendi ajanınız için ilk sınırları koyun.