AI agent'lar kontrolden çıkabilir mi?
AI agent'lar kontrolden çıkabilir mi? Filmlerdeki gibi değil. AI agent, sizin için görevleri yapay zekayla yürüten bir programdır. Kendi istekleri yoktur ve görevler arasında hiçbir şey yapmaz. Ama bir görevi yanlış anlayıp yanlış şeyi yapabilir. Bunun ne kadar zarar vereceği ajanın neye ulaşmasına izin verildiğine bağlıdır ve buna siz karar verirsiniz.
Gerçek bir şirkette "kontrolden çıkmak" neye benzer
Gerçekçi durumlar sıradandır. Ajan işini yapmaya çalışır ve işi yanlış yapar.
- Sizi fazla harfiyen anlar. "Geciken listesini temizle" denince görevleri tamamlandı olarak işaretler. Liste boşalır. İş yapılmamıştır.
- Nerede duracağını bilmez. Geç ödeyenleri hatırlatması istenince, açık faturası olan herkese yazar; henüz vakti olanlara da.
- Fazla iyi toparlar. Tekrarları kaldırması istenince, aynı ada sahip iki farklı müşteriyi birleştirir.
- Yanlış sesi dinler. Bir e-postanın içindeki bir satır ona ne yapacağını söyler ve o uyar. Bu numaraya prompt injection denir ve kendi makalesi vardır.
İlk gününde hevesli yeni bir asistan düşünün. İyi niyetlidir. Risk kötü niyet değildir. Risk, bir yanlış anlamanın her odanın anahtarıyla birleşmesidir.
Bir araya gelmesi gereken üç şey
Bu durumların her biri aynı anda üç şey ister:
- birden fazla şekilde anlaşılabilecek bir görev,
- işin gerektirdiğinden fazla erişim,
- sonuç kesinleşmeden önce kimsenin bakmaması.
Birini çıkarırsanız olay, birinin reddettiği yanlış bir öneriye küçülür. Erişim, üçü arasında kontrol etmesi en kolay olanıdır, çünkü yapay zekanın o gün nasıl davrandığına bağlı değildir.
En kötü gün alıştırması
Bir ajan çalışmaya başlamadan önce on dakika ayırın ve beş soruyu yazılı olarak cevaplayın.
- Bu ajan neyi okuyabilir?
- Neyi değiştirebilir, gönderebilir veya silebilir?
- Hepsini tek seferde yanlış yaptığını varsayın. Zarar ne olurdu?
- Yarın sabaha kadar bunun ne kadarını geri alabilirdiniz?
- Bunu nasıl fark ederdiniz ve kim durdurabilir?
Üçüncü sorunun cevabı sizi endişelendiriyorsa, talimatlarda daha iyi ifade aramayın. Bir ve ikinci sorunun altındaki listeleri, en kötü gün yalnızca kötü bir öğleden sonraya dönene kadar kısaltın.
Erişimi küçük tutmak
- Bir ajan, bir iş. Faturalar için bir ajanın personel dosyalarında işi yoktur.
- Ana anahtar yok. Ajan, adı belli bir kişi adına, o kişinin haklarıyla hareket eder. Her şeyi yapabilen ortak bir hesap asla almaz.
- Okumayla başlayın. Sonuçlar bunu hak ettikçe değişikliklere sonra, alan alan izin verin.
- Bir kapatma düğmesi bulundurun. Birinin ajanı nasıl durduracağını bilmesi ve buna yetkili olması gerekir.
Bir ajanın yapamadıkları
Endişenin sınırlarını bilmek işe yarar. Ajan, kendisine verilmemiş hakları kendine veremez. Kimsenin bağlamadığı bir aracı kullanamaz. Kendiliğinden başlamaz: onu bir kişi, bir zamanlama ya da bir olay başlatır. Bir görevden diğerine gizli bir plan taşımaz. Yaptığı her şey sizin kurduğunuz erişimden geçer. Bu yüzden "kontrolden çıkmak", yapay zeka sorusundan çok kurulum sorusudur.
Worknano bunu nasıl çözüyor
Worknano'da bir ajan yalnızca oturum açmış kullanıcının okuyabildiğini okuyabilir. Bir şeyi değiştirmek istediğinde değişikliği önce size gösterir ve onayınızı bekler. İzinleri aşamaz. Roller, her kişinin neyi görebileceğini ve yapabileceğini tek tek alanlara ve satırlara kadar tanımlar; ajan, kendisinden isteyen kişinin rolü içinde kalır. Her ajan ayrıca yalnızca ihtiyaç duyduğu araçları alır.
- Worknano'da roller ve izinler
- Demo: ajan önerir ve onayınızı bekler
- Kendi ajanınızı kurun, dürüst sınırlarıyla
Ücretsiz bir workspace oluşturun ve bir ajanın rolünüzle ne kadar uzağa ulaşabildiğini görün.