AI agent'lar neden bu kadar yavaş ve ne hızlandırır?
AI agent'lar yavaştır, çünkü tek seferde cevap vermezler. AI agent, sizin için bir görevi yapay zekayla yürüten bir programdır ve turlar hâlinde çalışır: okur, karar verir, bir şeye bakar ve yeniden başlar. Her tur birkaç saniye sürer. Ajanın okuyacağı şey azaldığında ve görevi netleştiğinde beklemenin çoğu ortadan kalkar.
Ofisten bir benzetme
İlk gününde bir geçici çalışan düşünün. Şunu soruyorsunuz: "İki haftadır hangi müşterilerle iletişime geçmedik? Her birine kısa bir not yaz." Çalışan dosya dolabına yürür, geri gelir, notlarını baştan okur, yeniden dolaba yürür ve böyle devam eder. Dolabı açmak hızlıdır. Zamanı yürümek, yeniden okumak ve yazmak alır.
Ajan da aynı şekilde çalışır. Verinizde bir şeye bakmak hızlıdır. Okumak ve yazmak yavaştır ve ajan her turda ikisini de yeniden yapar.
Zaman nereye gidiyor: tek istek, adım adım
İletişim kurulmamış müşterilerle ilgili aynı isteği alalım. Bir cevap görmeden önce olanlar şunlar.
- Ajan talimatlarını ve sorunuzu okur.
- Açık anlaşmalara bakmaya karar verir ve müşteri sisteminizden onları ister.
- Liste gelir. Bu genellikle en hızlı kısımdır.
- Ajan listeyi okur ve her anlaşma için son iletişimi bilmesi gerektiğini görür. Onlara bakar, çoğunlukla birbiri ardına.
- Her şeyi yeniden okur: talimatlar, soru ve şimdiye kadarki bütün sonuçlar.
- Notları kelime kelime yazar.
Verinize birkaç hızlı soru soruldu. Yapay zeka dört beş kez çağrıldı ve her seferinde okuyacağı şey arttı. Hemen her yavaş ajanın arkasındaki düzen budur: çok tur ve her turda çok metin.
Dört yaygın neden
- Belirsiz bir görev. "Kastettiğim anlaşmayı bul" ajanın etrafı taramasına yol açar. Her ek bakış tam bir tur tutar.
- Okunacak çok şey. Bütün belgeler ve uzun geçmişler her turda yeniden okunur.
- Uzun bir cevap. Yazmak, yapay zekanın yaptığı en yavaş şeydir. Bir sayfa metin, tek satır gerekçeli bir evet ya da hayırdan çok daha uzun sürer.
- Görevin gerektirdiğinden güçlü bir yapay zeka. En yetenekli yapay zeka modelleri daha geç cevap verir. Basit bir kontrol nadiren birine ihtiyaç duyar.
Bir ajanı ne hızlandırır
- Nereden başlayacağını tam söyleyin. "Bu anlaşma", "anlaşmalarımızdan biri"nden daha hızlıdır.
- Dosyayı değil, bölümü verin. Önemli üç paragraf, otuz sayfadan daha hızlı okunur.
- Kısa bir cevap isteyin. Bir kategori, bir tarih ve bir cümle hızlı yazılır.
- Basit işler için hızlı bir yapay zeka modeli kullanın. Güçlü olanı çok adımlı görevlere saklayın.
- Sabit adımları ajandan alın. Her zaman aynı olan her şey, anında çalışan basit bir kurala aittir.
Yavaşlığın önemli olmadığı durumlar
Hız, bir kişi sohbetin başında bekliyorsa önemlidir. Ajan arka planda çalışıyorsa çok daha az önemlidir. Yeni bir talep geldikten bir dakika sonra ayrılıyorsa, o dakikayı kimse fark etmez. O yüzden önce kimin beklediğini sorun. Bütün müşteri listesini gözden geçirmek gibi uzun işler geceleri çalışabilir ya da bir şey değiştiğinde kendiliğinden başlayabilir. Sonuç, insanlara gerektiğinde hazır olur.
Worknano bunu nasıl çözüyor
Worknano'da ajanlar ve asistan, metni anlamına göre bulan anlamsal aramayı kullanır. Yalnızca önemli bölümleri okurlar, bu yüzden cevaplar daha hızlı gelir. Her ajanın kendi model ayarı vardır: hızlı bir model kısa kontrollere, dengeli bir model birkaç adımlı görevlere uyar. Ajanlar bir kayıt değiştiğinde ya da bir zamanlamaya göre kendiliğinden de çalışabilir; böylece uzun işler kimseyi bekletmez. Denetim günlüğü her ajan çalışmasının ne kadar sürdüğünü kaydeder ve hangisini iyileştirmeniz gerektiğini gösterir.
- Tüm işinizde anlamsal arama
- Worknano'da AI agent'lar
- Kendi ajanınızı kurun: model, araçlar ve talimatlar
Ücretsiz bir workspace oluşturun ve bir ajanın kendi kayıtlarınızda ne kadar sürdüğünü ölçün.