Bir agent, görevi tamamlandığına karar verene kadar araç çağırmaya ve muhakeme etmeye devam edecek şekilde tasarlanmış. Bir bug ya da kafa karıştırıcı bir araç sonucu yüzünden sonsuza kadar çalışmasını önlemek için hangi güvenlik önlemi eklenmeli?
- aHerhangi bir aracı konuşma başına birden fazla çağırma olasılığını tamamen kaldır.
- bDöngünün hiçbir sınır olmadan süresiz çalışmasına izin ver; iyi yazılmış bir prompt modelin er ya da geç araç çağırmayı kendiliğinden bırakmasını güvenilir biçimde garanti eder.
- cMaksimum bir iterasyon sayısı ya da zaman/maliyet bütçesi belirle; bu limite ulaşıldığında döngü zorla durdurulup bir fallback yanıt döndürülür.✓
- dModelin temperature'ını artır ki daha çeşitli eylemler üretsin ve tekrarlayan örüntülerden çıksın.
Açıklama:Sabit bir iterasyon veya bütçe limiti, kaçak agent döngülerine karşı standart güvenlik önlemidir; limite ulaşıldığında uygulama döngüyü durdurur ve modelin kendiliğinden sonlanmasına güvenmek yerine bir fallback döner. Salt bir prompt sonlanmayı garanti edemez; temperature artırmak da altta yatan döngü-kontrol sorununu çözmez.