Bir LLM, konuşma sırasında 'tool calling' (araç çağırma) yaptığında gerçekte ne olur?
- aModel, hangi aracı kullanmak istediğini belirten yapılandırılmış bir istek (araç adı + argümanlar) üretir; bu aracı asıl çalıştıran ve sonucu geri veren uygulamadır.✓
- bModel, aracın kodunu kendi çalışma zamanında doğrudan çalıştırır ve sonucu konuşmaya döndürür.
- cModel konuşmayı duraklatır ve sağlayıcının sunucularında aracı otomatik olarak, uygulamadan hiçbir kod olmadan çalıştırır.
- dModel, aracın network endpoint'ini uygulamayı hiç devreye sokmadan kendisi çağırır.
Açıklama:Model kendisi kod çalıştırmaz veya network çağrısı yapmaz — sadece yapılandırılmış bir niyet (araç adı + argümanlar) üretir. Bu niyeti parse edip gerçek aracı çalıştırmak ve sonucu geri beslemek uygulamanın sorumluluğundadır. b, c ve d şıkları modele sahip olmadığı bir execution yeteneği atfediyor.