Blog
Ne ölçtük, ölçüm ne gösterdi ve bu yüzden neyi değiştirdik. Önce sayılar, sonra sebep.
- · GNL ekibi
Exactly-once mı, at-most-once mı? Bir AI ajanının tool çağrısı gerçekte neyi vaat edebilir
Exactly-once tool çağrısı hedef gibi görünür. Süreç dışındaki bir etki için hiçbir kütüphane bunu tek başına vaat edemez. Vaat edilebilen şunlar, ve bunların ne zaman exactly-once'a vardığı.
Yazıyı oku → - · GNL ekibi
Bir Postgres'e bir milyon ajan çalıştırması koyup her ekranı ölçtük
Mesaj göndermek 20 ms civarında kaldı. Bir kişiyi silmek 90 saniye, onay kutusu 23 saniye sürdü; yeni bir thread depodaki bütün çalıştırmaları okudu. Yavaş durumların hepsinin sebebi aynıydı, çözümün türü de.
Yazıyı oku → - · GNL ekibi
0.14.0'ı durduran sürüm kapısı: iki ay saklanan bir Postgres hatası
Bir test yaklaşık on çalıştırmada bir kırılıyordu; yalnızca en_US.utf8'de, yalnızca yeni başlamış bir süreçte. Gerçek bir hataydı, Ağustos'tan beri koddaydı ve sürüm, düzeltilene kadar çıkmayı reddetti.
Yazıyı oku → - · GNL ekibi
Ajanın çökerse ne olur?
İş baştan başlar, bir e-posta iki kez gider, verilen onay kaybolur. Her birinin bir çözümü var. Tek bir anın ise çözümü yok, yalnızca dürüst bir cevabı var.
Yazıyı oku → - · GNL ekibi
Tek satır, üçte bir indirim: prompt önbelleğini ücretli anahtarla ölçtük
Tek bir önbellek anahtarıyla dört koşudan üçü, 1.964 açılış token'ının 1.792'sini önbellekten okudu. Deneyin tamamı yarım sentten az tuttu. Bize kendi teşhisimizin kaçırdığı bir durumu da gösterdi.
Yazıyı oku → - · GNL ekibi
Temelinden dayanıklı, tam bir agent framework'ü
Dayanıklılık sonradan eklediğimiz bir eklenti değil. GNL'in diğer her paketi bu çekirdeğin üstünde duruyor. Hepsini kullan ya da yalnızca çekirdeği — ve birinden ötekine adım adım geç.
Yazıyı oku →