Anthropic lansează Message Threads: conversații AI mai rapide

De ce sesiunile lungi încetineau agenții?

Anthropic a pus la dispoziția dezvoltatorilor, în public beta, o nouă funcționalitate numită Message Threads pentru API-ul său. Schimbarea vizează direct agenții AI, eliminând necesitatea de a retransmite istoricul complet al conversației la fiecare cerere.

Odată inițializat, sistemul trimite doar mesajele noi. Rezultatul? O latență redusă semnificativ pentru sesiunile lungi.

Compania anunță o scădere de aproximativ 35% a timpului de așteptare în cazurile de conversații foarte lungi. Prețurile și limitele de rată rămân neschimbate. Dezvoltatorii pot activa funcția direct din API. Actualizarea se concentrează pe eficiența agenților autonomi care mențin un stadiu persistent.

Până acum, agenții trebuiau să retrimită întregul istoric al chatului la fiecare solicitare. Această redundanță crea un transfer de date inutil.

Pe măsură ce conversațiile se prelungiau, overhead-ul creștea considerabil. Message Threads elimină această repetiție. Sistemul urmărește contextul server-side, iar clienții trimit doar ultima intrare a utilizatorului.

Cum schimbă asta dezvoltarea agenților?

Ciclul cerere-răspuns devine astfel mult mai fluid.

Anthropic subliniază că funcția este gândită pentru workload-uri de agenți cu volum ridicat.

Ea reduce utilizarea benzii de frecvență și timpul de procesare. Beta este disponibilă acum pentru utilizatorii API. Nu se introduc costuri noi, iar limitele existente se aplică ca înainte.

Dezvoltatorii care construiesc agenți multi-turn vor observa interacțiuni mai rapide. Scăderea timpilor de așteptare îmbunătățește experiența utilizatorului. De asemenea, costurile de infrastructură pentru conversațiile susținute scad. Funcția susține fluxuri de lucru complexe, în care agenții își amintesc schimburile anterioare. Acest aspect este critic pentru boturile de suport clienți și asistenții de codare.

Cum reduceti latenta cu Message Threads?

Faza de beta permite testarea înainte de lansarea completă.

Feedback-ul va modela îmbunătățirile viitoare. Anthropic poziționează această mișcare ca un pas cheie către arhitecturi de agenți scalabile.

Modifică Message Threads prețurile API? Nu, prețurile și limitele de rată rămân aceleași.

Cât de mai rapide sunt sesiunile lungi? Anthropic raportează o latență cu aproximativ 35% mai mică pentru conversațiile foarte lungi.

Cine poate folosi Message Threads? Dezvoltatorii care construiesc agenți AI prin API-ul Anthropic pot accesa public beta.