Kimi K2.6 pokreće agente danima — i otkriva ograničenja orkestracije u preduzećima

Nekoliko provajdera modela, kao što su Anthropic sa svojim Claude Codeom i OpenAI sa Codexom, uvelo je ranu podršku za "agente dugog horizonta" (long-horizon agents) kroz zadatke u više sesija, podagente i pozadinsko izvršavanje. Međutim, ovi sistemi ponekad i dalje pretpostavljaju da agenti rade u okviru vremenski ograničenih tokova posla, čak i kada se izvršavaju tokom dužeg perioda.

Provajder AI modela otvorenog koda, Moonshot AI, želi da pomeri te granice svojim novim modelom, Kimi K2.6.

Moonshot navodi da je model dizajniran za kontinuirano izvršavanje, sa primerima interne upotrebe koji uključuju agente koji su radili satima, a u jednom slučaju i pet uzastopnih dana, autonomno upravljajući nadzorom (monitoringom) i odgovorom na incidente.

Međutim, rastuća upotreba ovog tipa agenata otkriva kritičnu prazninu u orkestraciji: većina orkestracijskih okvira nije dizajnirana za ovakav tip kontinuiranog, stateful izvršavanja (izvršavanja svesnog trenutnog stanja). Modeli otvorenog koda, poput Kimi K2.6, koji se oslanjaju na "rojeve agenata" (agent swarms), pokazuju da se njihov pristup uspešno približava upravljanju ovakvim agentima.

Teškoće pri orkestraciji dugotrajnih agenata

Dok bi neka preduzeća radije integrisala sopstvene okvire za orkestraciju u svoj agentski ekosistem, provajderi modela prepoznaju da nuđenje gotovog upravljanja agentima predstavlja veliku konkurentsku prednost.

Kimi K2.6 pristupa orkestraciji sa poboljšanom verzijom svojih "Rojeva agenata" (Agent Swarms), koji su sposobni da upravljaju sa do 300 podagenata koji "istovremeno izvršavaju preko 4.000 koordinisanih koraka", napisao je Moonshot AI u objavi na blogu. U poređenju sa Claude Code i Codex pristupima (gde glavni agent usmerava druge prema definicijama korisnika), K2.6 se oslanja na sam model, a ne na unapred definisane uloge, kako bi odredio orkestraciju.

Model Kimi K2.6 je sada dostupan na platformi Hugging Face, putem API-ja, Kimi Code-a i Kimi aplikacije.

Stručnjaci koji eksperimentišu sa dugoročnim agentima kažu da je krhkost orkestracije dublji problem nego što inženjering promptova može da reši. Maxim Saplin je u svom blogu istakao da je trenutno orkestracija "i dalje krhka i deluje više kao problem samog proizvoda i treninga, nego kao nešto što se može rešiti ispisivanjem dovoljno strogog prompta."

Glavni problem dugotrajnih agenata je održavanje njihovog stanja, posebno jer se njihovo okruženje stalno menja dok obavljaju zadatak (stalno pozivaju različite alate, API-je i baze podataka).

Mark Lambert, glavni direktor za proizvode u kompaniji ArmorCode, istakao je da rizik upravljanja već uveliko prevazilazi implementaciju:

"Ovi agentski sistemi sada mogu da generišu kod i sistemske promene brže nego što većina organizacija može da ih pregleda, ispravi ili da njima upravlja. Organizacijama će biti potrebno jače AI upravljanje pre nego što se to pretvori u akumulirani rizik."

Dugotrajni agenti bi takođe mogli rizikovati neuspeh bez jasne mogućnosti vraćanja na prethodno stanje (rollback), s obzirom na to da često nemaju jasno definisan set zadataka i dinamički prilagođavaju svoje planove tokom rada.

Kunal Anand iz kompanije F5 dodaje da je ovo ogroman arhitektonski pomak: "Prešli smo sa skripti na servise, zatim na kontejnere i funkcije, a sada prelazimo na agente kao trajnu infrastrukturu. To stvara kategorije za koje još uvek nemamo dobra imena."

Izvršavanje od 13 sati, pa čak i pet dana

Sposobnosti modela su počele da nadmašuju inovacije u orkestraciji. Moonshot tvrdi da je K2.6 izgradio kompletan SysY kompajler od nule za 10 sati — posao koji predstavlja ekvivalent radu tima od četiri inženjera tokom dva meseca — i uspešno je prošao svih 140 funkcionalnih testova bez ljudske intervencije.

Tim je takođe primenio K2.6 na složene inženjerske zadatke, uključujući kompletnu reviziju osmogodišnjeg open-source finansijskog endžina (matching engine). Inženjeri su opisali to 13-časovno izvršavanje koje je "iteriralo kroz 12 strategija optimizacije, pokrećući preko 1.000 poziva alata kako bi precizno izmenilo više od 4.000 linija koda."

Konačno, jedan od timova Moonshota koristio je K2.6 za izradu agenta koji je potpuno autonomno radio pet dana, uspešno upravljajući nadzorom, odgovorom na incidente i sistemskim operacijama.

Izvor: VentureBeat Većina okvira za orkestraciju napravljena je za agente koji se izvršavaju u trajanju od nekoliko sekundi ili minuta. Sada kada agenti rade satima — a u nekim slučajevima i danima — ti okviri počinju da pucaju pod pritiskom.