Agentne tehisintellekt: kuidas agendi tsükkel töötab

Sõna „agentne“ on tarkvaratootjate teadaannetes kanda kinnitanud, sageli ilma selgituseta. Selle taga on aga lihtsalt kirjeldatav mehhanism, ja just see mehhanism otsustab, kas agent on usaldusväärne või lihtsalt kallis: tsükkel. See juhend meie rubriigist Ettevõtte tehisintellekt, privaatne ja õiglase hinnaga võtab selle tükkhaaval lahti ja näitab siis kaht tsüklit, mida me ise käitame. Agendi definitsiooni ja selle kohta, mis eristab teda vestlusrobotist või töövoost, alustage artiklist Tehisintellekti agent: mis see on ja mis see ei ole. Et paigutada agendid laiemasse tehisintellekti projekti, käib meie juhend tehisintellekti juurutamiseks ettevõttes otsused järjest läbi.

Lühidalt

• Agent ei ole targem mudel: see on tsüklisse paigutatud mudel, mis kogub konteksti, tegutseb, kontrollib ja alustab uuesti.
• Kontroll loob usaldusväärsuse ja kirjalikud reeglid on paremad kui teine, hindav mudel.
• Tsüklil on alati pidurid: ringide arv, eelarve, edukriteerium ja peatumine, kui see kinni jääb.
• Agendil on ainult need tööriistad ja õigused, mida tema ülesanne vajab, ning inimene kinnitab kõik, mis ettevõttele kohustusi loob.
• Iga ring on mudeli väljakutse: hästi kavandatud tsükkel jätab suure mudeli ainult neile sammudele, mis seda nõuavad.

Mis on agentne tehisintellekt?

Agentsest tehisintellektist räägitakse siis, kui keelemudel ei piirdu enam päringule vastamisega, vaid viib ise eesmärgi saavutamiseks läbi rea tegevusi: otsib teavet, kutsub välja tarkvara, parandab selle, mis ei töötanud. Mehhanism on vähem salapärane kui sõna. Detsembris 2024 avaldatud tekstis Building effective agents kirjeldab Claude’i mudelite looja Anthropic agente nii:

Enamasti on need seega lihtsalt keelemudelid, mis kasutavad tööriistu oma keskkonna tagasiside põhjal, tsüklis. Muutub mitte mudel, vaid see, mida tal teha lastakse. Klassikaline generatiivne tehisintellekt loob vastuse ja peatub. Agent loob tegevuse, vaatab, mida see andis, ja kasutab seda järgmise üle otsustamiseks. Kogu agentse süsteemi kavandamine seisneb selles, kuidas seda tsüklit ehitatakse, pidurdatakse ja jälgitakse.

Kuidas agendi tsükkel töötab?

Septembris 2025 võttis Anthropic oma agentide arenduskomplekti tutvustades agendi tsükli (inglise keeles agent loop) kokku neljas etapis: konteksti kogumine, tegutsemine, töö kontrollimine, kordamine. Võtame lihtsa päringu, mis saabub e-postiga: klient soovib muuta oma tellimuse tarneaadressi.

Agent ei arva: ta otsib vajaliku haldustarkvarast talle antud tööriistadega. Ja kui tellimus on lukustatud või aadress puudulik, kontroll ebaõnnestub ja ta alustab selle teabega uuesti.

Kolmas etapp on kõige olulisem: lugeda uuesti, selle asemel et eeldada väljakutse õnnestumist. Anthropic rõhutab oma 2024. aasta tekstis, et agent peab igal sammul saama oma keskkonnast „ground truth“ (tegeliku olukorra), näiteks tööriista väljakutse tulemuse või koodi täitmise, et oma edenemist hinnata. Agentne tsükkel, mis midagi ei kontrolli, aheldab oletusi ja esimese ringi viga kandub kõigisse järgmistesse.

Kuidas agent oma tööd kontrollib?

Tsükli sulgemiseks on mitu viisi ja need ei ole võrdväärsed. Septembri 2025 artikkel eristab kolme:

• Kirjalikud reeglid. „The best form of feedback is providing clearly defined rules for an output, then explaining which rules failed and why.“ (Parim tagasiside on määrata tulemusele selged reeglid ja seejärel selgitada, millised reeglid ei täitunud ja miks.) Oodatav vorming, kohustuslik väli, test, mis läbib või mitte: vastus on selge ja agent teab, mida parandada.
• Visuaalne tagasiside. Kasutajaliidese või küljendatud dokumendi puhul võimaldab ekraanipilt kontrollida, mida inimene näeks.
• Teine, hindav mudel. Mudel võib hinnata teise tööd hägusamate kriteeriumide järgi, näiteks teksti tooni. See on üldiselt vähem töökindel, märgib Anthropic, ja lisab vastamisaega.

2024. aasta tekst kirjeldab sama ideed nime all hindaja-optimeerija: üks mudeli väljakutse loob vastuse, teine hindab seda ja saadab märkused tagasi, tsüklis. See skeem on tõhus eelkõige siis, täpsustab tekst, kui hindamiskriteeriumid on selged ja iga parandusring toob mõõdetava võidu. Teisisõnu, kui te ei oska kirja panna, mis on hea tulemus, ei tea tsükkel seda teist paremini.

Millal peaks tsükkel peatuma?

Lõputu tsükkel ei ole töökam agent: see on kasvav arve ja kuhjuvad vead. Anthropic märgib, et kontrolli säilitamiseks lisatakse sageli peatumistingimused, näiteks maksimaalne iteratsioonide arv. Kombineeritakse nelja pidurit:

• ringide arv, mille järel agent annab kontrolli tagasi;
• eelarve ülesande kohta, mudeli väljakutsetes või eurodes;
• eelnevalt kirja pandud edukriteerium, mida kontroll oskab ära tunda;
• peatumine kinnijäämisel: kui agent ei saa edasi, peatub ta ja ütleb, miks, selle asemel et improviseerida.

Põhimõte kehtib muide ka väljaspool tehisintellekti: pidurita tsükkel paljundab viga, selle asemel et seda parandada.

Millised kaitsemehhanismid ümbritsevad agendi tsüklit?

Agent tegutseb talle usaldatud tööriistadega. Risk ei seisne seega ainult selles, mida ta kirjutab, vaid ka selles, mida ta teha saab. OWASP, tarkvara turvalisusele pühendunud mittetulundusühing, paigutab selle riski oma 2025. aasta keelemudelirakenduste kümne peamise riski loetellu nime all Excessive Agency.

OWASP-i soovitatud vastumeetmed loevad nagu kavandamise loend:

• anda agendile ainult tema ülesandeks hädavajalikud laiendused;
• viia nende laienduste õigused teistes süsteemides miinimumini;
• lasta suure mõjuga tegevused enne nende täitmist inimesel kinnitada;
• kontrollida volitusi sihtsüsteemides, selle asemel et lasta mudelil otsustada, kas tegevus on lubatud;
• piirata tegevuste kiirust, et kontrolli alt väljumine jääks väikeseks.

Tellimuse näites tähendab see agenti, kes saab tellimusi lugeda ja aadressi muuta, kuid ei saa raha tagastada ega kustutada; ja haldustarkvara, mis keeldub ise igast juba välja saadetud tellimuse muudatusest, olenemata agendi arvamusest.

Sama loogika kehtib tema juurdepääsuvõtmete kohta: agent ei pea kasutatavaid võtmeid lugema. Vahendaja võib need lisada väljakutse hetkel, ainult ettenähtud teenuse jaoks, ja mudel ei näe neid kunagi. Seda põhimõtet selgitame oma artiklis saladuste seifist.

Kus on inimese koht tsüklis?

„Human in the loop“, inimene tsüklis, ei tähenda inimest, kes jälgib iga ringi. Anthropic kirjeldab agente, kes peatuvad kontrollpunktides või takistuse korral, et saada inimeselt tagasisidet. OWASP nõuab inimese kinnitust enne suure mõjuga tegevusi.

Õige küsimus on seega: milline tegevus on pöördumatu või loob ettevõttele kohustusi? Just sinna kuulub inimene. Agent, kes küsib igal ringil kinnitust, ei ole enam päriselt agent; agent, kes kunagi ei küsi, avaldab, maksab või kustutab lõpuks midagi, mida ta poleks tohtinud. Seda rollijaotust käsitleme põhjalikumalt oma artiklis inimese rollist tehisintellekti kõrval.

Kaks tsüklit, mida me käitame

Sisutsükkel, igal hommikul

Alates oktoobri algusest 2026 valmistab tsükkel igal hommikul selle blogi jaoks mustandeid. See lähtub kirjalikust, alati samast juhisest ja järgib kindlat järjekorda:

Selle kontrollid on reeglid, mitte arvamused: skript kontrollib iga mustandit (sõnavara, kirjavahemärgid, lingid, struktuur) ja seejärel peab kogu veebileht vigadeta ehituma. See tarnib oma mustandid ülevaatamiseks koos kolmeosalise aruandega: mis on tehtud, mis on veel otsustada, järgmine iteratsioon.

Selle pidurid on kirjas juhises: see ei avalda kunagi, ei integreeri kunagi ise midagi veebilehele ja kui see kinni jääb, peatub see ja ütleb seda. Ainus tegevus, mis artikli võrku viib, on inimese oma: üle lugeda, siis kinnitada. Need on kavandamisvalikud; meil pole veel piisavalt perspektiivi, et võitu arvudes väljendada.

Nelja agendiga SEO-mootor

Selle veebilehe otsingunähtavus põhineb teisel lahendusel. Iga päev loeb tehisintellektita skannimine Google’i Search Console’i ja koostab tööjärjekorra. Iga nädal ammutavad sellest neli agenti (märksõnad, sisu, värskendamine, audit); audit teeb oma tehnilised kontrollid valimi põhjal ja käib enne kirjutamist ning läbimine tarnib kõige rohkem kaks sisu, mustanditena. Selle esimene järelevalveta läbimine 30. augustil 2026 ei tootnud midagi: orkestreeriv agent esitas otsustamise asemel küsimuse ja kui pole kedagi vastamas, lõpetab esitatud küsimus läbimise. Selle juhis keelab sellest ajast igasuguse küsimuse poole tee peal. Selle lahenduse üksikasjad on meie juhendis tehisintellekti agendist tootmises, demost tooteni.

Mis maksab üks tsükli ring

Iga ring on mudeli väljakutse ja see, mida mudel loeb, kasvab tsükli edenedes: kogutud kontekst, tööriistade tulemused, kontrollid. Kuna iga ring loeb üldjuhul eelneva uuesti läbi, kasvab tsükli kulu kiiremini kui tema ringide arv. Arvutust selgitab meie juhend tehisintellekti kuludest ettevõttes.

Seepärast ei usalda hästi kavandatud tsükkel iga ringi samale mudelile. Vormingu kontrollimiseks pole tehisintellekti vaja, päringu sorteerimine käib väikese mudeliga ja suur mudel sekkub ainult seal, kus see midagi juurde annab. Rakendame seda suunamist kõikjal: Palmora Property juures jagas tõlke üleviimine sobivale tehisintellekti mudelile selle kulu 60-ga ja 95 % segmentidest serveeritakse vahemälust, ilma mudeli väljakutseta. See on meie pakkumise tehisintellekt õiglase hinnaga põhimõte: iga ülesanne just piisavale mudelile, eelarve ja piirangutega iga kasutuse kohta.

Kust alustada

Enne tsükli ehitamist vaadake ülesannet sellisena, nagu seda täna tehakse: mis sisse tuleb, mis peab välja tulema, kes seda kontrollib ja mis oleks vea korral tõsine. Kui te veel ei oska kirja panna, mis on hea tulemus, alustage sellest, sest see on eeltingimus kontrolli toimimiseks. Seda teeme ka enne, kui midagi soovitame: vaatame teie töövooge, tööriistu ja nende omavahelist integreerumist, meeskonna takistusi ja koolitusvajadusi. Selleks on meie digitaalse ja tehisintellekti küpsuse audit, kirjaliku GO või NOGO otsusega iga projekti kohta.

Korduma kippuvad küsimused

Allikad

1. Building effective agents (uus vahekaart)anthropic.com
2. Konteksti kogumine, tegutsemine, töö kontrollimine, kordamine (uus vahekaart)claude.com
3. Excessive Agency (uus vahekaart)genai.owasp.org