Human-in-the-loop: kodėl AI agentui reikia žmogaus patvirtinimo

Human-in-the-loop (HITL) — tai darbo modelis, kai AI agentas atlieka užduotis automatiškai, bet svarbiuose ar negrįžtamuose taškuose sustoja ir laukia žmogaus patvirtinimo, prieš veiksmui įvykstant. Tai nėra automatizacijos trūkumas, o jos saugiklis: agentas daro nuobodų ir pasikartojantį darbą, o žmogus priima retus, bet brangius sprendimus — ten, kur klaida kainuotų pinigus, reputaciją ar teisinę atsakomybę. Praktiškai tai atrodo paprastai: agentas paruošia sprendimą, parodo jį žmogui, ir tik gavęs patvirtinimą jį įvykdo.

Daug kas įsivaizduoja, kad tikslas — visiškas autopilotas, kur žmogaus nebelieka nė vienoje vietoje. Realiame versle tai dažniausiai klaida. Ne todėl, kad agentai per silpni, o todėl, kad ne visų klaidų kaina vienoda. Toliau — kur dėti patvirtinimo tašką, kur jo nereikia, ir kaip tai įdiegti nesugriaunant automatizacijos naudos.

Kas yra patvirtinimo taškas ir kada jis įsijungia

Patvirtinimo taškas (angl. checkpoint) — tai vieta agento darbo eigoje, kur jis sustabdo veiksmą ir perduoda sprendimą žmogui. Agentas iki to momento gali būti atlikęs dešimt žingsnių savarankiškai: surinkęs duomenis, palyginęs kainas, suformulavęs atsakymą. Sustojimas įvyksta tik prieš tą vieną žingsnį, kuris turi realių pasekmių išorėje.

Esmė — atskirti darbą nuo sprendimo. Darbas yra mechaninis: perskaityti, sugretinti, paruošti. Jį agentas atlieka greičiau ir nuosekliau nei žmogus. Sprendimas yra atsakomybės momentas: paspausti „siųsti”, „pervesti”, „paskelbti”. Human-in-the-loop palieka darbą mašinai, o atsakomybę — žmogui. Todėl tai nėra pusinė automatizacija — tai automatizacija su aiškiai nubrėžta riba.

Ši riba ypač svarbi ten, kur veikia ne vienas, o keli agentai iš eilės. Jei kiekvienas jų veiktų visiškai savarankiškai, viena ankstyva klaida tyliai keliautų per visą grandinę ir pasirodytų tik gale — jau kaip išsiųstas laiškas ar pakeista kaina. Patvirtinimo taškas nutraukia šią grandinę ten, kur klaidą dar pigu pastebėti.

Kuriuos veiksmus tvirtinti, o kuriuos leisti automatiškai

Nereikia sudėtingos rizikos matricos. Beveik visus atvejus padengia du klausimai apie kiekvieną veiksmą: ar jį galima atšaukti, ir ar jį mato kas nors už įmonės ribų. Jei veiksmas negrįžtamas arba matomas išorėje — dėk patvirtinimą. Jei jis vidinis ir lengvai atšaukiamas — leisk agentui veikti pačiam.

Pavyzdys iš Amazon operacijos. Kainodaros agentas gali visiškai savarankiškai stebėti konkurentus ir atsargas — tai skaitymas, jokios rizikos. Bet pats kainos pakeitimas jau turi ribą: kol tvarka nusistovėjusi ir ribos apibrėžtos, nedidelius pokyčius agentas gali daryti pats, o didesnius nei nustatyta riba — teikti žmogui patvirtinti. Taip išvengiama scenarijaus, kur klaida algoritmo logikoje per naktį nuleidžia kainą žemiau savikainos. Apie tokią Amazon automatizaciją plačiau rašome Amazon paslaugų puslapyje.

Kodėl visiškas autopilotas dažniausiai yra klaida

Autopilotas atrodo patrauklus, nes žada nulį žmogaus laiko. Problema ta, kad jis optimizuoja ne tą dalyką. Tikslas nėra „nulis žmogaus dalyvavimo” — tikslas yra „minimalus dalyvavimas maksimaliam saugumui”. Tai du skirtingi dalykai.

Klaidos kaina asimetriška. Šimtas teisingų automatinių veiksmų sutaupo laiko, bet vienas neteisingas viešas ar finansinis veiksmas gali tą taupymą suvalgyti iš karto — klaidingas laiškas klientų sąrašui, netyčia ištrinti duomenys, per naktį iškreipta kaina. Kadangi agentas veikia greitai ir masiškai, klaida taip pat išplinta greitai ir masiškai. Patvirtinimo taškas yra būtent ta vieta, kur greitis sąmoningai stabdomas mainais į kontrolę.

Yra ir antra priežastis — pasitikėjimas. Klientas, partneris ar tavo paties komanda greičiau priims automatizaciją, kai žino, kad negrįžtamų veiksmų neįvyksta be žmogaus. Tai ne techninis, o žmogiškas argumentas, bet versle jis dažnai svarbesnis. AI paruošia žaliavą, bet pasitikėjimą kuria žmogaus sprendimas likti grandinėje ten, kur svarbu.

Kaip patvirtinimo tašką įdiegti praktiškai

Praktinis įgyvendinimas paprastesnis, nei skamba. Agentas paruošia sprendimą ir siunčia jį žmogui per kanalą, kurį šis ir taip tikrina — el. paštą, Telegram ar vidinę lentelę. Žinutėje būna viskas, ko reikia sprendimui: ką agentas siūlo, kodėl, ir mygtukas arba komanda „patvirtinti / atmesti”. Tik gavęs atsakymą agentas tęsia.

Vienas svarbus patarimas — grupuok patvirtinimus. Jei agentas trukdo žmogų po kiekvieno veiksmo, human-in-the-loop virsta erzinančiu ir žmogus pradeda tvirtinti nežiūrėdamas, o tada saugiklis nebeveikia. Geriau, kad agentas per dieną sukauptų sprendimus ir pateiktų juos vienu paketu — žmogus peržiūri visus per vieną prisėdimą, ne visą dieną po vieną. Taip išsaugomas ir laikas, ir dėmesys.

Antra — patvirtinimo taškų neturi būti per daug. Jei tvirtinti reikia viską, tai nebe automatizacija, o rankinis darbas su papildomu tarpininku. Grįžk prie dviejų klausimų: negrįžtama ar matoma išorėje? Tik tokie veiksmai verti sustojimo. Visa kita — automatiškai. Būtent taip statome AI agentų ir automatizacijos sprendimus: agentas dirba savarankiškai, o žmogaus patvirtinimas įdedamas tik ten, kur klaida realiai brangi.

Nuo ko pradėti

Jei tik pradedi statyti pirmą agentą, nepradėk nuo visiško autopiloto. Pradėk nuo modelio, kur agentas viską paruošia, bet nieko neišsiunčia ir nekeičia be tavo „taip”. Kelias savaites stebėk, kur jo sprendimai patikimi, o kur klysta. Ten, kur per tą laiką klaidų nebuvo ir kaina maža, patvirtinimą gali nuimti — taip autonomiją didini pamažu ir įrodymu, ne pasitikėjimu iš anksto.

Šis pamatinis principas — mašina daro darbą, žmogus priima brangius sprendimus — tinka bet kuriam procesui, ne tik agentams. Jei nori, kad tokią saugią, patvirtinimo taškais apsaugotą sistemą tau padėtų suprojektuoti ir pastatyti, pažiūrėk, ką apima AI diegimo paslaugos, arba užsakyk nemokamą konsultaciją. Daugiau praktinių gidų apie AI agentus ir automatizaciją — Žinių bazėje.