Human-in-the-loop: Kodėl pilna automatizacija be žmogaus priežiūros yra rizikinga?

Automatizacija ir dirbtinis intelektas (DI) keičia įmonių veiklos procesus visame pasaulyje, o Lietuva nėra išimtis. Vis dėlto, nepaisant automatizacijos naudos efektyvumui ir produktyvumui, pastebima auganti tendencija įdiegti "žmogaus priežiūros" (angl. human-in-the-loop, HITL) principą – metodą, kuris išlaiko žmogaus dalyvavimą automatizuotuose procesuose.

A

Šiuolaikinėje verslo aplinkoje, kurioje darbo jėgos trūkumas tampa vis aktualesnis iššūkis, visiškai automatizuoti procesai gali atrodyti patrauklūs, tačiau atsisakymas žmogiškosios priežiūros gali sukelti nemažai rizikos – nuo operacinių klaidų iki reputacijos žalos ir teisinių pasekmių.

Remiantis pasaulinėmis tendencijomis, automatizuoti procesai, kuriuose išlieka žmogaus priežiūra, yra ne tik saugesni, bet ir efektyvesni ilguoju laikotarpiu. Šiame straipsnyje nagrinėsime, kaip žmogaus-mašinos bendradarbiavimo modelis veikia Lietuvos kontekste, kokios grėsmės kyla įgyvendinant pilną automatizaciją be žmogiškojo faktoriaus ir kaip organizacijos gali efektyviai suderinti technologijas su žmogaus priežiūra.

Human-in-the-loop koncepcijos supratimas automatizacijos kontekste

Human-in-the-loop (HITL) koncepcija reiškia, kad nors procesas gali būti iš esmės automatizuotas, žmogaus dalyvavimas išlieka kritinis tam tikruose taškuose – stebint, analizuojant rezultatus ar priimant galutinius sprendimus. Tai kontrastuoja su visiška arba "lights-out" automatizacija, kur sistema veikia autonomiškai be jokios žmogiškos intervencijos.

Dabartinėje automatizacijos rinkoje, ypač robotizuotos procesų automatizacijos (RPA) ir dirbtinio intelekto srityse, HITL tampa ne pasirinkimu, bet būtinybe daugumoje kritinių procesų. Lietuvoje, kur skaitmeninė transformacija įgauna pagreitį, šis balansas tarp žmogaus ir mašinos tampa itin aktualus.

Realaus pasaulio pavyzdžiai – kada žmonių įsikišimas būtinas

Finansų sektoriuje, kuris yra vienas labiausiai automatizuotų Lietuvoje, vis dar reikalingas žmogaus įsikišimas daugelyje procesų.

A

Pavyzdžiui, skandinaviško kapitalo bankai Lietuvoje naudoja RPA sprendimus kasdienėms operacijoms, tačiau rizikos valdymo ir klientų poreikių vertinimo procesuose vis dar būtinas žmogaus vertinimas. Būta atvejų, kai automatizuotos sistemos "nepasirodydavo darbe" – automatizuotos užduotys būdavo neįvykdomos dėl netikėtų technologinių trikdžių.

Gamybos sektoriuje, kuris sudaro didelę dalį Lietuvos ekonomikos, kokybės užtikrinimo procesai vis dar reikalauja žmogiško dėmesio. Automatinės kokybės kontrolės sistemos gali aptikti akivaizdžius defektus, tačiau subtiliems kokybės niuansams įvertinti reikalinga žmogaus akis ir patirtis.

Sveikatos priežiūros dokumentacijos srityje, nors automatiniai dokumentų apdorojimo įrankiai tampa paplitę, galutinė medicininių įrašų verifikacija išlieka medicinos specialistų rankose. Tai ypač svarbu Lietuvos sveikatos sistemoje, kur informacinės sistemos vis dar neretai būna fragmentuotos.

Klientų aptarnavimo srityje matome, kad chatbotai perduoda sudėtingesnes užklausas žmogui-operatoriui. Lietuvos įmonės, įdiegusios automatizuotus klientų aptarnavimo sprendimus, pastebi, kad be sklandaus perdavimo mechanizmo tarp automatizuotos sistemos ir žmogaus, klientų pasitenkinimas mažėja.

Pilnos automatizacijos be žmogaus priežiūros rizikos

Visiškai automatizuoti procesai, kuriuose nėra žmogaus priežiūros, kelia keletą reikšmingų rizikų, kurios gali turėti rimtų pasekmių verslui. Šios rizikos apima ne tik technologinius, bet ir verslo, teisinį bei reputacinius aspektus.

Sistemos gedimų rizika

Be žmogiškosios priežiūros, automatizuotos sistemos gali susidurti su problemomis, kurios lieka nepastebėtos ilgą laiką. Pavyzdžiui, RPA sprendimuose "robotai" gali nustoti veikti dėl nedidelių pakeitimų naudojamose sistemose. Lietuvos įmonėse, ypač turinčiose senstančias IT sistemas, tokie gedimai gali sukelti reikšmingus veiklos sutrikimus.

Nepastebėtos klaidos linkusios kauptis laikui bėgant. Be žmogaus, kuris reguliariai peržiūrėtų automatizuotus procesus, viena maža sistemos klaida gali sukelti didesnių problemų grandinę, sukurdama tikrą "drugelio efektą", kuris gali paveikti visą organizaciją.

Dirbtinio intelekto "juodosios dėžės" problematika

Sudėtingi dirbtinio intelekto algoritmai dažnai veikia kaip "juodosios dėžės" – net jų kūrėjai negali visiškai paaiškinti, kaip priimami konkretūs sprendimai.

A

Be žmogaus priežiūros, šie algoritmai gali pradėti priimti šališkus arba neteisingus sprendimus, o organizacija to net nesupras.

Šis aspektas ypač probleminis finansiniame sektoriuje, kur algoritminiai sprendimai gali paveikti kredito vertinimus ar investicijų portfelius. Lietuvoje veikiančios finansų institucijos privalo užtikrinti, kad jų naudojami algoritmai nepažeistų ES ir vietinių reglamentų dėl skaidrumo ir diskriminacijos prevencijos.

Reguliavimo ir atitikties rizikos

Europoje, įskaitant Lietuvą, duomenų apsaugos, privatumo ir skaidrumo reglamentai tampa vis griežtesni. Bendrasis duomenų apsaugos reglamentas (BDAR) nustato griežtus reikalavimus duomenų tvarkymui, o dirbtinio intelekto reguliavimo sistema (AI Act) kels dar didesnius reikalavimus aukštos rizikos DI sistemoms.

Automatizuoti procesai be žmogaus priežiūros gali netyčia pažeisti šiuos reglamentus, ypač kai sistema priima sprendimus, kurie gali turėti teisinių pasekmių fiziniams asmenims. Lietuvos organizacijos, ypač dirbančios su jautriais duomenimis, rizikuoja didžiulėmis baudomis ir reputacijos žala.

Neigiama klientų patirtis

Pilnai automatizuoti klientų aptarnavimo sprendimai be galimybės perduoti užklausą žmogui gali sukelti klientų nepasitenkinimą. Lietuvos vartotojai, kaip ir daugelis europiečių, vertina asmeninį kontaktą ir galimybę išspręsti sudėtingesnes problemas bendraujant su žmogumi.

Šios rizikos ypač aktualizuojasi bankų, draudimo ir telekomunikacijų sektoriuose, kur klientų aptarnavimo kokybė tiesiogiai veikia verslo rezultatus ir klientų lojalumą.

Strateginis nelankstumus

Automatizuotos sistemos be žmogiškojo komponento stokoja kūrybiškumo ir adaptyvumo, būtino šiuolaikinėje greitai besikeičiančioje verslo aplinkoje. Žmonių gebėjimas interpretuoti netipines situacijas, kurti naujas idėjas ir prisitaikyti prie besikeičiančių aplinkybių išlieka nepakeičiamas.

Lietuvos įmonės, veikiančios konkurencingose rinkose, negali sau leisti prarasti šio strateginio lankstumo, kuris dažnai tampa konkurenciniu pranašumu.

Kritinių sektorių rizikos – teisinis ir etinis aspektas

Tam tikruose sektoriuose žmogaus priežiūra yra ne tik pageidautina, bet ir teisiškai ar etiškai būtina. Finansų sektoriuje, ypač kovos su pinigų plovimu procesuose, žmogaus vertinimas yra būtinas identifikuojant neįprastus sandorius ir atliekant išsamų patikrinimą.

Sveikatos priežiūroje, nors diagnostikos algoritmai tampa vis pažangesni, galutinį sprendimą dėl diagnozės ar gydymo plano turi priimti kvalifikuotas medicinos specialistas. Logistikos sektoriuje, kuris yra vienas Lietuvos ekonomikos variklių, automatizuotos sistemos gali optimizuoti maršrutus ir sandėlių valdymą, tačiau kritiniai sprendimai, ypač susiję su saugumu ar nenumatytomis aplinkybėmis, reikalauja žmogaus įsikišimo.

Human-in-the-loop kaip geroji praktika: efektyvumo ir saugumo balansas

HITL metodika nėra kliūtis automatizacijai – priešingai, ji leidžia sukurti saugesnę ir tvaresnę automatizacijos strategiją. Organizacijos, sėkmingai įdiegusios HITL principus, pasiekia geresnių rezultatų nei tos, kurios bando pilnai automatizuoti procesus be žmogiškojo elemento.

Dalinio automatizavimo "saldžioji vieta"

Efektyviausi automatizacijos sprendimai dažnai pasiekiami identifikuojant optimalų balansą: rutininės, pasikartojančios užduotys paliekamos robotams, o sprendimai, reikalaujantys vertinimo ar kūrybiškumo – žmonėms. Lietuvos įmonės, pradedančios automatizacijos kelią, turėtų atlikti išsamią procesų analizę, identifikuojant, kuriuose taškuose žmogaus priežiūra sukuria didžiausią vertę.

Pavyzdžiui, dokumentų apdorojimo procesuose RPA gali išgauti duomenis ir užpildyti sistemas, tačiau galutinį sprendimą dėl nestandartinių atvejų priima specialistas. Tokiu būdu pasiekiamas ir efektyvumas, ir kokybė.

Perkvalifikavimo ir įgūdžių tobulinimo poreikis

HITL metodikos įdiegimas reikalauja investicijų į darbuotojų perkvalifikavimą. Vietoj paprasčiausio darbuotojų pakeitimo robotais, organizacijos turėtų orientuotis į jų vaidmenų transformaciją – nuo rutininių užduočių atlikėjų iki sistemų prižiūrėtojų ir problemų sprendėjų.

Lietuvoje, kur skaitmeninių įgūdžių lygis vis dar atsilieka nuo ES vidurkio, investicijos į darbuotojų skaitmeninį raštingumą tampa strategine būtinybe. Organizacijos, kurios skiria dėmesį darbuotojų technologinių kompetencijų ugdymui, gauna dvigubą naudą – ir efektyvesnius procesus, ir motyvuotą darbo jėgą.

Gerosios praktikos įgyvendinant HITL

Sėkmingas HITL įgyvendinimas remiasi keliomis esminėmis praktikomis:

• Sluoksninės perspėjimo sistemos – automatizuotų procesų stebėsena su aiškiais perspėjimais, kai reikalingas žmogaus įsikišimas
• Išimčių valdymo procedūros – apibrėžti procesai, kaip elgiamasi su atvejais, kurių automatizuota sistema negali išspręsti
• Audito sekos – skaidrus automatizuotų sprendimų dokumentavimas, leidžiantis atsekti ir paaiškinti rezultatus
• Tarpdisciplininės komandos – IT specialistų, verslo procesų ekspertų ir galutinių vartotojų bendradarbiavimas kuriant ir prižiūrint automatizuotus sprendimus

Lietuvos organizacijos, sekančios šiomis praktikomis, sukuria brandesnius automatizacijos sprendimus, kurie ne tik didina efektyvumą, bet ir mažina riziką.

Pramonės asociacijų rekomendacijos

Tarptautinės ir nacionalinės IT ir automatizacijos asociacijos rekomenduoja įvairiapusį požiūrį į automatizaciją, kuriame žmogaus priežiūra išlieka centrine ašimi. Lietuvos skaitmeninės ekonomikos asociacijos pabrėžia poreikį kurti "žmogiškąjį skaitmeninimą" – procesų transformaciją, kurioje technologijos tarnauja žmonėms, o ne atvirkščiai.

ISO standartai, susiję su procesų automatizavimu ir dirbtinio intelekto naudojimu, taip pat akcentuoja žmogaus priežiūros svarbą, ypač sprendimų, galinčių turėti reikšmingų pasekmių, priėmime.

Lietuva automatizacijos amžiuje: tendencijos, iššūkiai ir ateities perspektyvos

Lietuva, kaip ir daugelis Baltijos regiono šalių, susiduria su specifiniais iššūkiais ir galimybėmis automatizacijos srityje. Demografinės tendencijos, įskaitant mažėjančią ir senėjančią darbo jėgą, kuria papildomą spaudimą įmonėms diegti automatizuotus sprendimus, tačiau tuo pačiu didina poreikį išmintingai derinti technologijas su žmogiškuoju kapitalu.

Lietuvos rinkos specifika

Lietuvos darbo rinkos ypatumai – aukštos kvalifikacijos IT specialistų prieinamumas, bet bendras demografinis nuosmukis – sukuria unikalią aplinką automatizacijai. Viena vertus, šalis turi stiprų technologinį potencialą kurti pažangius automatizacijos sprendimus. Kita vertus, darbo jėgos trūkumas didina spaudimą įmonėms maksimaliai automatizuoti procesus, kartais nepakankamai įvertinant žmogiškosios priežiūros svarbą.

Lietuvos gamybos sektorius, sudarantis reikšmingą BVP dalį, susiduria su intensyvia tarptautine konkurencija.

A

Automatizacija tampa būtinybe siekiant išlaikyti konkurencingumą, tačiau visiška automatizacija be žmogaus priežiūros gali apriboti lankstumą ir inovacijų galimybes.

Automatizacijos atotrūkis

Nors Lietuva pagal tam tikrus skaitmeninimo rodiklius lenkia ES vidurkį, automatizacijos srityje vis dar matomas atotrūkis nuo Vakarų Europos lyderių. Vidurinės ir mažos įmonės, sudarančios didžiąją Lietuvos verslo dalį, dažnai atsargiai vertina investicijas į automatizaciją, o tai lėtina bendrą skaitmeninę transformaciją.

Tačiau būtent tinkamas HITL metodikos įdiegimas gali padėti Lietuvai greičiau panaikinti šį atotrūkį. Vietoj bandymo kopijuoti pilnos automatizacijos modelius, kurie reikalauja didžiulių investicijų, Lietuvos įmonės gali pasirinkti protingesnį kelią – tikslingą automatizaciją su strategine žmogaus priežiūra.

Ateities perspektyvos ir rekomendacijos

Lietuva turi unikalią galimybę tapti regiono lydere "išmaniosios automatizacijos" srityje – kuriant sprendimus, kurie efektyviai derina technologijų galimybes su žmogaus priežiūra. Šio tikslo pasiekimui rekomenduojama:

• Investicijos į darbuotojų skaitmeninių įgūdžių ugdymą – parengti specialistus, gebančius efektyviai prižiūrėti ir valdyti automatizuotus procesus
• Valstybės parama automatizacijos projektams, kurie integruoja HITL principus – skatinant ne tik technologijų diegimą, bet ir darbuotojų perkvalifikavimą
• Sektorinis bendradarbiavimas – dalinimasis gerąja praktika ir patirtimi tarp skirtingų pramonės šakų
• Koncentracija į aukštos pridėtinės vertės sektorius – orientacija į sritis, kur Lietuva jau turi konkurencinį pranašumą (IT, fintech, biomedicina), diegiant pažangius, bet saugius automatizacijos sprendimus

Tokia strategija leistų Lietuvai išnaudoti automatizacijos teikiamas galimybes, išvengiant rizikų, susijusių su pernelyg greitu perėjimu prie pilnos automatizacijos be pakankamos žmogiškosios priežiūros.

Išvados

Human-in-the-loop metodika nėra tik laikinas kompromisas kelyje į pilną automatizaciją – tai strateginis požiūris, leidžiantis organizacijoms maksimaliai išnaudoti technologijų pranašumus, kartu išlaikant žmogaus vertinimo, kūrybiškumo ir atsakomybės privalumus. Pilna automatizacija be žmogaus priežiūros neša savyje reikšmingas rizikas – nuo operacinių klaidų iki teisinių pažeidimų ir reputacijos žalos.

Lietuvos organizacijos, siekiančios išlikti konkurencingos globalioje rinkoje, turėtų prioritetizuoti išmanų automatizavimą su integruota žmogaus priežiūra. Šis požiūris ne tik sumažina riziką, bet ir sukuria tvaresnį transformacijos modelį, kuriame technologijos tarnauja verslo ir visuomenės tikslams, o ne atvirkščiai.

Tikrasis automatizacijos potencialas atsiskleidžia ne pakeičiant žmones robotais, bet kuriant sinergiją tarp žmogiškojo intelekto ir mašininio efektyvumo. Organizacijos, kurios suvoks ir įgyvendins šį principą, įgis ilgalaikį konkurencinį pranašumą dinamiškoje skaitmeninėje ekonomikoje.

Dažniausiai užduodami klausimai (DUK)

Ką reiškia "human-in-the-loop" automatizacijos kontekste?

Tai sistemos projektavimo metodas, kuriame žmonės išlieka aktyviai dalyvaujantys stebint, prižiūrint ar priimant galutinius sprendimus, užuot perdavus visišką kontrolę algoritmams ar robotams.

Kokios didžiausios pilnos automatizacijos be žmogaus priežiūros rizikos?

Pagrindiniai pavojai apima nepastebėtas brangiai kainuojančias klaidas, sistemų gedimus, reguliavimo atitikties problemas, prastą klientų patirtį ir etinius pažeidimus.

Kuriems sektoriams labiausiai reikalingas žmogaus dalyvavimas automatizuotose procesuose?

Finansų, sveikatos priežiūros, logistikos ir klientų aptarnavimo sektoriai – visi, kuriuose klaidos gali turėti rimtų teisinių, saugumo ar finansinių pasekmių.

Kaip įmonės gali efektyviai įgyvendinti automatizaciją su žmogaus priežiūra?

Identifikuojant procesus, kuriuose būtinas žmogaus vertinimas, apmokant darbuotojus priežiūros vaidmenims ir nuolat audituojant automatizuotus darbo srautus.

Kodėl tai ypač svarbu Lietuvoje?

Dėl darbo jėgos trūkumo ir lėtesnio automatizacijos įsisavinimo, efektyvumo ir žmogaus priežiūros subalansavimas yra esminis veiksnys siekiant tvaraus konkurencingumo.