AI agenti izlaze iz laboratorija
Autonomni AI agenti u godinu dana prošli su put od eksperimentalnih igračaka do ozbiljnog poslovnog alata. Riječ je o sustavima koji mogu samostalno planirati zadatke, pozivati druge alate i donositi odluke bez stalnog ljudskog nadzora. Za razliku od klasičnih chatbotova, agenti ne odgovaraju samo na upite, već upravljaju cijelim procesima.
U praksi to znači automatizirane sustave za korisničku podršku koji sami otvaraju i zatvaraju tikete. Softverske “robote” koji naručuju robu, prate zalihe i optimiziraju logistiku. Agente koji pišu, testiraju i deployaju kod u razvojnom okruženju. Granica između tradicionalnih aplikacija i agentičkih sustava ubrzano se briše.
Istovremeno, Europska unija ulazi u ključnu fazu primjene EU AI Acta. Taj je propis zamišljen kao okvir za upravljanje rizicima umjetne inteligencije. No upravo agenti pokazuju koliko je teško postojeća pravila doslovno primijeniti na nove, izrazito dinamične AI arhitekture.
EU AI Act i logika rizika
EU AI Act temelji se na procjeni rizika. Definira zabranjene sustave (primjerice određene oblike socijalnog bodovanja), visokorizične sustave (npr. u zdravstvu, zapošljavanju, obrazovanju), sustave ograničenog rizika te opće modele. Za svaku razinu propisane su obveze proizvođača i korisnika – od dokumentacije i testiranja do nadzora i transparentnosti.
Model je zamišljen relativno linearno: postoji jasno definirani sustav, poznati pružatelj (provider), poznati implementator ili korisnik (deployer) i razumno stabilno ponašanje modela. Kod klasičnih aplikacija ili usluga u oblaku takav pristup funkcionira. No agentičke arhitekture donose novu složenost.
Složeni agentički ekosustavi
Tipičan agent danas nije jedan model, već cijeli ekosustav. U pozadini se najčešće nalazi veliki jezični ili multimodalni model. Iznad njega je orkestracijski sloj koji odlučuje što će se dalje dogoditi: hoće li agent postaviti dodatno pitanje korisniku, pozvati interni API, pristupiti bazi podataka ili pokrenuti drugi specijalizirani model.
Na to se nadovezuje niz povezanih poslovnih servisa: ERP i CRM sustavi, e‑mail serveri, sustavi za naplatu, data lakeovi, pa čak i IoT uređaji u industriji. Agenti mogu čitati i mijenjati podatke, otvarati naloge, slati ponude ili inicirati transakcije. Često rade u petljama – uče iz vlastitih interakcija, prilagođavaju tok rada i improviziraju nove korake.
Istraživači upozoravaju da takva “složena agentička okruženja” ne stanu lako u regulatorne kategorije EU AI Acta. Pitanja se gomilaju: tko je stvarni provider – proizvođač temeljnog modela, tvrtka koja je izgradila orkestracijski sloj, ili organizacija koja je sve to spojila s vlastitim sustavima? Tko je deployer ako isti agent radi u više okruženja? Gdje počinje, a gdje završava visokorizični dio sustava?
Dodatni problem je dokumentiranje ponašanja. Klasični modeli mogu se opisati kroz skup funkcija i očekivanih izlaza. Agent koji kombinira više servisa i uči iz povratnih informacija ponaša se više kao organizam nego kao statički softver. To otežava dokazivanje usklađenosti i planiranje kontrola.
Od formalne usklađenosti do stvarnih ograda
Za europske tvrtke to znači da usklađenost s EU AI Actom više nije samo pitanje popunjavanja tehničke dokumentacije ili dodavanja oznake da je sadržaj generirao AI. Ako agent može samostalno inicirati e‑mail prema klijentu, mijenjati podatke u CRM‑u ili pokretati financijske transakcije, nužne su stvarne, tehnički provedive “ograde”.
U praksi se izdvajaju nekoliko ključnih mehanizama:
Granularne dozvole i uloge
Agent ne bi smio imati “administratorski” pristup svim sustavima. Potrebno je definirati precizne uloge i dozvole: koje tablice u bazi podataka smije čitati, koje polja u CRM‑u smije mijenjati, koje tipove transakcija smije inicirati i do kojeg iznosa. Uloga agenta treba biti tretirana slično kao uloga zaposlenika u sustavu upravljanja identitetima (IAM).
Dvofaktorsko odobravanje kritičnih radnji
Za visokorizične radnje – primjerice odobravanje kredita, promjenu statusa pacijenta ili veću financijsku transakciju – agent može pripremiti prijedlog, ali konačnu odluku treba potvrditi čovjek. To se može riješiti kroz dvofaktorsko odobravanje: agent inicira radnju, a odgovorna osoba je potvrđuje putem posebnog sučelja ili aplikacije.
Kontinuirani nadzor i logiranje
Umjesto povremenih revizija, agentički sustavi zahtijevaju kontinuirani nadzor. Svi koraci agenta trebaju biti logirani: ulazni podaci, pozvani alati, odluke orkestracijskog sloja i konačni izlazi. Na temelju tih logova moguće je pratiti odstupanja od očekivanog ponašanja, ali i dokazati regulatorima da sustav radi unutar zadanih granica.
Specijalizirani AI governance alati
Na tržištu se već pojavljuju alati za AI governance. Oni služe kao svojevrsni “kontrolni toranj” za agente: prate odluke, uspoređuju ih s internim pravilima, provode automatizirane kontrole (npr. zabrana slanja određenih tipova podataka e‑mailom) i generiraju izvještaje za potrebe usklađenosti. Za organizacije koje planiraju širu primjenu agenata, ovakvi alati postaju ključna infrastrukturna komponenta.
Posebni izazovi: osobni i osjetljivi podaci
Najosjetljivije područje su agenti koji rade s osobnim i osjetljivim podacima. U zdravstvu, financijama ili javnoj upravi, EU AI Act se preklapa s GDPR‑om, NIS2 direktivom i sektorima specifičnim pravilima. Tu je prostor za pogrešku minimalan.
Za takve sustave ključan je pristup privacy by design i security by design. To znači da se zaštita privatnosti i sigurnost ne dodaju naknadno, već su ugrađene u arhitekturu od prvog dana.
U praksi to uključuje:
- strogu kontrolu koje kategorije podataka agent smije vidjeti i u kojem obliku (pseudonimizacija, anonimizacija gdje je moguće)
- jasne logove koji omogućuju rekonstruiranje svakog koraka: koji je podatak korišten, u kojem kontekstu i prema kojem internom pravilu
- mehanizme za ispunjavanje prava korisnika iz GDPR‑a, poput prava na pristup, ispravak ili brisanje podataka, i kada je dio odluke donio agent
- segmentaciju okruženja, kako bi se smanjio rizik od širenja incidenta između različitih agentičkih modula
Čak i ako je temeljni model certificiran ili klasificiran kao sustav nižeg rizika, cijeli agentički sustav može završiti u kategoriji visokog ili neprihvatljivog rizika zbog načina na koji se koristi. Regulatori će gledati cjelinu: kombinaciju modela, orkestracije, podataka i poslovnog konteksta.
Što slijedi: smjernice, standardi i sandboxovi
U sljedećih 12 do 24 mjeseca očekuje se pojava prvih detaljnih smjernica i tehničkih standarda posebno za AI agente. Europska komisija i nacionalna tijela već najavljuju regulatorne sandboxove – kontrolirana okruženja u kojima se mogu testirati novi AI sustavi uz blisku suradnju s regulatorima.
Za agentičke sustave to bi moglo značiti:
- jasnije definicije uloga providera i deployera u višeslojnim arhitekturama
- standardizirane metode za dokumentiranje ponašanja agenata i njihovih tokova rada
- preporučene tehničke kontrole za različite razine rizika, od jednostavnih pomoćnih agenata do onih koji donose odluke s pravnim učinkom
- minimalne zahtjeve za logiranje, audit i objašnjivost odluka u agentičkim okruženjima
Za europsku AI zajednicu to je istovremeno izazov i prilika. Timovi koji već sada počnu graditi agentičke sustave s jasnom podjelom odgovornosti, ugrađenom transparentnošću i mogućnošću nadzora, bit će u prednosti kada EU AI Act u potpunosti stupi na snagu.
Od crnih kutija do digitalnih suradnika
Dugoročni smjer razvoja ide prema agentima kao provjerljivim digitalnim suradnicima, a ne kao netransparentnim crnim kutijama. To podrazumijeva nekoliko ključnih principa dizajna:
- dnevnik rada – svaki agent ima detaljan, strojno čitljiv i ljudima razumljiv trag aktivnosti
- jasne granice ovlasti – eksplicitno je definirano što agent smije, a što ne smije raditi, uz mogućnost brzog povlačenja ovlasti
- modularnost – agent je podijeljen na manje, specijalizirane module čije je ponašanje lakše testirati i certificirati
- nadogradivost – sustav je dizajniran tako da se može prilagoditi novim regulatornim zahtjevima bez potpunog redizajna
U tom okviru, EU AI Act ne mora biti samo prepreka ili trošak. Za organizacije koje rano usvoje ove principe, on može postati konkurentska prednost: dokaz da su njihovi agenti pouzdani, sigurni i spremni za rad u strogo reguliranim okruženjima.
Autonomni AI agenti tek počinju mijenjati način na koji radimo. Kako se njihova uloga širi, raste i važnost jasnih pravila igre. EU AI Act daje osnovni okvir, ali detalji će se još dugo brusiti u praksi. Oni koji danas ulažu u razumijevanje i pravilno upravljanje agentima, sutra će imati stabilniju i otporniju AI infrastrukturu.
