AI u javnoj upravi 2026.: između algoritamske administracije i povjerenja građana

Od eksperimenta do nove normalnosti u administraciji

Umjetna inteligencija u europskoj javnoj upravi više nije pilot‑projekt u pozadini, nego postaje dio svakodnevnog rada ministarstava, agencija i lokalnih ureda. Generativni modeli već pomažu pri prevođenju dokumenata, izradi dopisa, sažimanju opsežnih izvješća i analizi složene regulative. U nekim državama članicama testiraju se interni AI asistenti za službenike, koji predlažu nacrte odgovora na upite građana ili pripremaju pregled relevantnih zakona za određeni predmet.

Takvi alati ubrzavaju obradu predmeta i rasterećuju administraciju od rutinskih zadataka. No, istodobno otvaraju niz pitanja: koliko su modeli pristrani, kako provjeriti njihovu točnost, tko je odgovoran kada AI generira pogrešan ili nezakonit sadržaj? U javnoj upravi, gdje odluke izravno utječu na prava i obveze građana, ti su rizici posebno osjetljivi.

Upravo zato se u raspravi sve češće koristi pojam „algoritamska administracija” – sustav u kojem algoritmi podržavaju ili djelomično automatiziraju upravne postupke. Ključno pitanje više nije hoće li se AI koristiti, nego pod kojim uvjetima i uz koje zaštitne mehanizme.

EU AI Act: javna uprava kao visokorizično područje

EU AI Act, prvi sveobuhvatni europski zakon o umjetnoj inteligenciji, postavlja okvir za takvu transformaciju. Glavne obveze za visokorizične AI sustave počet će se primjenjivati od kolovoza 2026., a javna uprava nalazi se u samom središtu tog režima.

Kada AI postaje „visokorizičan” u javnom sektoru

Propis javnu upravu tretira kao visokorizično područje kad god AI sudjeluje u odlučivanju o pravima, naknadama ili obvezama građana. Primjeri uključuju:

• automatizirano odlučivanje o socijalnim naknadama ili dječjim doplatcima
• procjenu poreznih obveza i rizika od utaje
• odluke u području migracija, azila i upravljanja granicama
• odabir kandidata za javne programe, potpore ili subvencije

U takvim slučajevima AI sustav više nije samo alat za pretraživanje ili sažimanje, nego dio upravnog postupka. To pokreće stroge zahtjeve za upravljanje rizicima, nadzor i dokumentiranje.

Obveze: od kvalitete podataka do ljudskog nadzora

Za visokorizične AI sustave u javnoj upravi EU AI Act predviđa nekoliko ključnih obveza:

• Upravljanje podacima: tijela moraju dokazati da koriste kvalitetne, reprezentativne i ažurne podatke, uz minimaliziranje pristranosti.
• Tehnička dokumentacija: potrebno je voditi detaljnu dokumentaciju o modelu, ulaznim podacima, parametrima i ograničenjima sustava.
• Transparentnost i objašnjivost: građanin mora moći dobiti smisleno objašnjenje kako je AI pridonio odluci i koji su ključni kriteriji.
• Ljudski nadzor: odluke koje značajno utječu na prava i obveze ne smiju biti potpuno automatizirane, već podložne provjeri i intervenciji službenika.
• Procjena sukladnosti i nadzor: prije stavljanja u uporabu sustav prolazi procjenu sukladnosti, a tijekom rada prati se učinak i incidenti.

U praksi to znači da će javna tijela morati uspostaviti nove procedure: tko odobrava uvođenje AI sustava, tko prati njegove rezultate, kako se evidentiraju pogreške i kako se građanima omogućuje žalba.

Digitalni suverenitet: otvoreni i lokalno pokretani modeli

Istodobno s regulacijom, raste interes za otvorene i lokalno pokretane velike jezične modele kao temelj budućih rješenja u javnom sektoru. Europski laboratoriji i inicijative razvijaju otvoreno‑težinske LLM‑ove koji se mogu preuzeti, prilagoditi i trenirati na specifičnim skupovima podataka javne uprave.

Prednosti lokalnog pristupa

Za države i gradove, ovakav pristup ima nekoliko strateških prednosti:

• Zaštita podataka građana: osjetljivi podaci ostaju u nacionalnim ili regionalnim podatkovnim centrima, bez slanja prema komercijalnim cloud platformama izvan EU‑a.
• Digitalni suverenitet: javni sektor zadržava veću kontrolu nad modelima, njihovim nadogradnjama i licencnim uvjetima.
• Bolja usklađenost s regulativom: lakše je provesti zahtjeve GDPR‑a i EU AI Acta kada se zna gdje se podaci nalaze i tko ima pristup.
• Prilagodba jeziku i kontekstu: modeli se mogu dodatno trenirati na službenim dokumentima, pravnim tekstovima i obrascima na nacionalnom jeziku.

Takvi „suvereni” modeli mogu biti jezgra za niz aplikacija: od internih pravnih asistenata do specijaliziranih chatbotova za pojedine resore (porezi, socijala, zdravstvo).

Infrastruktura i kompetencije kao usko grlo

Prednost lokalnog pristupa dolazi uz cijenu. Javna tijela moraju ulagati u:

• računalnu infrastrukturu (GPU klasteri, sigurni podatkovni centri)
• stručnjake za strojno učenje, kibernetičku sigurnost i upravljanje podacima
• nove modele javne nabave koji uzimaju u obzir otvorene licence i razvoj zajednice

Za mnoge administracije to znači prelazak s klasične IT uloge održavanja sustava na aktivno upravljanje AI modelima, datasetovima i procesima treniranja i inferencea.

AI u e‑uslugama: vidljivo lice algoritamske administracije

Za građane je AI najvidljiviji kroz e‑usluge koje postaju interaktivnije i personaliziranije. Umjesto statičnih formulara i PDF uputa, sve se češće pojavljuju:

• chatboti i virtualni asistenti koji odgovaraju na pitanja 24/7 i vode korisnika kroz postupak prijave ili podnošenja zahtjeva
• automatski sažeci propisa napisani jednostavnim jezikom, prilagođeni konkretnom životnom scenariju (npr. rođenje djeteta, odlazak u mirovinu, pokretanje obrta)
• personalizirane obavijesti o pravima, rokovima i obvezama, temeljene na podacima iz registara i prethodnim interakcijama

Potencijal za povećanje dostupnosti usluga je velik, osobito za građane koji teško prate pravne tekstove ili žive daleko od ureda. No, upravo tu dolazi do izražaja potreba za jasnim pravilima igre.

Transparentnost prema korisniku

EU AI Act i prateće smjernice idu prema tome da korisnik uvijek zna kada komunicira s AI sustavom. To uključuje:

• jasnu oznaku da je sugovornik algoritam, a ne službenik
• osnovne informacije o ulozi AI‑ja u usluzi (što model radi, a što i dalje odlučuje čovjek)
• mogućnost jednostavnog prelaska na komunikaciju s čovjekom, osobito u složenim ili osjetljivim slučajevima

U praksi, to znači da će svaka „pametna” e‑usluga morati imati vidljivo objašnjenje, poveznice na politiku privatnosti i upute kako podnijeti pritužbu ako korisnik smatra da je AI pogriješio ili ga doveo u zabludu.

Od tehničkog projekta do promjene organizacijske kulture

Uvođenje AI‑ja u javnoj upravi nije samo IT projekt. Zahtijeva promjenu načina rada, odgovornosti i odnosa prema podacima. Sljedeće dvije godine bit će presudne za izgradnju kapaciteta.

AI pismenost službenika

Službenici koji svakodnevno koriste AI alate moraju razumjeti njihove mogućnosti i ograničenja. To ne znači da svi moraju postati data scientisti, ali osnovna AI pismenost postaje nužna:

• razumijevanje pojmova poput modela, parametara, datasetova, treniranja i inferencea
• prepoznavanje situacija u kojima model vjerojatno griješi ili halucinira
• svijest o pristranostima u podacima i utjecaju na ranjive skupine
• poznavanje procedura za prijavu incidenta ili sumnje na pogrešku sustava

Države već pokreću interne akademije, online tečajeve i radionice kako bi službenike upoznale s osnovama odgovorne uporabe AI‑ja.

Nove politike i upravljanje rizicima

Uz edukaciju, potrebne su i jasne interne politike. One obično obuhvaćaju:

• pravila kada je dopušteno koristiti generativnu AI (npr. za nacrte, ali ne i za konačne odluke)
• smjernice za rad s povjerljivim i osobnim podacima
• postupke za odabir, testiranje i odobravanje AI rješenja
• okvire za suradnju s dobavljačima i otvorenim zajednicama

Javna tijela sve češće uspostavljaju multidisciplinarne odbore za AI, u kojima sudjeluju pravnici, informatičari, stručnjaci za zaštitu podataka i predstavnici resora. Cilj je da odluke o uvođenju algoritama ne budu isključivo tehničke, nego i pravno i etički promišljene.

Europa kao laboratorij za „AI za javno dobro”

Ako uspije uskladiti inovacije s regulatornim zahtjevima i očekivanjima građana, Europa bi upravo u području „AI‑ja za javno dobro” mogla steći konkurentsku prednost. Kombinacija snažne zaštite temeljnih prava, ulaganja u otvorene modele i poticanja suradnje između javnog sektora i istraživačke zajednice može stvoriti održiv ekosustav.

Scenarij za 2026. i dalje uključuje administraciju koja koristi AI za ubrzavanje procesa, ali pod jasnim pravilima: čovjek ostaje krajnji donositelj odluke u osjetljivim slučajevima, algoritmi su podložni reviziji, a građani imaju pravo na objašnjenje i žalbu. Takva „algoritamska administracija pod povećalom” mogla bi postati europski izvozni proizvod – dokaz da je moguće kombinirati automatizaciju, učinkovitost i demokratski nadzor.