AI u školama nakon EU AI Acta
Generativna umjetna inteligencija ušla je u europske učionice brže nego što su škole očekivale. Učenici je koriste za pisanje eseja, izradu prezentacija, prevođenje i rješavanje zadataka. Škole eksperimentiraju s automatskim ocjenjivanjem, personaliziranim kvizovima i tutorima temeljenima na modelima velikih jezika (LLM).
Kako bi sustigla praksu, Europska komisija je u svibnju 2026. objavila ažurirane smjernice za etičku uporabu AI‑a i podataka u obrazovanju. Dokument izravno nadopunjuje EU AI Act i primjenjuje njegova pravila na škole, učitelje i dobavljače obrazovnih tehnologija.
Cilj je dvostruk: omogućiti odgovornu primjenu AI‑a u učenju i nastavi, te istodobno zaštititi učenike od zlouporabe podataka, pristranih algoritama i netransparentnih odluka sustava.
„Laki” alati naspram visokorizičnih sustava
Ključna novost smjernica je jasna podjela AI rješenja u školama na dvije skupine:
- „Laki” alati – generativni asistenti za ideje, jezičnu pomoć, sažimanje teksta, izradu nacrta prezentacija ili kvizova.
- Visokorizični sustavi – alati koji imaju izravne posljedice na obrazovni put učenika: automatizirano ocjenjivanje ispita, algoritamske procjene znanja, preporučivanje ili usmjeravanje u različite obrazovne programe.
Za prvu skupinu naglasak je na pedagoškim pravilima i razvoju vještina učenika. Za drugu skupinu primjenjuju se stroža pravila EU AI Acta: potrebna je detaljna dokumentacija, procjena rizika, nadzor i mogućnost ljudske intervencije.
Primjerice, ako škola koristi sustav koji automatski vrednuje nacionalne ispite ili testove za upise u srednju školu, taj se sustav smatra visokorizičnim. Škola i dobavljač moraju moći objasniti na kojim je datasetovima model treniran, koje metrike koristi pri ocjenjivanju i kako se provjerava da ne diskriminira učenike prema spolu, jeziku ili socioekonomskom statusu.
Transparentnost i ljudski nadzor
Smjernice naglašavaju da AI u obrazovanju ne smije biti „crna kutija”. Učitelji i učenici imaju pravo razumjeti:
- zašto je model dao određenu preporuku ili ocjenu
- koje je ulazne podatke koristio
- koja su ograničenja i tipične pogreške sustava.
Za visokorizične sustave obvezni su:
- transparentni opisi modela – svrha, ulazni i izlazni podaci, osnovni princip rada
- mogućnost ljudskog nadzora – nastavnik ili povjerenstvo mora moći preispitati i poništiti AI odluku
- evidencija rada – zapisi o tome kada je sustav korišten, s kojim parametrima i kojim ishodom.
U praksi to znači da učitelj ne bi smio samo preuzeti AI ocjenu testa i upisati je u e‑dnevnik. Trebao bi provjeriti reprezentativan uzorak odgovora, razumjeti logiku ocjenjivanja te moći objasniti učeniku zašto je dobio određenu ocjenu. Učenik bi, pak, trebao imati mogućnost žalbe i ponovne provjere koju vodi čovjek, a ne drugi algoritam.
Privatnost učenika i podaci za treniranje modela
Zaštita privatnosti ostaje najsloženiji dio priče. Generativni modeli često traže unos stvarnih učeničkih radova, domaćih zadaća, bilježaka, pa čak i audio ili video snimki iz učionice. Time se otvara niz pitanja:
- smiju li se ti podaci koristiti za dodatno treniranje modela
- gdje se podaci pohranjuju i koliko dugo
- imaju li im pristup treće strane izvan škole ili EU‑a.
Smjernice su tu vrlo jasne: škole ne bi smjele koristiti AI servise koji učeničke podatke koriste za daljnje treniranje modela bez izričitog, informiranog pristanka. Čak i kada je pristanak formalno moguć, preporuka je da se u obrazovnom kontekstu ide na „minimalne podatke” i strogo ograničene svrhe obrade.
Preporučuje se da se školske AI platforme, kad god je to izvedivo, hostaju unutar EU‑a. Ugovori s dobavljačima moraju precizno definirati:
- tko je voditelj, a tko izvršitelj obrade podataka
- može li se podatke koristiti za razvoj novih modela
- kako se provodi anonimizacija ili pseudonimizacija
- koji se sigurnosni standardi primjenjuju (enkripcija, kontrola pristupa, logiranje).
Za škole u praksi to znači da će morati pažljivije birati alate. Korištenje javnih, besplatnih chatbotova bez ugovora o obradi podataka postaje pravno i etički rizično, osobito za mlađe učenike.
Od zabrane prema „AI pismenosti”
Umjesto zabrana, nova europska politika gura koncept „AI pismenosti” (AI literacy). Ideja je da učenici nauče kako modeli funkcioniraju, gdje griješe i kako odgovorno koristiti generativne alate.
Smjernice predlažu nekoliko konkretnih pedagoških pristupa:
- Usporedba eseja – učenici pišu vlastiti esej, zatim zatraže verziju od AI asistenata i uspoređuju argumentaciju, stil i točnost navoda.
- Analiza halucinacija – učitelj namjerno traži od modela sadržaj izvan njegovog znanja, a učenici traže pogreške, izmišljene reference i netočne podatke.
- Rasprava o pristranosti – učenici ispituju kako model reagira na zadatke vezane uz rodne uloge, manjine ili migracije te raspravljaju o mogućim pristranostima u datasetovima.
Na taj način AI postaje alat za razvoj kritičkog mišljenja, a ne prečac do gotovog odgovora. Učenici uče postavljati bolja pitanja, provjeravati izvore i preuzimati odgovornost za sadržaj koji predaju, čak i kada im je AI pomogao u nacrtu.
Što ovo znači za hrvatske škole
Za hrvatske škole, kao i za ostatak Europe, novi okvir otvara niz vrlo praktičnih pitanja:
- Tko piše interne pravilnike? – većina škola nema pravnike ni stručnjake za podatkovnu zaštitu. Očekuje se veća uloga ministarstva, agencija i lokalnih osnivača škola.
- Tko provjerava usklađenost s EU AI Actom? – škole će morati znati razlikovati jednostavne alate od visokorizičnih sustava te za potonje tražiti dodatnu dokumentaciju i certifikate.
- Imamo li dovoljno stručnjaka? – nastavnici informatike, pedagozi i stručnjaci za zaštitu podataka vjerojatno će dobiti novu ulogu u evaluaciji i odabiru AI alata.
Vjerojatno ćemo vidjeti pojavu novih funkcija poput AI koordinatora u školama. Ta bi osoba pratila razvoj tehnologije, pomagale nastavnicima u odabiru alata, nadzirala provedbu internih pravila i bila kontakt točka za roditelje i učenike.
Istodobno, ministarstva i agencije mogla bi nuditi liste preporučenih, certificiranih rješenja koja zadovoljavaju tehničke i etičke kriterije. Time bi se smanjio pritisak na pojedine škole koje same nemaju kapacitete za detaljnu procjenu svakog alata.
Rizici i prilike za učenike
Bez jasnih pravila, AI u učionicama lako se svodi na varanje na ispitima ili generiranje gotovih zadaća. No, ako se novi okvir primijeni dosljedno, umjetna inteligencija može postati alat za:
- personalizirano učenje – prilagodba zadataka tempu i razini znanja pojedinog učenika
- dodatnu podršku – pomoć učenicima s teškoćama u učenju ili učenju jezika putem specijaliziranih modela
- razvoj digitalnih vještina – razumijevanje modela, datasetova, treniranja i inferencea, što su ključne kompetencije za buduće tržište rada.
Rizici, međutim, ostaju realni: od ovisnosti o alatima i pada motivacije za samostalni rad, preko širenja dezinformacija, do dubokih nejednakosti između škola koje imaju kvalitetne alate i podršku i onih koje ih nemaju.
Europske smjernice zato naglašavaju potrebu za kontinuiranim praćenjem učinaka AI‑a u obrazovanju. To uključuje istraživanja o utjecaju na rezultate učenja, mentalno zdravlje učenika te razlike u ishodima između različitih društvenih skupina.
Sljedeći koraci: od papira do prakse
Smjernice Europske komisije postavljaju okvir, ali ne rješavaju sve. Sljedećih nekoliko godina presudno će biti kako će se taj okvir pretočiti u nacionalne kurikulume, nastavničke edukacije i školske pravilnike.
Za hrvatski sustav obrazovanja to znači tri paralelna zadatka:
- Izraditi jasna nacionalna pravila za korištenje AI‑a u školama, usklađena s EU AI Actom i GDPR‑om.
- Uložiti u edukaciju nastavnika, ne samo tehničku, već i pedagošku i etičku, kako bi znali kada i kako koristiti AI alate.
- Osigurati jednake uvjete tako da škole u različitim sredinama imaju pristup sigurnim i kvalitetnim rješenjima.
AI u europskim učionicama 2026. više nije eksperiment, nego realnost. Pitanje više nije hoće li učenici koristiti generativne alate, nego pod kojim uvjetima i s kakvom podrškom. Odgovor na to pitanje odredit će hoće li umjetna inteligencija u školama ostati izvor starih problema ili postati dio rješenja za obrazovanje u digitalnom dobu.
