Od garažnih projekata do regulirane infrastrukture
Otvoreni, open‑source modeli umjetne inteligencije posljednjih su godina postali ključni pokretač inovacija u Europi. Koriste ih mali istraživački timovi, startupi i velike tvrtke koje žele izbjeći ovisnost o zatvorenim, pretežno američkim rješenjima. Do sada je razvoj takvih modela često bio u svojevrsnoj „sivoj zoni” – pravila su bila nejasna, a odgovornosti teško pratljive.
EU AI Act to mijenja. S punim stupanjem na snagu do 2. kolovoza 2026. otvoreni modeli više nisu samo hobi ili akademski eksperiment. Postaju dio strogo regulirane digitalne infrastrukture. Regulacija definira što je sustav umjetne inteligencije, uvodi posebnu kategoriju modela opće namjene (General Purpose AI – GPAI) i prvi put detaljno razrađuje tko snosi odgovornost kada se open‑source model ugradi u stvarni proizvod ili uslugu.
Za open‑source zajednicu to znači kraj razdoblja u kojem je bilo dovoljno objaviti kod i model na GitHubu ili Hugging Faceu, bez jasne dokumentacije i nadzora. Novi okvir traži profesionalne procese, usporedive s onima u farmaciji, medicinskim uređajima ili zrakoplovstvu – samo prilagođene specifičnostima AI‑a.
Vremenska crta: kada koja pravila počinju vrijediti
EU AI Act ne ulazi u primjenu odjednom. Zakonodavac je predvidio postupno uvođenje obveza kako bi razvojni timovi, tvrtke i javne institucije imali vremena prilagoditi se.
2025.: zabrane i osnove AI pismenosti
Od veljače 2025. primjenjuju se zabrane tzv. neprihvatljivih praksi. To uključuje, primjerice, sustave društvenog bodovanja građana, manipulativne tehnike koje iskorištavaju ranjivosti pojedinaca ili neselektivno prepoznavanje biometrije u stvarnom vremenu na javnim mjestima. Istovremeno se uvode i obveze vezane uz AI pismenost – države članice i organizacije morat će ulagati u obrazovanje korisnika i zaposlenika kako bi razumjeli osnovne rizike i mogućnosti AI‑a.
Kolovoz 2025.: pravila za modele opće namjene
Od kolovoza 2025. na scenu stupaju posebna pravila za GPAI modele. To su veliki jezični modeli (LLM‑ovi), multimodalni modeli i drugi sustavi koji se mogu primjenjivati u širokom rasponu zadataka – od prevođenja i generiranja koda do analize slika i teksta. Za takve modele uvodi se obveza detaljne tehničke dokumentacije, opisa namjena i ograničenja, te objave ključnih informacija o treniranju.
Istog razdoblja počinju vrijediti i zahtjevi za upravljačke strukture: veći pružatelji modela moraju uspostaviti interne procese upravljanja rizicima, nadzorne odbore i mehanizme za prijavu incidenata povezanih s AI‑em. To se odnosi i na open‑source projekte ako dosegnu određenu razinu utjecaja ili kapaciteta.
Kolovoz 2026.: puna primjena za visokorizične sustave
Do kolovoza 2026. većina odredbi AI Acta postaje obvezna za širi spektar sustava, osobito za visokorizične primjene. To uključuje AI u zdravstvu, kritičnoj infrastrukturi, zapošljavanju, obrazovanju, kreditnom bodovanju i javnim uslugama. Ako je u takav sustav ugrađen open‑source model, cijeli lanac – od autora modela do integratora i krajnjeg pružatelja usluge – ulazi u regulatorni okvir.
U praksi to znači da će open‑source zajednica u vrlo kratkom roku morati uskladiti način dokumentiranja modela, objave informacija o treniranju, procjene rizika i sigurnosna testiranja. Projekti koji to ne učine bit će teško primjenjivi u ozbiljnim poslovnim i javnim okruženjima unutar EU‑a.
Što se konkretno traži od open‑source modela
EU AI Act ne zabranjuje open‑source. Naprotiv, zakonodavac ga prepoznaje kao važan alat za inovacije i tehnološki suverenitet. No postavlja jasna očekivanja, osobito za modele opće namjene.
Transparentnost i dokumentacija
Prvi stup zahtjeva je transparentnost. Razvojni timovi morat će osigurati:
- opis arhitekture modela i ključnih tehničkih parametara
- informacije o datasetovima korištenima za treniranje (podrijetlo, vrste podataka, osnovne statistike)
- jasno navođenje namjena za koje je model prikladan – i onih za koje nije
- sažetak poznatih ograničenja, pristranosti i tipičnih pogrešaka
- upute za sigurno korištenje i integraciju u proizvode i usluge.
Za open‑source zajednicu to znači da README datoteka više nije dovoljna. Bit će potrebne strukturirane „karti modela” (model cards), standardizirani tehnički prilozi i verzioniranje dokumentacije usporedivo s verzioniranjem koda.
Upravljanje rizicima i sigurnosna testiranja
Drugi stup su procesi upravljanja rizicima. I kod otvorenih modela očekuje se:
- procjena rizika od diskriminacije, dezinformacija, poticanja nasilja ili nezakonitih aktivnosti
- testiranje ponašanja modela u osjetljivim kontekstima (npr. politički govor, zdravlje, financije)
- mehanizmi za ublažavanje rizika, poput filtriranja izlaza, sigurnosnih „guardrailova” i konfigurabilnih postavki
- kontinuirano praćenje i ažuriranje modela u skladu s novim saznanjima i incidentima.
Za veće GPAI modele dodatno se očekuju i „red‑teaming” vježbe – sustavno pokušavanje da se model navede na neželjena ponašanja, uz javno objavljene rezultate i korektivne mjere.
Odgovornost u lancu: tko je „kriv” za što
Jedno od ključnih pitanja za open‑source projekte jest odgovornost. EU AI Act razlikuje uloge: pružatelj modela, integrator, distributer i krajnji korisnik. Ako otvoreni model služi kao „motorski sklop” unutar aplikacije za zapošljavanje ili medicinsku trijažu, odgovornost se ne može jednostavno prebaciti na zajednicu.
Autori open‑source modela morat će jasno navesti pod kojim se uvjetima model smije koristiti, koje su preporučene zaštitne mjere i koje su zabranjene primjene. Integratori će, s druge strane, morati dokazati da su model koristili u skladu s tim uputama i da su dodali vlastite kontrole primjerene konkretnoj domeni.
Profesionalizacija open‑source AI‑a u Europi
Novi okvir donosi i prilike i izazove. Projekti koji su od početka dizajnirani u skladu s EU AI Actom – primjerice europski javni LLM‑ovi ili specijalizirani modeli za javni sektor – dobit će reputacijsku prednost. Bit će im lakše ući u natječaje za digitalizaciju javne uprave, zdravstva ili obrazovanja, gdje će usklađenost s regulacijom biti osnovni preduvjet.
S druge strane, klasični „hobi” projekti koji se oslanjaju na nestrukturirane skupove podataka, nejasne licence i minimalnu dokumentaciju vjerojatno će ostati ograničeni na eksperimentalnu upotrebu. Njihova integracija u proizvode koji se nude u EU‑u nosit će prevelik pravni rizik.
Posljedica toga bit će ubrzana profesionalizacija open‑source AI‑a. Umjesto pojedinaca koji sami treniraju modele na kućnim GPU‑ovima, očekuje se rast konzorcija sveučilišta, javnih institucija i industrijskih partnera. Takvi konzorciji zajednički treniraju i održavaju modele, dijele troškove infrastrukture te uspostavljaju formalne procese upravljanja, etičkog nadzora i revizije.
Primjerice, europska istraživačka infrastruktura može ponuditi zajedničke datasetove, standarde anonimizacije i pravne okvire za korištenje javnih podataka. Industrijski partneri doprinose domenom znanja i slučajevima uporabe, dok sveučilišta osiguravaju metodološku i etičku ekspertizu. Open‑source kod ostaje otvoren, ali organizacija rada postaje znatno strukturiranija.
Što to znači za hrvatske i regionalne AI timove
Za hrvatske i regionalne timove koji razvijaju vlastite LLM‑ove ili specijalizirane generativne modele, ključna poruka je jasna: regulatorne zahtjeve treba ugraditi u razvojni ciklus od prvog dana. Naknadno „krpanje” dokumentacije i procesa bit će skupo i često nedovoljno.
Praktični koraci za usklađivanje
U praksi to znači nekoliko konkretnih koraka:
- vođenje detaljnih evidencija o podrijetlu podataka (izvori, licence, eventualni osobni podaci)
- procjene rizika za diskriminaciju, dezinformacije i druge štetne učinke, uz dokumentirane metode procjene
- ugradnja mehanizama za ljudski nadzor u aplikacije temeljene na modelu (npr. „human in the loop” kod donošenja odluka)
- priprema tehničke dokumentacije na razini koja može proći reviziju nacionalnih nadležnih tijela
- planiranje procesa ažuriranja modela, uključujući povlačenje ili ispravke verzija koje se pokažu problematičnima.
Timovi koji to naprave na vrijeme imat će znatnu prednost pri uključivanju u europske inicijative – od AI tvornica i „gigatvornica” do zajedničkih istraživačkih projekata i paneuropskih data prostora. U tim će se programima upravo usklađenost s EU AI Actom tražiti kao ulazni kriterij.
Prilika za pozicioniranje na europskoj mapi
Za domaću AI zajednicu ovo je prilika za strateško pozicioniranje. Hrvatska ima kombinaciju stručnih kadrova, relativno agilne tehnološke scene i pristupa EU fondovima. Ako razvojni timovi na vrijeme usvoje nove standarde, njihovi open‑source modeli mogu postati referentna rješenja za javni sektor, male jezike ili specifične industrije poput turizma, energetike i logistike.
Umjesto da se open‑source promatra kao „slobodna zona” izvan regulacije, u Europi se sve više gradi slika otvorenih modela kao javne infrastrukture – transparentne, sigurne i odgovorne. U takvom okruženju hrvatski projekti koji kombiniraju otvoreni kod, kvalitetnu dokumentaciju i usklađenost s AI Actom mogu postati traženi partneri u međunarodnim konzorcijima.
Sljedeće dvije godine: prozor za prilagodbu
Razdoblje do kolovoza 2026. bit će presudno. Timovi koji već sada počnu prilagođavati svoje open‑source modele novim pravilima imat će prednost kada većina odredbi AI Acta postane obvezna. Oni koji čekaju zadnji trenutak suočit će se s ubrzanim i skupim procesom usklađivanja – ili s rizikom da njihovi modeli jednostavno ne budu prihvatljivi za upotrebu u EU‑u.
Za open‑source zajednicu to je i prilika i test zrelosti. Ako uspije pokazati da otvorenost, sigurnost i odgovornost mogu ići zajedno, open‑source AI u Europi može postati temelj digitalne suverenosti. Ako ne, prostor će popuniti zatvorena rješenja velikih globalnih igrača, uz manje mogućnosti za lokalnu kontrolu i prilagodbu.
Ulog je, dakle, veći od samih modela. Radi se o tome tko postavlja standarde za budućnost umjetne inteligencije u Europi – i hoće li otvoreni pristup biti ravnopravan dio te budućnosti.
