EU AI Act, generativni sadržaj i novo pravilo igre
Europska unija posljednjih je godina postala globalni predvodnik u regulaciji umjetne inteligencije. Nakon donošenja EU AI Acta, fokus se sve više prebacuje s općih načela na vrlo konkretna pravila za generativnu umjetnu inteligenciju. Najnoviji prijedlog iz Bruxellesa ide korak dalje: europske institucije razmatraju zabranu korištenja AI generiranih slika i videa u službenim komunikacijama.
Cilj je jasan – očuvati povjerenje građana u autentičnost poruka koje dolaze od tijela EU-a. To je posebno važno u vrijeme izbora, sigurnosnih kriza i geopolitičkih napetosti, kada je rizik od dezinformacija, deepfakeova i manipulativnih kampanja najveći.
Takav potez bio bi presedan: dok se većina država fokusira na označavanje AI sadržaja, EU razmatra da za vlastite službene kanale uvede gotovo potpunu zabranu vizualnog sadržaja koji je generirao model, a ne kamera ili ljudski autor.
Autorsko pravo, treniranje modela i poštena naknada
Rasprava o zabrani AI vizuala ne odvija se u vakuumu. Paralelno, Europski parlament usvaja nove rezolucije o autorskom pravu i generativnoj AI. U fokusu su dva pitanja: poštena naknada autorima i transparentnost podataka koji se koriste za treniranje modela.
Parlament traži da:
- autori i izdavači dobiju poštenu naknadu kada se njihovi tekstovi, fotografije, glazba ili video koriste u datasetovima za treniranje modela
- postane obvezno jasno označavanje sadržaja koji je u potpunosti generirala umjetna inteligencija
- se sadržaj nastao isključivo putem AI sustava ne štiti autorskim pravom, jer nema ljudskog autora u klasičnom smislu
- se dodatno zaštiti medijski sektor, koji već trpi gubitak prometa i prihoda zbog preusmjeravanja publike na AI alate i agregatore.
Drugim riječima, EU pokušava istovremeno zaštititi povjerenje građana i ekonomski opstanak kreativnih industrija. Generativni modeli dobivaju jasnu poruku: mogu biti dio ekosustava, ali pod uvjetom da ne narušavaju tržište rada i ne brišu trag ljudskog autorstva.
Što bi zabrana značila za službenu komunikaciju EU-a?
Za komunikacijske timove unutar institucija EU-a potencijalna zabrana otvara niz praktičnih pitanja. Posljednjih godina infografike, ilustracije i vizualizacije sve se češće izrađuju uz pomoć generativnih alata. To skraćuje vrijeme izrade i smanjuje troškove, ali i otvara prostor za pogreške i manipulacije.
Ključne dvojbe su:
- Infografike i vizualizacije – smije li se koristiti AI za generiranje grafova, karata ili ilustracija ako se podaci i koncepti provjeravaju ručno?
- Hibridni sadržaj – što s vizualima koji kombiniraju fotografiju i AI generirane elemente (npr. pozadina, stilizacija, rekonstrukcija oštećenih dijelova)?
- Ilustracije i stock fotografije – hoće li se institucije morati vratiti isključivo na tradicionalnu fotografiju, video produkciju i rad ljudskih dizajnera?
- Označavanje vs. zabrana – hoće li biti dovoljno jasno označiti da je vizual generiran ili će se tražiti potpuno odustajanje od takvog sadržaja u službenim porukama?
Prema dosadašnjim signalima, EU cilja na režim u kojem službena komunikacija mora imati neku vrstu „dokaza autentičnosti”. To znači da će fotografije, video snimke i grafika trebati biti povezani s provjerljivim izvorom: datumom, uređajem, autorom ili certifikatom izvornosti. Generativna AI vjerojatno će se koristiti prvenstveno iza kulisa – za analizu podataka, pripremu nacrta, prevođenje ili sažimanje – ali ne i za konačne vizuale koji idu prema javnosti.
Tehnička rješenja: vodeni žigovi, metapodaci i certifikati izvornosti
Kako u praksi razlikovati „stvarno” od „generiranog”? EU i industrijski partneri sve više se oslanjaju na tehničke standarde za označavanje i provjeru izvornosti digitalnog sadržaja.
Najčešće spominjana rješenja su:
- Digitalni vodeni žigovi – nevidljive oznake ugrađene u datoteku slike ili videa, koje otkrivaju je li sadržaj generiran ili obrađen AI alatom.
- Metapodaci – strukturirani podaci koji prate datoteku (npr. standard C2PA), s informacijama o autoru, uređaju, softveru i povijesti izmjena.
- Certifikati izvornosti – kriptografski potpisani zapisi koji potvrđuju da je sadržaj nastao na određenom uređaju, u određeno vrijeme, bez naknadnih manipulacija.
Očekuje se da će upravo kombinacija ovih tehničkih rješenja i novih pravila o službenim komunikacijama postati ključna linija obrane od političkih deepfakeova i sofisticiranih manipulacija. Za institucije EU-a to znači ulaganje u nove alate, procese i edukaciju zaposlenika, kako bi se svaki vizualni materijal mogao provjeriti i dokazati.
GenAI4EU: razvoj „AI-ja napravljenog u Europi” pod strogim pravilima
Istodobno s pooštravanjem pravila, Europska komisija želi potaknuti razvoj vlastitog AI ekosustava. Inicijative poput GenAI4EU usmjerene su na razvoj generativnih modela i rješenja koja su usklađena s europskim vrijednostima: zaštitom podataka, poštivanjem autorskih prava i visokim sigurnosnim standardima.
Ciljevi su višestruki:
- razviti konkurentne generativne modele unutar Europe
- osigurati da se treniranje modela provodi na zakonito prikupljenim datasetovima
- integrirati mehanizme transparentnosti, poput označavanja AI sadržaja, već na razini modela
- stvoriti infrastrukturu (računalni klasteri, podatkovni centri) koja omogućuje europskim istraživačima i poduzećima pristup snažnim AI resursima.
EU tako nastoji izbjeći scenarij u kojem je prisiljena samo reagirati na tehnologije razvijene drugdje. Umjesto toga, želi aktivno oblikovati generativnu AI – i tehnički i regulatorno.
Povjerenje, demokracija i službeni izvori informacija
Za širu javnost rasprava o zabrani AI generiranih vizuala može zvučati apstraktno, ali posljedice bi bile vrlo konkretne. Ako se zabrana usvoji, građani će dobiti jednostavno pravilo: sve što dolazi s logom institucija EU-a, a sadrži slike ili video, trebalo bi biti autentično i provjerljivo.
To ne znači da će nestati manipulacije, ali podiže prag povjerenja u službene izvore. U kontekstu izbora za Europski parlament, referenduma ili kriznih situacija, takvo jasno sidro povjerenja može biti ključno za stabilnost demokratskog procesa.
S druge strane, na svim drugim platformama – društvenim mrežama, oglasnim kampanjama, zabavnim sadržajima, pa i privatnim kanalima – generativna AI ostat će široko dostupna. Kvaliteta deepfakeova i sintetičkih medija nastavit će rasti, a granica između stvarnog i generiranog postajat će sve manje vidljiva golim okom.
Digitalna pismenost kao nužna obrana građana
Zato će, uz nova pravila za institucije, još snažnije doći u fokus digitalna pismenost građana. Regulacija može postaviti okvire, ali ne može zamijeniti kritičko razmišljanje.
Ključne vještine koje će građanima trebati su:
- razumijevanje kako funkcioniraju generativni modeli i zašto mogu proizvoditi uvjerljive, ali lažne sadržaje
- prepoznavanje osnovnih znakova manipulacije slike ili videa (nelogični detalji, izobličene ruke, neprirodno osvjetljenje – iako se i to brzo poboljšava)
- provjera izvora informacija, osobito kada sadržaj izaziva snažnu emocionalnu reakciju
- oslanjanje na višestruke, provjerene izvore, a ne na jedan viralni video ili sliku.
U tom kontekstu, jasna pravila za službenu komunikaciju EU-a mogu poslužiti kao referentna točka: građani će znati da institucionalni kanali prolaze strože provjere i da se AI u njima koristi oprezno i transparentno.
Što slijedi: balans između inovacija i sigurnosti
Rasprava o zabrani AI generiranih slika u službenim porukama tek je početak šireg procesa. Sljedeći koraci uključuju detaljna pravila provedbe, tehničke standarde i usklađivanje s postojećim zakonodavstvom o medijima, autorskom pravu i zaštiti podataka.
Ključno pitanje ostaje isto: kako zadržati prednosti generativne AI – brzinu, kreativnost, učinkovitost – a istovremeno zaštititi demokratske procese, autorska prava i povjerenje građana? EU se odlučila za strategiju „visokih standarda”: poticanje inovacija, ali uz stroga pravila sigurnosti, transparentnosti i odgovornosti.
Hoće li taj pristup usporiti primjenu AI-ja u nekim područjima? Vjerojatno hoće. No europske institucije računaju da će dugoročno, u doba masovnih deepfakeova i informacijske nesigurnosti, upravo povjerenje postati najvrjednija valuta – i za demokraciju i za tehnologiju.
