AI video od eksperimenta do fotorealizma
U samo godinu dana generativni video sustavi prošli su put od kratkih, mutnih isječaka do fotorealističnih scena u 4K rezoluciji. Otvoreni modeli poput LTX‑2 i MOVA 720p, zajedno s komercijalnim rješenjima poput Kling 3.0 i sustava inspiriranih Sorom, omogućuju korisnicima sa snažnijim računalom ili pristupom oblaku da stvaraju uvjerljive videozapise. U jednom kliku moguće je generirati realistična lica, prirodne pokrete kamere i sinkronizirani zvuk.
Takav skok donosi ogroman kreativni potencijal. Nezavisni filmski studiji mogu simulirati skupe scene bez velikih setova. Marketinške agencije mogu testirati više verzija oglasa u kratkom roku. Edukativne platforme stvaraju personalizirane video lekcije za različite jezike i razine znanja. No isti alati omogućuju i masovnu proizvodnju dezinformacija, manipuliranih ratnih snimki, političkih deepfake poruka i neovlaštenih intimnih videa.
Upravo na tom raskrižju kreativnosti i zlouporabe nastupaju nova europska pravila. EU pokušava uspostaviti minimum povjerenja u digitalni prostor, bez gušenja legitimne uporabe umjetne inteligencije u kreativnim industrijama.
AI Act i članak 50: tehničko označavanje sintetičkog sadržaja
Temelj novih pravila je AI Act, krovna uredba EU‑a o umjetnoj inteligenciji. Ona već sadrži odredbe o transparentnosti deepfake sadržaja, ali Europska komisija ide korak dalje. Početkom svibnja 2026. objavljen je nacrt smjernica za provedbu članka 50, koji detaljno opisuje kako bi se generativni audio‑vizualni sadržaj trebao tehnički označavati.
Ključna ideja je da označavanje ne bude samo dobrovoljna oznaka na ekranu, nego ugrađena tehnička značajka u sam sadržaj. To znači da sustavi za generiranje videa moraju, kad god je to tehnički izvedivo, automatski dodavati:
- vodene žigove – nevidljive oznake u samom videosignalu ili zvuku, otporne na kompresiju i osnovno uređivanje
- strojno čitljive metapodatke – informacije u datoteci koje jasno navode da je sadržaj generiran ili manipuliran AI‑jem te kojim je alatom nastao
Cilj je omogućiti platformama – od društvenih mreža do video servisa i oglasnih mreža – da automatski prepoznaju sintetički sadržaj. Kod učitavanja videa, algoritmi bi trebali moći očitati metapodatke ili detektirati vodeni žig i zatim primijeniti odgovarajuću politiku: označiti sadržaj kao „AI generiran“, ograničiti doseg ili, u ekstremnim slučajevima, blokirati distribuciju.
Ubrzani rokovi i ograničene iznimke
Politički dogovor u Bruxellesu dodatno je ubrzao rokove za uvođenje obveznog označavanja. Umjesto postupne, višegodišnje tranzicije, države članice guraju bržu implementaciju za slike, video i audio generiran umjetnom inteligencijom.
Predviđene su tek ograničene iznimke, i to za:
- novinarstvo – kada bi obvezno označavanje moglo ugroziti izvore ili onemogućiti istraživačko izvještavanje (primjerice, kod zaštite identiteta svjedoka)
- umjetničko izražavanje – gdje je jasno da se radi o fikciji ili eksperimentalnoj umjetnosti, a publika razumije kontekst
I u tim slučajevima očekuje se razumna razina transparentnosti, primjerice kroz objašnjenje u opisu djela ili prilogu članka. Potpuno izuzimanje od pravila bit će iznimka, a ne pravilo.
Zabrana „nudifier“ aplikacija i nasilnih deepfakeova
Najosjetljivije područje su AI alati čija je glavna svrha generiranje seksualiziranog, ponižavajućeg ili nasilnog sadržaja bez pristanka. Nakon niza skandala s „nudifier“ aplikacijama – programima koji iz jedne fotografije stvaraju uvjerljiv golišavi prikaz – europske institucije odlučile su se za tvrđi pristup.
Nova pravila ciljaju na:
- aplikacije za uklanjanje odjeće i stvaranje sintetičkih intimnih slika bez pristanka
- alate za stvaranje osvetničke pornografije i ponižavajućih deepfake videa
- AI generirani materijal koji podsjeća na dječju pornografiju, čak i kada ne postoji stvarna žrtva
Takvi sustavi tretiraju se kao oblici digitalnog nasilja, usporedivi s distribucijom nezakonitog sadržaja i kibernetičkim zlostavljanjem. Pravne posljedice pogađaju i pružatelje alata i korisnike koji ih svjesno koriste za zlonamjerne svrhe.
Za razliku od općih generativnih modela, koji mogu imati širok raspon legalnih i korisnih primjena, „nudifier“ alati definirani su svojom namjenom. Ako je jedina ili dominantna funkcija alata stvaranje intimnog sadržaja bez pristanka, EU ga smatra neprihvatljivim, neovisno o tome koristi li ga pojedinac ili organizirana skupina.
Što se mijenja za AI platforme i kreatore sadržaja
Nova pravila ozbiljno mijenjaju svakodnevni rad kreatora sadržaja, AI startupa i velikih platformi u Europi. Obveze se mogu grubo podijeliti na dvije razine: razvoj alata i distribuciju sadržaja.
Obveze za pružatelje AI video alata
Tvrtke koje razvijaju generativne video sustave – bilo otvorenog koda, bilo komercijalne SaaS platforme – morat će ugraditi niz zaštitnih mehanizama:
- automatsko označavanje izlaza – svaki generirani video, slika ili audio trebaju imati tehničku oznaku koja signalizira da je sadržaj sintetički
- ograničavanje visokorizičnih upotreba – modeli trebaju biti trenirani i konfigurirani tako da odbijaju zahtjeve za stvaranje očito nezakonitog ili nasilnog sadržaja, posebno seksualiziranih deepfakeova
- jasne politike korištenja – uvjeti korištenja moraju izričito zabraniti zlonamjerne primjene, uz mehanizme za prijavu zlouporabe i mogućnost blokiranja korisničkih računa
Za naprednije aktere, poput velikih jezično‑vizualnih modela, očekuje se i transparentnost oko datasetova, treniranja i ograničenja modela. Time se regulatorima olakšava procjena rizika, a korisnicima daje jasniji uvid u to što alat može, a što ne smije raditi.
Obveze za distributere: mediji, društvene mreže, oglašavanje
Drugu razinu čine platforme koje sadržaj prenose do publike. To uključuje velike društvene mreže, video‑platforme, ali i medijske kuće te oglasne mreže. Njihove ključne obveze su:
- detekcija i označavanje AI sadržaja – korištenje detektora vodenih žigova i metapodataka te označavanje sadržaja koji je generiran ili značajno manipuliran AI‑jem
- posebna pravila za politički sadržaj – stroga transparentnost za političke oglase i poruke, osobito uoči izbora
- postupanje po prijavama – brže uklanjanje nezakonitih deepfakeova, osobito intimnih i nasilnih, te suradnja s policijom i pravosuđem
U praksi, korisnici će sve češće vidjeti standardizirane oznake poput „AI generirano“ ili „sintetički modificirano“ ispod videa ili uz naslovnu sliku. Istodobno, većina tehničkih mjera ostat će nevidljiva – vodeni žigovi i metapodaci bit će namijenjeni algoritmima, a ne ljudskom oku.
Kako će se promijeniti percepcija „dokaza na videu“
Za širu javnost najveća promjena nije pravna, nego psihološka. Realističan video više neće automatski značiti i vjerodostojan dokaz. EU računa da će kombinacija tehničkih mjera, pravnih zabrana i medijske transparentnosti stvoriti novi standard: svaka snimka je tvrdnja koju treba provjeriti.
To znači da će građani morati razviti novu razinu digitalne pismenosti. Umjesto da vjeruju svemu što izgleda „previše dobro“ ili „previše šokantno“, morat će provjeravati izvor, kontekst i eventualne oznake o AI podrijetlu. Mediji će, s druge strane, morati jasnije objašnjavati kada koriste rekonstrukcije, ilustracije ili simulacije temeljene na umjetnoj inteligenciji.
Dugoročno, to bi moglo dovesti do dvostrukog učinka. S jedne strane, manipulirani sadržaj bit će teže plasirati bez rizika od otkrivanja. S druge strane, stvarne snimke zločina, ratnih zločina ili policijskog nasilja mogle bi biti lakše dovedene u pitanje uz argument „to je sigurno deepfake“. Regulativa, stoga, nije čarobno rješenje, nego pokušaj postavljanja minimuma povjerenja.
Što kreatori i tvrtke mogu učiniti već danas
Iako će detalji provedbe ovisiti o konačnim smjernicama i nacionalnim zakonodavstvima, kreatori sadržaja i tvrtke koje koriste AI video alate već sada mogu poduzeti konkretne korake:
- odabrati alate koji podržavaju vodene žigove i metapodatke te imaju jasne sigurnosne politike
- u vlastitim produkcijama jasno označavati kada je sadržaj generiran ili značajno poboljšan umjetnom inteligencijom
- uspostaviti interne procedure za provjeru osjetljivog sadržaja, posebno u političkom i intimnom kontekstu
- educirati timove o novim pravilima, rizicima deepfakeova i obvezama prema korisnicima i partnerima
Za AI startupe, ovo je i prilika. Raste potražnja za alatima za detekciju deepfakeova, upravljanje metapodacima, sigurnu distribuciju sadržaja i automatizirano označavanje. Tvrtke koje se na vrijeme prilagode novom europskom okviru mogle bi steći konkurentsku prednost, osobito u sektorima medija, oglašavanja i javne uprave.
Zaključak: regulacija kao okvir, ne kočnica
EU ne pokušava zaustaviti razvoj generativnog videa, nego ga usmjeriti u okvir u kojem su prava građana i povjerenje u digitalni prostor zaštićeni. Obvezno tehničko označavanje, zabrana najštetnijih alata i veća odgovornost platformi tek su prvi sloj tog okvira.
Kako će se modeli, parametri i datasetovi i dalje razvijati, regulativa će se morati prilagođavati novim oblicima zlouporabe. No osnovna poruka je jasna: fotorealistični AI video više nije samo igračka za entuzijaste, nego infrastruktura s društvenim posljedicama. A za takvu infrastrukturu vrijede pravila – jednako kao i za promet, energiju ili financije.
