Što je Digitalni omnibus o umjetnoj inteligenciji?
Dok se poduzetnici još snalaze s osnovnim obvezama iz EU AI Acta, u Bruxellesu se priprema njegov drugi, tiši val. Riječ je o tzv. Digitalnom omnibusu o umjetnoj inteligenciji – paketu izmjena i dopuna koji ne mijenja temeljnu logiku Akta, ali bitno utječe na svakodnevnu praksu.
Cilj Omnibusa je povezati EU AI Act s ostalim ključnim digitalnim propisima te uvesti dodatne obveze vezane uz:
- pismenost u području umjetne inteligencije (AI literacy),
- interne procedure i upravljanje rizicima,
- kodekse prakse za rizične AI sustave,
- usklađivanje s propisima o kibernetičkoj sigurnosti i zaštiti podataka.
Ono što je u mnogim organizacijama još uvijek percipirano kao „još jedan compliance projekt” pretvara se u trajnu transformaciju načina na koji se planiraju, uvode i nadziru AI sustavi u Europskoj uniji.
Pismenost u području umjetne inteligencije kao nova obveza
Najveća novost Omnibusa je snažan naglasak na pismenost u području umjetne inteligencije. Tekst prijedloga izričito traži da države članice i Europska komisija potiču dobavljače i korisnike AI sustava da osiguraju „dostatnu razinu pismenosti u području umjetne inteligencije” za osoblje koje sudjeluje u razvoju, integraciji ili korištenju tih sustava.
To nije samo osnovno upoznavanje s pojmovima poput generativnih modela, LLM-ova ili algoritama strojnog učenja. Očekuje se i razumijevanje:
- rizika (npr. diskriminacija, netočnost, sigurnosni propusti),
- ograničenja modela (npr. halucinacije, pristranost datasetova),
- načina nadzora i evaluacije AI rješenja,
- pravnih posljedica pogrešne ili nekontrolirane uporabe.
U praksi, to znači da će poslodavci u EU morati uvoditi strukturirane programe obuke, interne smjernice i redovita ažuriranja znanja. Sličan pomak već se dogodio s uvođenjem GDPR-a, kada su se u tvrtkama standardizirale edukacije o zaštiti podataka i obvezne procedure za incidentne situacije.
Kako bi mogle izgledati AI edukacije u tvrtkama?
Digitalni omnibus ne propisuje detaljan kurikulum, ali iz prijedloga i pratećih dokumenata može se naslutiti nekoliko očekivanih elemenata:
- Osnovna razina: za sve zaposlenike koji koriste AI alate u radu (npr. generativni asistenti, analitički sustavi). Fokus na razumijevanju ograničenja, zaštiti povjerljivih podataka i pravilima odgovorne uporabe.
- Napredna razina: za razvojne timove, podatkovne znanstvenike i IT odjele. Obuhvaća dizajn modela, rad s datasetovima, testiranje, dokumentiranje i praćenje performansi te sigurnosne aspekte.
- Upravljačka razina: za menadžment, pravne i compliance timove. Naglasak na procjeni rizika, odabiru dobavljača, ugovornim klauzulama, internim politikama i odgovornosti.
Za mnoge organizacije to znači prelazak s ad-hoc učenja putem online alata na formalizirane programe, s jasno definiranim ciljevima, metrikama i redovitim obnavljanjem znanja.
Usklađivanje s drugim digitalnim propisima
Druga ključna dimenzija Digitalnog ombnibusa je usklađivanje EU AI Acta s postojećim zakonodavstvom, uključujući:
- GDPR i ePrivacy pravila,
- NIS2 direktivu o kibernetičkoj sigurnosti,
- Cyber Resilience Act,
- Digital Services Act (DSA) i Digital Markets Act (DMA),
- sektorske propise u financijama, zdravstvu, prometu i javnoj upravi.
Za pružatelje AI rješenja i korisnike to znači da više nije održivo razmišljati o usklađenosti „po silosima”: jedan tim za zaštitu podataka, drugi za sigurnost, treći za regulativu AI sustava. Novi paket gura organizacije prema integriranom pristupu upravljanju rizicima.
Integrirani pristup: od procjene utjecaja do operativnih procedura
U praksi se očekuje da će procjena utjecaja AI sustava biti povezana s drugim obveznim analizama. Primjerice:
- DPIA + AI procjena rizika: kada AI sustav obrađuje osobne podatke, procjena utjecaja na zaštitu podataka (DPIA) morat će obuhvatiti i specifične AI rizike, poput automatiziranog profiliranja ili odluka bez ljudskog nadzora.
- NIS2 + AI sigurnost: operatori ključnih usluga morat će dokazati da su modeli i AI aplikacije dio njihove kibernetičke obrane – uključujući zaštitu od kompromitacije modela, trovanja podataka i napada na lanac opskrbe.
- Cyber Resilience Act + AI proizvodi: proizvođači softvera i hardvera koji uključuju AI funkcionalnosti morat će pokazati da su rizici od AI komponenti adresirani u sigurnosnom dizajnu proizvoda.
Za poduzeća to znači potrebu za zajedničkim radom pravnih, IT, sigurnosnih i poslovnih timova, uz jasne interne procedure, registre AI sustava i standardizirane obrasce za procjenu rizika.
Posljedice za hrvatske i regionalne tvrtke
Za hrvatske i regionalne tvrtke Digitalni omnibus donosi i izazove i prilike. Kratkoročno, dodatni zahtjevi za pismenošću, dokumentacijom i usklađenošću mogu usporiti uvođenje generativnih i analitičkih AI alata, posebno u manjim organizacijama bez vlastitih pravnih i sigurnosnih timova.
No, istodobno se otvara prostor za diferencijaciju. Tvrtke koje rano investiraju u interne politike, edukacije, registre AI sustava i transparentnu dokumentaciju mogu steći konkretnu konkurentsku prednost.
Gdje su konkretne poslovne prilike?
- Lanac dobave velikih kupaca: europski korporativni klijenti i javni naručitelji sve će češće tražiti dokaze o odgovornom upravljanju AI-jem. Dobro posloženo AI upravljanje može postati uvjet za sudjelovanje na natječajima.
- IPCEI AI i drugi EU programi: projekti od zajedničkog europskog interesa (IPCEI) i novi programi financiranja nagrađivat će konzorcije koji mogu pokazati zrelu razinu upravljanja rizicima i usklađenosti.
- Specijalizirane usluge: za konzultantske kuće, pravne urede, IT integratore i sigurnosne tvrtke otvara se novo tržište – od izrade AI politika do tehničke implementacije kontrola, logiranja i nadzora modela.
Za startupove, dodatna regulacija može izgledati kao prepreka, ali i tu postoji prostor za prednost. Rani dizajn proizvoda u skladu s EU AI Actom i povezanim propisima olakšat će kasniji ulazak na regulirana tržišta, poput financijskog ili zdravstvenog sektora.
Novi forumi: Europsko vijeće za umjetnu inteligenciju i Savez za primjenu AI
Kako bi se Digitalni omnibus proveo u praksi, predviđena je važna uloga dvaju foruma na razini EU:
- Europsko vijeće za umjetnu inteligenciju – koordinacijsko tijelo koje okuplja predstavnike država članica i Komisije, zaduženo za tumačenje Akta, praćenje provedbe i razmjenu dobrih praksi.
- Savez za primjenu umjetne inteligencije – širi forum koji uključuje industriju, akademsku zajednicu, civilno društvo i druge dionike, s ciljem razvoja dobrovoljnih kodeksa i praktičnih smjernica.
Ovi forumi trebali bi postati glavna mjesta gdje se tehnički i pravni zahtjevi prevode u konkretne alate: checkliste, referentne arhitekture, preporučene metrike i standarde za testiranje modela.
Zašto je važno uključiti se na vrijeme?
Za lokalnu AI scenu – od strukovnih udruga i komora, preko startup zajednice, do sveučilišta i istraživačkih centara – ovo je prilika da sudjeluju u oblikovanju standarda, umjesto da ih samo naknadno implementiraju.
Uključivanje u rad Saveza ili srodnih inicijativa može donijeti nekoliko koristi:
- rani uvid u smjer u kojem se razvija regulativa,
- mogućnost utjecaja na realističnost tehničkih zahtjeva,
- pristup mreži partnera za zajedničke projekte i konzorcije,
- prepoznavanje kao pouzdanog aktera u „europskom načinu” korištenja umjetne inteligencije.
Što poduzeća mogu učiniti već danas?
Iako je Digitalni omnibus još u zakonodavnom postupku, poduzeća ne moraju čekati konačni tekst da bi poduzela prve korake. Nekoliko praktičnih mjera već sada ima smisla:
- Inventar AI sustava: popisati koje AI alate i modele organizacija koristi, gdje se nalaze (cloud, on-premise, edge), koje podatke obrađuju i za koje poslovne procese.
- Osnovne politike i smjernice: definirati što je dopušteno, a što nije (npr. zabrana unošenja povjerljivih podataka u javne generativne alate, pravila nadzora nad automatiziranim odlukama).
- Početni program pismenosti u području AI-ja: uvesti kratke, ciljanje edukacije za ključne skupine zaposlenika, s naglaskom na rizike i odgovornu uporabu.
- Koordinacija timova: uspostaviti zajedničko tijelo ili radnu skupinu koja okuplja IT, sigurnost, pravnu službu, compliance i poslovne odjele oko AI tema.
- Praćenje EU inicijativa: aktivno pratiti rad Europskog vijeća za umjetnu inteligenciju, Saveza i nacionalnih regulatora te se uključivati u javna savjetovanja.
Organizacije koje ove temelje postave na vrijeme lakše će se prilagoditi kada Digitalni omnibus postane obvezujući, a istodobno će biti spremnije za brže i sigurnije uvođenje novih AI rješenja.
Prema „europskom načinu” korištenja umjetne inteligencije
Digitalni omnibus o umjetnoj inteligenciji nije spektakularna nova uredba, nego pažljivo nadograđen okvir koji EU AI Act povezuje s ostatkom digitalnog ekosustava. Naglasak na pismenosti, integriranom upravljanju rizicima i dobrovoljnim kodeksima prakse pokazuje smjer: umjetna inteligencija treba postati normalizirani, ali nadzirani dio poslovanja.
Za poduzetnike u Hrvatskoj i regiji to znači da je vrijeme „čekanja jasnih pravila” praktički završilo. Sljedeća faza bit će definirana onima koji se aktivno uključe – u oblikovanje standarda, u izgradnju internih kapaciteta i u razvoj rješenja koja od početka računaju na europski regulatorni kontekst.
