Što su frontier modeli i zašto postaju regulatorni prioritet
Frontier modeli označavaju najnaprednije sustave umjetne inteligencije, obično velike jezične modele i multimodalne modele s milijardama ili bilijunima parametara. Riječ je o sustavima koji mogu generirati kod, slike, tekst, planirati zadatke i djelovati kao temelj za agentne sustave. Zbog njihove snage, potencijalni društveni učinak više nije samo ekonomski ili inovacijski, nego i sigurnosni.
Donedavno je prevladavao pristup „objavi model, pa ćemo vidjeti što će se dogoditi“. Proizvođači su sami definirali vlastite testove, vlastite kriterije uspješnosti i vlastite granice prihvatljivog rizika. Regulatori su se uglavnom oslanjali na dobrovoljne smjernice i samoprocjene. Taj se model sada mijenja. Europska unija i Sjedinjene Države jasno poručuju da će se za najmoćnije AI sustave tražiti neovisna, tehnički utemeljena testiranja, prije i nakon puštanja modela u uporabu.
U praksi to znači prelazak na pristup „dokaži da je siguran, pa ga pusti na tržište“. Frontier modeli se sve više tretiraju kao kritična infrastruktura, a ne samo kao digitalni proizvod.
EU: Znanstveni panel i AI Act kao temelj novog režima
U Europskoj uniji ključnu ulogu preuzima Ured za umjetnu inteligenciju, uz potporu Znanstvenog panela od 60 neovisnih stručnjaka, aktiviranog 1. lipnja 2026. Panel okuplja istraživače iz područja strojne inteligencije, sigurnosti, kibernetike, etike i regulatorne prakse. Njihova zadaća je premostiti jaz između akademske znanosti, industrijske prakse i regulatornih zahtjeva.
Panel ima tri ključne funkcije:
- predlagati metode testiranja frontier i general-purpose AI modela,
- definirati kriterije za procjenu sistemskog rizika,
- odrediti pragove iznad kojih se model smatra „sistemskim“ i podliježe strožem nadzoru.
Ti pragovi mogu uključivati kombinaciju tehničkih i društvenih parametara: broj parametara, računalne resurse korištene za treniranje, sposobnost izvođenja kompleksnih zadataka, ali i potencijal za zloporabu u područjima poput biotehnologije, kibernetičke sigurnosti ili informacijskih operacija.
Od dokumentacije do tehničkih dokaza
EU AI Act i prateći kodeksi prakse sve se više odmiču od modela u kojem je bilo dovoljno dostaviti opsežnu dokumentaciju i procjenu rizika koju je izradio sam proizvođač. Novi okvir inzistira na mjerljivim, ponovljivim i neovisno provjerljivim testovima.
To uključuje:
- standardizirane evaluacije na javno dostupnim i specijaliziranim datasetovima,
- scenarije testiranja koji simuliraju stvarne uvjete uporabe,
- kontinuirano praćenje ponašanja modela nakon puštanja u rad (post-market monitoring),
- mehanizme za brzo reagiranje kada se pojave novi rizici ili neočekivana ponašanja.
Za proizvođače to znači da će uz model morati isporučiti „testni otisak“: skup metrika, rezultata i protokola koji pokazuju kako se model ponaša u različitim scenarijima. Regulatori i korisnici više neće prihvaćati tvrdnju „model je siguran“ bez konkretnih brojki i nezavisne provjere.
SAD: industrija i država prema zajedničkim standardima
Na drugoj strani Atlantika odvija se sličan proces, iako s drukčijom institucionalnom arhitekturom. Američke federalne agencije, istraživački laboratoriji i vodeće tehnološke kompanije sve češće ističu potrebu za neovisnim i standardiziranim okruženjima za testiranje frontier modela.
U praksi se razvijaju tri glavna stupa:
- sigurnosna testiranja usmjerena na zloupotrebe,
- testiranja robusnosti i otpornosti na napade,
- evaluacije ponašanja modela unutar agentnih sustava i autonomnih radnih tokova.
Sigurnosni fokus: od kibernetičkih napada do bioloških prijetnji
Sigurnosna testiranja frontier modela u SAD-u često obuhvaćaju scenarije koji su donedavno bili rezervirani za specijalizirane laboratorije nacionalne sigurnosti. Procjenjuje se, primjerice, može li model pomoći u dizajniranju naprednih kibernetičkih napada, olakšati razvoj bioloških prijetnji ili generirati uvjerljive dezinformacijske kampanje velikog dosega.
Takva testiranja ne provode se samo na razini „mogu li modeli dati opasan odgovor“, nego i na razini sustavne procjene: koliko su modeli skloni takvim odgovorima, pod kojim uvjetima, te koliko je lako korisnicima ili zlonamjernim akterima zaobići zaštitne mehanizme.
Robusnost, jailbreak napadi i agentni sustavi
Posebna pažnja posvećuje se robusnosti na jailbreak napade – pokušaje da se model navede da ignorira vlastita pravila i sigurnosne filtere. Testiraju se razne tehnike prompt inženjeringa, kombinacije jezika, kodiranih poruka i korištenje drugih modela za generiranje zlonamjernih upita.
Dodatno, frontier modeli se sve češće koriste kao „mozgovi“ agentnih sustava koji samostalno planiraju i izvršavaju zadatke. U tim konfiguracijama model više ne daje samo savjete ljudima, već upravlja softverskim agentima koji mogu mijenjati podatke, komunicirati s drugim sustavima ili donositi odluke u stvarnom vremenu. Zbog toga se testiranja proširuju s pojedinačnog modela na cijeli agentni ekosustav.
Što to znači za europska poduzeća i javni sektor
Za europske organizacije – od startupova do ministarstava – nova pravila igre imat će vrlo konkretne posljedice. Pri odabiru AI rješenja više neće biti dovoljno pitati „što model može“, već i „kako je testiran“ i „tko je testirao“.
Neovisne evaluacije kao novi sigurnosni certifikati
U osjetljivim sektorima, poput zdravstva, financija, kritične infrastrukture ili javne uprave, regulatorni pritisak bit će osobito snažan. Modeli možda neće biti formalno zabranjeni, ali bez vjerodostojnog testnog otiska bit će teško dobiti regulatorno odobrenje ili proći interne revizije rizika.
To može nalikovati postojećim sigurnosnim certifikatima u drugim industrijama. Primjerice:
- bolnice će tražiti dokaze da je medicinski AI asistent prošao neovisna klinička i sigurnosna testiranja,
- banke će zahtijevati evaluacije modela koji donose kreditne odluke, uključujući testove pristranosti i otpornosti na manipulacije,
- operateri energetskih mreža tražit će potvrde da prediktivni modeli ne uvode dodatne rizike za stabilnost sustava.
Tvrtke koje razvijaju ili integriraju AI morat će jasno dokumentirati koje su testove modeli prošli, kako prate incidente te na koji način ažuriraju sustave kada se otkrije novi rizik. Incidentni dnevnik, procesi za povlačenje modela ili hitno ažuriranje postat će standardni dio AI životnog ciklusa.
Utjecaj na brzinu inovacija
U kratkom roku, dodatni slojevi testiranja i nadzora mogli bi usporiti lansiranje nekih proizvoda. Posebno će to osjetiti manji timovi bez vlastitih sigurnosnih i evaluacijskih kapaciteta. Međutim, dugoročno se očekuje da će veće povjerenje korisnika i regulatora otvoriti prostor za širu primjenu AI rješenja u sektorima koji su dosad bili oprezni ili skeptični.
Za poduzeća to znači da će ulaganje u sigurnost i evaluaciju modela postati konkurentska prednost, a ne samo trošak usklađivanja s propisima.
Nastanak novog tržišta: evaluacijski alati, datasetovi i stručnost
Promjena paradigme otvara i novu tržišnu nišu. Ako sigurnost frontier modela postaje obvezan dio AI životnog ciklusa, netko mora razviti alate, testne skupove i metodologije koji će taj proces učiniti pouzdanim i skalabilnim.
Za europsku AI scenu to je prilika. Kontinent već ima snažnu istraživačku bazu u području sigurnosti, privatnosti i regulative. Sada se ta stručnost može pretočiti u konkretne proizvode i usluge:
- platforme za automatizirano testiranje modela na tisućama scenarija,
- specijalizirani datasetovi za evaluaciju rizika u zdravstvu, financijama, energetici ili javnoj upravi,
- alatni lanci za procjenu robusnosti i detekciju jailbreak napada,
- servisi za neovisnu reviziju i certificiranje AI modela.
Europske tvrtke i istraživačke institucije ovdje imaju realnu šansu postati globalni predvodnici, upravo zato što se regulatorni okvir u EU razvija brzo i detaljno. Oni koji prvi usvoje nove standarde evaluacije mogu ih kasnije izvoziti kao „know-how“ i tehnologiju.
Od dobrovoljne prakse do obveznog standarda
Šira slika je jasna: sigurnost frontier modela prelazi iz dobrovoljne prakse u obvezan standard. I EU i SAD konvergiraju prema modelu u kojem se najmoćniji AI sustavi ne mogu plasirati na tržište bez neovisnog, tehnički utemeljenog testiranja.
Za korisnike to znači veću transparentnost i mogućnost usporedbe modela ne samo po performansama, već i po sigurnosnom profilu. Za proizvođače to znači da će se ulaganje u sigurnost, robusnost i evaluaciju sve više isplatiti. A za europsku AI industriju to je signal da se nova utrka ne vodi samo u parametrima i performansama, već i u kvaliteti testiranja i sposobnosti upravljanja rizikom.
Frontier modeli ostaju snažan motor inovacija, ali uz novo pravilo: što je model moćniji, to mora proći rigorozniji i neovisniji nadzor. Tko se na to prilagodi na vrijeme, imat će prednost u sljedećoj fazi razvoja globalnog AI ekosustava.
