Od sutra, 2. kolovoza 2026., u Hrvatskoj i ostalim državama Europske unije počinje se primjenjivati najveći dio Uredbe o umjetnoj inteligenciji, poznatije kao EU AI Act. Među odredbama koje stupaju na snagu nalaze se i pravila transparentnosti za sadržaj generiran ili manipuliran umjetnom inteligencijom.
Na društvenim mrežama posljednjih se dana često može pročitati da će od tog datuma svaka AI fotografija, ilustracija ili video morati biti jasno označeni. To je pojednostavljeno tumačenje koje ne prenosi u potpunosti ono što piše u Uredbi.
Nova pravila doista uvode obveze označavanja, ali one ovise o vrsti sadržaja, načinu na koji je nastao, njegovoj namjeni te o tome tko ga izrađuje, objavljuje ili stavlja na raspolaganje korisnicima.
Što se mijenja od sutra?
Članak 50. AI Acta donosi posebna pravila transparentnosti za pružatelje i korisnike određenih sustava umjetne inteligencije.
Obveze se odnose na nekoliko glavnih područja:
- sustave umjetne inteligencije koji izravno komuniciraju s ljudima
- sustave koji proizvode sintetički tekst, fotografije, zvuk ili video
- sustave za prepoznavanje emocija i biometrijsku kategorizaciju
- deepfake sadržaj
- određene AI generirane tekstove o temama od javnog interesa
Europska komisija navodi da pravila trebaju smanjiti mogućnost obmanjivanja i manipuliranja ljudima te pomoći korisnicima da lakše prepoznaju sadržaj koji nije nastao klasičnim fotografiranjem, snimanjem ili ljudskim pisanjem.
Moraju li sve AI fotografije od sutra imati oznaku?
Ne moraju baš sve AI fotografije automatski dobiti veliku i vidljivu oznaku „izrađeno umjetnom inteligencijom”.
AI Act razlikuje obveze pružatelja AI sustava od obveza osoba i tvrtki koje te sustave koriste.
Pružatelji sustava koji proizvode ili mijenjaju fotografije, video, zvuk ili tekst moraju osigurati da se AI generirani sadržaj može prepoznati u strojno čitljivom obliku. Takve oznake mogu biti ugrađene u metapodatke, digitalne vjerodajnice, vodene žigove ili druga tehnička rješenja.
To znači da oznaka ne mora uvijek izgledati kao veliki natpis preko fotografije. U nekim će slučajevima biti ugrađena u samu datoteku kako bi je platforme i alati za provjeru mogli prepoznati.
Drugačija pravila vrijede za osobu, medij, agenciju ili tvrtku koja određeni sadržaj objavljuje.
Deepfake fotografije i videozapisi moraju biti označeni
Najjasnija obveza odnosi se na deepfake sadržaj.
AI Act deepfake definira kao fotografiju, zvučni ili videosadržaj koji je proizveden ili manipuliran umjetnom inteligencijom, a prikazuje postojeće osobe, predmete, mjesta ili događaje tako da bi prosječnoj osobi mogao lažno djelovati autentično ili istinito.
Primjerice, oznaka će biti potrebna kada se pomoću umjetne inteligencije:
- napravi lažni video političara koji izgovara nešto što nikada nije rekao
- poznatu osobu smjesti u događaj kojem nije prisustvovala
- izradi realistična snimka požara, poplave ili prosvjeda koji se nisu dogodili
- promijeni nečiji glas ili pokrete usana
- stvori lažna reportažna ili dokumentarna fotografija
Osoba ili organizacija koja takav sadržaj objavi mora otkriti da je sadržaj umjetno generiran ili manipuliran.
Drugim riječima, cilj pravila nije zabraniti kreativno korištenje umjetne inteligencije, nego spriječiti da računalno stvoren sadržaj bude predstavljen kao autentična fotografija ili snimka stvarnog događaja.
Što je s umjetničkim fotografijama i kreativnim radovima?
Uredba predviđa blaže pravilo za sadržaj koji je očito dio umjetničkog, kreativnog, satiričnog, fikcionalnog ili sličnog djela.
U takvim slučajevima i dalje treba otkriti da je sadržaj generiran ili manipuliran, ali oznaka se može postaviti na način koji neće ometati prikaz ili doživljaj umjetničkog rada.
To je važno za fotografe, dizajnere, ilustratore, filmaše i druge kreativce. AI Act ne propisuje da preko svake umjetničke fotografije mora stajati golemi natpis koji bi uništio kompoziciju.
Obavijest se, ovisno o kontekstu, može nalaziti:
- u opisu objave
- uz naziv djela
- u legendi fotografije
- u najavi izložbe
- u odjavnoj špici
- u opisu videa ili projekta
- u pripadajućim metapodacima
Najvažnije je da publika ne bude namjerno dovedena u zabludu o tome je li prikaz autentičan ili računalno stvoren.
Mora li se označiti fotografija obrađena u Photoshopu?
Sama činjenica da je fotografija obrađena digitalnim alatom ne znači automatski da postaje deepfake ili AI generirana fotografija.
Klasične fotografske korekcije poput podešavanja:
- ekspozicije
- kontrasta
- balansa bijele boje
- zasićenosti
- oštrine
- uklanjanja prašine sa senzora
- kadriranja fotografije
nisu isto što i stvaranje lažnog događaja, osobe ili prizora.
Granica postaje važnija kada AI značajno mijenja sadržaj fotografije. Primjerice, kada se dodaje osoba koja nije bila prisutna, zamjenjuje cijelo nebo, stvara nova lokacija, mijenja izraz lica ili konstruira prizor koji se nikada nije dogodio.
Presudni su opseg izmjene, kontekst objave i mogućnost da publika takav sadržaj protumači kao vjerodostojan prikaz stvarnosti.
Što je s generativnim popunjavanjem fotografije?
Korištenje alata poput generativnog popunjavanja ne stvara automatski jednaku pravnu obvezu u svakoj situaciji.
Velika je razlika između toga da fotograf generativnim alatom ukloni malu smetnju uz rub kadra i situacije u kojoj potpuno promijeni izgled mjesta ili događaja, a zatim rezultat predstavi kao dokumentarnu fotografiju.
Za fotografe bi zato najrazumnije pravilo trebalo glasiti:
Što AI intervencija više mijenja stvarnost prikazanu na fotografiji, to je važnije jasno navesti da je sadržaj generiran ili bitno manipuliran umjetnom inteligencijom.
Posebna pažnja potrebna je u novinarstvu, političkoj komunikaciji, oglašavanju, dokumentarnoj fotografiji, turizmu i drugim područjima u kojima publika očekuje vjerodostojan prikaz stvarnosti.
AI generirani tekstovi također mogu podlijegati pravilima
AI Act ne odnosi se samo na fotografije i videozapise.
Kada se umjetnom inteligencijom generira ili manipulira tekst koji se objavljuje radi informiranja javnosti o pitanjima od javnog interesa, objavitelj u pravilu mora otkriti da je tekst proizveden ili izmijenjen umjetnom inteligencijom.
Uredba ipak predviđa iznimku kada je sadržaj prošao ljudsku provjeru ili uredničku kontrolu te kada fizička ili pravna osoba preuzima uredničku odgovornost za objavu.
To znači da korištenje AI alata kao pomoći pri pisanju nacrta nije nužno isto što i automatsko objavljivanje potpuno AI generiranog članka bez ljudske provjere.
Za medije i portale ključno će biti mogu li dokazati stvarnu uredničku kontrolu, provjeru činjenica i odgovornost za objavljeni sadržaj.
Hoće li Facebook, Instagram i druge platforme same označavati sadržaj?
Društvene mreže već koriste vlastite oznake za sadržaj koji prepoznaju kao generiran ili izmijenjen umjetnom inteligencijom. Te se oznake mogu temeljiti na metapodacima datoteke, informacijama koje šalje alat za generiranje ili prijavi samog korisnika.
Nova europska pravila dodatno potiču razvoj tehničkih standarda koji bi omogućili da se AI sadržaj pouzdanije prepoznaje bez obzira na to kojim je programom napravljen.
Međutim, činjenica da društvena mreža nije automatski prikazala oznaku ne znači nužno da je objavitelj ispunio sve svoje obveze. Kada je riječ o deepfake sadržaju ili objavi koja bi mogla obmanuti publiku, odgovornost može postojati i na strani osobe ili organizacije koja ga objavljuje.
Odnose li se nova pravila i na privatne korisnike?
AI Act prvenstveno regulira pružatelje i profesionalne korisnike AI sustava, odnosno osobe i organizacije koje ih koriste u poslovnom, institucionalnom ili profesionalnom kontekstu.
Uredba se u pravilu ne primjenjuje na fizičke osobe koje AI koriste isključivo u osobne i neprofesionalne svrhe.
Ipak, to ne znači da privatni korisnik smije neograničeno izrađivati lažne fotografije drugih osoba. I dalje se mogu primjenjivati druga pravila o zaštiti osobnosti, privatnosti, osobnih podataka, autorskim pravima, kleveti, prijevari ili uznemiravanju.
Kolike su kazne za kršenje pravila?
Za kršenje obveza transparentnosti iz članka 50. AI Act predviđa mogućnost administrativnih kazni do 15 milijuna eura ili, kada je prekršitelj poduzeće, do tri posto ukupnog svjetskog godišnjeg prihoda iz prethodne poslovne godine, ovisno o tome koji je iznos viši.
Za mala i srednja poduzeća primjenjuje se povoljniji princip prema kojem se uzima niži od propisanog postotka ili fiksnog maksimalnog iznosa. Visina kazne neće biti automatska, nego će ovisiti o okolnostima, težini, trajanju i posljedicama prekršaja.
Zbog toga ne treba očekivati da će pojedinac odmah dobiti milijunsku kaznu zbog jedne pogrešno označene objave na Instagramu. Najviši iznosi predstavljaju zakonske maksimume za ozbiljna kršenja pravila.
Što bi fotografi, influenceri i mediji trebali napraviti?
Fotografi i kreatori sadržaja trebali bi uvesti jednostavno pravilo transparentnosti.
Kada AI služi samo kao pomoć pri uobičajenoj obradi fotografije, oznaka vjerojatno neće biti potrebna u jednakoj mjeri kao kada je cijeli prizor generiran ili značajno izmijenjen.
Kod potpuno generiranih fotografija, realističnih montaža, zamjene osoba, promjene stvarnih događaja ili stvaranja prizora koji se nisu dogodili preporučljivo je jasno navesti, primjerice:
Fotografija je generirana umjetnom inteligencijom.
Vizual je djelomično izrađen uz pomoć generativne umjetne inteligencije.
Prizor je digitalno manipuliran i ne prikazuje stvarni događaj.
AI generated image.
Za sadržaj koji bi mogao biti protumačen kao vijest, dokumentarni zapis ili autentična reportažna fotografija transparentnost mora biti osobito jasna.
Ne počinje zabrana AI fotografija, nego razdoblje veće odgovornosti
Nova pravila ne znače da Europska unija od sutra zabranjuje AI fotografije niti da će svaka upotreba umjetne inteligencije morati biti označena crvenim upozorenjem preko cijele slike.
Najvažniji cilj AI Acta jest omogućiti ljudima da znaju kada komuniciraju s umjetnom inteligencijom i kada gledaju sadržaj koji bi ih mogao navesti da povjeruju u nešto što se u stvarnosti nije dogodilo.
Za fotografe i druge kreativce najveća promjena neće biti zabrana umjetničkog eksperimentiranja, nego potreba da jasnije razlikuju fotografiju, digitalnu ilustraciju, AI generirani vizual i manipulirani dokumentarni sadržaj.
U vremenu u kojem je sve teže razlikovati stvarnu fotografiju od računalno generiranog prizora, transparentnost neće biti samo zakonska obveza. Postat će jedan od ključnih načina očuvanja povjerenja publike.
Prethodni članak: Viška ili komiška pogača? Razlika je u jednom sastojku – Domagoj Sever
