Nova pravila Evropske unije za veštačku inteligenciju počela su da se primenjuju 2. avgusta 2026. godine, a među najvažnijim novinama su obaveze vezane za transparentnost AI sadržaja. Pravila imaju za cilj da građani lakše prepoznaju kada razgovaraju sa veštačkom inteligencijom i kada gledaju sadržaj koji je generisan ili izmenjen pomoću AI tehnologije.
Posebna pažnja posvećena je takozvanim dipfejkovima, odnosno realističnim fotografijama, audio-zapisima i video-snimcima koji su napravljeni ili izmenjeni pomoću veštačke inteligencije. Nova pravila deo su člana 50 EU AI Act-a, koji uvodi konkretne obaveze transparentnosti za pružaoce i korisnike određenih AI sistema.
Šta donosi EU AI Act i nova pravila za AI sadržaj?
Prema pravilima EU, pružaoci sistema koji generišu sintetički audio, slike, video ili tekst moraju da obezbede da njihovi izlazi budu označeni na način koji omogućava mašinsko prepoznavanje da je sadržaj veštački generisan ili izmenjen, uz određene izuzetke.
Kada je reč o javnosti, postoje dodatne obaveze za određene vrste sadržaja. Dipfejk sadržaj mora biti jasno označen kao veštački generisan ili manipulisan, dok se AI-generisani ili izmenjeni tekstovi namenjeni informisanju javnosti o pitanjima od javnog interesa takođe moraju označiti ako nisu prošli ljudsku proveru ili uredničku kontrolu.
Čet-botovi moraju jasno da pokažu kada je reč o AI
Nova pravila ne odnose se samo na fotografije i video-snimke. Kada korisnik direktno komunicira sa AI sistemom, pružalac mora da obezbedi da osoba bude obaveštena da razgovara sa veštačkom inteligencijom, osim u situacijama kada je to već očigledno iz konteksta.
To znači da će korisnici različitih čet-botova i drugih interaktivnih AI sistema morati lakše da razlikuju komunikaciju sa softverom od razgovora sa stvarnom osobom.
Kako će biti označeni AI fotografije, video i audio?
Evropska komisija navodi da se pravila odnose na različite vrste sadržaja, uključujući tekst, slike, video i audio. Za pružaoce AI sistema posebno je važna upotreba mašinski čitljivih oznaka koje omogućavaju drugim sistemima da prepoznaju da je sadržaj generisan ili izmenjen pomoću veštačke inteligencije.
- AI fotografije i drugi vizuelni sadržaji mogu zahtevati jasno označavanje kada potpadaju pod pravila.
- Dipfejk video i audio sadržaj mora biti obeležen kao veštački generisan ili manipulisan.
- AI-generisani tekst o pitanjima od javnog interesa mora biti označen u slučajevima predviđenim propisima.
- Korisnici moraju biti obavešteni kada direktno komuniciraju sa AI sistemom.
Ko je odgovoran za označavanje AI sadržaja?
Važno je razlikovati obaveze pružalaca AI sistema od obaveza onih koji te sisteme koriste. Pružaoci moraju da ugrade odgovarajuće tehničke mehanizme za označavanje i detekciju AI sadržaja, dok korisnici odnosno deployeri imaju obaveze javnog obaveštavanja u određenim slučajevima, uključujući dipfejkove.
Pravila nisu namenjena samo velikim tehnološkim kompanijama. Njihov obuhvat zavisi od toga ko pruža ili koristi AI sistem, za koju namenu i kakav sadržaj nastaje.
Kolike su kazne za kršenje AI pravila?
Za kršenje obaveza iz oblasti transparentnosti predviđene su značajne kazne. Evropska komisija navodi da kazne mogu iznositi do 15 miliona evra ili tri odsto ukupnog godišnjeg svetskog prometa kompanije, uz pravila o proporcionalnosti za mala i srednja preduzeća.
Treba, međutim, razlikovati ove kazne od viših kazni koje EU AI Act predviđa za određene zabranjene AI prakse. Zato se iznos od 35 miliona evra ili sedam odsto prometa ne odnosi na svako kršenje pravila o transparentnosti.
Da li postoji prelazni period za postojeće AI sisteme?
Za određene generativne AI sisteme koji su već bili na tržištu pre 2. avgusta 2026. postoji prelazni period u vezi sa obavezom mašinski čitljivog označavanja, do 2. decembra 2026. godine. Sadržaj koji je generisan i već bio dostupan pre 2. avgusta ne mora retroaktivno da bude označen.
Nova pravila predstavljaju važan korak u borbi protiv obmane i manipulacije pomoću veštačke inteligencije. Cilj nije zabrana AI sadržaja, već stvaranje jasnijeg digitalnog okruženja u kojem korisnik može da zna da li gleda autentičan materijal, manipulisani sadržaj ili razgovara sa veštačkom inteligencijom.
