Označevanje slik, ustvarjenih z umetno inteligenco
- Gregor Škrlj, Narodna in univerzitetna knjižnica
Skladno z evropskim Aktom o umetni inteligenci bodo morale biti vsebine, ki jih ustvari ali bistveno priredi umetna inteligenca (UI), jasno označene. To velja predvsem za globoke ponaredke ter besedila za javnost o zadevah javnega interesa. Uporabniki bodo morali biti ob interakciji z UI sistemi tudi ustrezno obveščeni. Namen teh pravil je zagotoviti preglednost ter omogočiti hitro prepoznavanje vsebin, ustvarjenih ali spremenjenih z UI. Oznake morajo biti uporabniku vidne že ob prvem stiku z vsebino, brez prekrivanja z drugimi elementi ali prikrivanja v ozadju.
V nadaljevanju pojasnjujemo, katere vsebine je treba označevati že po 2. avgustu 2026 ter katere enotne evropske oznake bodo pomagale razlikovati med pristnimi in z UI ustvarjenimi ali prirejenimi vsebinami.
Zakaj je treba vsebine, ustvarjene z UI, označevati?
Generativna UI omogoča hitro ustvarjanje besedil, slik, zvoka in videa, zato je vse pomembneje vedeti, od kod vsebina izvira. To je ključno za ohranjanje zaupanja v digitalno okolje. Tveganje pri vsakdanji uporabi je pogosto majhno, vendar lahko neoznačene vsebine pri političnem komuniciranju, javnem obveščanju, kriznih sporočilih, oglaševanju in globokih ponaredkih povzročijo zavajanje in manipulacijo. Zato 50. člen Akta o umetni inteligenci določa obveznosti glede preglednosti. Po 2. avgustu bodo morale biti jasno označene z UI ustvarjene vsebine, ki so videti kot resnične fotografije, videoposnetki ali zvočni posnetki in bi lahko uporabnike zavedle o svojem izvoru.
EU je razvila sklop ikon, ki jih lahko ustvarjalci, založniki in drugi uvajalci sistemov generativne UI uporabljajo za označevanje svojih vsebin, ustvarjenih z UI. Te ikone so prosto dostopne in so sestavni del Kodeksa ravnanja glede označevanja in etiketiranja vsebin, ustvarjenih z umetno inteligenco.
Primer označene naslovne fotografije, ki jo je ustvarilo UI orodje, je viden že pri prisevku z naslovom Kako je danes delati v knjižnici?: izsledki mednarodne raziskave. Ravno tako je z oznako »AI Generated« opremljena tudi naslovna fotografija te novice.
Prav tako morajo biti uporabniki obveščeni, kadar neposredno komunicirajo s sistemom UI, na primer z glasovnim pomočnikom, klepetalnim robotom ali pogovornim agentom, ter kadar so izpostavljeni sistemom za prepoznavanje čustev ali biometrično kategorizacijo.
Agencija za komunikacijska omrežja in storitve RS (AKOS), ki bo pristojna za večji del zahtev iz Akta o UI, bo nadzirala tudi obveznosti ponudnikov in uvajalcev sistemov UI glede označevanja vsebin ter drugih obveznosti razkritij interakcije s sistemi UI.
V Uradnem listu EU je bil objavljen Digitalni omnibus za umetno inteligenco, ki prinaša nekatere spremembe Akta o umetni inteligenci. Predvsem naj bi novosti Digitalnega omnibusa za UI podjetjem olajšale izpolnjevanje zahtev, ki jim jih nalaga Akt in operaterjem zaradi zamika začetka veljavnosti določb za visoko tvegane sisteme UI zagotovile dodaten čas za zagotavljanje skladnosti.