Narzędzia AI są zarówno błogosławieństwem, jak i zmorą naszych czasów. Bo choć pozwalają znacznie uprościć i skrócić poszczególne procesy, to jednocześnie ingerują w naturalny rozwój kultury, homogenizują poszczególne sfery naszego życia i wykrzywiają rzeczywistość, stając się często narzędziem dezinformacji i manipulacji. Przynajmniej z cześcią tych problemów próbuje uporać się Unia Europejska, która wprowadza konieczność odpowiedniego oznacza treści AI.
Nowe obowiązki wynikają z artykułu 50 unijnego AI Act, czyli rozporządzenia regulującego rozwój i wykorzystywanie sztucznej inteligencji na terenie Unii Europejskiej. Sam AI Act wszedł w życie już w 2024 roku, ale jego przepisy są uruchamiane etapami. Najnowsze zasady dotyczące przejrzystości systemów AI zaczęły być stosowane dopiero od ostatniej niedzieli, 2 sierpnia 2026 roku.
2 poziomy oznaczeń
Część serwisów przedstawiła nowe przepisy w uproszczeniu, sugerując, że od teraz każdy obraz, film lub tekst wygenerowany przez AI musi zostać widocznie oznaczony. W rzeczywistości artykuł 50 wprowadza dwa odrębne zakresy obowiązków, skierowane do różnych podmiotów.
Pierwszy dotyczy dostawców systemów AI. Ich rozwiązania powinny dodawać do rezultatów metadane pozwalające wykryć, że treść została wygenerowana lub zmodyfikowana przez AI. Rozwiązania te mają być skuteczne, "interoperacyjne" i możliwie odporne na usuwanie.
Drugi obowiązek dotyczy podmiotów wykorzystujących systemy AI i udostępniających ich rezultaty. Może to być firma, redakcja, agencja reklamowa, producent filmowy albo twórca. W przypadku utworów informacja musi być zrozumiała i dostrzegalna bez korzystania ze specjalnego oprogramowania. Może przyjąć formę napisu, ikony, komunikatu w interfejsie albo, w przypadku nagrania dźwiękowego, informacji słyszalnej.
Jak oznaczać materiały? Panuje duża swoboda
Unia przygotowała trzy podstawowe warianty graficzne: ogólną ikonę informującą o udziale AI, oznaczenie materiału wygenerowanego w całości oraz ikonę dla treści częściowo zmodyfikowanej. Używanie tych symboli jest jednak dobrowolne. Można zastosować własny komunikat, pod warunkiem że spełnia on wymagania dotyczące czytelności i widoczności.
Jednocześnie nie każdy utwór stworzony przy pomocy funkcji AI musi być w ten sposób oznaczany. Przepisy nie obejmują osób używających AI prywatnie i poza działalnością zawodową. Dodatkowo, mniej restrykcyjnie traktowane są treści tzw. artystyczne, kreatywne, satyryczne i fikcyjne. W ich wypadku nie wymagane są oznaczenia graficzne, a jedynie stosowna wzmianka, np. w opisie.
W przypadku fotografii, wszystko będzie zależeć więc od interpretacji i przeznaczenia. Sam fakt użycia narzędzi AI do retuszu zdjęcia, nie nakłada od razu obowiązku oznaczania zdjęcia. Inaczej może wyglądać sytuacja, gdy za pomocą funkcji generatywnych dodajemy do zdjęcia przedmioty, usuwamy istotne elementy sceny, lub tworzymy wydarzenie, które nie miało miejsca. Jeżeli takie zdjęcie jest publikowane w ramach działalności zawodowej, reklamowej, redakcyjnej lub gospodarczej, powinno zostać wyraźnie oznaczone. Zwłaszcza, jeśli wpisuje się w definicję deepfake’u, którą przytaczamy poniżej.
Zgodnie z definicją ujęta w art. 3 pkt 60 unijnego AI Act, deepfake to wygenerowany lub zmodyfikowany przez AI obraz, materiał dźwiękowy albo wideo, który przypomina istniejącą osobę, przedmiot, miejsce, podmiot lub zdarzenie i który odbiorca może niesłusznie uznać za autentyczny lub prawdziwy.
Czy to może działać?
Jak zwykle w przypadku tego typu rozporządzeń mamy do czynienia z wieloma wątpliwościami i problemami. Przede wszystkim już teraz widać, że rozwiązanie to w żadnym wypadku nie uchroni nas przed zalewem wygenerowanego „slopu”, który stanowi coraz większą część materiałów publikowanych w mediach społecznościowych, a który w większości łapie się w kategorie zwolnione z obowiązku.
Przepisy mają szansę ograniczyć używanie AI w celach komercyjnych i informacyjnych, ale tutaj wszystko rozbija się o skalę i możliwości technologiczne. Osoby zajmujący się znakowaniem treści zwracają uwagę, że nie istnieje obecnie jedna metoda, która w każdych warunkach zapewniałaby pełną niezawodność, odporność i interoperacyjność. Kadrowanie, kompresja, ponowny zapis pliku lub wieloetapowa edycja mogą osłabić albo całkowicie usunąć techniczne oznaczenie.
Do tego dochodzą kwestie wydajności podmiotów odpowiedzialnych za kontrolę i weryfikację treści. Choć za złamanie obowiązków dotyczących przejrzystości mogą grozić kary sięgające nawet 15 mln euro lub 3 proc. całkowitego obrotu, wątpliwa pozostaje skala wykrywalności tego typu uchybień.
W Polsce organem nadzoru została Komisja Rozwoju i Bezpieczeństwa Sztucznej Inteligencji, czyli KRiBSI. Problem w tym, że organ ten jeszcze nie istnieje, a swoją pełną działalność rozpocznie dopiero pod koniec października 2026. Wątpliwe pozostają też jego „moce przerobowe”. W skład samej komisji wejdzie w sumie 7 osób, a KRiBSI nie otrzyma osobnego urzędu z własnym korpusem pracowników. Obsługę administracyjną i merytoryczną ma zapewniać Ministerstwo Cyfryzacji, wydzielając do tego celu od 30 do 70 pracowników etatowych. Z pewnością faktyczną weryfikacją skarg na treści AI będzie zajmować się tylko część z nich, co wydaje się niewielką siłą w zetknięciu ze skalą publikacji wykorzystujących narzędzia AI.
W końcu, dochodzi problem najważniejszy, czyli to, czy etykietowanie będzie miało jakiekolwiek znaczenie dla odbiorcy. Branża technologiczna wskazuje, że skutkiem nowych przepisów będzie efekt „zmęczenia etykietami”, podobny do powszechnego ignorowania komunikatów o plikach cookies. Część organizacji zajmujących się prawami cyfrowymi uważa z kolei, że przepisy nie są zbyt restrykcyjnego i nie rozwiązują problemów związanych z manipulacją, dyskryminacją, naruszaniem prywatności czy wykorzystywaniem AI przez organy publiczne. Jak wskazują, etykieta może pomóc odbiorcy, ale nie zastąpi odpowiedzialności za sposób stworzenia i rozpowszechniania materiału.
Co to oznacza dla nas?
Z punktu widzenia zwykłego użytkownika internetu, prawdopodobnie zmieni się niewiele, aktywiści otrzymają jednak istotne narzędzie do walki z dezinformacją w postaci możliwości składania skarg do KRiBSI. Jako fotografowie i twórcy cyfrowi powinniśmy więc pamiętać, by odpowiednio oznaczać treści w stworzeniu których widocznie pomogło AI, zwłaszcza jeśli to treści komercyjne. Prawdopodobnie jednak w realiach mniejszych podmiotów przepisy te nie będą skutecznie egzekwowane i często pozostaną ignorowane tak, jak ma to obecnie miejsce w przypadku obowiązków nakładanych przez RODO.
Źródło: https://ai-act-service-desk.ec.europa.eu/pl/ai-act/article-50
