Deepfake musi być oznaczony. W UE weszły w życie nowe przepisy o AI

Internet wchodzi w nowy etap walki z treściami, które wyglądają jak prawdziwe, choć w rzeczywistości zostały stworzone lub zmanipulowane przez sztuczną inteligencję. Od 2 sierpnia 2026 roku w Unii Europejskiej obowiązują przepisy AI Act dotyczące przejrzystości. Firmy, instytucje i inne podmioty profesjonalnie korzystające z AI muszą między innymi informować odbiorców, gdy prezentują im deepfake.

Nowe zasady obejmują realistycznie wyglądające obrazy, nagrania wideo i dźwięki, które zostały stworzone lub zmienione za pomocą sztucznej inteligencji w taki sposób, że odbiorca może uznać je za autentyczne. Celem regulacji nie jest blokowanie rozwoju generatywnej AI, lecz umożliwienie ludziom łatwiejszego rozpoznawania, kiedy oglądają materiał syntetyczny.

Zmiana może być szczególnie widoczna w reklamach, materiałach publikowanych przez przedsiębiorstwa oraz komunikacji instytucjonalnej. Obowiązek nie działa jednak tak samo w każdej sytuacji, a AI Act przewiduje kilka istotnych wyjątków.

Deepfake trzeba będzie wyraźnie oznaczyć

Deepfake w rozumieniu AI Act nie oznacza wyłącznie filmu, w którym sztuczna inteligencja podmienia twarz polityka czy celebryty.

Unijne przepisy definiują go jako wygenerowany lub zmanipulowany za pomocą AI obraz, dźwięk albo nagranie wideo, które przypomina istniejącą osobę, obiekt, miejsce, podmiot lub wydarzenie i może fałszywie sprawiać wrażenie autentycznego.

Oznacza to, że regulacje mogą objąć znacznie więcej materiałów niż najbardziej spektakularne przykłady znane z mediów społecznościowych.

Jeżeli przedsiębiorstwo stworzy za pomocą sztucznej inteligencji realistyczne nagranie przedstawiające człowieka, sytuację lub wydarzenie, odbiorca powinien zostać poinformowany, że materiał został wygenerowany albo zmodyfikowany przez AI. Informacja ma być jasna i dostrzegalna najpóźniej przy pierwszym kontakcie odbiorcy z treścią.

Dr Maria Dymitruk, radczyni prawna specjalizująca się w prawie sztucznej inteligencji, zwróciła uwagę, że regulacja może być szczególnie widoczna właśnie w działalności przedsiębiorstw.

– Wskutek tych przepisów zostaniemy zalani oznaczeniami AI ze strony biznesu, np. w reklamach.

Dobrym przykładem może być wygenerowana komputerowo reklama pokazująca realistyczną osobę korzystającą z określonego produktu. Jeśli odbiorca może uznać przedstawioną scenę za prawdziwą, zastosowanie mogą znaleźć nowe obowiązki dotyczące przejrzystości.

Nie tylko widoczna etykieta. AI ma pozostawiać również techniczny ślad

AI Act wprowadza dwa poziomy informowania o syntetycznych treściach.

Pierwszy dotyczy dostawców systemów generatywnej AI. Narzędzia tworzące syntetyczne obrazy, filmy, dźwięk lub tekst powinny umożliwiać oznaczanie rezultatów w formacie odczytywalnym maszynowo, aby dało się technicznie wykryć, że materiał został wygenerowany lub zmodyfikowany przez sztuczną inteligencję.

Drugi obowiązek dotyczy podmiotów wykorzystujących AI. Jeśli firma czy instytucja publikuje deepfake, samo niewidoczne dla człowieka oznaczenie techniczne nie wystarczy. Odbiorca również powinien otrzymać czytelną informację. Komisja Europejska podkreśla, że komunikat powinien być widoczny lub słyszalny bez konieczności korzystania ze specjalistycznych narzędzi.

Ma to znaczenie szczególnie w mediach społecznościowych, gdzie zdjęcie lub krótki film może w ciągu kilku godzin dotrzeć do milionów użytkowników, często już po oderwaniu od pierwotnego kontekstu.

Zwykły użytkownik internetu nie zawsze podlega tym zasadom

Jednym z ważniejszych elementów nowych przepisów jest zakres ich stosowania. AI Act nie traktuje w identyczny sposób przedsiębiorstwa prowadzącego kampanię reklamową i osoby, która prywatnie tworzy materiał dla znajomych.

Komisja Europejska wyjaśnia, że osoba fizyczna korzystająca z AI wyłącznie prywatnie i w celach niezawodowych nie jest w tym zakresie uznawana za podmiot wdrażający system AI. Dotyczy to nawet sytuacji, gdy prywatnie wygenerowany deepfake zostanie umieszczony w mediach społecznościowych.

Sytuacja zmienia się, jeśli działalność ma charakter zawodowy, biznesowy lub regularnie przynosi korzyści ekonomiczne. Wówczas osoba może zostać uznana za profesjonalnego użytkownika systemu i podlegać obowiązkom przewidzianym w AI Act.

To ograniczenie sprawia, że nowe prawo nie rozwiąże automatycznie całego problemu fałszywych treści pojawiających się w internecie.

Dr Maria Dymitruk zwróciła uwagę, że część deepfake’ów wykorzystywanych do internetowej dezinformacji może nadal pozostawać poza bezpośrednim działaniem tych konkretnych obowiązków.

Nowe przepisy są więc ważnym narzędziem zwiększającym przejrzystość profesjonalnego wykorzystania AI, ale nie mogą zastąpić edukacji cyfrowej, weryfikowania źródeł i ostrożności samych użytkowników.

Film, satyra i sztuka mają łagodniejsze zasady

Unijne przepisy uwzględniają również fakt, że sztuczna inteligencja może być narzędziem twórczym.

Jeżeli deepfake stanowi element wyraźnie artystycznego, kreatywnego, satyrycznego lub fikcyjnego dzieła, obowiązek informacyjny został złagodzony. Nadal trzeba ujawnić wykorzystanie treści wygenerowanej lub zmanipulowanej przez AI, ale można zrobić to w sposób, który nie przeszkadza w odbiorze utworu.

W praktyce oznacza to, że film fabularny wykorzystujący realistyczne efekty AI nie musi być przez cały czas zasłonięty dużym ostrzeżeniem. Informacja może zostać przedstawiona w bardziej odpowiedniej dla danego dzieła formie.

Podobne podejście ma chronić możliwość swobodnego korzystania z nowych technologii przez artystów, filmowców i twórców, a jednocześnie pozostawić odbiorcy informację, że część materiału nie przedstawia rzeczywistości.

AI Act obejmuje również teksty dotyczące ważnych spraw publicznych

Nowe zasady nie kończą się na obrazach, filmach i głosie.

AI Act przewiduje również obowiązek informowania o tekstach wygenerowanych lub istotnie zmienionych przez sztuczną inteligencję, jeżeli są publikowane w celu informowania społeczeństwa o sprawach będących przedmiotem publicznego zainteresowania. Mogą to być między innymi zagadnienia polityczne, gospodarcze, finansowe, naukowe, zdrowotne, środowiskowe czy dotyczące bezpieczeństwa.

Tutaj jednak istnieje bardzo ważny wyjątek.

Jeżeli materiał został poddany rzeczywistej kontroli człowieka lub kontroli redakcyjnej, a konkretna osoba albo podmiot ponosi odpowiedzialność redakcyjną za publikację, obowiązek oznaczania tekstu jako wygenerowanego przez AI nie znajduje zastosowania.

Komisja Europejska zaznacza jednocześnie, że zwykłe sprawdzenie pisowni lub gramatyki nie jest wystarczającą kontrolą redakcyjną. Chodzi o rzeczywistą ocenę treści, źródeł, faktów i merytorycznej poprawności materiału przez człowieka.

Dla profesjonalnych redakcji jest to istotne rozróżnienie. AI może być wykorzystywana jako narzędzie wspierające pracę, lecz odpowiedzialność za ostateczny materiał pozostaje po stronie człowieka i wydawcy.

Nawet 15 mln euro kary

Przepisy dotyczące przejrzystości nie są wyłącznie zaleceniem.

Komisja Europejska wskazuje, że w przypadku naruszeń obowiązków AI Act maksymalna administracyjna kara finansowa w tej kategorii może wynieść 15 mln euro lub – w przypadku przedsiębiorstwa – do 3 proc. jego całkowitego rocznego światowego obrotu, zależnie od zasad stosowanych w konkretnym przypadku. Wobec małych i średnich przedsiębiorstw sankcje mają być nakładane proporcjonalnie.

Za egzekwowanie przepisów odpowiadać będą przede wszystkim krajowe organy nadzoru rynku. W określonych przypadkach kompetencje posiada również europejskie AI Office, a wobec instytucji unijnych – Europejski Inspektor Ochrony Danych.

Nie wszystkie wymagania zaczynają jednak działać identycznie od pierwszego dnia. Dla części systemów generatywnej AI wprowadzonych na rynek przed 2 sierpnia 2026 roku przewidziano ograniczony okres przejściowy dotyczący technicznego znakowania treści – do 2 grudnia 2026 roku. Materiałów wygenerowanych przed 2 sierpnia nie trzeba natomiast oznaczać wstecz, choć Komisja do tego zachęca.

Internauta ma wiedzieć, co naprawdę ogląda

Wprowadzenie obowiązkowych oznaczeń jest odpowiedzią na problem, który wraz z rozwojem generatywnej sztucznej inteligencji stał się znacznie poważniejszy. Stworzenie realistycznego zdjęcia, nagrania czy imitacji czyjegoś głosu nie wymaga już specjalistycznego studia ani dużego budżetu.

Komisja Europejska wskazuje, że rosnąca trudność w odróżnianiu treści prawdziwych od syntetycznych zwiększa ryzyko oszustw, podszywania się pod inne osoby, manipulacji oraz dezinformacji. Właśnie dlatego odbiorca powinien otrzymać jasną informację, zanim zdecyduje, czy zaufać temu, co widzi lub słyszy.

Samo pojawienie się napisu „AI” nie rozwiąże oczywiście wszystkich problemów.

Ekspert ds. wdrażania sztucznej inteligencji dr Michał Nowakowski podkreśla, że równie ważna jest edukacja odbiorców. Jeżeli użytkownik nie rozumie, co oznacza określona etykieta i jakie możliwości posiadają współczesne generatory, nawet prawidłowe oznaczenie może nie spełnić swojej funkcji.

Nowe regulacje należy więc traktować jako jeden z elementów budowania bardziej przejrzystego środowiska cyfrowego.

AI nie znika. Ma po prostu przestać udawać rzeczywistość

AI Act nie zakazuje tworzenia syntetycznych zdjęć, filmów, głosów czy reklam. Nie zabrania również wykorzystywania sztucznej inteligencji przez przedsiębiorstwa i twórców.

Zmienia natomiast jedną podstawową zasadę: gdy materiał może zostać odebrany jako autentyczny, odbiorca powinien wiedzieć, że powstał z udziałem sztucznej inteligencji.

To rozwiązanie może być korzystne również dla firm odpowiedzialnie korzystających z nowych technologii. Jasne oznaczanie syntetycznych materiałów pozwala budować zaufanie i ograniczać sytuacje, w których klient dopiero po czasie dowiaduje się, że oglądał wygenerowaną postać, głos lub wydarzenie.

Od 2 sierpnia 2026 roku przejrzystość przestaje być więc jedynie dobrą praktyką. W wielu profesjonalnych zastosowaniach sztucznej inteligencji stała się obowiązkiem wynikającym bezpośrednio z europejskiego prawa.

Źródło: eur-lex.europa.eu