OpenAI przedstawia strategię oznaczania pochodzenia tekstu w odpowiedzi na przepisy UE
Amerykańskie laboratorium OpenAI przedstawiło oficjalną architekturę techniczną i operacyjną, która ma dostosować jego systemy do unijnych wymogów regulacyjnych. Głównym przedmiotem ogłoszenia jest pochodzenie tekstu generowanego przez modele sztucznej inteligencji oraz wdrożenie autorskiej technologii cyfrowego znaku wodnego o nazwie textGrain. Nowe przepisy UE, wynikające z Aktu o sztucznej inteligencji (EU AI Act), nakładają na twórców generatywnych modeli obowiązek maszynowo czytelnego znakowania syntetycznych treści. OpenAI zdecydowało się na stopniowe, ostrożne wdrożenie regionalne, podkreślając jednocześnie twarde ograniczenia współczesnych metod analizy statystycznej tekstu.
Zgodnie z zapowiedzią z 5 października 2026 r., w ciągu najbliższych tygodni niewidoczny znak wodny zostanie zaimplementowany w generowanym tekście w usługach ChatGPT oraz Codex wyłącznie dla użytkowników z terenu Unii Europejskiej, obejmując wszystkie plany abonamentowe. Firma nie zdecydowała się na ustanowienie globalnego standardu domyślnego. Z kolei komercyjni klienci korzystający z interfejsu programistycznego (API) na całym świecie otrzymują możliwość dobrowolnego włączenia znakowania (opt-in) dla wybranych modeli, podczas gdy domyślnie funkcja ta w API pozostaje wyłączona. OpenAI zapowiedziało także współpracę z dostawcami chmury obliczeniowej w celu udostępnienia tego mechanizmu w zewnętrznych środowiskach.
Statystyczny sygnał w tokenach: jak działa textGrain
Opracowane przez OpenAI rozwiązanie textGrain wprowadza subtelny, statystyczny sygnał bezpośrednio w proces probabilistycznego doboru kolejnych słów i tokenów przez model językowy. Specjalny klasyfikator wyszukuje następnie ów ukryty wzorzec, szacując prawdopodobieństwo, że analizowany fragment tekstu pochodzi z infrastruktury OpenAI. W wewnętrznych ewaluacjach technologia ta osiągnęła wyniki równe lub wyższe od innych rynkowych rozwiązań, w tym opracowanego przez Google DeepMind algorytmu SynthID for text.
Jednocześnie OpenAI opublikowało szczegółowe dane laboratoryjne, które unaoczniają podatność znakowania tekstu na zakłócenia. W testach przeprowadzonych na zbiorze danych ELI5, przy docelowym poziomie fałszywych alarmów (false positive rate) wynoszącym 1%, skuteczność detekcji wykazała bezpośrednią zależność od długości wypowiedzi i stopnia swobody językowej:
- W przypadku treści z zakresu psychologii detektor zidentyfikował znak wodny w około 80% próbek o długości 200 tokenów oraz w około 95% próbek liczących 400 tokenów.
- W dziedzinach o sztywnych regułach leksykalnych, takich jak matematyka, gdzie swoboda synonimiczna jest znikoma, wskaźniki wykrywalności okazały się radykalnie niższe.
- Nawet niewielka ingerencja redakcyjna znacząco osłabia sygnał: w próbie 400-tokenowej zastąpienie zaledwie 10% słów synonimami obniżyło wskaźnik detekcji z poziomu około 92% do 66%. Zastąpienie 25% słów zredukowało skuteczność wykrywania do zaledwie 17%.
Te podatności zadecydowały o tym, że dedykowany detektor textGrain nie został upubliczniony. Dostęp do narzędzia weryfikacyjnego będzie przyznawany indywidualnie wyłącznie akredytowanym badaczom i organizacjom eksperckim, zgodnie z ramami unijnego kodeksu postępowania (Code of Practice).
Wpływ znakowania na sprawność modelu Astra
Kluczowym wyzwaniem inżynieryjnym przy wprowadzaniu statystycznych zaburzeń do warstwy dekodowania tekstu jest zachowanie precyzji merytorycznej modelu. OpenAI przeprowadziło rygorystyczne testy porównawcze na swoim najnowszym modelu bazowym Astra w konfiguracji max, zestawiając wersję generującą surowy tekst z wersją wyposażoną w mechanizm textGrain.
| Benchmark | Unwatermarked text (Astra, max) | Watermarked text (Astra, max) |
|---|---|---|
| Artificial Analysis Intelligence Index | 49.57 points | 49.76 points |
| AutomationBench | 34.09% | 34.86% |
| DeepSWE v1.1 | 72.80% | 71.68% |
| Terminal-Bench 4.0 | 53.90% | 56.06% |
| Terminal-Bench Science 0.1 | 56.90% | 60.00% |
| BrowseComp | 87.92% | 87.35% |
| HealthBench Professional | 64.27% | 64.60% |
| GPQA Diamond | 94.44% | 93.94% |
| Dane: OpenAI |
Uzyskane rezultaty dowodzą, że ingerencja w rozkład prawdopodobieństwa tokenów nie prowadzi do zauważalnej degradacji zdolności wnioskowania, kodowania ani wiedzy specjalistycznej. W części testów (np. Terminal-Bench Science 0.1 czy AutomationBench) odnotowano nawet minimalne przesunięcia na korzyść tekstu znakowanego, co mieści się w granicach błędu statystycznego metod próbkowania.
Granice interpretacji: czego znak wodny nie ujawnia
Istotną częścią stanowiska OpenAI jest precyzyjne nakreślenie granic tego, o czym znak wodny informuje, a czego stwierdzić nie pozwala. Firma wyodrębniła pięć kluczowych zastrzeżeń prawno-operacyjnych:
- Brak pomiaru wkładu ludzkiego: Obecność sygnału wskazuje jedynie, że model wygenerował lub zmodyfikował fragment treści, lecz nie odzwierciedla nakładu ludzkiej pracy, edycji czy inwencji twórczej.
- Brak atrybucji własności i odpowiedzialności: Znak nie rozstrzyga o prawach autorskich, legalności wykorzystania tekstu ani o podmiocie ponoszącym za niego odpowiedzialność prawną.
- Brak identyfikacji użytkownika: Narzędzie nie wiąże tekstu z konkretną osobą, kontem, organizacją, promptem ani historią konwersacji.
- Brak weryfikacji prawdziwości: Znak wodny nie stanowi atestu wiarygodności i nie informuje, czy treść jest faktograficznie poprawna, czy też zmanipulowana.
- Brak dowodu negatywnego: Niewykrycie znaku wodnego w tekście nie dowodzi autorstwa człowieka. Treść mogła zostać przetłumaczona, poddana silnej redakcji, wygenerowana przez model innej firmy lub pochodzić z okresu sprzed wdrożenia systemu.
Otwarty kod i wielowarstwowa weryfikacja
Stanowisko OpenAI wpisuje się w szerszą strukturę nadzoru nad pochodzeniem materiałów syntetycznych. O ile weryfikacja grafiki i dźwięku opiera się na dojrzałych standardach kryptograficznych — w tym Content Credentials tworzonych w ramach konsorcjum C2PA oraz znakach SynthID, weryfikowanych publicznie przez stronę openai.com/verify oraz Content Provenance API — o tyle warstwa tekstowa wymaga odrębnego podejścia z uwagi na łatwość jej kopiowania i przepisywania.
OpenAI zadeklarowało zamiar udostępnienia specyfikacji i kodu textGrain jako projektu open source, umożliwiając niezależnym twórcom i instytucjom akademickim rozwijanie kompatybilnych metod detekcji. Stopniowa implementacja w UE posłuży jako poligon doświadczalny przed ewentualną rewizją architektury, w miarę jak unijne organy nadzorcze będą doprecyzowywać standardy techniczne w ramach unijnego Aktu o sztucznej inteligencji.
