Anthropic wyjaśnia, jak działa znak wodny tekstu w modelu Claude
Firma Anthropic poinformowała, że przyszłe wersje modelu Claude będą generować teksty zawierające kryptograficzny znak wodny. Decyzja ta to bezpośrednia odpowiedź na wejście w życie unijnych przepisów pakietu EU AI Act oraz konsekwencja przyjęcia branżowych wymogów dotyczących przejrzystości i oznaczania sztucznej inteligencji.
Nowe wymogi prawa i odpowiedź Anthropic
Jak czytamy w ogłoszeniu, konieczność wdrożenia weryfikacji to skutek regulacji EU AI Act, które dla operatorów działających na europejskim rynku wprowadzają od 2 sierpnia obowiązek znakowania generowanych przez sztuczną inteligencję treści. Producent wdraża ten mechanizm globalnie na wszystkich nowych modelach. Firma była do tego gotowa jeszcze przed wdrożeniem prawa – w lipcu 2026 roku Anthropic podpisało, wraz z około 190 innymi korporacjami i organizacjami branżowy pakt zatytułowany EU Code of Practice on Transparency of AI-Generated Content. Poinformowano także, że na starsze iteracje modeli wypuszczone przed sierpniem obowiązuje europejski okres przejściowy, przez co doczekają się one zaktualizowanych algorytmów zabezpieczających w najbliższych miesiącach.
Jak technicznie działa znak wodny w Claude?
Rozwiązanie zaprezentowane przez Anthropic wykorzystuje technologię watermarkingu pod nazwą SynthID-Text. Jest to system opracowany na kampusach Google DeepMind, oficjalnie opisany w 2024 roku w prestiżowym czasopiśmie Nature. Swoimi korzeniami koncepcja ta sięga do propozycji technologicznej ogłoszonej w 2022 roku, której głównym autorem był Scott Aaronson.
Większość dużych modeli językowych buduje zdania słowo po słowie, wykorzystując podczas doboru pewien matematyczny ułamek losowości, ponieważ do danego kontekstu często pasuje od razu kilku poprawnych synonimów (np. coś „szarego” może równie dobrze być „pochmurnym”). Znak wodny przechwytuje ten moment. Zamiast standardowego, całkowicie arbitralnego generatora liczb losowych, wprowadzany jest tajny klucz. Na podstawie tego klucza i wyrazów poprzedzających model dobiera następne słowa do zdania. Proces odbywa się całkowicie po cichu – nie ma ukrytych znaków czy zniekształconego układu. Natomiast osoba znająca klucz może następnie przeanalizować dystrybucję słów i z dużym matematycznym prawdopodobieństwem ustalić, czy tekst ten został ułożony z użyciem tego konkretnego zabezpieczenia.
Jakość, wydajność i prywatność bez zmian
Wielu użytkowników obawiało się ingerencji takich rozwiązań w sam wynik tekstowy, jednak Anthropic uspokaja: watermarking w modelu Claude nie wpływa na pogorszenie się odpowiedzi. Jak dowodziły wcześniejsze, wewnętrzne analizy przeprowadzone przez inżynierów z Google DeepMind dla algorytmu SynthID-Text, teksty wodowane i niewodowane nie różniły się między sobą z punktu widzenia ludzkich sędziów ani w ocenie kreatywności, ani naturalności brzmienia.
Wprowadzenie tego mechanizmu optymalizacyjnie nie rodzi żadnych spowolnień; proces ten nie kosztuje i nie zużywa również dodatkowych tokenów. Samo oznaczanie chroni anonimowość – klucz ani struktura znacznika nie gromadzą absolutnie żadnych informacji na temat tego, w jakiej organizacji, koncie, czy historii czatu ułożono dany tekst.
Gdzie mechanizm się nie sprawdza?
Każda technologia oparta na synonimach napotyka jednak mur w miejscach absolutnego braku wyboru. Gdy odpowiedź musi zawierać precyzyjny fakt w stylu matematycznego pewniaka, np. „2 + 2 = 4”, lub musi uderzyć w konkretny termin historyczny – np. wskazać tytuł dzieła, nad którym pracował Isaac Newton jako „Principia Mathematica”, albo przywołać słynną książkę autora pod nazwiskiem George Orwell pod właściwym tytułem „Nineteen Eighty-Four” – model ma zablokowany dobór alternatyw. Znak wodny ulega wtedy zatarciu.
Analogicznie, weryfikator działa niezwykle słabo na twardym i wymagającym absolutnej precyzji kodzie programistycznym, a także przy weryfikowaniu wyjątkowo krótkich wiadomości testowych oraz fragmentach tekstów dostarczonych w całości przez użytkownika ludzkiego do bardzo ogólnikowej korekty (gdzie rola modelu sprowadza się np. do nałożenia poprawnych przecinków).
Zabezpieczenie multimediów i przyszłe API detekcji
Aby ułatwić audyt technologiczny zewnętrznym badaczom, firma jest już w trakcie opracowywania dedykowanego API detekcji. Posiadanie klucza i oparcie się na probabilistycznej matematyce wyróżnia system wywodzący się z tej firmy na tle dostępnych dziś na rynku wykrywaczy, których reprezentantem jest popularne oprogramowanie Pangram. Narzędzia z tej grupy polegają wyłącznie na doszukiwaniu się nadużywanych słów kluczowych i powtarzalnej struktury sztucznej inteligencji, przez co ich ocena jest niedokładna i łatwa do obejścia poprzez zwykłą zmianę promptu nadającego sztuczny styl czy ton głosu.
Ochroną zostanie docelowo objęta każda gałąź AI. Gdy asystent weźmie się za przygotowanie bądź edycję standardowych grafik obrazkowych i zapisze je pod formatami .png, .jpg lub jako grafika wektorowa .svg, Anthropic doda do nich zaszyty certyfikat w popularnym, szeroko stosowanym w branży standardzie otwartym C2PA. Posiadacz pliku będzie mógł błyskawicznie sprawdzić autentyczność jego tworzenia w metadanych pliku, podczas gdy układ samych pikseli czy barw nie ulegnie żadnej obróbce wizualnej.
