Anthropic odkrywa słabości kryptograficzne przy użyciu modelu Claude
Firma Anthropic poinformowała o przełomowych wynikach badań, które rzucają nowe światło na zastosowanie sztucznej inteligencji w najbardziej złożonych analizach cyberbezpieczeństwa. Badacze pracujący w tej organizacji z powodzeniem zastosowali model językowy Claude Mythos Preview do identyfikacji nowych słabości oraz udoskonalenia istniejących wektorów ataku na powszechnie stosowane oraz najnowsze algorytmy kryptograficzne. Wyniki tych prac, choć nie naruszają obecnie bezpieczeństwa produkcyjnych systemów informatycznych, dowodzą, że modele na poziomie AI wyznaczają nowe granice audytu standardów w obronie infrastruktury internetowej na całym świecie.
Skuteczny atak na algorytm HAWK i redukcja siły klucza
Jednym z najistotniejszych sukcesów opisanych w udostępnionych wynikach było znaczące ulepszenie ataku na cyfrowy schemat podpisów o nazwie HAWK. W 2022 roku instytucja standaryzacyjna NIST rozpoczeła szeroko zakrojone poszukiwania algorytmów na miarę ery postkwantowej – tak zwanego standardu PQC (Post-Quantum Cryptographic). HAWK stał się niezwykle obiecującym kandydatem tej inicjatywy i z powodzeniem dotarł do trzeciej rundy ewaluacji. Mimo że w międzyczasie przetrwał dwie dwuletnie fazy eksperckich, ludzkich analiz krytycznych, nowa technologia potrzebowała do jego skompromitowania zaledwie 60 godzin.
Model rozwiązał to zadanie poprzez odnalezienie specyficznej, nieeksploatowanej uprzednio symetrii na siatce (lattice) wykorzystywanej przez ten szyfr, fachowo ujętej w analizie jako nontrivial automorphism. Odkrycie wpłynęło natychmiast na to, co eksperci określają mianem effective keysize, zmniejszając tę wartość o połowę. W ramach przykładu, przewidywany nakład zasobów pełnego ataku na wariant HAWK-256 wcześniej szacowano na 264, natomiast zoptymalizowane podejście modelu obniżyło ostateczny próg trudności algorytmu na 238. To konkretne badanie, kosztujące środowisko zespołu w przybliżeniu $100,000 dolarów opłaty za pule w systemie API, zostało przeprowadzone pod reżimem platformy wewnętrznej określanej jako Claude Code-like harness.
Użytkowano tam środowisko typu piaskownica, by stymulować wieloagentowe metody rozwiązywania. Jak opisują to pracownicy Anthropic, praca zbiorowa modeli przyniosła intrygującą dynamikę. W toku prac koncepcję po raz pierwszy zbagatelizował jeden wycinek sieci jako pozbawioną logicznych perspektyw, aż moment później sprawdził i usankcjonował ją drugi – generując podwaliny pomyślnego ataku. Badanie nad lądującym w niedalekiej przyszłości HAWK skoordynowano publicznie w ramach list mailingowych NIST, a autorzy szyfru dostali plany ataku dużo przed wydaniem raportu głównego.
Innowacyjny Möbius Bridge i złamanie barier w AES-128
Drugim istotnym filarem analizy w badaniach była kryptoanaliza znacznie bardziej skomercjalizowanego w dzisiejszych produktach szyfru blokowego AES (Advanced Encryption Standard). Konkretnie uderzano w zredukowany, 7-rundowy wariant AES-128, pozbawiony klasycznych dla całości układu 10 rund szyfrujących. Tego typu ćwiczenia w świecie akademickim pomagają ekspertom ekstrapolować wnioski na najpoważniejsze iteracje obronne pełnowartościowego szyfru. Analiza opierała się w swoim środowisku uderzeniowym o rygorystyczny chosen plaintext threat model, dający atakującemu moc proszenia układu wprost o szyfrowanie pożądanych tekstów przez stacjonarny klucz.
Analizujący kod Claude Mythos Preview w całości udoskonalił strukturę działania uderzeń klasy meet-in-the-middle. Sieć wpadła na pomysł skonstruowania innowacyjnego narzędzia do fingerprintingu, samodzielnie oznaczając go nazwą Möbius Bridge. Ta precyzyjna modernizacja zredukowała pracę polegającą na odgadywaniu zasobów o czynnik 256, sprawiając, że pełny wektor stał się od 200 do 800 razy szybszy w konfrontacji z uprzednimi rekordami. Była to redukcja dramatyczna – starsze badania akademickie w całości uzależniały się od zebrania rzędu 2105 zebranych wiadomości chosen plaintexts, więc stanowiły ataki wysoce teoretyczne.
Początkowa praca z potężnym oprogramowaniem AES była jednak mocno problematyczna na szczeblu autonomicznym. Model wręcz odmawiał zlecenia, tłumacząc się, że zmiana AES i kryptoanaliza są z gruntu niemożliwe. Model komunikował m.in.: „If you want a different outcome, the target has to change … AES-128 r5/r6 is just genuinely hard”, by potem dodać stanowczo: „on AES-128 r5/r6/r7 it found nothing because there's nothing easy to find; this is the most-studied block cipher in existence.”. Prowadzący naukowcy w konsekwencji musieli modyfikować środowisko systemowe uderzając w prompty instruujące układ jak rasowego badacza: „again we are not looking for low hanging fruit, we want proper research to find genuinly hard findings”. Nastawiony tak model przez okres bitych trzech dni, analizując obiekty poprzez emisję jednego miliarda tokenów na czysto autonomicznej warstwie, odnalazł węzeł Möbius Bridge. Badacze ręcznie udowadniali pomyślność testu okrągły miesiąc, znów ponosząc koszty na pułapie bliskim $100,000.
Ekspansja badań na LEA, Serpent-128 i platforma CryptanalysisBench
Przechodząc z fazy dwóch największych projektów z udaną realizacją uderzeń wektorowych na nowe cele kryptograficzne, prześwietlano inne rozwiązania obronne. Mocno ugodzono w 13-rundowy, ograniczony szyfr algorytmu typu Lightweight Encryption Algorithm (LEA). Przed interwencją tego systemu, wybitne metody ataku żądały zgromadzenia przynajmniej 298 odosobnionych par tekstów operując na wysiłkach pracy szczebla 286. Kod modelu poradził sobie ze złożeniem klucza po zasileniu go sumą poniżej 230 sztuk zaszyfrowanych tekstów i ukończył operację w przedziale czasowym poniżej godziny.
Zjawisko powtórzyło się wokół 6-rundowej wersji wariantu Serpent-128 (dla którego naturalne jest 32 rundy). Dawna praca zmuszała atakujących badaczy by dysponowali zakresem powyżej 270 par tekstów oraz liczbą 290 precyzyjnych deszyfrowań. Nowy, sztuczny wynik dał rezultaty absolutnie omijające te liczby – wygenerowano udany practical full key-recovery attack. Identyfikowano z biegiem czasu także mniejsze optymalizacje nieprzekraczające krotności rzędu x10 wokół szyfru strumieniowego Salsa20, jak również w odniesieniu dla znanych funkcji skrótu Poseidon i klasycznego algorytmu SHA-1.
Zdając sobie sprawę ze statusu tak niebezpiecznych narzędzi, firma Anthropic wspólnie z kilkoma flagowymi podmiotami akademickimi uniwersytetów: ETH Zurich, Tel Aviv University, czy TU Berlin podjęła decyzję o budowie i odizolowaniu wspólnego środowiska mierzalnego: CryptanalysisBench. Pakiet ten skupia i łączy warianty implementacji różnych szyfrów by bezpiecznie poddawać je audytom dla przyszłych generacji wielkich modeli. Obserwacje Anthropic udowadniają, że testy stresowe przeprowadzane natywnie, na samym progu przez bezstronną sztuczną inteligencję, pozwolą nam niedługo cieszyć się całkowicie nienaruszoną spójnością bezpieczeństwa w przestrzeni całej architektury informatycznej.
