Polskie AI — Bielik, PLLuM i polski ChatGPT: suwerenność technologiczna w praktyce

Rozwój nowoczesnych modeli językowych sprawia, że polskie AI przestaje być jedynie hasłem publicystycznym, a staje się realnym fundamentem cyfrowej suwerenności kraju. W mediach głównego nurtu regularnie powraca chwytliwe sformułowanie polski ChatGPT, jednak za tym publicystycznym skrótem kryją się w rzeczywistości dwa niezależne, zaawansowane przedsięwzięcia technologiczne: oddolny, otwartoźródłowy Bielik tworzony przez Fundację SpeakLeash oraz instytucjonalny projekt PLLuM realizowany przez konsorcjum naukowe pod kierownictwem NASK PIB na zlecenie Ministerstwa Cyfryzacji. Choć oba modele stawiają sobie za cel uniezależnienie krajowych instytucji i przedsiębiorstw od zagranicznych monopoli technologicznych, reprezentują odmienne ścieżki rozwoju, modele finansowania oraz docelowe środowiska wdrożeniowe.

Bielik i Fundacja SpeakLeash: oddolna rewolucja na superkomputerach Helios i Athena

Historia Bielika zaczęła się w 2021 roku od społeczności skupionej wokół projektu „Spichlerz”, sformalizowanego następnie jako Fundacja SpeakLeash. Zespół złożony z badaczy, inżynierów uczenia maszynowego i wolontariuszy postawił sobie za cel zebranie, oczyszczenie i skatalogowanie największego korpusu tekstów w języku polskim. Zbiór ten posłużył do wytrenowania autorskich modeli, dostarczając w fazie pretreningu serii v2 ponad 400 miliardów tokenów czystego polskiego tekstu.

Kluczowym momentem dla projektu było nawiązanie partnerstwa z Akademickim Centrum Komputerowym Cyfronet AGH w Krakowie. Dzięki temu SpeakLeash uzyskał dostęp do najpotężniejszych polskich superkomputerów — Athena oraz Helios. Ten ostatni, wyposażony w partycję 256 superchipów Nvidia GH200 Grace Hopper, pozwolił na bezprecedensowe w polskiej nauce skalowanie obliczeń przy użyciu frameworków ALLaMo oraz Megatron-LM.

Inżynierowie Bielika zdecydowali się na niestandardowe podejście architektoniczne. Zamiast trenować model od zera, wykorzystali technikę depth up-scaling, rozbudowując architekturę bazową Mistral 7B v0.2 do rozmiaru 11 miliardów parametrów w modelu Bielik-11B-v2. Kolejne iteracje, w tym Bielik-11B-v2.3-Instruct, poddano zaawansowanemu strojeniu instrukcyjnemu oraz optymalizacji preferencji DPO (Direct Preference Optimization). Wersje z linii v3 wprowadziły dedykowany polski tokenizer oraz techniki przyspieszania inferencji (speculative decoding / DFlash). Gotowe wagi udostępniono bezpłatnie w serwisie Hugging Face, a użytkownicy mogą testować asystenta w portalu chat.bielik.ai lub instalować go lokalnie za pośrednictwem biblioteki Ollama. Dla przedsiębiorstw stawiających na prywatność przetwarzania dokumentów otwartoźródłowy model uruchamiany we własnej infrastrukturze to stabilna i bezpieczna alternatywa dla ChatGPT, eliminująca ryzyko transferu poufnych danych na serwery poza Europejskim Obszarem Gospodarczym.

Liczby i benchmarki: Bielik-11B w starciu z gigantami

Jakość modeli językowych weryfikowana jest na obiektywnych platformach ewaluacyjnych. Najważniejszym punktem odniesienia dla polszczyzny stał się ranking Open PL LLM Leaderboard (prowadzony na platformie Hugging Face przez SpeakLeash), oceniający biegłość lingwistyczną modeli w zadaniach NLP w trybie 5-shot, a także benchmark konwersacyjny Polish MT-Bench.

Ewolucja wyników kolejnych wydań Bielika pokazuje wyraźny skok jakościowy, jaki dokonał się dzięki optymalizacji procesu treningowego i czyszczeniu danych:

Dane: Open PL LLM Leaderboard (SpeakLeash / Hugging Face)

Najbardziej wymowny w powyższym zestawieniu jest fakt, że kompaktowy Bielik-11B-v2.3-Instruct osiągnął wynik 65,71 punktu (a w wersji kwantyzowanej Q8_0 nawet 65,76 punktu), wyprzedzając w specyficznych zadaniach języka polskiego globalny model Meta-Llama-3-70B-Instruct, liczący aż 70 miliardów parametrów (64,45 punktu). Ponadto w wieloetapowym teście dialogowym Polish MT-Bench model Bielik-11B-v2.3-Instruct uzyskał notę 8,56 punktu, wykazując wyjątkową odporność na halucynacje w złożonych strukturach gramatycznych.

PLLuM: państwowy model dla administracji publicznej i aplikacji mObywatel

Równolegle do społecznościowego projektu Bielik rozwija się PLLuM (Polish Large Language Model). To inicjatywa o charakterze instytucjonalnym, zainicjowana przez Ministerstwo Cyfryzacji w ramach konsorcjum HIVE AI z budżetem rzędu 19 milionów złotych. Trzon konsorcjum tworzą czołowe polskie jednostki naukowo-badawcze: NASK PIB (lider projektu), Ośrodek Przetwarzania Informacji (OPI PIB), Instytut Podstaw Informatyki PAN (IPI PAN), Instytut Slawistyki PAN, Politechnika Wrocławska, Uniwersytet Łódzki oraz ACK Cyfronet AGH i Centralny Ośrodek Informatyki (COI).

PLLuM został zaprojektowany z myślą o suwerenności cyfrowej państwa, ze szczególnym uwzględnieniem administracji rządowej, edukacji i procedur formalno-prawnych. Modele z tej rodziny powstają w wariantach 4B, 8B, 12B oraz 70B na bazie architektury Llama 3.1. Do fazy strojenia instrukcyjnego konsorcjum wytworzyło zbiór PLLuM-Align, zawierający 80 tysięcy starannie opracowanych instrukcji w języku polskim, co pozwoliło wyeliminować błędy kalki językowej charakterystyczne dla modeli strojonych na przekładach z języka angielskiego.

Projekt kładzie rygorystyczny nacisk na zgodność z przepisami unijnego rozporządzenia AI Act oraz pełną transparentność źródeł danych. Praktycznym sprawdzianem dla PLLuM jest wdrożenie w roli inteligentnego asystenta w państwowej aplikacji mObywatel oraz pilotażowe instalacje w urzędach wojewódzkich (m.in. w województwie lubuskim), gdzie model pomaga urzędnikom w redagowaniu pism i upraszczaniu skomplikowanego języka urzędowego dla obywateli.

Dlaczego hasło „polski ChatGPT” to za mało?

Określanie Bielika i PLLuM mianem „polskiego ChatGPT” jest z perspektywy inżynierii systemów uproszczeniem mylącym. ChatGPT to zamknięty, komercyjny produkt chmurowy amerykańskiej korporacji OpenAI, działający w oparciu o infrastrukturę niedostępną do audytu. Z kolei polskie projekty to suwerenne wagi modeli (open weights), które każda instytucja może zainstalować na własnych serwerach, gwarantując pełną kontrolę nad przepływem informacji.

Choć komercyjne korporacyjne narzędzia, w tym Gemini po polsku czy Claude, radzą sobie z komunikacją w naszym języku coraz płynniej, to wciąż pozostają systemami anglocentrycznymi, szkolonymi w przeważającej mierze na zachodnich realiach prawno-kulturowych. Polskie modele wyróżniają się głębokim zakorzenieniem w krajowej kulturze, historii, prawodawstwie oraz gramatyce.

Bielik i PLLuM nie konkurują ze sobą bezpośrednio, lecz tworzą komplementarny ekosystem: Bielik napędza innowacje w sektorze prywatnym, środowisku akademickim i społeczności open-source, natomiast PLLuM zabezpiecza krytyczne potrzeby państwa i administracji. Oba projekty udowadniają, że racjonalnie zarządzana moc obliczeniowa i wysoka jakość danych treningowych pozwalają skutecznie budować technologiczną niezależność na poziomie krajowym.