Cohere wprowadza Embed 5 – nową rodzinę wiodących modeli embeddingowych

Firma Cohere oficjalnie zaprezentowała Embed 5 – nową generację modeli embeddingowych zaprojektowaną z myślą o zaawansowanym wyszukiwaniu informacji w przedsiębiorstwach, architekturach Retrieval-Augmented Generation (RAG) oraz autonomicznych przepływach agentowych. Nowa rodzina modeli składa się z dwóch wariantów: flagowego Embed 5 Pro, zoptymalizowanego pod kątem maksymalnej precyzji semantycznej, oraz Embed 5 Fast, dedykowanego zadaniom o rygorystycznych wymaganiach dotyczących opóźnień i budżetu obliczeniowego. Obok bezprecedensowego okna kontekstu sięgającego 128K tokenów oraz pełnego wsparcia dla danych wielomodalnych, główną innowacją Cohere jest jednolita, współdzielona przestrzeń wektorowa, która pozwala łączyć oba warianty w ramach jednej infrastruktury wyszukiwawczej bez konieczności ponownego indeksowania zbiorów danych.

Jedna przestrzeń wektorowa dla dwóch modeli: strategia Pro i Fast

Tradycyjne wdrażanie systemów wyszukiwania semantycznego zmuszało inżynierów do kompromisu między dokładnością a narzutem obliczeniowym. Embed 5 rozwiązuje ten problem poprzez architekturę współdzielonej przestrzeni wektorowej (shared embedding space). Wektory wygenerowane przez Embed 5 Pro oraz Embed 5 Fast mogą być bezpośrednio porównywane za pomocą standardowych miar podobieństwa.

Pozwala to na zastosowanie asymetrycznego wzorca wdrożeniowego: korpus dokumentów indeksowany jest wsadowo za pomocą Embed 5 Pro, co gwarantuje najwyższą jakość reprezentacji gęstych raportów, tabel i wykresów. Z kolei bieżące zapytania użytkowników w aplikacjach interaktywnych lub zapytania generowane seryjnie przez pętle agentowe obsługuje Embed 5 Fast. Testy przeprowadzone przez zespół badawczy Cohere na 40 zbiorach deweloperskich wykazały, że konfiguracja łącząca indeks Pro z zapytaniami Fast traci średnio zaledwie 1,6% jakości (mierzonej znormalizowanym wskaźnikiem nDCG@10) względem w pełni jednolitego układu Pro-Pro. Embed 5 Fast charakteryzuje się przy tym średnio 2,4-krotnie wyższą przepustowością przetwarzania dokumentów niż model Pro.

Oba warianty natywnie obsługują ponad 100 języków oraz różne formy danych wejściowych: czysty tekst, obrazy stron (page-image) oraz wektory łączone (fused text-image), scalające treść wizualną z metadanymi dokumentu.

Ewaluacja i benchmarki: dominacja w dokumentach finansowych i wielomodalnych

Wraz z premierą nowej rodziny modeli Cohere wdrożyło metodykę ewaluacyjną RCP-nDCG@10 (Rubric-Calibrated Preferences nDCG). Wykorzystuje ona teorię odpowiedzi na pozycje testowe (Item Response Theory, IRT) oraz wielostopniowe kryteria oceny do kalibrowania relacji istotności dokumentów, co eliminuje błędy i luki typowe dla tradycyjnych, statycznych etykiet testowych.

W wielomodalnym benchmarku ViDoRe V3, obejmującym złożone dokumenty biznesowe (sprawozdania finansowe, podręczniki techniczne czy dokumentację regulacyjną), Embed 5 Pro osiągnął średni wynik 85.8 punktu, co oznacza poprawę o 8.8 punktu względem modelu Embed 4. Wynik ten plasuje wariant Pro przed takimi modelami jak Voyage 4 Large (83.7), Gemini Embedding 2 (83.2) oraz OpenAI text-embedding-3-large (75.5). Z kolei Embed 5 Fast uzyskał średnią 84.5 punktu, przewyższając konkurencyjne rozwiązania pełnowymiarowe.

Szczególnie wysokie wyniki rodzina Embed 5 odnotowuje w analizie dokumentacji finansowej oraz parsowanych plików PDF, gdzie kluczowe znaczenie ma zachowanie relacji wierszy i kolumn w tabelach:

W benchmarku FinanceBench przewaga Embed 5 Pro nad modelem OpenAI text-embedding-3-large sięga aż 21.4 punktu. W kategorii parsowanych dokumentów PDF, gdzie materiały poddano konwersji przy użyciu Gemini 1.5 Flash, Embed 5 Pro osiągnął średnią 84.8 punktu, wyprzedzając Voyage 4 Large (83.6), Gemini Embedding 2 (80.8) oraz bazowy Embed 4 (78.6). W przypadku bezpośredniego wyszukiwania na bazie obrazów stron dokumentów finansowych Embed 5 Pro uzyskał wynik 77.0 punktu, podczas gdy Voyage Multimodal 3.5 osiągnął 70.1, a Gemini Embedding 2 zaledwie 56.7.

Skalowalność i oszczędność pamięci: Matryoshka oraz kwantyzacja

Przechowywanie miliardów wektorów w bazach korporacyjnych generuje znaczne koszty infrastrukturalne. Aby temu zaradzić, Embed 5 wykorzystuje mechanizm Matryoshka Representation Learning, umożliwiający dynamiczne przycinanie wymiarowości wektora wyjściowego do wartości: 2048, 1536, 1024, 768, 512 lub 256. Równolegle zaimplementowano natywną obsługę niższych precyzji: poza standardowym formatem zmiennoprzecinkowym (float32) dostępne są formaty int8 oraz binary.

Zastosowanie kompresji drastycznie zmienia wymagania sprzętowe. Wektor 2048-wymiarowy w precyzji float32 zajmuje 8 KB pamięci. Skrócenie go do 1024 wymiarów i kwantyzacja do int8 zmniejsza rozmiar do 1 KB, natomiast zapis binarny o długości 256 wymiarów potrzebuje jedynie 32 bajtów, co daje 256-krotne zmniejszenie objętości danych. W przeliczeniu na 100 milionów fragmentów tekstu oznacza to redukcję surowego indeksu wektorowego z około 819 GB do zaledwie 3.2 GB. Cohere rekomenduje format 1024-wymiarowy int8 jako optymalny standard wdrożeniowy, oferujący niemal identyczną precyzję wyszukiwania jak pełny wektor float32.

Ceny, platformy wdrożeniowe i ekosystem

Modele Embed 5 są dostępne od dnia premiery w ramach Cohere API oraz Model Vault, a także na platformach chmurowych Microsoft Foundry i Amazon SageMaker. Koszt przetwarzania tekstu wynosi $0.12 za 1 milion tokenów w przypadku Embed 5 Pro oraz $0.08 za 1 milion tokenów dla Embed 5 Fast (co stanowi redukcję o 33%). Przetwarzanie danych obrazowych w obu modelach wyceniono na $0.40 za 1 milion tokenów.

Dla organizacji wymagających rygorystycznej izolacji danych przewidziano możliwość wdrożenia w prywatnych chmurach VPC lub infrastrukturze on-premises za pomocą biblioteki vLLM z obsługą wag kwantyzowanych. Rodzina modeli współpracuje z popularnymi frameworkami orkiestracji i bazami wektorowymi, takimi jak LangChain, Haystack, Weaviate, Qdrant, Pinecone, Elasticsearch, MongoDB, Redis, Milvus oraz OpenSearch.

Równolegle z premierą nowej rodziny modeli wyszukiwawczych firma Cohere udostępniła w fazie prywatnych testów beta środowisko platformy Compass Cloud, oferujące kompleksowe zarządzanie procesami indeksowania i wyszukiwania dla systemów RAG. Producent zapowiedział także zbliżające się webinarium na platformie X zaplanowane na 8 października 2026 r., podczas którego zaprezentowane zostaną szczegóły modelu Parse 5 oraz dalsze plany rozwoju narzędzi retrievalowych.