Cohere wprowadza Compass do chmury: rusza prywatna beta platformy Compass Cloud dla systemów RAG i agentów

Firma Cohere oficjalnie zaprezentowała zarządzaną platformę retrievalu Compass Cloud, wprowadzając silnik Compass w fazę prywatnej wersji beta. Dotychczas rozwiązanie to stanowiło fundament wyszukiwania informacji w korporacyjnym środowisku agentowym North oraz było dostarczane w wariantach self-hosted bezpośrednio do infrastruktury klientów z sektorów o najwyższych rygorach bezpieczeństwa. Nowa usługa chmurowa pozwala przedsiębiorstwom korzystać z zaawansowanych możliwości silnika retrievalu bez konieczności samodzielnego wdrażania, optymalizowania oraz utrzymywania skomplikowanej infrastruktury serwerowej i procesów inferencji modeli.

Nowe wymagania wyszukiwania: ekonomia tokenów i pętle agentowe

Tradycyjne systemy wyszukiwania korporacyjnego projektowano przede wszystkim z myślą o pojedynczych zapytaniach wpisywanych przez ludzi, gdzie kluczowymi kryteriami oceny były ogólna trafność i czas odpowiedzi pojedynczego wyszukiwania. Dynamiczny rozwój generatywnego AI oraz autonomicznych agentów zmienił jednak te wymagania, stawiając przed inżynierami trzy fundamentalne bariery:

• Ekonomia tokenów: Każdy nieistotny dokument przekazany do okna kontekstowego modelu generatywnego niepotrzebnie zużywa tokeny i drastycznie podnosi koszty inferencji. Precyzyjny retrieval działa w tym układzie jak bezpośrednia dźwignia kosztowa, zmniejszając objętość promptu i skracając czas potrzebny na realizację zadania.
• Wzorce dostępu agentów: Autonomiczne agenty nie ograniczają się do pojedynczego zapytania. W wielokrokowych pętlach (multi-hop) formułują dziesiątki kolejnych zapytań maszynowych, weryfikują uzyskane rezultaty i przeszukują kolejne źródła. W takich sekwencjach opóźnienia gwałtownie narastają, pojawia się ryzyko dryfu semantycznego, a uprawnienia dostępu do danych muszą być rygorystycznie sprawdzane na każdym kroku.
• Fragmentacja stosu technologicznego: Produkcyjne potoki RAG zazwyczaj łączą osobne narzędzia do pobierania danych, indeksowania, wyszukiwania wektorowego, rerankingu i kontroli dostępu. Zamiast skupiać się na jakości generowanych odpowiedzi, zespoły deweloperskie zmuszone są poświęcać czas na integrację rozproszonych komponentów.

Compass Cloud konsoliduje te procesy w jedną, spójną platformę zaprojektowaną z myślą o redukcji zużycia tokenów i stabilnej obsłudze sekwencyjnych zapytań agentowych.

Architektura Compass: pełny stos od konektorów po zarządzanie uprawnieniami

Stos technologiczny Compass łączy przetwarzanie dokumentów i mechanizmy wyszukiwania w jeden konfigurowalny ekosystem, na który składa się siedem zintegrowanych etapów:

1. Connect: Gotowe konektory do repozytoriów chmurowych i platform pracy grupowej, takich jak SharePoint, OneDrive oraz Google Drive, zapewniające wielojęzyczną i multimodalną obsługę różnorodnych formatów plików.
2. Parse: Przekształcanie złożonych dokumentów w ustrukturyzowane dane. Przetwarzanie wizyjne uruchamiane jest wyłącznie tam, gdzie przynosi realną wartość informacyjną, co pozwala unikać zbędnego obciążenia modeli.
3. Embed: Równoległe generowanie zintegrowanych reprezentacji gęstych i rzadkich (dense i sparse), dzięki czemu wyszukiwarka wychwytuje zarówno ogólny sens semantyczny, jak i precyzyjną, branżową terminologię.
4. Index: Rozdzielenie rekordów plików źródłowych, sparsowanego tekstu i wygenerowanych wektorów. Taka architektura umożliwia bezproblemową podmianę modelu embeddingowego bez konieczności ponownego pobierania i przetwarzania całego korpusu danych.
5. Retrieve: Elastyczne łączenie wyszukiwania semantycznego, rzadkiego i leksykalnego (słów kluczowych) w jednym żądaniu. Uprawnienia sprawdzane są bezpośrednio w trakcie pobierania danych, a nie na poziomie aplikacji końcowej.
6. Rerank: Wykorzystanie autorskich modeli Cohere z rodziny rerankerów do selekcji najtrafniejszych fragmentów z szerokiej puli kandydatów, co maksymalnie zawęża kontekst przekazywany modelowi językowemu.
7. Govern: Zarządzanie dostępem wielotenantowym (multi-tenant), uprawnienia na poziomie pojedynczych dokumentów oraz automatyczne polityki retencji zapobiegające ponownej synchronizacji usuniętych plików.

Efektywność weryfikowana danymi: benchmark High Finance

Głównym celem Compass jest dostarczanie precyzyjnych danych dowodowych dla modeli generatywnych. Skuteczność hybrydowego podejścia – łączącego wyszukiwanie leksykalne, rzadkie i gęste z późniejszym rerankingiem – potwierdzają wyniki w wymagających domenach biznesowych.

W teście na wewnętrznym benchmarku High Finance – składającym się z przygotowanych przez Cohere zapytań wymagających odnalezienia konkretnych informacji w prezentacjach bankowości inwestycyjnej i funduszy hedgingowych – Compass osiągnął wynik dokładności nDCG@10 na poziomie 81,1. Dla porównania, rozwiązanie Azure Search, w którym dokumenty były parsowane przy użyciu modelu GPT-4.1 Mini, uzyskało wynik 64,8. Oznacza to przewagę rzędu 14–16 punktów na korzyść Compass. Co istotne, Compass wykorzystywał model Cohere Embed 4, który bezpośrednio osadzał wejściowe pliki PDF jako obrazy bez konieczności stosowania odrębnego mechanizmu parsowania. Taka różnica w dokładności ma fundamentalne znaczenie w środowiskach finansowych, gdzie pominięcie krytycznej tabeli lub wskaźnika uniemożliwia wygenerowanie rzetelnej odpowiedzi.

Dwa modele integracji: Compass API i serwer Model Context Protocol (MCP)

Cohere przygotowało dla inżynierów dwie główne ścieżki wdrażania Compass Cloud w zależności od architektury projektowanego systemu:

• Compass API: Dedykowane interfejsy programistyczne przeznaczone dla zespołów budujących niestandardowe aplikacje RAG oraz klasyczne wyszukiwarki. Zapewniają one pełną kontrolę nad sposobem reprezentacji danych, ich odpytywaniem, scoringiem i prezentacją. Do dyspozycji programistów oddano również oficjalną bibliotekę Python SDK.
• Model Context Protocol (MCP): Rozwiązanie stworzone z myślą o systemach agentowych. Compass dostarcza niezależnie wersjonowany serwer MCP, który udostępnia narzędzia retrievalowe w oparciu o otwarty standard. Dzięki temu dowolny klient zgodny ze specyfikacją MCP może natychmiast odpytywać Compass bez konieczności pisania dedykowanych adapterów.

W środowisku agentowym serwer MCP pozwala modelom na stopniowe zawężanie przeszukiwanego korpusu informacji w kolejnych krokach decyzyjnych, co bezpośrednio redukuje liczbę przesyłanych tokenów i przyspiesza wykonywanie wieloetapowych operacji w platformie North.

Strategia wdrożeniowa: chmura, wdrożenia lokalne i bezpieczeństwo danych

Uruchomienie Compass Cloud w modelu w pełni zarządzanym jest bezpośrednią odpowiedzią na zapotrzebowanie firm, które chcą korzystać z technologii retrievalu bez ponoszenia kosztów zarządzania infrastrukturą. Jednocześnie Cohere nie rezygnuje z instalacji typu self-hosted dla podmiotów działających w rygorystycznych ramach prawnych i prywatnych chmurach obliczeniowych.

Udostępnienie chmurowego Compass Cloud zbiega się z szerszą ekspansją technologiczną firmy, która zaledwie kilkanaście dni wcześniej podpisała strategiczne porozumienie w sprawie suwerennego AI z Aleph Alpha, gwarantujące zgodność z najsurowszymi europejskimi wymogami ochrony danych.

Prywatna beta Compass Cloud jest obecnie dostępna dla ograniczonej liczby partnerów biznesowych tworzących zaawansowane aplikacje retrievalowe i agentowe. Uczestnicy programu beta otrzymują bezpośrednie wsparcie inżynieryjne oraz wpływ na dalszy rozwój produktu. Dodatkowo kierownictwo inżynieryjne i produktowe Cohere zapowiedziało sesję na żywo na platformie X, zaplanowaną na 8 października 2026 r., podczas której omówiona zostanie przyszłość technologii wyszukiwania dla przedsiębiorstw.