Martin KogutAutor Martin Kogut20 listopada 20267 min. czytania

Firmowa baza wiedzy AI dla średnich firm. Jak działa RAG?

Nowa osoba w zespole ma pytanie o urlop. Koleżanka, która zna odpowiedź, jest nieobecna. Nowy pracownik sprawdza trzy foldery i dwie witryny w SharePoincie, a potem pyta kogoś z zespołu. Jedno rutynowe pytanie zabiera dwadzieścia minut.

McKinsey Global Institute oszacował w raporcie z 2012 r., że pracownicy wykonujący pracę opartą na wiedzy poświęcali 19% czasu pracy na wyszukiwanie i zbieranie informacji. Szacunek dotyczył badanej grupy. Zanim uzasadnisz inwestycję, zmierz czas wyszukiwania we własnym zespole. Przeczytaj raport McKinsey Global Institute.

Tu może pomóc generowanie odpowiedzi z wykorzystaniem wyszukanych źródeł (RAG). Asystent przeszukuje zatwierdzone źródła i przygotowuje odpowiedź na podstawie pasujących fragmentów. Odpowiedź nadal może zawierać błąd. Odwołania do źródeł pozwalają zweryfikować ją samodzielnie.

Co to jest RAG?

Model językowy może odpowiadać na pytania ogólne. Do odpowiedzi o Twoich procesach, umowach lub specyfikacjach potrzebuje dostępu do właściwych informacji i uprawnień do ich wykorzystania.

System RAG przeszukuje zatwierdzone dokumenty przed udzieleniem odpowiedzi i przekazuje modelowi odpowiednie fragmenty. Odpowiedź może się do nich odwoływać, dzięki czemu odbiorca łatwiej ją zweryfikuje.

System RAG składa się z dwóch części. Moduł wyszukiwania szuka pasujących fragmentów w bazie wiedzy. Moduł generujący wykorzystuje je do przygotowania odpowiedzi. Gdy materiału jest za mało, system może wskazać braki lub skierować pytanie do odpowiedniej osoby.

Trzy obszary, od których można zacząć

1. Wiedza wewnętrzna

Ułatw korzystanie z zatwierdzonych podręczników, procedur, materiałów wdrożeniowych i zasad kadrowych. Osoba pytająca o wymiar urlopu może sprawdzić właściwy fragment podręcznika i upewnić się, że zasada dotyczy jej sytuacji.

2. Obsługa klienta i sprzedaż

Włącz zatwierdzoną dokumentację produktową i częste pytania do procesu obsługi. Jeśli asystent ma odpowiednie uprawnienia, CRM może dostarczyć potrzebne informacje o kliencie. W pilotażu mierz czas obsługi i trafność odpowiedzi.

Dla firmy COMAN połączyliśmy artykuły pomocy, dokumentację produktową i odpowiedzi na powtarzające się zgłoszenia do wsparcia. Asystent może odpowiadać na pytania o produkt bezpośrednio w aplikacji.

3. Branże regulowane

Przy wrażliwych zadaniach w ochronie zdrowia, finansach lub usługach prawnych sprawdź, gdzie system działa i do jakich danych ma dostęp. Modele z dostępnymi wagami, np. niektóre wersje Llama, mogą działać na własnej infrastrukturze, zależnie od licencji i wymagań sprzętowych. Wdrożenie lokalne również wymaga przeglądu przepływu danych, dostępu, logowania zdarzeń i obowiązujących zasad prywatności.

Ile może kosztować projekt RAG?

Na większy pilotaż przewidź orientacyjnie 6–12 tygodni. Termin zależy od źródeł, uprawnień i integracji. Poniższe przykłady pokazują, jak zakres wpływa na budżet.

  • Wewnętrzna baza wiedzy obejmująca 1–5 tys. dokumentów od 15 tys. euro

  • Integracja obsługi klienta z CRM od 25 do 50 tys. euro

  • Wdrożenie w całości lokalne od 40 tys. euro

Załóżmy, że 50 osób przeznacza na wyszukiwanie informacji o 30 minut mniej dziennie. Przy stawce 40 euro za godzinę i 220 dniach pracy daje to czas pracy o wartości 220 tys. euro rocznie. Rzeczywiste oszczędności zależą od pomiaru w pilotażu, wykorzystania odzyskanego czasu i kosztów utrzymania systemu.

Trzy wyzwania, które warto uwzględnić od razu

Aby pilotaż się udał, potrzebujesz wiarygodnych źródeł, zespołu gotowego skorzystać z narzędzia i zakresu, którym można zarządzać.

  1. Jakość źródeł. Nieaktualne lub sprzeczne dokumenty prowadzą do zawodnych odpowiedzi. Zrób spis źródeł, wskaż ich właścicieli i ustal, jak publikować nowe wersje i wycofywać stare.

  2. Zaufanie użytkowników. Zaproś użytkowników do pilotażu od początku. Ułatw im zgłaszanie błędów, sprawdzanie źródeł i rozpoznawanie sytuacji, w których warto zapytać człowieka.

  3. Zakres pilotażu. Zacznij od jednego zespołu i zbioru, który możesz sprawdzić, na przykład 500–1000 dokumentów. Przetestuj odpowiedzi i kontrolę dostępu przed rozszerzeniem zakresu.

Pięć kroków do pierwszej firmowej bazy wiedzy AI

  1. Wybierz jedno zastosowanie. Wskaż zespół i pytania, na które najtrudniej znaleźć odpowiedź.

  2. Wybierz zatwierdzone źródła. Sprawdź, czy SharePoint, Dysk Google, pliki PDF lub poczta zawierają potrzebne informacje i kto może z nich korzystać.

  3. Zdecyduj, gdzie system ma działać. Porównaj usługi hostowane i wdrożenie lokalne pod kątem kontroli danych, kosztu i wymagań utrzymania.

  4. Przetestuj rozwiązanie w małej grupie. Ustal miary trafności wyszukiwania, jakości odpowiedzi i oszczędności czasu. Jeśli zakres tego wymaga, przeznacz na ocenę od czterech do sześciu tygodni.

  5. Wdrażaj stopniowo. Aktualizuj źródła, uwzględniaj zgłoszenia i ponawiaj testy po zmianach.

Ułatw zespołowi znalezienie wiedzy, którą już macie

Zacznij od konkretnych pytań i źródeł, które pracownicy mogą zweryfikować. Pilotaż pokaże, czy odpowiedzi są przydatne i czy uprawnienia działają przed szerszym wdrożeniem.

Na stronie firmowej bazy wiedzy AI opisujemy, jak ustalamy źródła i uprawnienia oraz testujemy odpowiedzi na rzeczywistych pytaniach.