03 · ROZWIĄZANIE

Prywatne modele AI

Asystent korzystający z wiedzy firmy, w środowisku i na zasadach, które ustalasz.

Wdrażamy asystentów AI, którzy odpowiadają na podstawie dokumentów i baz wiedzy Twojej firmy. Model może działać na Twojej infrastrukturze, w wydzielonym środowisku chmurowym albo u zewnętrznego dostawcy na uzgodnionych warunkach. O wyborze decydują wymagania dotyczące danych, koszt i jakość odpowiedzi, które ustalamy przed wdrożeniem.

Z CZYM PRZYCHODZĄ FIRMY

Typowe problemy

Jeśli rozpoznajesz u siebie choć jedną z tych sytuacji, to dobry punkt wyjścia do rozmowy.

  • Wiedza o procedurach, ofercie i projektach jest rozproszona w dokumentach, a nowe osoby długo jej szukają.
  • Pracownicy korzystają z publicznych narzędzi AI na własną rękę i wklejają do nich firmowe dane.
  • Nie wiadomo, które dokumenty są aktualne i kto powinien mieć do nich dostęp.
  • Wcześniejsze próby z AI dawały odpowiedzi brzmiące pewnie, ale bez możliwości sprawdzenia źródła.

CO ROBIMY

Zakres prac

Konkretny zakres ustalamy po poznaniu procesu i systemów. Poniżej to, czym zajmujemy się w tym obszarze.

  • 01

    Infrastruktura

    Model na serwerze firmy, w wydzielonym środowisku chmurowym lub przez zewnętrzne API z uzgodnionymi warunkami przetwarzania. Porównujemy warianty pod kątem danych, kosztów i wymaganej jakości.

  • 02

    Dokumenty i RAG

    Indeksujemy wybrane dokumenty i bazy wiedzy. Asystent wyszukuje fragmenty pasujące do pytania i odpowiada na ich podstawie, podając źródła do sprawdzenia.

  • 03

    Role i uprawnienia

    Asystent korzysta tylko z dokumentów, do których dana osoba ma dostęp. Uprawnienia przejmujemy z istniejących systemów albo definiujemy razem z Tobą.

  • 04

    Ocena odpowiedzi

    Przygotowujemy zestaw pytań testowych z oczekiwanymi odpowiedziami. Na nim sprawdzamy jakość przed uruchomieniem i po każdej większej zmianie modelu lub dokumentów.

Przykładowy scenariusz

Procedury dla nowej osoby w zespole

Przed

Nowy pracownik działu obsługi pyta współpracowników o procedurę reklamacji, bo instrukcje leżą w kilku folderach i nie wiadomo, która wersja jest aktualna.

Po

Pracownik zadaje pytanie asystentowi i dostaje odpowiedź z odnośnikami do fragmentów aktualnej procedury. Gdy w dokumentach nie ma odpowiedzi, asystent mówi to wprost i wskazuje osobę kontaktową.

Jak może przebiegać

  1. Pytanie zadane zwykłym językiem
  2. Wyszukanie fragmentów w dokumentach dostępnych dla tej roli
  3. Odpowiedź ze wskazaniem źródeł
  4. Brak źródła: informacja o braku odpowiedzi i osoba kontaktowa

CO OTRZYMUJESZ

Rezultat prac

  • Działający asystent z dostępem do uzgodnionych źródeł wiedzy oraz opis architektury i przepływu danych.
  • Zestaw pytań testowych z wynikami oceny, opisem znanych ograniczeń i tematów, na które asystent nie powinien odpowiadać.
  • Zasady utrzymania: aktualizacja dokumentów, logi, okres przechowywania rozmów i osoby odpowiedzialne.

JAK TO PRZEBIEGA

Kroki

  1. Źródła i ryzyka

    Ustalamy, z jakich dokumentów asystent ma korzystać, kto jest ich właścicielem, które dane są wrażliwe i jakie pytania są poza zakresem.

  2. Prototyp i ocena

    Budujemy wersję na wybranym zbiorze dokumentów i sprawdzamy ją na pytaniach testowych oraz z grupą pilotażową.

  3. Uruchomienie i aktualizacja wiedzy

    Udostępniamy asystenta szerzej, ustalamy sposób zgłaszania błędnych odpowiedzi i proces dodawania nowych dokumentów.

Szczegółowy plan, kryteria odbioru i koszty ustalamy po diagnozie. Jak pracujemy

PYTANIA

Warto wiedzieć

Czy nasze dane posłużą do trenowania modeli?

Przy modelu uruchomionym na Twojej infrastrukturze dane nie trafiają do dostawcy modelu. Przy zewnętrznym API zależy to od warunków konkretnego dostawcy. Sprawdzamy je i przedstawiamy przed wyborem.

Czy asystent może się mylić?

Tak. Modele językowe mogą udzielać niepoprawnych odpowiedzi. Dlatego pokazujemy źródła, testujemy jakość na zestawie pytań i określamy tematy, w których decyzję musi podjąć człowiek.

Czy potrzebujemy własnych serwerów z GPU?

Nie zawsze. Wybór zależy od wymagań dotyczących danych, liczby użytkowników i oczekiwanej jakości. Porównujemy warianty: własny sprzęt, wydzieloną chmurę lub zewnętrzne API.

KOLEJNY KROK

Porozmawiajmy o Twoim procesie

Opisz, jak dziś wygląda praca w tym obszarze. Na tej podstawie zaproponujemy pierwszy krok i sposób sprawdzenia efektu.