Własne środowisko pozwala określić, gdzie przetwarzane są dane i kto ma do nich dostęp. Dobieramy model, oprogramowanie i zasoby sprzętowe do konkretnego zadania, a następnie łączymy je z aplikacjami i źródłami wiedzy organizacji.
Przed wyborem serwera sprawdzamy rodzaj danych, zadania modelu, liczbę użytkowników i oczekiwany czas odpowiedzi. Porównujemy warianty lokalny, chmurowy i hybrydowy. Własna infrastruktura wiąże się także z aktualizacjami, kopiami zapasowymi i odpowiedzialnością za eksploatację.
Oceniamy jakość odpowiedzi, pracę z językiem polskim, długość materiałów i wymagania pamięci. Możemy wykorzystać modele takie jak Bielik, PLLuM lub inne rozwiązania odpowiednie dla zadania. Dobór uwzględnia warunki licencji i możliwości sprzętowe.
Projektujemy zasoby CPU, GPU, pamięć i przestrzeń na dane. Możemy skonfigurować serwer lub wykorzystać istniejące środowisko, jeśli spełnia wymagania. Dobieramy sposób uruchamiania aplikacji i modeli, monitorowanie oraz integracje z bazami i narzędziami firmowymi.
Określamy dozwolone połączenia zewnętrzne, role dostępu, zakres logów i sposób aktualizacji. Samo lokalne uruchomienie modelu nie zabezpiecza całego systemu. Przy porównaniu kosztów uwzględniamy zakup sprzętu, energię, administrację i wykorzystanie zasobów.
Model i warstwa wyszukiwania działają na firmowym serwerze. Pracownik otrzymuje odpowiedź opartą na dokumentach dostępnych dla jego roli, z odwołaniami do źródeł. Zakres indeksowania, aktualizacji i dostępu ustalamy dla konkretnego zbioru materiałów.
Ilustracja możliwego zastosowania. Zakres konkretnego projektu ustalamy indywidualnie.
Przygotuj przykłady zadań, informacje o liczbie użytkowników i obecnym sprzęcie oraz wymagania dotyczące przesyłania danych. Pozwoli to ocenić, czy potrzebny jest własny serwer i jaki zakres testów ma sens.
To zależy od architektury całego rozwiązania. Możemy zaprojektować przetwarzanie lokalne, ale trzeba też uwzględnić integracje, zewnętrzne usługi, logi i kopie zapasowe. Granice przepływu danych ustalamy i sprawdzamy podczas wdrożenia.
Nie w każdym przypadku. Wynik zależy od obciążenia, wymaganego sprzętu i kosztów obsługi. Porównujemy całkowity koszt eksploatacji i oczekiwaną jakość działania dla konkretnego scenariusza.
Tak, jeśli jej parametry i sposób udostępniania zasobów odpowiadają wymaganiom. Po analizie możemy zaproponować wykorzystanie obecnego środowiska, rozbudowę lub wydzielony serwer.
Opowiedz, jak dziś pracujecie, z jakich systemów korzystacie i co ma się zmienić. Wspólnie określimy sensowny pierwszy krok.
