Otwarty model AI w firmie: kiedy się opłaca
Otwarty model AI w firmie kusi kontrolą nad danymi i brakiem opłat za API. Sprawdź, kiedy własny serwer ma sens, ile kosztuje i o co zapytać wykonawcę.
Otwarty model AI to model, który działa na Twoim serwerze zamiast w chmurze. Dla większości małych firm to się nie opłaca: serwer, opieka i aktualizacje kosztują więcej niż rozliczenia za API. Ten artykuł jest dla właścicieli i menedżerów małych firm, którzy zastanawiają się, czy model open weights ochroni ich dane firmowe i kiedy wdrożenie AI bez chmury ma sens. Dostaniesz kryteria decyzji, widełki kosztów i listę 10 pytań do wykonawcy.
TL;DR: Otwarty model AI ma sens przy regulowanych danych, dużej skali zapytań albo pracy bez internetu. Dla typowej małej firmy tańszy i szybszy jest chatbot w chmurze z dobrą umową o dane. Własny serwer to koszt od kilkuset złotych miesięcznie w górę plus ktoś do opieki. Przed decyzją zadaj wykonawcy 10 pytań z checklisty poniżej.
Co znaczy "otwarty model AI"
Otwarty model AI, czyli model o otwartych wagach (open weights), to model, którego plik z wagami producent udostępnia do pobrania. Uruchamiasz go na własnym sprzęcie, a zapytania Twoich klientów nigdy nie opuszczają firmy. Przykład z 5 sierpnia 2025: OpenAI opublikował wtedy modele gpt-oss-120b (117 mld parametrów) i gpt-oss-20b (21 mld parametrów) na licencji Apache 2.0, co potwierdza karta modelu na Hugging Face.
Uwaga na słowa: open weights to nie to samo co open source. Jak wyjaśnia Open Source Initiative, otwarte wagi dają plik do uruchomienia, ale nie zawsze dają pełne prawa i dane treningowe jak licencja open source. Dlatego zawsze sprawdzaj punkt o nazwie licencja modelu AI: Apache 2.0 pozwala na użytek komercyjny, a inne licencje (na przykład niektóre licencje typu community) ograniczają komercyjne wdrożenia albo wymagają ujawnienia zmian. To pierwsze pytanie z checklisty, a nie formalność.
Jeśli chcesz zrozumieć, jak taki model odpowiada na pytania klientów, przeczytaj najpierw jak działa chatbot AI. Mechanizm jest ten sam, zmienia się tylko miejsce, w którym model pracuje.
Kiedy otwarty model ma sens, a kiedy lepiej zostać przy chmurze
Sprowadź decyzję do czterech sygnałów. Jeśli żaden nie występuje w Twojej firmie, chmura wygrywa.
Regulowane albo wrażliwe dane
Kancelaria, poradnia medyczna, firma obsługująca dane osobowe szczególnej kategorii: tutaj argument "zapytania nie wychodzą z firmy" brzmi najmocniej. Model open weights a dane firmowe to jedyne połączenie, w którym pełną kontrolę masz Ty, a nie umowa z dostawcą chmury. Pamiętaj jednak: sam model u siebie nie załatwia RODO. Logi rozmów, kopie zapasowe i dostępy pracowników nadal zabezpieczasz sam.
Duża skala zapytań
Przy tysiącach rozmów miesięcznie stała opłata za serwer zaczyna być tańsza niż rozliczenie za każde zapytanie w chmurze. Próg opłacalności policzysz w tabeli kosztów poniżej. Mała firma z kilkudziesięcioma rozmowami dziennie tego progu zwykle nie przekracza.
Praca bez stałego internetu albo wymóg ciągłości
Zakład produkcyjny, obiekt bez stabilnego łącza, proces, który działa nawet przy awarii internetu: lokalny model pracuje dalej, chmurowy nie. Ten przypadek rzadko dotyczy firm usługowych, ale jeśli dotyczy Ciebie, rozstrzyga decyzję.
Uniezależnienie od dostawcy
Ceny API rosną, regulaminy się zmieniają, dostawca wycofuje model. Własny serwer daje przewidywalność. Ceną jest to, że aktualizacje, bezpieczeństwo i rozwój modelu biorą na siebie Twoi ludzie albo Twój wykonawca.
Kiedy chmura wygrywa
Brak zespołu IT, start w tygodnie zamiast w miesiące, budżet wdrożeniowy liczony w tysiącach, a nie dziesiątkach tysięcy złotych: to profil typowej małej firmy. Chatbot na Twoich dokumentach w chmurze startuje w 1-3 tygodnie, a koszt modelu to od ułamka grosza do kilku groszy za rozmowę. Szczegółowe widełki znajdziesz w artykule ile kosztuje chatbot dla firmy.
Ile kosztuje AI na własnych serwerach
Trzy składniki: sprzęt, prąd i opieka, oraz człowiek do aktualizacji. Liczby poniżej to orientacyjne widełki z września 2026, zależne od dostawcy i kursu walut.
Sprzęt albo wynajem GPU
Mniejszy model klasy 20 mld parametrów uruchomisz na serwerze z kartą o kilkunastu GB pamięci VRAM, co kosztuje rzędu kilku do kilkunastu tysięcy złotych za samą kartę. Większy model klasy 117 mld parametrów w zoptymalizowanej wersji (kwantyzacja MXFP4) mieści się na jednej karcie klasy data-center z 80 GB VRAM, jak potwierdza dokumentacja gpt-oss na GitHub; bez tej optymalizacji potrzeba kilku takich kart. Sama karta tej klasy (na przykład NVIDIA H100) kosztuje rzędu stu kilkudziesięciu tysięcy złotych za sztukę, według wyceny rynkowej z 2026 roku, dlatego małe firmy zwykle wynajmują moc obliczeniową zamiast kupować sprzęt. Wynajem serwera z GPU w polskiej lub europejskiej chmurze to orientacyjnie od kilkuset do kilku tysięcy złotych miesięcznie za konfigurację pod mniejszy model. Większe konfiguracje kosztują wielokrotność tej kwoty.
Prąd, aktualizacje, opieka
Serwer z kartą GPU pobiera zwykle od 300 do 1000 W pod obciążeniem, czyli przy pracy ciągłej od około 220 do 730 kWh miesięcznie. Do tego ktoś aktualizuje model, łata system i reaguje na awarie: etat administratora albo stała opieka wykonawcy liczona w setkach do tysięcy złotych miesięcznie.
Porównanie z API w tabeli
| Wariant | Koszt startu | Koszt miesięczny (mały ruch) | Kiedy wygrywa |
|---|---|---|---|
| Chatbot w chmurze (API) | wdrożenie od 1 200 zł | model: grosze za rozmowę | mały i średni ruch, szybki start |
| Mały model u siebie | kilka do kilkunastu tys. zł | kilkaset do 2 tys. zł (serwer + opieka) | tysiące rozmów miesięcznie, wrażliwe dane |
| Duży model u siebie | kilkadziesiąt tys. zł (wynajem) do kilkuset tys. zł (zakup karty) | kilka tys. zł w górę | regulacje, skala, pełna niezależność |
Wniosek dla małej firmy: przy kilkudziesięciu rozmowach dziennie chmura jest tańsza przez pierwsze 2-3 lata. Własny serwer zaczyna się zwracać dopiero przy skali albo gdy regulacje go wymuszają.
Dane firmowe a model open weights
Co naprawdę zostaje u Ciebie, gdy model pracuje lokalnie? Treść zapytań, Twoje dokumenty i historia rozmów nie trafiają do zewnętrznego dostawcy modelu. To realna zaleta, ale nie pełne rozwiązanie problemu danych. Zamiast umowy powierzenia przetwarzania danych z dostawcą chmury bierzesz na siebie rolę administratora całej infrastruktury: logi, kopie zapasowe, szyfrowanie dysków, dostępy pracowników i aktualizacje zabezpieczeń.
Dwa obowiązki zostają bez zmian. Po pierwsze RODO: minimalizacja danych, informacja dla klientów i sensowny okres przechowywania logów. Więcej znajdziesz w artykule RODO przy chatbocie. Po drugie unijny AI Act: jego art. 50 wymaga, żeby odbiorca wiedział, że rozmawia z systemem AI, więc chatbot, także lokalny, przedstawia się jako asystent AI (zob. tekst art. 50 AI Act). Wskazówki polskiego organu nadzorczego publikuje UODO.
10 pytań przed wdrożeniem AI bez chmury
Zadaj je każdemu wykonawcy. Brak konkretnej odpowiedzi na którekolwiek to sygnał, żeby poczekać.
- Jaka jest dokładna licencja modelu AI i czy pozwala na mój komercyjny użytek?
- Jakie są minimalne wymagania sprzętowe i ile VRAM potrzebuje wybrany model?
- Kto i jak często aktualizuje model oraz system operacyjny serwera?
- Gdzie są kopie zapasowe rozmów i dokumentów oraz jak wygląda odtwarzanie po awarii?
- Jakie logi powstają, kto ma do nich dostęp i jak długo są przechowywane?
- Jak wdrożenie spełnia RODO: minimalizacja danych, dostępy, prawa osób?
- Ile wynosi pełny koszt miesięczny: serwer, prąd, licencje, opieka?
- Co obejmuje wsparcie po wdrożeniu i w jakim czasie jest reakcja na awarię?
- Jak przetestujemy jakość odpowiedzi przed startem i na jakich moich dokumentach?
- Jak wygląda wyjście: czy dostaję dokumentację, dostępy i dane w otwartym formacie?
Od czego zacząć: najmniejszy sensowny krok
Zacznij od chatbota na Twoich dokumentach w chmurze z dobrą umową o dane. W 1-3 tygodnie sprawdzisz, czy klienci korzystają z asystenta i jakie pytania zadają. Dopiero z tymi liczbami w ręku policzysz, czy własny serwer ma sens. Takie wdrożenie opisuje przewodnik wdrożenie chatbota krok po kroku: analiza procesu, pytania, integracja, testy i start.
FAQ
Czy otwarty model AI jest darmowy?
Sam plik z wagami bywa darmowy, ale wdrożenie AI bez chmury nigdy nie jest za darmo. Płacisz za serwer lub wynajem GPU (orientacyjnie od kilkuset złotych miesięcznie), prąd, aktualizacje i opiekę. Darmowa jest licencja, nie eksploatacja. Policz pełny koszt miesięczny z tabeli powyżej.
Czym różni się open source od open weights?
Open weights oznacza publiczny plik wag do uruchomienia modelu u siebie. Open source wymaga dodatkowo otwartego kodu, danych treningowych i pełnych praw do modyfikacji. W praktyce licencja modelu AI rozstrzyga, co wolno Ci zrobić komercyjnie, więc czytaj ją przed wdrożeniem.
Czy dane firmowe są bezpieczne w otwartym modelu?
Zapytania nie trafiają do zewnętrznego dostawcy, co ogranicza jedno ryzyko. Pozostałe zostają: logi, kopie, dostępy i aktualizacje leżą po Twojej stronie. Bezpieczeństwo zależy od konfiguracji serwera i procedur, nie od samej otwartości modelu. Sprawdź też obowiązki z RODO.
Jaki serwer potrzeba do uruchomienia modelu AI w firmie?
Mniejszy model klasy 20 mld parametrów działa na serwerze z kartą o kilkunastu GB pamięci VRAM. Większy model klasy 117 mld parametrów w zoptymalizowanej wersji mieści się na jednej karcie klasy data-center z 80 GB VRAM, a bez optymalizacji potrzeba kilku takich kart. Dokładny dobór zależy od modelu i liczby jednoczesnych rozmów, więc poproś wykonawcę o wyliczenie.
Podsumowanie i następny krok
Otwarty model AI w firmie ma sens, gdy masz regulowane dane, dużą skalę zapytań, wymóg pracy bez internetu albo strategiczny powód do niezależności. Dla pozostałych firm, czyli większości małych przedsiębiorstw, rozsądniej jest zacząć od chmury i wrócić do tematu serwera, gdy liczby to uzasadnią.
Nie wiesz, po której stronie jesteś? Opisz jedno powtarzalne zadanie z obsługi zapytań, a w ciągu 48 godzin dostaniesz diagnozę procesu: skontaktuj się.