Współpraca

Wewnętrzne systemy AI — kiedy dane naprawdę nie mogą wyjść

Doradzam firmom, które rozważają uruchomienie modeli językowych na własnej infrastrukturze, i zaczynam zwykle od pytania, które psuje nastrój: czy na pewno musicie. Odpowiedź brzmi „tak” rzadziej, niż wynikałoby z rozmów na konferencjach, ale gdy już brzmi „tak”, jest to jedyna sensowna droga i wtedy warto zrobić to porządnie.

Zajmuję się tym, ponieważ decyzja o własnym serwerze jest najtrudniejsza do odkręcenia ze wszystkich, jakie firma podejmuje przy AI. Licencję w chmurze można wypowiedzieć na koniec miesiąca. Kart graficznych kupionych za kilkaset tysięcy złotych nie da się oddać, a ich koszt trwa niezależnie od tego, czy ktokolwiek z systemu korzysta.

Trzy powody, dla których dane zostają w firmie

Tylko jeden z nich jest techniczny. Dwa pozostałe to umowy i przepisy — i to one przesądzają w większości projektów.

Wewnętrzny system AI to model językowy uruchomiony na infrastrukturze firmy, połączony z jej dokumentami, w którym żadne zapytanie ani dokument nie opuszcza sieci organizacji. Kupujesz w ten sposób kontrolę i przewidywalność, płacąc za nie kosztem stałym i koniecznością utrzymania.

Pierwszy powód takiej decyzji to zobowiązania umowne. W przemyśle, w usługach inżynierskich i przy pracy dla dużych klientów korporacyjnych umowy zawierają zakaz przekazywania dokumentacji stronom trzecim. Model w chmurze jest stroną trzecią, niezależnie od tego, jak dobre są jego zapisy o poufności.

Drugi to dane szczególnych kategorii i sektory regulowane — ochrona zdrowia, część usług finansowych, obszary objęte tajemnicą zawodową. Trzeci, najrzadszy, to skala: przy bardzo dużym i stałym wolumenie zapytań własny sprzęt bywa po prostu tańszy, ale próg, od którego to następuje, jest wyżej, niż sądzi większość firm.

Ważne, czego własny serwer nie załatwia. Nie zwalnia z obowiązków AI Act, bo te zależą od zastosowania, a nie od miejsca instalacji: artykuł 50 dotyczący przejrzystości obowiązuje od 2 sierpnia 2026, krajowa ustawa o systemach sztucznej inteligencji od 11 sierpnia 2026, a kary nakładane są od 28 października 2026. Nie zwalnia też z uporządkowania uprawnień — system, który widzi wszystkie dokumenty firmy, jest wyciekiem wewnętrznym czekającym na pierwsze pytanie.

Cztery warianty wdrożenia i co je różni

Rozmowa o tym, gdzie stoi serwer, jest w rzeczywistości rozmową o tym, gdzie leżą dane i jaki jest charakter kosztu. Ta tabela zwykle kończy spór w pół godziny.

WariantCo z danymiCharakter kosztuKiedy wybieram
Chmura publiczna dostawcydane przechodzą przez infrastrukturę dostawcy, przetwarzanie zwykle poza firmąopłata za zużycie albo licencja na użytkownika, bez kosztu sprzętuwiększość zastosowań biurowych, gdy wystarczy umowa powierzenia
Chmura z regionem europejskim i zapisami umownymiprzetwarzanie w wskazanym regionie, wyłączona nauka modelu na danych klientawyższa stawka za zużycie, nadal bez własnego sprzętudane osobowe na większą skalę, sektor regulowany, wymogi klienta korporacyjnego
Model otwarty na serwerze firmydane nie opuszczają infrastruktury, pełna kontrola nad dziennikiem i retencjąkoszt kart graficznych, energii i administracji — stały, niezależny od użyciatajemnica przedsiębiorstwa, dane objęte szczególną ochroną, zakaz wyjścia danych
Układ mieszanyzadania wrażliwe lokalnie, pozostałe w chmurze, z jasną regułą podziałusuma dwóch powyższych, ale przy mniejszej skali każdego z nichnajczęstszy wybór w firmach, które policzyły oba warianty osobno

Cztery sytuacje, w których prowadzę takie projekty

Producent z dokumentacją objętą umowami o poufności

Rysunki techniczne i specyfikacje klientów nie mogą trafić do żadnej usługi zewnętrznej. Wyszukiwanie w dokumentacji na własnym serwerze skraca czas odnalezienia informacji z godzin do minut i jest jednym z najczystszych przypadków opłacalności, jakie widziałem.

Firma po pytaniu klienta korporacyjnego o miejsce przetwarzania

Pytanie pojawia się w ankiecie bezpieczeństwa przy przedłużaniu kontraktu i nagle staje się priorytetem zarządu. Zanim firma kupi sprzęt, sprawdzam, czy wystarczy zmiana planu na wariant z regionem europejskim i właściwymi zapisami — w większości przypadków wystarcza.

Podmiot leczniczy albo instytucja z danymi wrażliwymi

Tu rozmowa zaczyna się od kategorii danych, a nie od narzędzia. Zwykle kończy się układem mieszanym: zadania dotykające danych pacjentów lokalnie, cała reszta — korespondencja, materiały, sprawozdawczość — w chmurze.

Firma, która kupiła sprzęt przed przemyśleniem zastosowania

Serwer stoi, model działa, korzystają z niego trzy osoby. Wchodzę wtedy po to, żeby znaleźć zastosowania uzasadniające poniesiony koszt, albo powiedzieć wprost, że ich nie ma i lepiej ograniczyć straty. Ta druga rozmowa jest trudna, ale tańsza niż udawanie przez kolejny rok.

Jak pracuję przy takim projekcie

Pięć kroków, z których trzeci — próg opłacalności — najczęściej zmienia pierwotną decyzję.

1. Klasyfikacja danych i zobowiązań

Ustalamy, które dane faktycznie nie mogą opuścić firmy, a które tylko zwyczajowo tak traktujemy. Podstawą są umowy z kontrahentami i kategorie danych osobowych, a nie wyczucie. Ten krok zwykle zawęża zakres wdrożenia o połowę.

2. Wybór zastosowania i zbioru dokumentów

Jeden konkretny zbiór, jeden zespół, jedno pytanie zadawane dziś ręcznie dziesiątki razy w tygodniu. Wdrażanie wewnętrznego systemu bez takiego punktu zaczepienia kończy się drogim eksperymentem.

3. Próg opłacalności

Liczymy, przy jakim wolumenie zapytań koszt stały wygrywa z rozliczeniem za zużycie, uwzględniając energię i czas administratora. W firmach średniej wielkości ten rachunek często wskazuje na układ mieszany.

4. Przeniesienie uprawnień i ocena prawna

Uprawnienia z repozytorium muszą działać także w systemie AI, inaczej powstaje wyciek wewnętrzny. Równolegle ustalamy rolę firmy w rozumieniu AI Act i wpisujemy system do rejestru.

5. Pilotaż i decyzja o skali

Sześć do dziesięciu tygodni na jednym zbiorze, z pomiarem czasu odnalezienia informacji sprzed wdrożenia. Dopiero wynik tego pilotażu uzasadnia zakup sprzętu na większą skalę — nigdy odwrotnie.

Co robię osobiście, a co realizuje zespół

Ja odpowiadam za decyzję, próg opłacalności i granice dostępu. Zespół buduje i utrzymuje.

Osobiście prowadzę klasyfikację danych, wybór wariantu, rachunek opłacalności, ocenę prawną i kryteria odbioru. Uczestniczę też w rozmowach z dostawcami sprzętu i oprogramowania po stronie kupującego — bez prowizji od kogokolwiek.

Instalacja, konfiguracja modeli, budowa wyszukiwania w dokumentach, integracje z repozytoriami firmy, monitoring i utrzymanie to praca zespołu inżynierskiego. Wykonuje ją PCSiD, którego jestem właścicielem, w modelu projektowym i abonamentowym. Przy własnej infrastrukturze ten drugi element jest ważniejszy niż samo wdrożenie.

Zobacz pełną ofertę wdrożenia: bezpieczne wdrożenie AI w firmie — PCSiD.

Ile to kosztuje

Osobno koszt decyzji, osobno sprzęt, osobno utrzymanie. Trzeci trwa tak długo, jak długo system stoi.

Sesja strategiczna od 2500 PLN wystarcza, żeby rozstrzygnąć podstawowe pytanie: czy dane rzeczywiście muszą zostać w firmie i przy jakim wolumenie własny serwer się zwraca. Dla wielu firm ta jedna rozmowa oszczędza kilkaset tysięcy złotych niepotrzebnego wydatku.

Audyt od 18 000 PLN obejmuje klasyfikację danych, przegląd zobowiązań umownych, ocenę repozytoriów i uprawnień, architekturę docelową oraz rachunek opłacalności w trzech wariantach. To właściwy punkt startu, gdy decyzja jest już przesądzona.

Koszt sprzętu, wdrożenia i utrzymania zależy od skali i wycenia go zespół po ustaleniu architektury. Pełny cennik znajdziesz na stronie PCSiD.

Dla kogo to jest i czego możesz się spodziewać

Wewnętrzne systemy AI mają sens w firmach z realnym zakazem wyjścia danych: w przemyśle pracującym na dokumentacji klientów, w podmiotach leczniczych, w części usług finansowych, w firmach inżynierskich i wszędzie tam, gdzie ankieta bezpieczeństwa klienta wymusza odpowiedź o miejscu przetwarzania. Dla pozostałych organizacji zwykle korzystniejszy jest wariant chmurowy z właściwymi zapisami umownymi i mówię to wprost.

Po zakończeniu pracy masz klasyfikację danych opartą na umowach i przepisach, wybrany wariant wdrożenia z uzasadnieniem, policzony próg opłacalności, architekturę z przeniesionymi uprawnieniami, wpis w rejestrze systemów AI i kryteria odbioru dla wykonawcy. Z tym kompletem można rozmawiać z dowolnym dostawcą, także innym niż mój zespół.

Więcej o moim sposobie pracy znajdziesz na stronie O mnie. Kontekst prawny opisuje zgodność z AI Act, a etap wdrożeniowy — bezpieczne wdrożenie AI. Efekty wcześniejszych projektów opisują referencje i publikacje.

Najczęstsze pytania o wewnętrzne systemy AI

Kiedy naprawdę potrzebny jest model na własnym serwerze?
Wtedy, gdy istnieje realny zakaz wyjścia danych poza firmę: tajemnica przedsiębiorstwa wpisana do umów z kontrahentami, dane szczególnych kategorii, wymóg klienta korporacyjnego albo regulacja branżowa. W pozostałych przypadkach wystarczy chmura z regionem europejskim i właściwymi zapisami umownymi, a rachunek wychodzi znacznie korzystniej.
Czy modele otwarte dorównują komercyjnym?
W zadaniach dobrze zdefiniowanych — klasyfikacja, wyszukiwanie w dokumentach, streszczenia, wyciąganie danych z formularzy — różnica jest dziś niewielka i nie ma wpływu na wynik biznesowy. W zadaniach wymagających długiego rozumowania i pracy na obszernym kontekście modele komercyjne nadal prowadzą. Dlatego dobieramy model do zadania, a nie odwrotnie.
Ile kosztuje uruchomienie AI na własnej infrastrukturze?
Koszt dzieli się na trzy części: sprzęt z kartami graficznymi, energia i administracja. Najważniejsze jest to, że ten koszt jest stały — płacisz go także w miesiącu, w którym nikt z systemu nie korzystał. Dlatego przed decyzją liczymy próg opłacalności: przy jakim wolumenie zapytań serwer wygrywa z rozliczeniem za zużycie.
Czym jest wyszukiwanie w dokumentach firmy, o którym wszyscy mówią?
To połączenie modelu językowego z Waszym repozytorium: system najpierw odnajduje właściwe fragmenty dokumentów, a dopiero potem formułuje odpowiedź, podając źródło. Dzięki temu odpowiedzi da się sprawdzić, a model nie zgaduje. Ta architektura jest niezależna od tego, czy model działa w chmurze, czy u Was.
Ile trwa wdrożenie wewnętrznego systemu AI?
Działający pilotaż na jednym zbiorze dokumentów to zwykle sześć do dziesięciu tygodni. Największym pochłaniaczem czasu nie jest technologia, tylko uporządkowanie repozytorium i ustalenie, kto ma prawo widzieć które dokumenty — uprawnienia muszą przenieść się do systemu, inaczej powstaje wyciek wewnętrzny.
Jakie są koszty utrzymania po wdrożeniu?
Aktualizacje modeli i oprogramowania, monitoring, kopie zapasowe, przegląd jakości odpowiedzi i obsługa zmian w repozytorium. Zakładam jako minimum jedną osobę z przydzielonym czasem w firmie albo abonament po stronie wykonawcy. System bez utrzymania degraduje się w ciągu kilku miesięcy, mimo że formalnie nadal działa.
Czy własny serwer zwalnia firmę z obowiązków wynikających z AI Act?
Nie. Obowiązki zależą od zastosowania systemu, a nie od miejsca, w którym stoi sprzęt. Artykuł 50 dotyczący przejrzystości obowiązuje od 2 sierpnia 2026 niezależnie od infrastruktury, a krajowa ustawa o systemach sztucznej inteligencji weszła w życie 11 sierpnia 2026. Własny serwer upraszcza natomiast część kwestii związanych z powierzeniem danych.
Co z kosztami, gdy system okaże się nieużywany?
To główny argument za rozpoczęciem od chmury. Przy rozliczeniu za zużycie nieudany pilotaż kosztuje tyle, ile faktyczne użycie. Przy własnym sprzęcie zostaje amortyzacja i koszt energii, które trzeba ponosić niezależnie od wyniku. Dlatego rekomenduję przeniesienie na własną infrastrukturę dopiero po potwierdzeniu wolumenu.
Czy pomaga Pan wybrać sprzęt i architekturę?
Doradzam przy wyborze wariantu i przy progu opłacalności, uczestniczę też w rozmowach z dostawcami sprzętu po stronie kupującego. Sam dobór konfiguracji, instalacja i utrzymanie to praca zespołu inżynierskiego — mój udział kończy się na decyzji i kryteriach odbioru.

Sprawdźmy, czy naprawdę potrzebujecie własnego serwera

Zostaw imię i numer telefonu — oddzwaniam i w kilkanaście minut ustalamy, czy decyduje umowa, przepis, czy tylko przyzwyczajenie.

Pierwsza rozmowa jest bezpłatna. Potrzebuję wiedzieć, jakie dane miałyby być przetwarzane, skąd bierze się zakaz ich przekazywania i ile zapytań dziennie przechodziłoby przez system. Te trzy odpowiedzi zwykle wystarczają, żeby wskazać właściwy wariant.

Jeśli okaże się, że wystarczy zmiana planu u obecnego dostawcy, powiem to od razu. Kupowanie serwera do zadania, które da się rozwiązać zapisem w umowie, jest najdroższym sposobem uspokojenia sumienia.