Współpraca
Wewnętrzne systemy AI — kiedy dane naprawdę nie mogą wyjść
Doradzam firmom, które rozważają uruchomienie modeli językowych na własnej infrastrukturze, i zaczynam zwykle od pytania, które psuje nastrój: czy na pewno musicie. Odpowiedź brzmi „tak” rzadziej, niż wynikałoby z rozmów na konferencjach, ale gdy już brzmi „tak”, jest to jedyna sensowna droga i wtedy warto zrobić to porządnie.
Zajmuję się tym, ponieważ decyzja o własnym serwerze jest najtrudniejsza do odkręcenia ze wszystkich, jakie firma podejmuje przy AI. Licencję w chmurze można wypowiedzieć na koniec miesiąca. Kart graficznych kupionych za kilkaset tysięcy złotych nie da się oddać, a ich koszt trwa niezależnie od tego, czy ktokolwiek z systemu korzysta.
Trzy powody, dla których dane zostają w firmie
Tylko jeden z nich jest techniczny. Dwa pozostałe to umowy i przepisy — i to one przesądzają w większości projektów.
Wewnętrzny system AI to model językowy uruchomiony na infrastrukturze firmy, połączony z jej dokumentami, w którym żadne zapytanie ani dokument nie opuszcza sieci organizacji. Kupujesz w ten sposób kontrolę i przewidywalność, płacąc za nie kosztem stałym i koniecznością utrzymania.
Pierwszy powód takiej decyzji to zobowiązania umowne. W przemyśle, w usługach inżynierskich i przy pracy dla dużych klientów korporacyjnych umowy zawierają zakaz przekazywania dokumentacji stronom trzecim. Model w chmurze jest stroną trzecią, niezależnie od tego, jak dobre są jego zapisy o poufności.
Drugi to dane szczególnych kategorii i sektory regulowane — ochrona zdrowia, część usług finansowych, obszary objęte tajemnicą zawodową. Trzeci, najrzadszy, to skala: przy bardzo dużym i stałym wolumenie zapytań własny sprzęt bywa po prostu tańszy, ale próg, od którego to następuje, jest wyżej, niż sądzi większość firm.
Ważne, czego własny serwer nie załatwia. Nie zwalnia z obowiązków AI Act, bo te zależą od zastosowania, a nie od miejsca instalacji: artykuł 50 dotyczący przejrzystości obowiązuje od 2 sierpnia 2026, krajowa ustawa o systemach sztucznej inteligencji od 11 sierpnia 2026, a kary nakładane są od 28 października 2026. Nie zwalnia też z uporządkowania uprawnień — system, który widzi wszystkie dokumenty firmy, jest wyciekiem wewnętrznym czekającym na pierwsze pytanie.
Cztery warianty wdrożenia i co je różni
Rozmowa o tym, gdzie stoi serwer, jest w rzeczywistości rozmową o tym, gdzie leżą dane i jaki jest charakter kosztu. Ta tabela zwykle kończy spór w pół godziny.
| Wariant | Co z danymi | Charakter kosztu | Kiedy wybieram |
|---|---|---|---|
| Chmura publiczna dostawcy | dane przechodzą przez infrastrukturę dostawcy, przetwarzanie zwykle poza firmą | opłata za zużycie albo licencja na użytkownika, bez kosztu sprzętu | większość zastosowań biurowych, gdy wystarczy umowa powierzenia |
| Chmura z regionem europejskim i zapisami umownymi | przetwarzanie w wskazanym regionie, wyłączona nauka modelu na danych klienta | wyższa stawka za zużycie, nadal bez własnego sprzętu | dane osobowe na większą skalę, sektor regulowany, wymogi klienta korporacyjnego |
| Model otwarty na serwerze firmy | dane nie opuszczają infrastruktury, pełna kontrola nad dziennikiem i retencją | koszt kart graficznych, energii i administracji — stały, niezależny od użycia | tajemnica przedsiębiorstwa, dane objęte szczególną ochroną, zakaz wyjścia danych |
| Układ mieszany | zadania wrażliwe lokalnie, pozostałe w chmurze, z jasną regułą podziału | suma dwóch powyższych, ale przy mniejszej skali każdego z nich | najczęstszy wybór w firmach, które policzyły oba warianty osobno |
Cztery sytuacje, w których prowadzę takie projekty
Producent z dokumentacją objętą umowami o poufności
Rysunki techniczne i specyfikacje klientów nie mogą trafić do żadnej usługi zewnętrznej. Wyszukiwanie w dokumentacji na własnym serwerze skraca czas odnalezienia informacji z godzin do minut i jest jednym z najczystszych przypadków opłacalności, jakie widziałem.
Firma po pytaniu klienta korporacyjnego o miejsce przetwarzania
Pytanie pojawia się w ankiecie bezpieczeństwa przy przedłużaniu kontraktu i nagle staje się priorytetem zarządu. Zanim firma kupi sprzęt, sprawdzam, czy wystarczy zmiana planu na wariant z regionem europejskim i właściwymi zapisami — w większości przypadków wystarcza.
Podmiot leczniczy albo instytucja z danymi wrażliwymi
Tu rozmowa zaczyna się od kategorii danych, a nie od narzędzia. Zwykle kończy się układem mieszanym: zadania dotykające danych pacjentów lokalnie, cała reszta — korespondencja, materiały, sprawozdawczość — w chmurze.
Firma, która kupiła sprzęt przed przemyśleniem zastosowania
Serwer stoi, model działa, korzystają z niego trzy osoby. Wchodzę wtedy po to, żeby znaleźć zastosowania uzasadniające poniesiony koszt, albo powiedzieć wprost, że ich nie ma i lepiej ograniczyć straty. Ta druga rozmowa jest trudna, ale tańsza niż udawanie przez kolejny rok.
Jak pracuję przy takim projekcie
Pięć kroków, z których trzeci — próg opłacalności — najczęściej zmienia pierwotną decyzję.
1. Klasyfikacja danych i zobowiązań
Ustalamy, które dane faktycznie nie mogą opuścić firmy, a które tylko zwyczajowo tak traktujemy. Podstawą są umowy z kontrahentami i kategorie danych osobowych, a nie wyczucie. Ten krok zwykle zawęża zakres wdrożenia o połowę.
2. Wybór zastosowania i zbioru dokumentów
Jeden konkretny zbiór, jeden zespół, jedno pytanie zadawane dziś ręcznie dziesiątki razy w tygodniu. Wdrażanie wewnętrznego systemu bez takiego punktu zaczepienia kończy się drogim eksperymentem.
3. Próg opłacalności
Liczymy, przy jakim wolumenie zapytań koszt stały wygrywa z rozliczeniem za zużycie, uwzględniając energię i czas administratora. W firmach średniej wielkości ten rachunek często wskazuje na układ mieszany.
4. Przeniesienie uprawnień i ocena prawna
Uprawnienia z repozytorium muszą działać także w systemie AI, inaczej powstaje wyciek wewnętrzny. Równolegle ustalamy rolę firmy w rozumieniu AI Act i wpisujemy system do rejestru.
5. Pilotaż i decyzja o skali
Sześć do dziesięciu tygodni na jednym zbiorze, z pomiarem czasu odnalezienia informacji sprzed wdrożenia. Dopiero wynik tego pilotażu uzasadnia zakup sprzętu na większą skalę — nigdy odwrotnie.
Co robię osobiście, a co realizuje zespół
Ja odpowiadam za decyzję, próg opłacalności i granice dostępu. Zespół buduje i utrzymuje.
Osobiście prowadzę klasyfikację danych, wybór wariantu, rachunek opłacalności, ocenę prawną i kryteria odbioru. Uczestniczę też w rozmowach z dostawcami sprzętu i oprogramowania po stronie kupującego — bez prowizji od kogokolwiek.
Instalacja, konfiguracja modeli, budowa wyszukiwania w dokumentach, integracje z repozytoriami firmy, monitoring i utrzymanie to praca zespołu inżynierskiego. Wykonuje ją PCSiD, którego jestem właścicielem, w modelu projektowym i abonamentowym. Przy własnej infrastrukturze ten drugi element jest ważniejszy niż samo wdrożenie.
Zobacz pełną ofertę wdrożenia: bezpieczne wdrożenie AI w firmie — PCSiD.
Ile to kosztuje
Osobno koszt decyzji, osobno sprzęt, osobno utrzymanie. Trzeci trwa tak długo, jak długo system stoi.
Sesja strategiczna od 2500 PLN wystarcza, żeby rozstrzygnąć podstawowe pytanie: czy dane rzeczywiście muszą zostać w firmie i przy jakim wolumenie własny serwer się zwraca. Dla wielu firm ta jedna rozmowa oszczędza kilkaset tysięcy złotych niepotrzebnego wydatku.
Audyt od 18 000 PLN obejmuje klasyfikację danych, przegląd zobowiązań umownych, ocenę repozytoriów i uprawnień, architekturę docelową oraz rachunek opłacalności w trzech wariantach. To właściwy punkt startu, gdy decyzja jest już przesądzona.
Koszt sprzętu, wdrożenia i utrzymania zależy od skali i wycenia go zespół po ustaleniu architektury. Pełny cennik znajdziesz na stronie PCSiD.
Dla kogo to jest i czego możesz się spodziewać
Wewnętrzne systemy AI mają sens w firmach z realnym zakazem wyjścia danych: w przemyśle pracującym na dokumentacji klientów, w podmiotach leczniczych, w części usług finansowych, w firmach inżynierskich i wszędzie tam, gdzie ankieta bezpieczeństwa klienta wymusza odpowiedź o miejscu przetwarzania. Dla pozostałych organizacji zwykle korzystniejszy jest wariant chmurowy z właściwymi zapisami umownymi i mówię to wprost.
Po zakończeniu pracy masz klasyfikację danych opartą na umowach i przepisach, wybrany wariant wdrożenia z uzasadnieniem, policzony próg opłacalności, architekturę z przeniesionymi uprawnieniami, wpis w rejestrze systemów AI i kryteria odbioru dla wykonawcy. Z tym kompletem można rozmawiać z dowolnym dostawcą, także innym niż mój zespół.
Więcej o moim sposobie pracy znajdziesz na stronie O mnie. Kontekst prawny opisuje zgodność z AI Act, a etap wdrożeniowy — bezpieczne wdrożenie AI. Efekty wcześniejszych projektów opisują referencje i publikacje.
Najczęstsze pytania o wewnętrzne systemy AI
Kiedy naprawdę potrzebny jest model na własnym serwerze?
Czy modele otwarte dorównują komercyjnym?
Ile kosztuje uruchomienie AI na własnej infrastrukturze?
Czym jest wyszukiwanie w dokumentach firmy, o którym wszyscy mówią?
Ile trwa wdrożenie wewnętrznego systemu AI?
Jakie są koszty utrzymania po wdrożeniu?
Czy własny serwer zwalnia firmę z obowiązków wynikających z AI Act?
Co z kosztami, gdy system okaże się nieużywany?
Czy pomaga Pan wybrać sprzęt i architekturę?
Sprawdźmy, czy naprawdę potrzebujecie własnego serwera
Zostaw imię i numer telefonu — oddzwaniam i w kilkanaście minut ustalamy, czy decyduje umowa, przepis, czy tylko przyzwyczajenie.
Pierwsza rozmowa jest bezpłatna. Potrzebuję wiedzieć, jakie dane miałyby być przetwarzane, skąd bierze się zakaz ich przekazywania i ile zapytań dziennie przechodziłoby przez system. Te trzy odpowiedzi zwykle wystarczają, żeby wskazać właściwy wariant.
Jeśli okaże się, że wystarczy zmiana planu u obecnego dostawcy, powiem to od razu. Kupowanie serwera do zadania, które da się rozwiązać zapisem w umowie, jest najdroższym sposobem uspokojenia sumienia.
