Zarządzanie ryzykiem AI w firmie — pięć obszarów pomijanych przez polskich menedżerów
TL;DR: Zarządzanie ryzykiem AI to systematyczny proces identyfikowania, oceny i ograniczania ryzyk wynikających z wdrożenia AI — szerzej niż samo spełnienie wymagań AI Act. Według McKinsey State of AI 2025, 51% organizacji doświadczyło co najmniej jednego negatywnego incydentu AI w ciągu ostatnich 12 miesięcy. W polskich firmach zarządzanie ryzykiem AI sprowadza się najczęściej do polityk papierowych. W tym artykule opisuję pięć obszarów, które widzę zaniedbywane w każdym wdrożeniu, i pokazuję, jak budować realne zabezpieczenia.
Co oznacza zarządzanie ryzykiem AI — definicja i zakres
Zarządzanie ryzykiem AI (ang. AI risk management) to ciągły, operacyjny proces obejmujący cztery wymiary: identyfikację ryzyk specyficznych dla modeli AI, ocenę ich prawdopodobieństwa i wpływu, wdrożenie kontroli zaradczych oraz monitorowanie efektów w czasie rzeczywistym.
W mojej praktyce widzę, że firmy mylą dwa pojęcia. Compliance to spełnienie konkretnych wymagań regulacyjnych — AI Act, RODO, przepisy sektorowe. Zarządzanie ryzykiem AI jest szersze, bo obejmuje też ryzyka biznesowe i operacyjne bez własnego paragrafu w żadnej ustawie. Przykład: model generuje odpowiedzi zgodne z regulacjami, ale powoli wypiera krytyczne myślenie u pracowników. To ryzyko realne — i żaden organ nadzoru go nie zmierzy.
Kiedy pomagam klientowi przejść przez audyt gotowości AI Act, często okazuje się, że firma spełnia literę prawa, ale nie rejestruje incydentów, nie mierzy jakości odpowiedzi modeli i nie ma procedury eskalacji, gdy model zachowuje się niespodziewanie. AI Act i zarządzanie ryzykiem AI to dwie różne warstwy — obydwie są potrzebne.
Dlaczego ponad połowa firm doświadcza już negatywnych skutków AI?
Liczby są niepokojące. [Raport branżowy] Według McKinsey State of AI 2025, przeprowadzonego na próbie 1993 respondentów z 105 krajów w lipcu 2025 roku, 51% organizacji zgłosiło co najmniej jeden negatywny incydent AI w ciągu ostatnich 12 miesięcy. Najczęstsze problemy to niedokładność danych wyjściowych, naruszenia compliance, szkody reputacyjne, wycieki prywatności i nieautoryzowane działania systemów AI (McKinsey, 2025).
[Raport branżowy] Stanford HAI AI Index 2025 dodaje globalną perspektywę: liczba zgłoszonych incydentów AI wzrosła o 56,4% w ciągu jednego roku — do 233 udokumentowanych przypadków w 2024 roku. Jednocześnie mniej niż dwie trzecie organizacji wdraża jakiekolwiek zabezpieczenia, mimo że deklaruje świadomość tych ryzyk (Stanford HAI, 2025).
W Polsce obraz jest podobny. [Raport branżowy] Badanie EY przeprowadzone w IV kwartale 2024 roku na 501 średnich i dużych polskich firmach pokazuje, że tylko 36% przedsiębiorstw identyfikuje ryzyka specyficzne dla własnej organizacji. Reszta opiera się na ogólnych analizach rynkowych lub nie przeprowadza takiej analizy w ogóle. Co więcej, tylko 13% inwestuje w szkolenia pracowników z zakresu bezpieczeństwa AI (EY Polska, 2024).
Polityki istnieją. Procesy — często nie. Właśnie to widzę u klientów.
Jak zarządzanie ryzykiem AI ogranicza ryzyko halucynacji?
To obszar, który widzę jako pierwszy i najgroźniejszy. Model językowy — LLM (ang. Large Language Model, duży model językowy) — generuje przekonującą odpowiedź, która jest częściowo lub całkowicie błędna. W kontekście konsumenckim to irytacja. W firmie oznacza złą decyzję zakupową, błędną wycenę lub nieprawidłową poradę prawną przekazaną klientowi.
Co widzę w praktyce: brak jakiegokolwiek procesu weryfikacji jakości odpowiedzi modelu. Firma wdraża asystenta AI, mierzy satysfakcję użytkowników (NPS), ale nie mierzy dokładności odpowiedzi w próbkach kontrolnych. Po 6 miesiącach okazuje się, że model odpowiada błędnie w 8% przypadków. Przy 1000 zapytaniach dziennie daje to 80 błędnych odpowiedzi każdego dnia — z czego nikt nie zdaje sobie sprawy.
Dobre zarządzanie ryzykiem AI w tym obszarze obejmuje: red teaming (systematyczne testowanie granic modelu), ewaluację na zbiorach testowych, monitoring odpowiedzi w produkcji i jasną procedurę eskalacji przy wykryciu anomalii.
Dlaczego prywatność i RODO to dziś kluczowe ryzyko AI?
Większość menedżerów zakłada: mamy wdrożone RODO, więc jesteśmy bezpieczni. Jednak wdrożenie AI otwiera nowe wektory ryzyka, których tradycyjny audyt RODO nie obejmuje.
Trzy konkretne przykłady, które widzę regularnie:
- Pracownicy wklejają dane osobowe klientów do publicznych narzędzi AI — ChatGPT, Gemini — bo firma nie wdrożyła Enterprise API z umową powierzenia przetwarzania danych.
- Model AI trenowany na wewnętrznych dokumentach firmy — bez sprawdzenia, czy te dokumenty zawierają dane osobowe i czy ich użycie do treningu jest zgodne z RODO.
- System rekomendacyjny profilujący klientów — bez DPiA (ang. Data Protection Impact Assessment, ocena skutków dla ochrony danych), obowiązkowej przy przetwarzaniu wysokiego ryzyka.
EY Polska raportuje, że choć 92% polskich firm deklaruje wdrożenie dodatkowych zabezpieczeń cyberbezpieczeństwa przed uruchomieniem narzędzi AI, to zaledwie 50% zarządza jednocześnie wewnętrznymi i zewnętrznymi systemami AI (EY Polska, 2024). Połowa firm ignoruje jedną z tych kategorii — a to właśnie ta ignorowana połowa generuje incydenty.
Jak zarządzanie ryzykiem AI chroni przed uzależnieniem od dostawcy?
Vendor lock-in — uzależnienie od dostawcy — to ryzyko strategiczne, które pojawia się, gdy firma buduje kluczowe procesy na jednym modelu AI lub jednej platformie, bez planu zastąpienia. To nie tylko ryzyko technologiczne. To ryzyko finansowe i operacyjne.
W mojej pracy widzę to regularnie: klient buduje workflow na konkretnym modelu przez API jednego dostawcy. Po 12 miesiącach model jest deprecjonowany, a jego następca zmienia zachowanie w sposób, który psuje wypracowane prompty. Albo dostawca zmienia politykę cenową — wzrost kosztów o 30–40% bez możliwości szybkiej migracji.
Dobre zarządzanie ryzykiem AI w tym obszarze to przede wszystkim: abstrakcja warstwy modelu (niezależność kodu od konkretnego API), regularne testowanie alternatywnych modeli, dokumentacja wszystkich promptów i zależności oraz klauzule SLA i exit strategy w kontraktach z dostawcami.
O tym, jak te koszty narastają w czasie, pisałem wcześniej w artykule o kosztach wdrożenia AI — uzależnienie od dostawcy to jeden z ukrytych kosztów, które ujawniają się dopiero po roku od uruchomienia.
Czym jest ryzyko braku przejrzystości modelu AI?
McKinsey w raporcie State of AI 2025 wskazuje wyjaśnialność decyzji modelu (ang. explainability) jako obszar, który firmy najrzadziej obejmują kontrolami — mimo że identyfikują go jako problem (McKinsey, 2025). Ryzyko pojawia się, gdy model podejmuje decyzje, a firma nie potrafi wyjaśnić, na jakiej podstawie.
Praktyczne konsekwencje są poważne. Menedżer dostaje rekomendację od systemu AI i nie może jej zakwestionować, bo nie rozumie jej logiki. Pracownik HR używa modelu do oceny CV — bez możliwości wyjaśnienia kandydatowi powodu odrzucenia. System scoringowy odmawia kredytu bez czytelnego uzasadnienia. W każdym z tych przypadków firma ponosi ryzyko prawne, ale też operacyjne — decyzje bez uzasadnienia erodują zaufanie pracowników i klientów.
AI Act wymaga wyjaśnialności dla systemów wysokiego ryzyka. Zarządzanie ryzykiem AI zaczyna się jednak wcześniej: od wyboru architektury modelu, przez dokumentację logiki decyzyjnej, aż po szkolenia pracowników z interpretacji wyników AI.
Czym grozi ciche AI w organizacji i jak je wykryć?
„Ciche AI” (ang. shadow AI) to narzędzia AI używane przez pracowników bez wiedzy i zgody IT lub zarządu. Pracownicy nie działają złośliwie — szukają efektywności. Dlatego właśnie shadow AI jest tak trudne do zarządzania: zakazy nie działają, bo obchodzenie ich jest trivially proste.
Trzy zagrożenia wynikające z shadow AI, które widzę najczęściej:
- Dane firmy trafiają do zewnętrznych modeli bez kontroli nad ich przetwarzaniem i bez umowy powierzenia danych.
- Decyzje biznesowe opierają się na niezweryfikowanych wynikach AI, których nikt nie monitoruje ani nie audytuje.
- Firma ma iluzję kontroli — bo zakazała używania konkretnego narzędzia — podczas gdy pracownicy używają go z prywatnych urządzeń lub korzystają z dziesiątek innych, równoważnych narzędzi.
W jednym z moich projektów przeprowadziłem anonimową ankietę w firmie zatrudniającej 200 osób, która oficjalnie „nie wdrożyła AI”. Wynik: 61% pracowników regularnie korzystało z co najmniej jednego narzędzia AI do zadań służbowych. Żadne z tych narzędzi nie miało podpisanej umowy powierzenia danych z firmą.
W rezultacie zarządzanie shadow AI wymaga: anonimowego audytu narzędzi używanych przez pracowników, wdrożenia zaakceptowanych narzędzi AI jako bezpiecznej alternatywy, szkoleń z zasad bezpiecznego użycia AI i przeglądu polityki AI co 6 miesięcy. Więcej o błędach na etapie wdrożenia opisałem w artykule o błędach wdrożenia AI — shadow AI to błąd organizacyjny numer jeden, który identyfikuję w każdym projekcie.
Jak wdrożyć zarządzanie ryzykiem AI krok po kroku?
Z mojego doświadczenia zarządzanie ryzykiem AI w polskiej firmie wymaga czterech etapów:
- Inwentaryzacja systemów AI — identyfikacja wszystkich narzędzi AI używanych w firmie: zarówno oficjalnych, jak i shadow AI. To punkt startowy. Bez inwentaryzacji nie wiadomo, czym zarządzać.
- Klasyfikacja ryzyka — dla każdego narzędzia ocena: jakie dane przetwarza, jakie decyzje wspiera, jakie konsekwencje ma błąd, czy podlega AI Act. Użyj kategorii NIST AI RMF: Govern, Map, Measure, Manage.
- Wdrożenie kontroli — dla każdego obszaru ryzyka minimum jedno zabezpieczenie proceduralne i jedno techniczne. Dokumentuj te kontrole — compliance i audyty tego wymagają.
- Monitorowanie i aktualizacja — przegląd co 6 miesięcy lub po każdym istotnym incydencie. Rejestr incydentów AI jako standard operacyjny, nie jako wyjątek.
Kluczowa obserwacja z praktyki: nie zaczynaj od frameworku. Zacznij od inwentaryzacji. Firmy, które zaczynają od dokumentacji i polityk, tracą czas — opisują procesy, których nie rozumieją. Najpierw trzeba zobaczyć, co naprawdę działa w organizacji.
NIST AI RMF i AI Act — co dają firmom w zarządzaniu ryzykiem AI?
NIST AI Risk Management Framework (NIST AI RMF) to najszerszy dostępny framework do zarządzania ryzykiem AI. Opublikowany pierwotnie w 2023 roku, zaktualizowany w lutym 2024 do wersji 2.0, rozszerzony w lipcu 2024 o profil dla generatywnej AI. Cztery funkcje — Govern, Map, Measure, Manage — dają strukturę wdrażalną niezależnie od branży (NIST, 2024).
AI Act natomiast kategoryzuje ryzyka systemów AI i nakłada obowiązki na dostawców i użytkowników systemów wysokiego ryzyka. To regulacja — nie narzędzie operacyjne. Dlatego firmy, które chcą realnie zarządzać ryzykiem AI, powinny traktować oba podejścia jako komplementarne: AI Act jako minimalny standard compliance, NIST AI RMF jako operacyjny framework zarządzania.
| Obszar ryzyka AI | Główne zagrożenie | Priorytet | Minimum do wdrożenia |
|---|---|---|---|
| Jakość danych wyjściowych | Błędne decyzje oparte na halucynacjach modelu | Krytyczny | Ewaluacja jakości, monitoring odpowiedzi w produkcji |
| Prywatność i RODO | Wyciek danych osobowych do zewnętrznych modeli AI | Wysoki | Enterprise API z umową powierzenia, DPiA przed wdrożeniem |
| Uzależnienie od dostawcy | Brak możliwości migracji, wzrost kosztów bez alternatywy | Średni | Dokumentacja promptów, testowanie alternatywnych modeli |
| Przejrzystość modelu | Decyzje AI niewyjaśnialne — ryzyko prawne i operacyjne | Wysoki | Wybór architektury, dokumentacja logiki decyzyjnej |
| Ciche AI (shadow AI) | Niekontrolowane użycie narzędzi AI przez pracowników | Wysoki | Inwentaryzacja, zaakceptowane narzędzia, szkolenia |
Najczęściej zadawane pytania (FAQ)
Czym różni się zarządzanie ryzykiem AI od compliance z AI Act?
Compliance z AI Act to spełnienie konkretnych wymogów regulacyjnych — rejestracja systemu, dokumentacja, przejrzystość wobec użytkowników. Zarządzanie ryzykiem AI jest szersze: obejmuje ryzyka operacyjne, biznesowe i organizacyjne, które nie mają własnego paragrafu w ustawie, ale mogą kosztować firmę znacznie więcej niż kara administracyjna. Oba podejścia są potrzebne i wzajemnie się uzupełniają.
Od czego zacząć zarządzanie ryzykiem AI w firmie?
Zacznij od inwentaryzacji — zidentyfikuj wszystkie narzędzia AI używane w firmie, w tym shadow AI. Bez tej wiedzy nie wiadomo, czym zarządzać. Dopiero po inwentaryzacji przejdź do klasyfikacji ryzyk i wdrażania kontroli. Framework (NIST AI RMF, ISO 42001) dobierz po tym kroku, nie przed — ramy mają służyć konkretnym ryzykom, a nie odwrotnie.
Czy zarządzanie ryzykiem AI dotyczy małych firm?
Tak — skalę dostosowujesz do wielkości organizacji, ale podstawowe ryzyko dotyczy każdej firmy używającej AI. Małe firmy są szczególnie narażone na shadow AI i ryzyko prywatności, bo rzadziej mają dedykowane zasoby IT. Minimum to: inwentaryzacja narzędzi, Enterprise API zamiast kont prywatnych i podstawowe szkolenie z zasad bezpiecznego użycia AI dla całego zespołu.
Jak często przeglądać ryzyka AI w organizacji?
Minimum raz na 6 miesięcy — lub po każdym istotnym incydencie. Modele AI zmieniają się szybko: dostawcy aktualizują modele, zmieniają polityki cenowe i warunki przetwarzania danych. Przegląd co pół roku pozwala reagować na te zmiany zanim staną się problemem. Warto też powiązać przegląd z harmonogramem audytu AI Act, jeśli firma mu podlega.
O mnie
Michał Pisańczuk — przez ponad 20 lat łączę technologię z biznesem: od architektury systemów IT po strategie cyfrowej transformacji. Od 4 lat specjalizuję się w AI — wdrożeniach modeli LLM, audytach gotowości i szkoleniach dla firm. Jako CEO i CTO w PCSiD prowadzę projekty wdrożeniowe dla przedsiębiorstw i instytucji publicznych. Edukuję też na YouTube — tłumaczę AI bez technicznego żargonu, żeby menedżerowie i właściciele firm podejmowali lepsze decyzje.
Źródła
- McKinsey (2025, listopad). The State of AI: Agents, Innovation, and Transformation. McKinsey Global Institute. https://www.mckinsey.com/capabilities/quantumblack/our-insights/the-state-of-ai
- Stanford HAI (2025). AI Index Report 2025. Stanford Human-Centered Artificial Intelligence. https://hai.stanford.edu/ai-index/2025-ai-index-report
- EY Polska (2024, grudzień). Firmy w Polsce są coraz bardziej świadome cyfrowych zagrożeń związanych z AI — edycja II. EY Polska. https://www.ey.com/pl_pl/newsroom/2024/12/ey-ai-badanie-cyberbezpieczenstwo-2024 [dostęp: 2026-05-28]
- NIST (2024). AI Risk Management Framework (AI RMF 2.0 + Generative AI Profile). National Institute of Standards and Technology. https://www.nist.gov/itl/ai-risk-management-framework