W jednym zdaniu. Systemy wysokiego ryzyka to kategoria AI Act, w której koncentruje się większość obowiązków — obejmuje m.in. AI w rekrutacji, ocenie pracowników, scoringu kredytowym, biometrii i edukacji, a dostawca musi zapewnić zarządzanie ryzykiem, dokumentację techniczną i nadzór człowieka.
Nie każdy system AI podlega ciężkim obowiązkom AI Act — kluczowe jest ustalenie, czy Twój system jest “wysokiego ryzyka”. Ta klasyfikacja decyduje o wszystkim: od dokumentacji, przez ocenę zgodności, po oznakowanie CE. Poniżej wyjaśniam, co trafia do załącznika III rozporządzenia 2024/1689, na polskich przykładach, jakie obowiązki spoczywają na dostawcy oraz jak wysokie ryzyko w rozumieniu AI Act łączy się z oceną skutków (DPIA) z RODO.
Najważniejsze punkty
- Systemy wysokiego ryzyka to głównie te z załącznika III rozporządzenia 2024/1689.
- Do kategorii należą m.in. AI w rekrutacji, ocenie pracowników, scoringu, biometrii i edukacji.
- Dostawca musi wdrożyć system zarządzania ryzykiem, dokumentację techniczną i nadzór człowieka.
- Pełne obowiązki dla tej kategorii obowiązują od 2 sierpnia 2026 r.
- System wysokiego ryzyka przetwarzający dane osobowe zwykle wymaga też DPIA z RODO.
- Nie każdy system z obszaru z załącznika III jest automatycznie wysokiego ryzyka — istnieją wyłączenia.
Co trafia do załącznika III — polskie przykłady
Załącznik III wymienia obszary, w których system AI uznaje się za wysokiego ryzyka, bo jego błąd realnie dotyka praw ludzi. Cztery najczęstsze w polskiej praktyce:
Zatrudnienie i rekrutacja. AI przesiewające CV, oceniające kandydatów, kierujące ogłoszenia oraz systemy monitorujące i oceniające pracowników. To obszar szczególnie wrażliwy, bo decyzja algorytmu wpływa na dostęp do pracy. Firma używająca takiego narzędzia musi pamiętać, że równolegle obowiązują ją reguły przetwarzania danych pracowników i kandydatów.
Ocena zdolności kredytowej. Systemy scoringu kredytowego oceniające wiarygodność osób fizycznych (z wyłączeniem wykrywania oszustw finansowych). Błędny scoring może zamknąć drogę do kredytu, dlatego bank czy pożyczkodawca stosujący AI wchodzi w reżim wysokiego ryzyka — obok obowiązków wynikających z RODO w sektorze bankowym.
Biometria. Systemy zdalnej identyfikacji biometrycznej oraz kategoryzacji biometrycznej i rozpoznawania emocji (w dozwolonym zakresie). Dane biometryczne to dane szczególnej kategorii, więc tu obowiązki AI Act i RODO nakładają się najsilniej.
Edukacja. AI decydujące o dostępie do kształcenia, oceniające wyniki uczniów lub monitorujące egzaminy. Automatyczna ocena egzaminu wstępnego lub algorytm decydujący o przyjęciu na uczelnię to podręcznikowe przykłady systemów wysokiego ryzyka.
Warto znać wyjątek: system z obszaru załącznika III nie jest wysokiego ryzyka, jeśli nie stwarza istotnego ryzyka dla praw i wykonuje jedynie wąskie zadanie proceduralne lub przygotowawcze. Ten wyjątek trzeba jednak udokumentować — nie działa automatycznie. Ciężar wykazania, że system nie stwarza istotnego ryzyka, spoczywa na dostawcy, a organ nadzoru może zażądać tej oceny. W praktyce oznacza to, że nie da się “wypisać” systemu z kategorii wysokiego ryzyka jedną deklaracją; trzeba przygotować analizę pokazującą, dlaczego dane narzędzie ogranicza się do zadania pomocniczego i nie wpływa samodzielnie na decyzję dotyczącą osoby.
Lista z załącznika III obejmuje też inne obszary, mniej częste w typowej firmie, ale istotne dla podmiotów publicznych: dostęp do świadczeń i usług publicznych, zarządzanie infrastrukturą krytyczną, wymiar sprawiedliwości i procesy demokratyczne oraz część zastosowań w migracji i egzekwowaniu prawa. Klasyfikacja zależy zawsze od zastosowania, a nie od samej technologii — ten sam model językowy może być systemem minimalnego ryzyka jako asystent redakcyjny i systemem wysokiego ryzyka jako narzędzie oceniające kandydatów do pracy.
Obowiązki dostawcy systemu wysokiego ryzyka
Na dostawcy spoczywa gros obowiązków. Najważniejsze z nich:
| Obowiązek | Na czym polega |
|---|---|
| System zarządzania ryzykiem | ciągła identyfikacja i ograniczanie ryzyk (art. 9) |
| Zarządzanie danymi | jakość, reprezentatywność, brak uprzedzeń w danych treningowych (art. 10) |
| Dokumentacja techniczna | pełny opis systemu przed wprowadzeniem na rynek (art. 11) |
| Rejestrowanie zdarzeń | automatyczne logi działania systemu (art. 12) |
| Przejrzystość | instrukcje umożliwiające prawidłowe użycie (art. 13) |
| Nadzór człowieka | możliwość interwencji i zatrzymania (art. 14) |
| Dokładność i cyberbezpieczeństwo | odporność i poprawność działania (art. 15) |
Zwieńczeniem jest ocena zgodności i oznakowanie CE oraz rejestracja systemu w unijnej bazie danych. Kluczowy jest nadzór człowieka (art. 14) — AI Act konsekwentnie odrzuca ideę w pełni autonomicznej decyzji w obszarach wrażliwych. Człowiek musi móc zrozumieć działanie systemu, zignorować jego wynik i zatrzymać go w razie potrzeby. Nadzór ma być realny, a nie fasadowy: pracownik, który mechanicznie zatwierdza każdą rekomendację algorytmu, nie sprawuje nadzoru w rozumieniu AI Act. Dostawca musi więc zaprojektować interfejs i procedury tak, by osoba nadzorująca miała czas, informacje i kompetencje do rzeczywistej weryfikacji.
Obowiązek zarządzania danymi (art. 10) zasługuje na osobną uwagę, bo najczęściej bywa lekceważony. Dane treningowe muszą być odpowiedniej jakości, reprezentatywne i możliwie wolne od błędów oraz uprzedzeń — bo model wytrenowany na tendencyjnych danych powiela dyskryminację na skalę. Właśnie dlatego AI w rekrutacji budzi tyle obaw: system uczący się z historycznych decyzji może utrwalać dawne nierówności, a odpowiedzialność za to spoczywa na dostawcy.
Nadzór człowieka a zakaz automatycznych decyzji z RODO
Tu AI Act spotyka się z RODO. Art. 22 RODO co do zasady zakazuje podejmowania wyłącznie zautomatyzowanych decyzji wywołujących istotne skutki prawne wobec osoby. Wymóg nadzoru człowieka z AI Act i ograniczenia z art. 22 RODO wskazują w tym samym kierunku: decyzja o zatrudnieniu, kredycie czy przyjęciu na studia nie może zapadać “sama”. Naruszenie tej reguły to jednoczesne złamanie dwóch reżimów.
Dlatego zgodność systemu wysokiego ryzyka wymaga spojrzenia z obu stron. Podstawy przetwarzania i zasady z art. 5 RODO — minimalizacja danych, ograniczenie celu, przejrzystość — nie znikają dlatego, że system jest “inteligentny”. Przeciwnie: im bardziej złożony model, tym trudniej wykazać, że dane treningowe zebrano legalnie i że decyzje da się wyjaśnić osobie, której dotyczą.
Wysokie ryzyko a DPIA — jak to połączyć
System wysokiego ryzyka przetwarzający dane osobowe na dużą skalę niemal zawsze spełnia przesłanki obowiązkowej oceny skutków dla ochrony danych (DPIA) z art. 35 RODO. Zamiast prowadzić dwie oderwane analizy, rozsądnie jest zintegrować je: ocena ryzyka wymagana przez AI Act i DPIA odpowiadają na częściowo te same pytania — jakie dane, jakie ryzyka dla osób, jakie zabezpieczenia.
Dla podmiotu stosującego AI Act przewiduje w niektórych przypadkach dodatkową ocenę wpływu na prawa podstawowe (FRIA). W praktyce trzy dokumenty — DPIA, ocena ryzyka AI i FRIA — powinny tworzyć spójną całość, a nie żyć w osobnych plikach różnych działów. Utrzymanie tej spójności, wraz z inwentaryzacją systemów i klasyfikacją ryzyka, to obszar, w którym dedykowane oprogramowanie do zgodności z AI Act i platformy compliance takie jak Legiscope realnie porządkują pracę zespołów prawnego i technicznego. Szersze omówienie samego rozporządzenia znajdziesz w przewodniku po AI Act.
FAQ
Skąd wiem, czy mój system AI jest wysokiego ryzyka?
Sprawdź, czy jego zastosowanie mieści się w obszarach z załącznika III (m.in. zatrudnienie, scoring kredytowy, biometria, edukacja) lub czy jest elementem bezpieczeństwa produktu regulowanego. Jeśli tak — co do zasady jest wysokiego ryzyka, chyba że udokumentujesz, że pełni wyłącznie wąskie zadanie proceduralne bez istotnego ryzyka dla praw.
Kto odpowiada za obowiązki — dostawca czy firma używająca systemu?
Większość obowiązków spoczywa na dostawcy (twórcy systemu). Firma używająca gotowego narzędzia (podmiot stosujący) ma węższe obowiązki: użycie zgodne z instrukcją, nadzór człowieka po swojej stronie, monitorowanie i — przy przetwarzaniu danych osobowych — informowanie osób oraz często DPIA.
Czy DPIA z RODO wystarcza pod AI Act?
Nie w pełni. DPIA odpowiada na wymogi RODO, ale AI Act nakłada własną ocenę ryzyka systemu, a na część podmiotów stosujących — ocenę wpływu na prawa podstawowe. Dokumenty warto zintegrować, bo się pokrywają, ale DPIA sama nie wyczerpuje obowiązków AI Act, ale stanowi solidną podstawę, na której obie oceny można zbudować spójnie.
Źródła: Rozporządzenie 2024/1689 (AI Act) w EUR-Lex (CELEX 32024R1689) · UODO · EDPB
Automate your GDPR compliance
Save 340+ hours per year on compliance work. Legiscope provides AI-powered GDPR management trusted by compliance professionals.
Discover Legiscope