Sztuczna inteligencja przestaje być technologiczną nowinką, a staje się integralną częścią systemów do zarządzania przedsiębiorstwem. Jednocześnie, wejście w życie europejskiego aktu o sztucznej inteligencji (AI Act) nakłada na firmy nowe obowiązki i ryzyka prawne. Wybór systemu ERP przygotowanego na te regulacje pozwala organizacji zwiększyć bezpieczeństwo, zachować ciągłość procesów i uniknąć potencjalnych sankcji finansowych.
Z artykułu dowiesz się m.in.:
- co to jest AI Act i kogo dotyczy,
- jakie moduły ERP zostaną uznane za systemy wysokiego ryzyka w świetle AI Act,
- na jakie 4 kryteria techniczne warto zwrócić uwagę przy ocenie dostawcy ERP,
- dlaczego audytowalność i traceability są fundamentami bezpieczeństwa firmy,
- jak enova365 podchodzi do zgodności z nowymi przepisami.
AI Act – co to jest i kogo dotyczy?
AI Act (Rozporządzenie Parlamentu Europejskiego w sprawie sztucznej inteligencji z 12 lipca 2024 r.) to przełomowe i pierwsze na świecie kompleksowe prawo wprowadzone w Unii Europejskiej regulujące rozwój, wdrażanie i stosowanie systemów sztucznej inteligencji. Jego głównym celem jest zapewnienie, żeby technologie AI były bezpieczne, etyczne i chroniły prawa podstawowe obywateli.
W skrócie, AI Act dzieli systemy sztucznej inteligencji na cztery kategorie ryzyka:
- Niedopuszczalne ryzyko (systemy zakazane): Naruszają one wartości UE i są bezwzględnie zakazane. Obejmują m.in. scoring społeczny (ocenianie zachowania obywateli przez algorytmy), systemy manipulujące zachowaniem czy masowe rozpoznawanie twarzy w czasie rzeczywistym w miejscach publicznych.
- Wysokie ryzyko: Systemy wykorzystywane np. w rekrutacji, edukacji, transporcie, ochronie zdrowia czy wymiarze sprawiedliwości. Wymagają one m.in. analizy ryzyka, nadzoru człowieka i zapewnienia wysokiej jakości danych.
- Ograniczone ryzyko (przejrzystość): Dotyczy np. chatbotów czy generatorów obrazu/tekstu (np. popularnych narzędzi deepfake). Ich twórcy muszą wyraźnie informować użytkowników, że mają do czynienia z treścią wygenerowaną przez AI.
- Minimalne/brak ryzyka: Zdecydowana większość systemów, jak np. proste gry wideo czy filtry antyspamowe, nie podlega specjalnym restrykcjom.
Ponieważ systemy ERP coraz częściej wyposażone są w rozwiązania, które wykorzystują sztuczną inteligencję, przy ich wyborze decydenci muszą także oceniać ich zgodność z AI Act.
Czy Twój ERP jest „wysokiego ryzyka” w świetle AI Act?
Dla decydentów wybierających system ERP kluczowe jest zrozumienie, że systemy wykorzystywane w obszarach rekrutacji i zarządzania talentami pracowników oraz usług finansowych są klasyfikowane jako systemy IT wysokiego ryzyka.
Jeśli system ERP wspiera rekrutację (np. analizę CV), ocenę wydajności pracowników, podejmuje decyzje o awansach lub przeprowadza ocenę zdolności kredytowej, musi spełniać surowe wymogi techniczne i dokumentacyjne. Należą do nich m.in. pełna audytowalność czy mechanizmy ludzkiego nadzoru (human-in-the-loop) czyli interfejsy umożliwiające skuteczne nadzorowanie decyzji AI przez ludzi, w tym funkcje ignorowania lub unieważniania wyników automatycznych. Brak zgodności w tych obszarach naraża organizacje na ryzyko administracyjnych kar pieniężnych sięgających nawet 35 mln EUR lub 7% rocznego światowego obrotu.
niektóre spośród współczesnych systemów ERP, projektowane są z uwzględnieniem wytycznych AI ACT dla systemów wysokiego ryzyka nawet w modułach, które nie dotyczą „ryzykownych” obszarów. Gwarantuje to bezpieczeństwo ich stosowania. Warto te kryteria brać pod uwagę przy wyborze systemu ERP.
4 kryteria wyboru systemu ERP, który wykorzystuje sztuczną inteligencję
Biorąc pod uwagę, że coraz więcej systemów ERP oferuje rozwiązania wykorzystujące LLM, wybierając nowe oprogramowanie komitet zakupowy powinien sprawdzić, czy jego dostawca gwarantuje następujące parametry:
Pełna audytowalność (traceability)
System ERP musi automatycznie rejestrować zdarzenia w całym cyklu życia algorytmów AI. Decydenci powinni pytać: „Czy system pozwala odtworzyć każdą decyzję podjętą przez model AI, wskazać, jakie dane wejściowe zostały użyte i kto zatwierdził wynik?”.
Wbudowany nadzór ludzki (human-in-the-loop)
Regulacje unijne wymagają, aby systemy AI wysokiego ryzyka były projektowane w sposób umożliwiający ich skuteczne nadzorowanie przez ludzi. Wybrane rozwiązanie musi dawać operatorowi możliwość zignorowania, unieważnienia lub odwrócenia wyniku wygenerowanego przez AI za pomocą mechanizmu typu „fail-safe”.
Przejrzystość (explainability)
Dostawca musi dostarczyć instrukcje obsługi, które jasno opisują możliwości, ograniczenia i przewidywalne ryzyka działania sztucznej inteligencji. Użytkownik musi rozumieć, w jaki sposób system wnioskuje, aby móc prawidłowo zinterpretować jego wynik.
Zarządzanie jakością danych i eliminacja stronniczości
Wysoka jakość danych treningowych jest kluczowa, aby uniknąć dyskryminacji (np. ze względu na płeć czy wiek w modułach kadrowych). Decydenci powinni upewnić się, że dostawca stosuje rygorystyczne praktyki administrowania danymi w celu wykrywania i korygowania ewentualnej stronniczości algorytmów.
Bądź na bieżąco
Dołącz do naszego newslettera
Sztuczna inteligencja w systemach ERP i elastyczność modeli
Zacznijmy od tego, że dzięki rozwiązaniom opartym na sztucznej inteligencji można wyeliminować ręczne wprowadzanie dokumentów do księgowości. Dla przykładu, w ERP enova365 OCR AI domyka proces pełnej automatyzacji księgowości, czyniąc pracę z „papierowymi” dokumentami księgowymi równie prostą, co z e-fakturami.
Na rynku ERP pojawiają się jednak także rozwiązania nowej generacji, takie jak agenci AI – wspierający operatorów w codziennych zadaniach lub automatyzujący procesy workflow. Przy ich wyborze warto postawić na dostawców oferujących elastyczność – możliwość łączenia się z różnymi modelami językowymi (LLM) lub uruchamiania ich lokalnie (on-premise) dla zachowania najwyższego poziomu prywatności danych.
Takie rozwiązania rozwija obecnie firma Soneta, producent ERP enova365. Firma kładzie nacisk na to, aby były one w pełni zgodne z regulacjami AI Act.
Jak podkreśla Grzegorz Jurczak, kierownik zespołu R&D w firmie Soneta, przezroczystość procesów w zakresie wykorzystania AI to podstawa do budowy zaufania użytkowników.
„W rozwiązaniach projektowanych w enova365 czy TRIVA klient i audytor zewnętrzny będą mieli w każdej chwili widoczność, kto inicjował operację, jaki model językowy uczestniczył w procesie, jakie dane brał pod uwagę i jakie były skutki akceptacji. Z perspektywy zgodności regulacyjnej — z AI Act i RODO — taka audytowalność stanowi fundament rozwiązań korzystających z AI”.
Jak wybrać system ERP zgodny z AI Act?
Na koniec warto podkreślić, że wybór systemu ERP w erze AI Act nie jest już wyłącznie decyzją technologiczną, lecz strategiczną. Kluczowe staje się zrozumienie własnych procesów, świadoma ocena ryzyka oraz wybór rozwiązania, które gwarantuje zgodność z regulacjami. Organizacje, które już dziś postawią na transparentne, audytowalne i bezpieczne systemy, nie tylko ograniczą ryzyko prawne, ale również zbudują stabilne fundamenty pod dalszą cyfryzację i odpowiedzialne wykorzystanie sztucznej inteligencji.
FAQ
Co to jest AI Act?
AI Act – kiedy wchodzi w życie?
Czy sztuczna inteligencja w systemie ERP jest zgodna z AI Act?
Bibliografia:
https://artificialintelligenceact.eu/
https://www.gov.pl/web/ai/zakazane-systemy-ai
