Analiza ryzyk w systemie zarządzania sztuczną inteligencją AI na zgodność z wymaganiem normy ISO 42001
Analiza ryzyk w systemie zarządzania sztuczną inteligencją AI na zgodność z wymaganiem normy ISO 42001
Dowiedz się, jak skutecznie prowadzić analizę ryzyk w AI zgodnie z ISO/IEC 42001 i przygotować organizację do bezpiecznego oraz zgodnego wykorzystywania sztucznej inteligencji. Szkolenie ma praktyczny charakter i obejmuje ocenę ryzyk modeli, danych, prywatności, biasu, driftu, transparentności oraz nadzoru nad systemami AI.
ANALIZA RYZYK W SYSTEMIE ZARZĄDZANIA SZTUCZNĄ INTELIGENCJĄ AI NA ZGODNOŚĆ Z NORMĄ ISO 42001:2024. NA CZYM POLEGA ?
Analiza ryzyk w AI według ISO/IEC 42001 to uporządkowany proces identyfikowania i oceny zagrożeń związanych z projektowaniem, wdrażaniem, użytkowaniem oraz nadzorowaniem systemów sztucznej inteligencji. Jej celem jest zrozumienie, jakie ryzyka mogą wpływać na organizację, użytkowników, dane, zgodność prawną, bezpieczeństwo, przejrzystość i wiarygodność działania systemów AI.
Polega na rozpoznaniu źródeł ryzyka w całym cyklu życia AI, takich jak błędy modeli, uprzedzenia, halucynacje, drift modeli, naruszenia prywatności, brak wyjaśnialności czy niewłaściwe wykorzystanie wyników. Następnie ocenia się prawdopodobieństwo i skutki tych ryzyk, określa poziom ich akceptowalności oraz wdraża działania ograniczające, monitorujące i doskonalące. Dzięki temu organizacja może bezpiecznie, odpowiedzialnie i zgodnie z wymaganiami zarządzać systemami sztucznej inteligencji.
CEL SZKOLENIA
Celem szkolenia jest przygotowanie uczestników do identyfikowania, oceny i ograniczania ryzyk związanych z projektowaniem, wdrażaniem, użytkowaniem i nadzorowaniem systemów sztucznej inteligencji zgodnie z wymaganiami ISO/IEC 42001.
Szkolenie rozwija praktyczne rozumienie ryzyk charakterystycznych dla AI, takich jak błędy modeli, uprzedzenia, brak przejrzystości, naruszenia prywatności, drift modeli, ryzyka regulacyjne oraz zagrożenia operacyjne. Uczestnicy poznają sposoby budowania podejścia opartego na ryzyku w całym cyklu życia systemu AI, z uwzględnieniem wymagań zarządczych, technicznych, organizacyjnych i zgodnościowych:
- Zrozumienie unikalnych zagrożeń i podatności w systemach sztucznej inteligencji (halucynacje modeli, uprzedzenia, prywatność, ataki adversarialne, „model drift”) oraz powiązanych ram regulacyjnych (NIST AI RMF, ISO/IEC 42001, EU AI Act).
- Nabycie umiejętności identyfikowania, oceniania i mitygowania ryzyk na każdym etapie cyklu życia AI, przy użyciu metodyk ISO/IEC 27005, ISO 31000 i technik z IEC 31010.
- Przygotowanie do dokumentowania i audytowania systemów AI oraz integracji zarządzania ryzykiem AI z systemami zarządzania bezpieczeństwem informacji.
Program Szkolenia
Program Szkolenia
PRE – TEST
Wprowadzenie do zarządzania ryzykiem AI:
- Przegląd wytycznych NIST AI RMF (funkcje Govern, Map, Measure, Manage) i normy ISO/IEC 42001 (system zarządzania AI).
- Omówienie klas ryzyka w projekcie AI Act (zakazane, wysokiego ryzyka, ograniczonego ryzyka, minimalnego ryzyka).
Polityki i governance AI:
- Tworzenie polityk AI, wyznaczanie ról (właściciel modelu, risk owner, komisje etyczne), określenie apetytu na ryzyko.
- Inwentaryzacja systemów AI (system cards, model cards), identyfikacja interesariuszy.
- Ćwiczenie: opracowanie karty systemu AI oraz listy interesariuszy.
Identyfikacja i analiza ryzyka:
- Ustalenie scenariuszy ryzyka dla danych wejściowych, algorytmów, modeli i środowiska operacyjnego;
- Wykorzystanie technik IEC 31010 (analiza drzewa błędów, PESTLE, analizy przyczyn‑skutków).
- Oszacowanie prawdopodobieństwa i skutku, budowa macierzy ryzyka.
- Ćwiczenie: identyfikacja i ocena ryzyk dla przykładowego modelu uczenia maszynowego.
Ocena miar jakości:
- Opracowanie wskaźników beyond accuracy.
- Miary sprawiedliwości (demographic parity, equalized odds), odporność (robustness), prywatność (differential privacy, privacy leakage), explainability, wykrywanie driftu; ustalanie progów akceptacji.
- Ćwiczenie: analiza zestawu wskaźników dla generatywnego modelu AI.
Zarządzanie i mitygacja ryzyka:
- Metody przeciwdziałania: kontroli jakości danych (data curation), redukcji biasu (re‑sampling, re‑weighting, fairness constraints), zabezpieczania pipeline’ów (kontrola wersji, CI/CD, monitorowanie), zarządzania prawami dostępu, podpisywania/watermarkowania generowanych treści, filtracji treści dla modeli generatywnych.
- Plan działań naprawczych.
- Ćwiczenie: opracowanie planu mitygacji dla kluczowych ryzyk AI.
Zgodność, audit i ciągłe doskonalenie:
- Integracja zarządzania ryzykiem AI z ISO/IEC 42001, ISO/IEC 27001 i NIS 2.
- Tworzenie procedur zgłaszania incydentów AI (hallucinacje, naruszenia prywatności), monitorowanie i aktualizacja modeli.
- Przygotowanie do auditów wewnętrznych i zewnętrznych.
POST – TEST
Grupa odbiorcza
Grupa odbiorcza
Szkolenie jest skierowane do:
- menedżerów i koordynatorów odpowiedzialnych za wdrażanie i nadzorowanie systemów AI,
- specjalistów ds. compliance, governance, risk management i cyberbezpieczeństwa,
- właścicieli procesów biznesowych wykorzystujących rozwiązania AI,
- auditorów wewnętrznych i osób przygotowujących organizację do zgodności z ISO/IEC 42001,
- specjalistów IT, data science, machine learning i MLOps,
- osób odpowiedzialnych za jakość danych, prywatność i zgodność regulacyjną,
- kadry menedżerskiej podejmującej decyzje dotyczące akceptacji ryzyka AI,
- członków zespołów wdrażających rozwiązania sztucznej inteligencji w organizacji.
Szkolenie będzie szczególnie przydatne dla firm rozwijających, integrujących lub wykorzystujących systemy AI w procesach operacyjnych, produktowych, analitycznych i decyzyjnych.
Korzyści po szkoleniu
Korzyści po szkoleniu
Po szkoleniu uczestnicy:
- Rozumieją wymagania ISO/IEC 42001 w obszarze zarządzania ryzykiem AI.
- Potrafią identyfikować główne źródła ryzyk związanych z danymi, modelami, algorytmami i środowiskiem działania AI.
- Umieją oceniać wpływ ryzyk AI na organizację, użytkowników, klientów i interesariuszy.
- Potrafią tworzyć uporządkowaną dokumentację ryzyk oraz przypisywać odpowiedzialności właścicielom ryzyk.
- Rozumieją, jak definiować kryteria oceny, akceptacji i monitorowania ryzyk AI.
- Potrafią dobierać działania ograniczające ryzyko, zarówno techniczne, jak i organizacyjne.
- Wiedzą, jak powiązać zarządzanie ryzykiem AI z ładem organizacyjnym, bezpieczeństwem informacji i wymaganiami zgodności.
- Lepiej przygotowują organizację do auditów, przeglądów i nadzoru nad systemami AI.
Dodatkową korzyścią jest zwiększenie dojrzałości organizacji w zakresie odpowiedzialnego i bezpiecznego wykorzystania sztucznej inteligencji.
Metodyka szkolenia
Metodyka szkolenia
Szkolenie realizowane jest w formule praktyczno-warsztatowej, z naciskiem na zastosowanie wymagań normy ISO/IEC 42001 w realnych warunkach organizacyjnych.
Metodyka obejmuje:
- uporządkowane wprowadzenie do wymagań normy i powiązanych ram zarządzania ryzykiem AI,
- omówienie zagrożeń i scenariuszy ryzyka na przykładach rzeczywistych zastosowań AI,
- ćwiczenia praktyczne związane z identyfikacją ryzyk, oceną ich istotności oraz planowaniem działań mitygujących,
- analizę przypadków dotyczących modeli predykcyjnych i generatywnych,
- pracę z przykładami dokumentacji, kart systemów AI i podejść nadzorczych,
- dyskusję ekspercką nad typowymi błędami wdrożeniowymi i auditowymi,
- wymianę doświadczeń i odniesienie omawianych zagadnień do organizacji uczestników,
- pre i post testy weryfikującą wiedzę przed i po szkoleniu.
Podejście szkoleniowe koncentruje się nie tylko na wymaganiach formalnych, ale przede wszystkim na praktycznym zrozumieniu, jak skutecznie nadzorować ryzyka AI w organizacji.
Czas trwania szkolenia – 2 dni
Certyfikat ukończenia szkolenia:
Po zakończeniu szkolenia Uczestnik otrzymuje imienny certyfikat w języku polskim i angielskim. Dodatkowo przekazujemy kopię dokumentu do działu HR.
Rabaty dla Klienta:
*2 osoba 5% rabatu, 3 osoba i następna – 10%
UWAGA ! Na 21 dni przed organizacją szkolenia firma wysyła informację drogą mailową do wszystkich Uczestników szkolenia na temat założeń organizacyjnych. Jeśli szkolenie zostanie przesunięte/odwołane, również Klienci będą poinformowani.
Ważne linki:
SZKOLENIE OTWARTE
- Wykład: 50%
- Ćwiczenia: 50%
- Poziom umiejętności: Wszystkie
- Język: polski
- Czas trwania szkolenia: 2 dni
- Godziny trwania szkolenia: 9.00-16.00
- Ewaluacja szkolenia: pre i post testy, ankiety
- Materiały szkoleniowe: podręcznik szkoleniowy, notatnik, długopis
- Kursanci: maksymalnie 12 osób
- Certyfikat szkolenia: język polski i angielski
- Gastronomia: przerwy kawowe, obiad 2 daniowy
SZKOLENIE ZAMKNIĘTE
- Wykład: 50%
- Ćwiczenia: 50%
- Poziom umiejętności: Wszystkie
- Język: polski
- Czas trwania szkolenia: 2 dni
- Termin szkolenia: do uzgodnienia
- Ewaluacja szkolenia: pre i post testy, ankiety
- Materiały szkoleniowe: podręcznik szkoleniowy, notatnik, długopis
- Kursanci: maksymalnie 15 osób
- Certyfikat szkolenia: język polski i angielski
- Logistyka szkolenia – do uzgodnienia
