PRE-TEST

1. Wprowadzenie do ISO/IEC 42001.

• Dlaczego powstała norma ISO 42001 – kontekst rozwoju AI i regulacji.
• Zakres i cel normy – do jakich organizacji ma zastosowanie.
• AI jako system socjotechniczny – ryzyka, odpowiedzialność, zaufanie.
• Powiązania z:
  • ISO 9001 (jakość).
  • ISO/IEC 27001 (bezpieczeństwo informacji).
  • ISO/IEC 27701 (ochrona danych).
  • EU AI Act.
• Struktura normy.

2. Kontekst organizacji i zakres AIMS.

• Punkt 4 normy:
  • Zrozumienie organizacji i jej kontekstu.
  • Strony zainteresowane i ich wymagania.
• Określenie zakresu systemu AIMS:
  • produkty AI.
  • usługi AI.
  • systemy wspierające decyzje.
• Definicja ról: dostawca AI, użytkownik AI, integrator.
• Ćwiczenie:
  • identyfikacja systemów AI w organizacji
  • określenie granic AIMS.

3. Przywództwo i odpowiedzialność (Leadership).

• Punkt 5 normy:
  • Zaangażowanie najwyższego kierownictwa.
  • Polityka AI.
  • Role, odpowiedzialności i uprawnienia.
• Odpowiedzialność zarządcza za decyzje podejmowane przez AI.
• Rola etyki, nadzoru człowieka (human oversight).
• Studium przypadku:
  • brak nadzoru nad modelem ML – skutki biznesowe i prawne.

4. Planowanie – ryzyka i cele AI.

• Punkt 6 normy:
  • Identyfikacja ryzyk i szans związanych z AI.
  • Ryzyka:
    • Techniczne.
    • Prawne.
    • Etyczne.
    • Reputacyjne.
  • Ocena wpływu AI (AI Impact Assessment).
• Cele AIMS i plan ich realizacji.
• Warsztat:
  • budowa prostej macierzy ryzyk AI.
  • przypisanie działań kontrolnych.

5. Zasoby, kompetencje i świadomość.

• Punkt 7 normy:
  • Kompetencje zespołów AI.
  • Szkolenia i świadomość pracowników.
  • Komunikacja wewnętrzna i zewnętrzna.
• Zarządzanie wiedzą o systemach AI.
• Dokumentowanie procesów AIMS.
• Ćwiczenie:
  • mapa kompetencji dla zespołu AI.

6. Operacyjne zarządzanie systemami AI.

• Punkt 8 normy:
  • Planowanie i sterowanie operacyjne.
  • Cykl życia systemu AI:
    • Projektowanie.
    • Rozwój.
    • Testowanie.
    • Wdrożenie.
    • Eksploatacja.
    • Wycofanie.
• Dane treningowe – jakość, bias, zgodność prawna.
• Zarządzanie zmianą modelu (model drift).
• Podwykonawcy i modele zewnętrzne (third-party AI).
• Warsztat:
  • analiza przykładowego procesu wdrażania modelu AI.

7. Monitorowanie, audity i zgodność.

• Punkt 9 normy:
  • Monitorowanie skuteczności AI.
  • KPI dla systemów AI.
  • Audyty wewnętrzne AIMS.
  • Przegląd zarządzania.
• Powiązanie z wymaganiami regulatorów.
• Ćwiczenie:
  • lista kontrolna audytu ISO 42001.

8. Niezgodności, incydenty i doskonalenie.

• Punkt 10 normy:
  • Reagowanie na incydenty AI.
  • Zarządzanie niezgodnościami.
  • Działania korygujące.
  • Ciągłe doskonalenie AIMS.
• Incydenty:
  • Błędne decyzje AI.
  • Naruszenia praw człowieka.
  • Naruszenia danych.
• Warsztat:
  • analiza incydentu AI i opracowanie CAPA.

9. Załącznik A normy ISO/IEC 42001 – środki zarządzania AI (Annex A).

• Rola Załącznika A w normie ISO/IEC 42001:

  • Katalog referencyjnych środków zarządzania (controls).
  • Wsparcie realizacji wymagań normy głównej (pkt 4–10).
  • Podejście oparte na ryzyku.
  • Analogia do Załącznika A normy ISO/IEC 27001.

• Struktura Załącznika A:

  • Pogrupowanie środków według obszarów zarządzania AI.
  • Powiązanie środków z cyklem życia systemu AI
  • Relacja Annex A ↔ ryzyka AI.

• Obszary Załącznika A:

  • Zarządzanie polityką i odpowiedzialnością za AI:
    – ustanowienie zasad odpowiedzialnego stosowania AI,
    – przypisanie odpowiedzialności właścicielskiej,
    – nadzór zarządczy nad systemami AI.
  • Zarządzanie ryzykiem AI:
    – identyfikacja i ocena ryzyk AI,
    – monitorowanie ryzyk w czasie,
    – aktualizacja środków kontrolnych.
  • Zarządzanie danymi i modelami AI:
    – jakość i integralność danych,
    – zapobieganie stronniczości (bias),
    – walidacja i testowanie modeli.
  • Nadzór nad cyklem życia systemu AI:
    – projektowanie i rozwój,
    – wdrażanie i eksploatacja,
    – wycofanie i archiwizacja.
  • Transparentność i wyjaśnialność AI:
    – dokumentowanie działania systemów AI,
    – informowanie użytkowników o użyciu AI,
    – możliwość wyjaśnienia decyzji algorytmicznych.
  • Nadzór człowieka (Human Oversight):
    – mechanizmy ingerencji człowieka,
    – eskalacja decyzji,
    – zapobieganie niekontrolowanej automatyzacji.
  • Bezpieczeństwo, odporność i ciągłość działania:
    – odporność modeli na błędy i manipulacje,
    – bezpieczeństwo infrastruktury AI,
    – ciągłość działania systemów AI.
  • Zarządzanie podwykonawcami i rozwiązaniami zewnętrznymi:
    – third-party AI,
    – wymagania umowne,
    – ocena ryzyk dostawców.
  • Zarządzanie incydentami AI:
    – wykrywanie i zgłaszanie incydentów,
    – analiza przyczyn źródłowych,
    – działania korygujące.

• Dobór i stosowanie środków z Załącznika A:

  • adekwatność do ryzyk AI,
  • uzasadnienie zastosowania lub wyłączenia środka,
  • spójność z celami AIMS.

• Statement of Applicability (SoA):

  • dokumentowanie decyzji dotyczących Annex A,
  • powiązanie ryzyk z kontrolami,
  • wykorzystanie SoA podczas auditów.

• Zastosowanie Załącznika A w praktyce:

  • wsparcie audytów wewnętrznych,
  • przygotowanie do audytu certyfikującego,
  • zgodność z EU AI Act.
• Warsztat praktyczny:
  • mapowanie systemu AI do wybranych środków Załącznika A,
  • ocena skuteczności zastosowanych kontroli,
  • identyfikacja luk i działań doskonalących.

POST-TEST