ISO/IEC 42001 določa zahteve za sistem upravljanja umetne inteligence (AIMS). Vzpostavite ga z določitvijo obsega in popisa AI sistemov, politike, vlog, ocene tveganj in učinkov, izbire kontrol iz Priloge A ter z nadzorom, notranjo presojo in vodstvenim pregledom.
Za koga je standard
ISO/IEC 42001 je prvi mednarodni standard za sistem upravljanja umetne inteligence. Ima enako zasnovo kot ISO 27001 ali ISO 9001 (točke 4 do 10), zato ga je mogoče vključiti v obstoječe sisteme vodenja. Zanima razvijalce, ponudnike, pa tudi organizacije, ki AI orodja uporabljajo pri svojem delu.
Koraki vzpostavitve
1. Popis AI sistemov in vloge organizacije
Naredite seznam AI sistemov: lastni razvoj, kupljene rešitve, orodja, ki jih zaposleni uporabljajo sami. Pri vsakem zapišite namen, lastnika, vir podatkov in vlogo organizacije (razvijalec, uvajalec, uporabnik).
2. Obseg in zainteresirane strani
Določite meje sistema, zakonske in pogodbene zahteve ter pričakovanja strank in zaposlenih.
3. Politika in vloge
Vodstvo sprejme politiko upravljanja AI in določi odgovornosti: kdo odobri uporabo novega AI sistema, kdo spremlja delovanje, kdo obravnava pritožbe.
4. Ocena tveganj in učinkov
Standard loči oceno tveganj in oceno učinkov AI sistema na posameznike in družbo. Zajemite pristranskost, preglednost, varnost podatkov, zanesljivost in človeški nadzor.
5. Kontrole iz Priloge A
Priloga A vsebuje 38 kontrol v devetih sklopih, na primer politike, notranja organizacija, viri, ocena učinkov, življenjski cikel, podatki, informacije za zainteresirane strani, uporaba in tretje strani. Izberite uporabne kontrole in zapišite utemeljitev v izjavi o uporabnosti.
6. Nadzor in izboljševanje
Merite delovanje AI sistemov, vodite evidenco incidentov, opravite notranjo presojo in vodstveni pregled.
Kaj pogosto manjka
- popis AI orodij, ki jih zaposleni uporabljajo brez vednosti IT,
- nadzor nad podatki, s katerimi se sistem uči ali jih obdeluje,
- jasna odgovornost za odločitve, ki jih sprejme AI,
- pregled dobaviteljev AI storitev.
Meje standarda
ISO/IEC 42001 ni pravni predpis in samodejno ne dokazuje skladnosti z uredbo EU o umetni inteligenci. O razliki pišemo v članku ISO 42001 in EU AI Act.
Več o našem pristopu: ISO/IEC 42001 in svetovalni pregled ISO 42001.
Pogosta vprašanja
Ali je ISO 42001 namenjen samo razvijalcem AI?
Ne. Uporabljajo ga tudi organizacije, ki AI sisteme uporabljajo ali kupujejo. Obseg določite glede na vlogo organizacije.
Ali je za ISO 42001 potrebna certifikacija?
Ne. Standard lahko uporabljate brez certifikata. Certifikacijo izvede akreditiran certifikacijski organ, če jo organizacija želi.
Viri
Članek je strokovni povzetek in ne nadomešča pravnega mnenja. Obveznosti so odvisne od položaja posamezne organizacije.