EU AI Act
Uredba EU o umetni inteligenci, ki določa obveznosti glede na stopnjo tveganja.
Katero težavo rešujemo
Organizacije uporabljajo AI pri kadrovanju, ocenjevanju kreditne sposobnosti, pri klepetalnikih in v notranjih procesih, ne da bi vedele, v katero kategorijo tveganja spadajo. Roki za različne obveznosti se razlikujejo.
Zakaj je to pomembno
Pravila nekaterih praks, kot so prepovedane prakse in obveznost preglednosti, že veljajo. Če ne veste, kateri AI sistemi se uporabljajo v organizaciji, tudi ne morete oceniti tveganja.
Za koga je
- Ponudniki sistemov umetne inteligence, ki jih razvijate sami ali prodajate pod svojo znamko.
- Uporabniki (deployerji), ki v poslovanju uporabljate tuje AI sisteme.
- Organizacije, ki uporabljajo generativno umetno inteligenco z zaposlenimi ali strankami.
Kaj obsega delo
- Popis AI sistemov in njihove uporabe v organizaciji.
- Razvrstitev sistemov po tveganju in preverjanje prepovedanih praks.
- Pregled obveznosti preglednosti, na primer obveščanje o interakciji z AI in označevanje vsebin.
- Ureditev vloge organizacije kot ponudnika ali uporabnika.
- Povezava s sistemom upravljanja po ISO/IEC 42001, kjer je to smiselno.
Potek dela
Popis AI sistemov in uporab.
Razvrstitev po tveganju in ugotovitev vloge organizacije.
Načrt ukrepov z roki glede na veljavnost posameznih obveznosti.
Priprava osnovnih politik in navodil za zaposlene.
Kaj potrebujemo od vas
- Seznam orodij in sistemov AI, ki jih uporabljate ali razvijate.
- Kateri podatki in odločitve so povezani z AI (kadrovanje, stranke, nadzor).
- Pogodbe z dobavitelji AI, če obstajajo.
Kaj prejmete
- Popis AI sistemov in razvrstitev po tveganju.
- Načrt ukrepov z roki.
- Predlog politike uporabe umetne inteligence za zaposlene.
Kaj ni vključeno in kje so meje
- Tehnično preverjanje modelov, pristranskosti in kakovosti podatkov.
- Ocena skladnosti za visoko tvegane sisteme, ki zahteva posebne postopke.
- Pravno mnenje o odgovornosti za odločitve, sprejete z AI.
Razvrstitev sistemov in obveznosti sta odvisni od položaja organizacije. Pravnega mnenja ne dajemo, za visoko tvegane sisteme se posvetujte s pravnikom. Roki veljajo po stanju na dan objave in se lahko spremenijo.
Pogosta vprašanja
Kateri roki veljajo?
Prepovedane prakse veljajo od 2. februarja 2025, obveznosti za splošno namenske modele od 2. avgusta 2025 in obveznosti preglednosti iz člena 50 od 2. avgusta 2026. Obveznosti za visoko tvegane sisteme iz Priloge III so po digitalnem omnibusu odložene na 2. december 2027, za izdelke iz Priloge I pa na 2. avgust 2028.
Ali moram že zdaj imeti popis AI sistemov?
Priporočljivo je. Brez popisa ne morete oceniti tveganja, roki pa so različni za različne vrste sistemov.
Ali se AI Act nanaša tudi na uporabo ChatGPT in podobnih orodij?
Da, vsaj v delu obveznosti preglednosti in glede uporabe zaposlenih. Razvrstitev je odvisna od namena uporabe, ne samo od orodja.
Ali ISO/IEC 42001 pomeni skladnost z EU AI Act?
Ne. Standard je prostovoljen okvir za sistem upravljanja, uredba pa je pravno zavezujoča. Standard pomaga pri organizaciji dela in dokazih, obveznosti po uredbi je treba presojati posebej.
Uradni viri
Potrebujete svetovalni pregled ali pomoč pri pripravi na skladnost?
Opišite organizacijo in izziv. Predlagamo smiseln obseg dela, brez obvezujočih obljub o rezultatu.