Čo je EU AI Act a čo znamená pre firmy – povinné školenie AI pre zamestnancov od februára 2025

Umelá inteligencia je dnes už ako internet – používa ju každý, často bez toho, aby nad tým nejako zvlášť premýšľal. ChatGPT, Claude alebo Gemini na texty, Midjourney, Flux, či Sora na vizuály, rôzne aplikácie, ktoré za vás riešia rutinné úlohy, alebo Copilot, ktorý sa vám potichu nasťahoval do Windowsu bez toho, aby vám niekto vysvetlil, čo vlastne robí a aké má obmedzenia. Doma nám tieto nástroje uľahčujú život a robia prácu efektívnejšou, takže si ich ľudia prirodzene prenášajú aj do firemného prostredia. Lenže tam už nejde len o súkromný experiment, ale o dáta, procesy a rozhodnutia, ktoré môžu mať vážne dôsledky.

A tu prichádza pre mnohých prekvapenie. Vedeli ste, že už existuje európska legislatíva, ktorá presne určuje, ako sa s AI vo firmách môže a nemôže pracovať? Áno, volá sa EU AI Act a nejde len o nejaké „odporúčania“. Je to prvý komplexný zákon o umelej inteligencii na svete, ktorý platí od 1. augusta 2024 a od 2. februára 2025 prikazuje všetkým poskytovateľom a používateľom AI systémov, aby zabezpečili, že ich zamestnanci majú dostatočnú úroveň AI gramotnosti. Inými slovami, ak vo firme používate AI, tak vaši ľudia musia rozumieť tomu, čo robí, aké sú jej limity a kde predstavuje riziko.

A nejde len o formalitu. Ak sa firma na túto povinnosť vykašle a jej zamestnanci svojím nesprávnym používaním AI spôsobia škodu zákazníkom, či partnerom, od 2. augusta 2025 môže niesť občianskoprávnu zodpovednosť. A keďže AI Act v iných oblastiach počíta aj s mastnými sankciami až do 35 miliónov eur alebo 7 % celosvetového obratu je zrejmé, že Európska únia to myslí vážne. Inými slovami: časy, keď sme AI vo firmách skúšali „na divoko“ sa končia.

Takže čo je ten EU AI Act, o ktorom sa začína toľko hovoriť?

Jednoducho povedané – sú to pravidlá hry pre umelú inteligenciu v Európskej únii. A nie hocijaké. Je to prvý komplexný zákon na svete, ktorý sa snaží skrotiť divoký západ AI a zaviesť do neho poriadok. Žiadne dobrovoľné kódexy, či odporúčania – ide o priamo záväzné nariadenie, ktoré sa automaticky uplatňuje vo všetkých členských štátoch EÚ. Ak teda vyvíjate, nasadzujete alebo predávate AI systémy v EÚ (a to aj keď ste firma so sídlom mimo Únie), týka sa to aj vás.

A teraz pointa: AI Act nerozlišuje, či ste malý startup alebo nadnárodná korporácia. Ak vo firme používate nástroje umelej inteligencie – na nábor zamestnancov, vyhodnocovanie dát, rozhodovanie o zákazníkoch, tvorbu obsahu, či správu infraštruktúry – spadáte pod jeho pravidlá. Dokonca aj keď „iba“ používate ChatGPT, či iný nástroj ako súčasť bežnej práce. Zákon pritom rozdeľuje systémy AI podľa toho, aké riziká predstavujú. Niektoré praktiky rovno zakazuje – napríklad tzv. sociálne skórovanie (hodnotenie ľudí podľa správania), manipulatívne techniky, ktoré majú ovplyvňovať rozhodovanie bez vedomia dotknutej osoby, či nelegálne zbieranie tvárí na trénovanie databáz. Iné systémy označuje za vysokorizikové – sem patria napríklad AI nástroje v oblasti ľudských zdrojov, vzdelávania, zdravotníctva, kritickej infraštruktúry alebo pri rozhodovaní úradov. Tie môžu fungovať len za prísnych podmienok – s jasnou dokumentáciou, transparentnosťou, dohľadom človeka a povinnou registráciou.

Znie to prísne? Áno. Ale má to logiku. Cieľom je, aby AI bola (vo firmách) bezpečná, etická a použiteľná spôsobom, ktorý rešpektuje základné práva. Inak povedané, aby sme mohli využívať jej potenciál bez toho, že nám prerastie cez hlavu.

Čo z toho teda plynie pre firmy?

Že sa musia prestať tváriť, že AI vo firme je len taký neškodný bonus. Od februára 2025 sa z toho stáva povinnosť – a to povinnosť, ktorú bude potrebné vedieť obhájiť. Ak používate akýkoľvek AI systém, musíte zabezpečiť, že vaši ľudia chápu, čo robia. Nestačí „nech si s tým každý robí po svojom“. Hovoríme o povinných školeniach, nastavení interných procesov a zavedení dohľadu nad tým, ako sa tieto nástroje používajú.

EU AI Act jasne hovorí: zamestnanci musia mať dostatočnú AI gramotnosť. To znamená vedieť nielen to, ako nástroje fungujú, ale aj aké majú limity, kde môžu zlyhať, čo je už neetické a čo priamo nezákonné. Inak riskujete, že ich nesprávne rozhodnutia neostanú bez následkov. A to môže byť problém – od občianskoprávnej zodpovednosti pri spôsobení škody, až po stratu dôvery zákazníkov, či poškodenie reputácie.

Pre manažment to znamená začať konať. Nie v lete 2025, keď sa prvé kontroly rozbehnú, ale hneď teraz. Identifikovať, kde vo firme AI používate (a verte, že niekedy budete prekvapení), nastaviť pravidlá a školenia, ktoré zabezpečia, že zamestnanci používajú AI bezpečne, eticky a v súlade so zákonom. Inak povedané – z hobby hračky robíte riadený pracovný nástroj, ktorý má svoje pravidlá a dohľad.

Ako sa pripraviť? 

Prvá vec – prestaňte dúfať, že sa vás to netýka. Ak vo firme používate čo i len ChatGPT na prípravu textov, alebo Copilot na generovanie kódu, už ste v hre. A ak pracujete s AI v oblastiach ako HR, školenia, zdravotníctvo, či infraštruktúra, tak ste dokonca v kategórii „vysoké riziko“, kde pravidlá platia ešte prísnejšie.

A teraz trochu reality check: vaši kolegovia alebo zamestnanci už s AI pracujú. Doma už dávno pomáhajú deťom s domácimi úlohami, riešia cez AI otázky od zdravia po financie, generujú recepty, píšu e-maily a vo väčšine prípadov slepo dôverujú všetkému, čo (nielen) ChatGPT napíše. A čo myslíte? Že to robia len doma? Ibaže by nie. Postupne sa tie isté návyky prenášajú do práce – od opráv e-mailov, cez „neškodné“ vkladanie dokumentov až po prvé pokusy, ako si zjednodušiť úlohy. Veď keď to funguje doma, bude to fungovať aj vo firme, nie?

Lenže tu sa dostávame k problému. Často nemajú licencie, používajú voľne dostupné programy a – čo je horšie – mnohokrát ani sami nevedia, kam všetky tie texty a vaše firemné dáta ukladajú. Inými slovami, používajú AI bez pravidiel, bez dohľadu a bez vedomia, že môžu ohroziť bezpečnosť dát, či dokonca porušiť zákon.

A práve preto je AI Act taký dôležitý. Zavádza jasné mantinely, ako môže byť AI vo firmách používaná – a vyžaduje, aby zamestnanci vedeli, čo robia.

Čo konkrétne EU AI Act hovorí a čo by mali vaši kolegovia vedieť

EU AI Act nie je len nejaký byrokratický dokument, ktorý si odfajknete a odložíte do šuflíka. Je to praktická príručka toho, ako má vyzerať bezpečné, etické a zodpovedné používanie umelej inteligencie v európskom priestore. Inými slovami, definuje, čo je pri práci s AI povolené, čo je zakázané a kde musíte mať nastavené prísne pravidlá. Zákon zavádza aj zaujímavú logiku: nie všetky AI systémy sú rovnaké. Rozdeľuje ich podľa rizika. Niektoré technológie sú tak nebezpečné, že ich rovno zakazuje – napríklad manipulovanie ľudí podprahovými technikami, sociálne skórovanie (áno, presne tie dystopické body za správanie ako v Číne), alebo zbieranie tvárí z internetu na tvorbu databáz. Iné nástroje, ktoré výrazne zasahujú do života ľudí, označuje ako vysokorizikové – sem patrí AI používaná v nábore a hodnotení zamestnancov, vo vzdelávaní, zdravotníctve, kritickej infraštruktúre, či rozhodovaní úradov.

A čo z toho vyplýva pre vás? Že ak vo firme používate AI v týchto oblastiach (a úprimne, veľa firiem to robí, len si to neuvedomuje) už nehovoríme o hračkách, ale o systémoch, ktoré musia spĺňať prísne pravidlá. Potrebujete mať dokumentáciu, jasne stanovený ľudský dohľad, technické záznamy o tom, čo AI robí a hlavne – zamestnancov, ktorí chápu, čo majú v rukách.

EU AI Act pritom ide ďalej než len „zakážeme a prikážeme“. Prvýkrát v histórii zavádza povinnosť, aby ľudia, ktorí s AI pracujú boli na to naozaj pripravení. Nejde teda o to, aby si odškrtli, že prešli online kurzom. Musia vedieť rozpoznať rizikové situácie, chápať, ako AI dospieva k svojim „rozhodnutiam“, poznať jej obmedzenia a vedieť, kedy je potrebné zasiahnuť. Inak povedané – AI vo firme už nemôže byť čierna skrinka, do ktorej niečo hodíte a bezhlavo veríte výsledku. Zamestnanci musia mať schopnosť kriticky posúdiť, čo im AI ponúka a rozhodnúť, či je to správne a bezpečné.

Čo všetko rieši EU AI Act?

EU AI Act nie je „jedna veta o školení“. Je to 144-stranová legislatíva, ktorá nastavuje pravidlá pre celú oblasť umelej inteligencie – od definícií, cez zakázané praktiky, až po detaily o tom, ako majú firmy viesť záznamy o používaní AI. Aby ste mali predstavu, čo všetko obsahuje – tu je prierez:

1. Čo je a čo nie je AI
Zákon presne definuje, čo sa považuje za AI systém. Nie je to len „nejaký program“. AI je systém, ktorý sa dokáže učiť, prispôsobovať a rozhodovať s určitou mierou autonómie. A práve pre túto autonómiu sa odlišuje od klasického softvéru – a musí mať svoje pravidlá.

2. Kategorizácia rizík
EU AI Act zavádza systém triedenia AI podľa rizikovosti:

• Zakázané AI – také, ktoré priamo ohrozujú základné práva (manipulatívne techniky, sociálne skórovanie, nelegálne rozpoznávanie tvárí, systémy na odhadovanie emócií na pracovisku a v školách).

• Vysokorizikové AI – nástroje, ktoré majú výrazný dopad na život ľudí. Sem patrí AI v HR (nábor, hodnotenie), vzdelávaní (prístup, hodnotenie študentov), zdravotníctve, sociálnych dávkach, kritickej infraštruktúre, či rozhodovaní úradov.

• Obmedzené riziko – systémy, ktoré musia byť transparentné (napr. keď AI komunikuje s ľuďmi, musí byť jasné, že ide o AI; keď generuje obsah, musí byť označený ako umelý).

• Minimálne riziko – voľne použiteľné nástroje, ktoré spadajú mimo prísnejších regulácií.

3. Zakázané praktiky
Zákon úplne zakazuje napríklad:

• Subliminálne alebo manipulatívne techniky, ktoré ovplyvňujú správanie ľudí bez ich vedomia.

• Sociálne skórovanie (hodnotenie osôb na základe správania).

• Necielené zbieranie tvárí z internetu na databázy rozpoznávania.

• Odhadovanie emócií ľudí v práci a v škole (okrem medicínskych a bezpečnostných účelov).

• Biometrickú identifikáciu osôb v reálnom čase na verejných miestach (s úzkymi výnimkami, napr. pátranie po obetiach trestných činov).

4. Požiadavky na vysokorizikové systémy
Ak vo firme používate vysokorizikové AI systémy (napr. nástroje na nábor, hodnotenie výkonu, či správu infraštruktúry), musíte:

• Registrovať ich v európskej databáze.

• Mať označenie CE (ako záruku zhody).

• Viesť technickú dokumentáciu (popis algoritmov, dát, obmedzení a opatrení).

• Zaznamenávať činnosť systémov (logy na sledovanie a audit).

• Zabezpečiť ľudský dohľad – AI nesmie byť autonómnym rozhodcom bez možnosti zásahu človeka.

5. Transparentnosť a označovanie
EU AI Act vyžaduje, aby bolo vždy jasné, kedy pracujete s AI. Ak AI komunikuje s ľuďmi, musíte ich o tom informovať. Ak generuje obsah (text, obraz, video), musí byť označený ako umelý. Deepfaky alebo manipulatívny obsah? Tie musia byť jasne označené a identifikovateľné.

6. AI gramotnosť (článok 4)
Najväčšia novinka – od 2. februára 2025 musia poskytovatelia aj používatelia AI zabezpečiť, aby ich zamestnanci mali primerané znalosti a zručnosti v oblasti AI. Inými slovami – nestačí, že im dáte prístup k nástroju. Musia chápať, ako AI funguje, aké má limity, aké sú etické a právne riziká a kedy zasiahnuť.

7. Sankcie a zodpovednosť
Za porušenie pravidiel hrozia pokuty až do 35 miliónov eur alebo 7 % celosvetového ročného obratu spoločnosti. A pozor: od 2. augusta 2025 môžete niesť občianskoprávnu zodpovednosť, ak škodu spôsobí neprimerane vyškolený personál pri práci s AI.

To všetko spolu znamená jediné: AI už nemôžete používať „na divoko“. Musíte mať stratégiu, pravidlá a vyškolených ľudí.

Celý text nájdete tu: https://eur-lex.europa.eu/legal-content/CS/TXT/?uri=CELEX:32024R1689 – má 144 strán a určite stojí za to si ho preštudovať.

Pripraviť firmu na EU AI Act nemusí byť bolesť

My sme to už celé naštudovali – tých 144 strán legislatívy, ktoré by vás inak čakali, máme v malíčku. Vieme presne, čo zákon vyžaduje a ako to zapracovať do praxe tak, aby ste splnili povinnosti a zároveň to dávalo zmysel pre váš biznis. Berme to takto: EU AI Act je nové BOZP pre prácu s umelou inteligenciou. Tak, ako máte školenia o bezpečnosti práce budete musieť mať aj školenia o bezpečnom používaní AI. Rozdiel? My to vieme spraviť rýchlo, efektívne a bez zbytočnej byrokracie.

Ponúkame vám 2 formy riešenia:

• Firemné školenie na mieru – prídeme k vám (alebo to zrealizujeme online), nastavíme pravidlá, vysvetlíme povinnosti a naučíme vašich ľudí, ako AI používať zodpovedne.

• Videokurz pre zamestnancov – 3-hodinový intenzívny kurz, ktorý nahráme a prispôsobíme vašej firme. Zamestnanci si ho môžu prejsť kedykoľvek a kdekoľvek vo svojom tempe.

Vaša firma bude pripravená. Vy dostanete istotu, že spĺňate legislatívne požiadavky. A vaši ľudia získajú certifikáty, ktorými preukážu, že absolvovali školenie a majú dostatočnú AI gramotnosť – čo je presne to, čo zákon vyžaduje. Je to efektívnejšie, ako aby ste to celé študovali sami a skúšali improvizovať. My to urobíme za vás – rýchlo, prakticky a tak, aby ste mali pokoj.

Chcete mať firmu pripravenú ešte predtým, než prídu prvé kontroly? Ozvite sa nám a pripravíme pre vás balík na mieru – či už ako videokurz, alebo školenie pre ľubovoľný počet účastníkov.

EU Act kurzy a vzdelávanie:

Kontaktujte nás

Obrázky v článku boli generované pomocou AI služby Sora.
Na korektúru textu sa používal ChatGPT.