Kurz EU AI Act pre zamestnancov, pravidlá používania AI vo firme
bezpečnosť, etika, transparentnosť a zodpovednosť

AI systémy dnes - úvod a technológia – ZÁKLAD

• Čo je to AI a ako funguje (jednoducho)
• Tréning AI modelov a ich vedomosti
• Ako pracovať s AI – základy promptov
• Prehľad dnešných AI nástrojov: ChatGPT, Gemini, Copilot, Grok, Claude AI
• Licencie a podmienky používania týchto systémov
• Rozdiely medzi bezplatnými a platenými verziami
• Ako rozpoznať generovaný obsah (texty, obrázky, videá)

Definícia AI systému (Článok 3) – BEZPEČNOSŤ

• Čo je a čo nie je AI systém podľa EU AI Act
• Kde všade AI používame v práci
• Rozoznanie AI nástrojov
• Bezpečné vs nebezpečné AI aplikácie
• Interné riziká pri nevedomom používaní AI
• Používanie bezplatných AI systémov a ich riziká
• Neexistujúce SLA, žiadna záruka presnosti, možnosť zneužitia dát
• Nemožnosť kontroly nad verziou modelu alebo aktualizáciami
• Licenčné obmedzenia pri AI nástrojoch
• Rozdiel medzi osobným, nekomerčným a firemným použitím
• Riziko porušenia licencie pri použití bez čítania podmienok

AI literacy – povinnosť gramotnosti (Článok 56) – ZODPOVEDNOSŤ

• Čo je AI gramotnosť
• Prečo je to zákonná povinnosť
• Kto zodpovedá za zabezpečenie gramotnosti
• Osobná zodpovednosť každého zamestnanca
• Ako zabezpečiť školenia vo firme
• Príklady nevhodného používania AI pre nedostatok gramotnosti

Kategorizácia rizík – neprijateľné riziko (Článok 5) – ETIKA

• Neprijateľné riziko – zakázané praktiky
• Etické hranice používania AI
• Kde sa AI nesmie používať
• Vplyv na dôveru zákazníkov a reputáciu firmy

Kategorizácia rizík – vysoké, limitované, minimálne riziko (Článok 6) – BEZPEČNOSŤ

• Vysoké riziko – systémy s prísnou reguláciou
• Limitované riziko – transparentnosť
• Minimálne riziko – voľné používanie
• Bezpečnostné opatrenia pre každú kategóriu
• Konkrétne príklady z HR, školstva, zdravotníctva

Zakázané AI praktiky (Článok 5) – ETIKA

• Manipulácia a sublimálne techniky
• Sociálne skórovanie
• Biometrická identifikácia bez súhlasu
• Rozpoznávanie emócií na pracovisku
• Príklady a dôsledky pri porušení týchto zákazov

AI v HR a hodnotení zamestnancov – BEZPEČNOSŤ A ZODPOVEDNOSŤ

• Automatizovaný výber kandidátov
• Algoritmy na hodnotenie výkonnosti
• Povinnosti firmy v prípade vysokorizikových HR systémov
• Transparentnosť voči uchádzačom a zamestnancom

Provider – poskytovateľ AI (Články 3, 16) – ZODPOVEDNOSŤ

• Kto je poskytovateľ AI systému
• Povinnosti poskytovateľa
• Zodpovednosť za vývoj a nasadenie
• Zmluvné podmienky a garancie
• Dokumentácia, testovanie, súlad so zákonom

Deployer – používateľ AI (Články 3, 26) – ZODPOVEDNOSŤ

• Kto je používateľ AI systému
• Povinnosti používateľa
• Zodpovednosť pri používaní AI
• Monitorovanie výstupov a ich kontrola
• Spolupráca s IT oddelením a právnikom

Transparentnosť a označovanie (Články 13, 52) – TRANSPARENTNOSŤ

• Povinnosť informovať o použití AI
• Označovanie AI-generovaného obsahu
• Deepfakes a manipulované médiá
• Otvorená komunikácia s kolegami a klientmi
• Ako správne formulovať upozornenia na AI obsah

Ľudský dohľad (Článok 14) – ZODPOVEDNOSŤ

• Povinnosť ľudskej kontroly
• Kedy človek musí zasiahnuť
• Zodpovednosť za AI rozhodnutia
• Príklady, kde dohľad zlyhal (a čo to spôsobilo)

Bezpečnostné opatrenia (Článok 15) – BEZPEČNOSŤ

• Presnosť a spoľahlivosť AI systémov
• Kybernetická bezpečnosť
• Bezpečnostné kontrolné mechanizmy
• Testovanie pred nasadením do praxe
• Monitoring a spätná väzba používateľov

Ochrana osobných údajov (GDPR + AI Act) – BEZPEČNOSŤ

• Citlivé dáta v AI systémoch
• Biometrické údaje
• Osobné údaje tretích strán
• Spracúvanie dát mimo EÚ a ich riziká

Etické zaobchádzanie s údajmi – ETIKA

• Etické princípy práce s dátami
• Súhlas a transparentnosť
• Spravodlivosť a nediskriminácia
• Ochrana pred biasom a chybami algoritmov

Hlásenie incidentov (Články 62, 73) – TRANSPARENTNOSŤ

• Kedy treba nahlásiť problém s AI
• Komu a ako nahlásiť
• Transparentné riešenie problémov
• Príklady incidentov, ktoré sa mali hlásiť – a neboli

Interné smernice a kontrolné procesy – PRAKTICKÁ APLIKÁCIA

• Pravidlá používania AI vo firme
• Zodpovedné osoby a schvaľovanie nástrojov
• Interný register AI nástrojov
• Školenia a pravidelné hodnotenia rizík

Riziká a sankcie – ZODPOVEDNOSŤ

• Reálne prípady porušenia AI Actu
• Pokuty až do 35 miliónov eur alebo 7 % obratu
• Zodpovednosť firmy aj jednotlivca
• Ako sa tým vyhnúť – prevencia a dokumentácia

Vzťah k iným zákonom a štandardom – PRÁVNY RÁMEC

• Súvis s GDPR, zákonníkom práce, kybernetickým zákonom
• ISO/IEC 42001 – AI management systém
• Prepojenie s firemnými procesmi a compliance

Záver a diskusia – PRAKTICKÁ APLIKÁCIA

• Zhrnutie kľúčových pravidiel
• Praktické príklady z každodennej práce
• Q&A – otázky a odpovede účastníkov
• Diskusia o konkrétnych situáciách vo firmách
• Ako implementovať naučené pravidlá v praxi

Oficiálna dokumentácia EU AI Act

Kompletné informácie o nariadení na stránke Európskeho parlamentu:
https://www.europarl.europa.eu/topics/en/article/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence