Riadenie AI bez chaosu

Riadenie AI bez chaosu

Srdečne vás pozývame na školenie: Riadenie AI bez chaosu. Princípy, procesy a zodpovednosti. Riadenie organizácie, ktorá používa umelú inteligenciu so zreteľom na riziká, bezpečnosť, právne povinnosti, governance a zavedenie systému manažérstva AI (AIMS).

Workshop je koncipovaný pre vedenie organizácií a pracovníkov zapojených do riadenia rizík, súladu, ochrany údajov, kybernetickej bezpečnosti, interného auditu, obstarávania a prevádzky AI systémov, právnikov a nadšencov pre AI.

Cieľom je vytvoriť spoločný manažérsky rámec pre rozhodovanie o AI. Účastníci majú pochopiť, prečo sa AI nedá riadiť iba ako bežný softvér, aké riziká vznikajú v celom AI systéme a ako sa tieto riziká prepájajú s požiadavkami AI Actu, GDPR a STN ISO/IEC 42001.

Očakávané výsledky vzdelávania

• Vysvetliť základný rozdiel medzi klasickým softvérom a AI systémom;
• rozpoznať hlavné kybernetické, prevádzkové, právne a governance riziká AI;
• opísať úlohu systému manažérstva AI a Demingovho cyklu (PDCA) v kontexte nasadzovania a prevádzky systémov AI;
• opísať obsah jednotlivých kapitol technickej normy STN ISO/IEC 42001 Informačné technológie – Umelá inteligencia – Systém manažérstva;
• odlíšiť governance od operatívneho manažmentu a pomenovať zodpovednosti vedenia organizácie;
• navrhnúť prvé praktické kroky pre zavedenie AI: mandát, rozsah, inventúru AI, dočasné pravidlá, roly a pilotné posúdenie rizík;
• identifikovať potrebnú dokumentáciu a kompetencie potrebné na riadenie a auditovanie AIMS.

Obsah školenia:

1. Otvorenie a úvod do riadenia umelej inteligencie

• vzájomné predstavenie a rámec workshopu;
• prečo sa AI stala strategickou a masovo používanou technológiou;
• GenAI v kancelárskej práci, otvorené modely a meniace sa konkurenčné prostredie;
• Shadow AI ako dôsledok používania neschválených nástrojov

2. Čo je AI a ako funguje?

• definícia AI podľa ISO/IEC 22989 a AI Actu; opisné vymedzenie generatívnej AI;
• čo AI nie je: absencia vedomia, úmyslu a skutočného porozumenia obsahu;
• neurónové siete, modely na všeobecné účely, foundation models a veľké jazykové modely;
• klasifikácia podľa schopností: ANI, hypotetická AGI a ASI;
• vývoj od expertných systémov cez strojové a hlboké učenie po foundation models a GenAI;
• klasická deterministická architektúra verzus trénovaný pravdepodobnostný model;
• rozdiel medzi databázou, tréningovým datasetom a znalosťami LLM;
• prompt ako dátový vstup, inštrukcia a faktor ovplyvňujúci výsledok;
• tokenizácia a postupné generovanie výstupu ako štatistickej predpovede;
• Retrieval-Augmented Generation (RAG) a dopĺňanie modelu o kontext a interné zdroje,
• vplyv promptu, kontextu, tréningových dát, nastavení modelu a pravidiel systému na odpoveď

3. Riadenie rizík a bezpečnosť AI

• DIKW hierarchia a rozdiel medzi dátami, informáciami, vedomosťami a ľudským úsudkom;
• hodnota informácií a ochrana údajov pri používaní LLM;
• kategórie informácií, ktoré nepatria do verejných AI systémov;
• reálne cesty úniku dát a človek ako posledná vrstva ochrany;
• hranice AI systému a dlhší bezpečnostný horizont počas celého životného cyklu;
• MIT AI Risk Repository a OWASP Top 10 for LLM Applications ako zdroje pracovnej taxonómie rizík;
• technicko-bezpečnostné riziká: prompt leakage, cross-tenant leakage, RAG leakage, nebezpečné spracovanie výstupu, nadmerné oprávnenia a autonómia, prompt injection;
• prevádzkové riziká: halucinácie, neobmedzená spotreba zdrojov, nadmerné spoliehanie sa, bias a fairness, neauditovateľnosť rozhodnutí;
• právne a compliance riziká: GDPR, minimalizácia údajov, právo na vymazanie, zmena účelu, klasifikácia podľa AI Actu, vysokorizikové systémy, zakázané praktiky, transparentnosť, GPAI a autorské právo;
• governance riziká: dodávateľský reťazec, integrita modelu, neklasifikované dáta, nadhodnotené prístupy, chýbajúce opatrenia nad RAG a Shadow AI;
• priorizácia scenárov podľa pravdepodobnosti a dopadu; zodpovednosť za kontrolné opatrenia na hraniciach systému

4. ISO/IEC 42001 – systém manažérstva umelej inteligencie (AIMS)

• pojem systému manažérstva a význam PDCA cyklu;
• účel, rozsah a používatelia ISO/IEC 42001;
• AIMS ako súbor politík, procesov, zodpovedností, cieľov, kontrol a dôkazov;
• hodnota technickej normy ISO/IEC 42001 a jej miesto v ekosystéme noriem pre AI;
• harmonizovaná štruktúra manažérskych noriem;
• norma – kapitola 4: kontext organizácie, zainteresované strany a rozsah AIMS;
• norma – kapitola 5: leadership, politika, roly, zdroje a preukázateľné zapojenie vedenia;
• norma – kapitola 6: plánovanie, posudzovanie rizík a vplyvov, ciele a plán opatrení;
• norma – kapitola 7: podpora, kompetencie, povedomie, komunikácia a riadená dokumentácia;
• norma – kapitola 8: prevádzkové plánovanie a riadenie životného cyklu AI systémov;
• norma – kapitola 9: monitoring, meranie, interný audit a preskúmanie vedením;
• norma – kapitola 10: nezhody, nápravné opatrenia a neustále zlepšovanie;
• norma – Annex A: referenčné ciele opatrení a 38 opatrení v deviatich oblastiach;
• rozdiel a väzba medzi governance a managementom;
• trustworthy AI ako hodnotový základ governance;
• vzťah Nariadenia o umelej inteligencii a STN ISO/IEC 42001: právne povinnosti verzus trvalý mechanizmus ich riadenia a preukazovania;
• regulačné režimy AI Actu, GPAI modely a posudzovanie vplyvu AI

5. Praktická implementácia AIMS

• implementácia ako transformačný projekt a AIMS ako fungujúci systém, nie iba súbor dokumentov;
• prvé kroky: mandát vedenia, rozsah, vlastník AIMS a počiatočný register AI systémov;
• dočasné pravidlá, povolené a zakázané použitia, schvaľovanie nástrojov a hlásenie incidentov;
• roly, rozhodovacie právomoci, eskalácia, AI governance committee, RACI matica a profil AI Officera;
• šesť otázok pre generatívnu AI a GDPR pred nasadením;
• životný cyklus jedného AI systému od konceptu po vyradenie;
• implementačná cesta: inventúra a kontext, posúdenie a priority, návrh riadenia, pilot, audit a preskúmanie;
• tri úrovne dokumentácie a regulačné dôkazy;
• riadenie organizačnej zmeny a prekonávanie odporu;
• orientačný implementačný horizont od prvých 30 dní po rozšírenie a zlepšovanie;
• premortem: pätnásť typických chýb pri zavádzaní AI governance;
• čo bude audítor ISO/IEC 42001 požadovať ako dokumentáciu, dôkazy, funkčné procesy a kompetencie;
• špecifiká implementácie AI v štátnej správe;
• tri bezprostredné rozhodnutia pre implementáciu AIMS.

Detaily podujatia:

• Miesto: Hotel Premium ****, Bratislava
• Dátum: 18.09.2026
• Čas: 9:00 – 17:00
• Účastnícky poplatok: 200 € bez DPH

Lektor:

Ing. Bc. Ivan Makatura, CRISC, CDPSE, C-CISO

S viac ako 30-ročnými skúsenosťami v oblasti IT patrí Ivan medzi absolútnu špičku slovenských odborníkov na informačnú a kybernetickú bezpečnosť. Svoje hlboké znalosti uplatnil na vrcholových manažérskych pozíciách v bankovom sektore aj v kľúčových štátnych a medzinárodných inštitúciách. V súčasnosti pôsobí ako Managing Partner v spoločnosti Makatura & Semančín, je predsedom správnej rady Asociácie kybernetickej bezpečnosti a pôsobí aj ako Senior Cybersecurity Advisor pre U. S. Steel Košice. Je tiež licencovaným súdnym znalcom v oblasti bezpečnosti a ochrany informačných systémov a certifikovaným audítorom a manažérom kybernetickej bezpečnosti (NBÚ).

Registrácia:

Vaša cesta k hlbšej expertíze začína jednoduchým klikom v našom e-shope.

Tešíme sa na vás a na energiu, ktorú spoločne do tejto témy vnesieme.

Ak ste držiteľom zľavového kódu, budeme radi, ak si ním spríjemníte nákup v príslušnom poli košíka (políčko nad Fakturačnými údajmi).