Čo je a čo nie je AI systém

Cieľ lekcie

Po tejto lekcii budete vedieť rozlíšiť, ktorý nástroj vo vašej firme je AI systém v zmysle AI Act a ktorý nie je bežná automatizácia alebo tabuľkový vzorec. Naučíte sa vytvoriť jednoduchý register AI nástrojov a rozhodnúť o konkrétnej žiadosti zamestnanca v štyroch krokoch: pôsobnosť → fakty → rozhodnutie → dôkaz. Cieľom nie je memorovať definíciu, ale vedieť ju použiť na váš reálny prípad a nechať po sebe auditnú stopu.

Výklad

Prečo to má riešiť konateľ, a nie „IT-čkár"

Časté je presvedčenie: „My nevyvíjame umelú inteligenciu, nás sa AI Act netýka." Lenže nariadenie nedopadá len na vývojárov a dodávateľov – týka sa aj toho, kto AI systémy vo firme používa. A to je dnes takmer každá firma, často bez toho, aby o tom vedenie vedelo.

Článok 4 AI Act ukladá poskytovateľom a nasadzujúcim subjektom (t. j. aj firme, ktorá AI systém iba používa), aby zabezpečili primeranú úroveň AI gramotnosti u ľudí, ktorí s týmito systémami vo firme pracujú. Táto povinnosť platí od februára 2025. Pozor na pojmy: „nasadzujúci subjekt" je pojem AI Act, kým „prevádzkovateľ" je termín z GDPR – nie je to to isté.

Zároveň platí jednoduché pravidlo zodpovednosti: keď zamestnanec nahrá firemné dáta do cudzieho nástroja, navonok – voči úradu, klientom a dotknutým osobám – zodpovedá firma ako zamestnávateľ. Interne tým však nezaniká zodpovednosť zamestnanca za škodu podľa Zákonníka práce (§ 179 a nasl.) ani jeho zodpovednosť za porušenie interných pravidiel, mlčanlivosti či obchodného tajomstva. Vy ako konateľ ste ten, kto riadi riziko, a bez prehľadu o používaných nástrojoch ho riadiť nedokážete.

Úroveň školenia pritom nemá byť rovnaká pre všetkých. Má zodpovedať technickým znalostiam používateľov, kontextu použitia a rizikám konkrétnych systémov – iné potrebuje marketér generujúci obrázky a iné personalistka, ktorá si necháva predtriediť životopisy.

Definícia AI systému ľudskou rečou

Definícia v nariadení znie technicky, preložme si ju do praxe. AI systém je strojový (softvérový) systém, ktorý funguje s určitou mierou autonómie, z vstupov si sám odvodí, ako vytvoriť výstup, môže sa prispôsobovať a jeho výstup ovplyvňuje prostredie, do ktorého vstupuje. Výstupom býva text, obrázok, predpoveď, odporúčanie alebo priamo rozhodnutie.

Kľúčové slovo je odvodzuje. Nie je vopred naprogramované, čo presne vyjde von. Praktický test na jednu otázku:

Dokážem dopredu s istotou povedať, čo mi ten nástroj na daný vstup vráti?

Ak áno, ide skôr o klasickú automatizáciu. Ak nie – ak dva razy položíte tú istú otázku a dostanete dve rôzne odpovede – s vysokou pravdepodobnosťou pracujete s AI systémom.

Čo AI systémom nie je

Rovnako dôležité je vedieť, čo do registra nepatrí:

• Vzorce a kontingenčné tabuľky v Exceli – aj zložitý výpočet marže či cash-flow je pevná matematika, nie AI.
• Makrá a pravidlá typu „ak – tak" – napríklad pravidlo, že faktúra nad 5 000 eur ide automaticky na schválenie konateľovi. Niekto to napísal, výsledok je predvídateľný.
• Klasická automatizácia a prepisovanie dát – softvérový robot, ktorý prenáša údaje z e-shopu do účtovného systému, sám o sebe nie je AI.
• Filtre, triedenie, šablóny e-mailov, automatické odpovede z pevného textu.

Nesnažte sa označiť za AI všetko. Ak do registra zapíšete aj kontingenčnú tabuľku, rozriedite pozornosť a stratíte prehľad práve tam, kde riziko naozaj je.

Typické AI nástroje v malej slovenskej firme

Pozrite sa na bežný deň vo vašej firme:

• obchodník si necháva generatívnym asistentom napísať cenovú ponuku alebo e-mail klientovi,
• asistentka dá prepísať nahrávku porady a vygenerovať zápisnicu,
• marketing generuje obrázky a texty na sociálne siete,
• na webe beží chatbot odpovedajúci zákazníkom,
• účtovníčka používa AI funkciu na čítanie a zatriedenie faktúr,
• personalistka si necháva predtriediť životopisy alebo firma skóruje bonitu klientov.

Všetko sú to AI systémy. Posledné dva príklady sú najcitlivejšie: predvýber uchádzačov o zamestnanie aj hodnotenie úverovej bonity fyzických osôb sú podľa prílohy III AI Act vysokorizikové použitia, pretože priamo ovplyvňujú živobytie a prístup konkrétnych ľudí k službám. Povinnosti nasadzujúcich subjektov pre vysokorizikové systémy sa uplatňujú od 2. augusta 2026 – konkrétny prípad si preto overte v aktuálnom znení nariadenia. Všimnite si tiež, že väčšina týchto nástrojov sa do firmy dostala zdola – bez schválenia, bez zmluvy, často v bezplatnej verzii.

Register AI nástrojov: čo v ňom má byť

Hlavná myšlienka lekcie: firma má vedieť, aké AI systémy reálne používa, kto ich používa a na aký účel. Nepotrebujete drahý softvér, stačí jeden zdieľaný hárok so stĺpcami:

Ako ho naplniť? Urobte krátky prieskum medzi ľuďmi a opýtajte sa priamo, čo používajú. A vopred sľúbte, že za priznanie nebude postih – inak vám polovicu nástrojov zamlčia a budete mať pekný, ale falošný register.

Dáta, ľudský dohľad a overovanie výstupu

Tri okruhy strážte najviac: osobné údaje (režim GDPR), obchodné tajomstvo a výstupy s dopadom na konkrétneho človeka.

Platí jednoduché pravidlo: za výstup zodpovedá človek, ktorý ho použil. AI sa mýli sebavedomo – vymyslí paragraf, judikát aj číslo. Typický prípad z praxe: zamestnanec si nechá zhrnúť zmluvu a model doplní ustanovenie, ktoré tam vôbec nie je. Odhalí to len ten, kto zmluvu naozaj otvorí.

Preto vo firemných pravidlách zakotvte: žiadne rozhodnutie o prijatí uchádzača, o výpovedi ani o zamietnutí klienta nesmie vzniknúť len z výstupu AI. A zakážte vkladanie hesiel, kompletných zmlúv, zdravotných a iných citlivých údajov do verejných nástrojov.

Praktická situácia

Firma: veľkoobchod s 18 zamestnancami. Obchodný zástupca chce vložiť exportovaný zoznam klientov (meno, e-mail, telefón, história objednávok) do bezplatného online AI nástroja, aby mu k nim vygeneroval personalizované oslovenia.

1. Pôsobnosť – ide vôbec o AI systém? Áno. Nástroj z vloženého vstupu sám odvodzuje text, výstup nie je vopred predvídateľný. Nejde o makro ani šablónu. Téma teda spadá do registra AI nástrojov aj do pravidiel o AI gramotnosti podľa článku 4 AI Act.

2. Fakty – aké dáta a aký účel. Vstupujú tam osobné údaje klientov a čiastočne obchodné tajomstvo (štruktúra odberov). Nevieme, či dodávateľ v bezplatnej verzii používa vložené dáta na ďalšie trénovanie. Chýba nám informácia o podmienkach služby a o tom, kde sú dáta uložené.

3. Rozhodnutie. Nie plošný zákaz úlohy – tá je legitímna. Zvolíme obmedzenie: oslovenia sa generujú bez identifikačných údajov (žiadne mená, kontakty, sumy), alebo sa úloha presunie do firemnej platenej verzie s primeranými zmluvnými podmienkami. Personalizácia sa doplní ručne až vo firemnom CRM. Výstup pred odoslaním číta vedúci obchodu.

4. Dôkaz. Zápis do registra AI nástrojov (názov, účel, obmedzenie), schválenie ownerom pre AI s dátumom, krátky e-mail alebo zápis v zdieľanom hárku, informovanie tímu. Bez štvrtého kroku ste z pohľadu kontroly neurobili nič – rozhodnutie, ktoré nie je nikde zaznamenané, neexistuje.

Čo zariadiť vo firme

• Konateľ – určí ownera pre AI (jeden konkrétny človek, napr. prevádzkový manažér), ktorý vedie register a schvaľuje nové nástroje. Dôkaz: písomné poverenie s dátumom.
• Owner – do 30 dní spustí prieskum medzi zamestnancami („čo reálne používate", bez postihu za priznanie) a naplní register AI nástrojov. Dôkaz: vyplnený zdieľaný hárok.
• Konateľ + owner – schvália interné pravidlá na jednu stranu: čo sa smie, čo nie (heslá, zmluvy, zdravotné a osobné údaje), koho sa pýtať pri novom nástroji. Dôkaz: podpísaný dokument, potvrdenie o oboznámení zamestnancov.
• Vedúci oddelení – zabezpečia školenie primerané rizikám a rolám používateľov (iné pre marketing, iné pre HR pri triedení životopisov). Dôkaz: prezenčná listina alebo záznam o absolvovaní, obsah školenia.
• Owner – nastaví termín review (napr. raz ročne a vždy pri zavedení nového nástroja) a pri opakovaných situáciách spíše krátke SOP/checklist. Dôkaz: dátum ďalšieho review v registri.
• Zamestnanci – pred použitím nového AI nástroja podajú žiadosť ownerovi. Dôkaz: e-mail so schválením a dátumom.

Najčastejšie chyby

• „Nás sa to netýka." Konateľ tvrdí, že firma AI nepoužíva, pritom polovica tímu si v nej píše e-maily a marketing generuje obrázky.
• Citlivé dáta vo verejných bezplatných nástrojoch – zoznamy klientov, zmluvy, osobné či zdravotné údaje vložené bez akýchkoľvek pravidiel a bez vedomosti, kde dáta skončili.
• Opačný extrém: za AI sa označí každý Excel. Register sa zahltí kontingenčnými tabuľkami a makrami a skutočné riziká v ňom zaniknú.
• Žiadna auditná stopa – nástroj sa používa, ale nikde nie je zapísané, kto ho schválil, kedy a s akými obmedzeniami.
• Rozhodnutia o ľuďoch bez ľudskej kontroly – zamietnutie uchádzača, výpoveď alebo odmietnutie klienta postavené len na výstupe AI. Najnebezpečnejšia chyba z celého zoznamu.

Zhrnutie

AI systém je nástroj, ktorý si z vašich vstupov sám odvodí výstup a ktorého výsledok neviete dopredu s istotou predpovedať – na rozdiel od vzorcov, makier a klasickej automatizácie. Vaša firma potrebuje vedieť, aké AI nástroje reálne používa, kto ich používa a na aký účel; na to stačí jeden zdieľaný register, určený owner a krátke pravidlá na jednu stranu. Predvýber uchádzačov a hodnotenie úverovej bonity fyzických osôb patria podľa prílohy III medzi vysokorizikové použitia – tam buďte najopatrnejší. Každé rozhodnutie o nástroji prechádza krokmi pôsobnosť → fakty → rozhodnutie → dôkaz a za výstup vždy zodpovedá konkrétny človek, nie model.

Hranica tohto kurzu: nejde o certifikáciu AI systému ani o posúdenie zhody. EÚ nevyžaduje osobitný certifikát ani štátom schváleného školiteľa pre AI gramotnosť podľa článku 4. Konkrétne prípady si overte v aktuálnom znení AI Act a s vaším právnikom, pri spracúvaní osobných údajov – ak ju máte určenú – aj so zodpovednou osobou (DPO).

Právny základ: nariadenie Európskeho parlamentu a Rady (EÚ) 2024/1689 z 13. júna 2024, ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie (akt o umelej inteligencii) – najmä definícia AI systému (článok 3), článok 4 o AI gramotnosti (povinnosť uplatniteľná od februára 2025) a príloha III k vysokorizikovým použitiam (povinnosti nasadzujúcich subjektov od 2. augusta 2026); nariadenie (EÚ) 2016/679 (GDPR) a zákon č. 18/2018 Z. z. o ochrane osobných údajov a o zmene a doplnení niektorých zákonov – pri spracúvaní osobných údajov v AI nástrojoch; Obchodný zákonník (§ 17 a nasl.) k ochrane obchodného tajomstva; Zákonník práce (§ 179 a nasl. k zodpovednosti zamestnanca za škodu) pri rozhodnutiach týkajúcich sa uchádzačov a zamestnancov.