Gramotnosť v oblasti AI pre váš tím: bezplatný kurz, test a osvedčenie

Systémy AI sa učia vzory z veľkého množstva údajov a potom predpovedajú odpoveď: ďalšie slovo, popis obrázka, číslo.

Generatívna AI (četovací asistenti, nástroje na obrázky) píše texty alebo vytvára obrázky, ktoré pôsobia presvedčivo – ale fakty „nepozná“. Môže sa mýliť veľmi sebaisto. Tomu sa často hovorí „halucinácia“.

Užitočné pravidlo: berte výstup AI ako koncept od rýchleho nového kolegu. Pomôže, ale skontrolujete ho.

AI je často skrytá v bežných nástrojoch: četovací asistenti, preklady, pomocníci na písanie e-mailov, kontrola pravopisu, editory obrázkov, chatboty zákazníckeho servisu, triedenie životopisov, cielenie reklamy, kontroly podvodov.

Urobte si krátky zoznam: aký nástroj, kto ho používa, na čo a aké údaje sa doň vkladajú. Tento zoznam potrebujete pre svoje zásady AI (lekcia 6).

V jazyku AI Act je vaša firma zvyčajne „nasadzujúci subjekt“ (AI používate) a niekedy „poskytovateľ“ (vyvíjate alebo predávate systém AI pod svojím menom).

Chyby: vymyslené fakty, zlé čísla, falošné zdroje alebo citáty.

Skreslenie: AI môže s niektorými skupinami ľudí zaobchádzať nespravodlivo, napríklad pri nábore alebo rozhodovaní o úveroch.

Osobné a tajné údaje: čo napíšete do verejného nástroja AI, môže poskytovateľ uložiť alebo použiť. Nevkladajte údaje zákazníkov, zdravotné údaje, heslá ani obchodné tajomstvá, ak vaša firma nástroj na to neschválila.

Autorské práva a práva na podobu: vytvorený obsah môže byť blízky existujúcim dielam. S obrázkami skutočných ľudí zaobchádzajte opatrne.

Prílišná dôvera: ľudia majú sklon prijímať odpoveď počítača. Zostaňte kritickí.

AI Act triedi AI podľa rizika.

Zakázané praktiky (od 2. februára 2025): napríklad manipulácia, ktorá spôsobuje ujmu, sociálne bodovanie, rozpoznávanie emócií v práci alebo v škole (s úzkymi výnimkami).

Vysokoriziková AI (napríklad pri nábore, vo vzdelávaní, pri úveroch, základných službách): prísne pravidlá pre poskytovateľov a povinnosti pre nasadzujúce subjekty, ako ľudský dohľad a záznamy.

Transparentnosť (článok 50): ľudia musia byť informovaní, keď četujú s AI, ak to nie je zrejmé; deepfakes a niektoré texty vytvorené AI musia byť označené.

Gramotnosť v oblasti AI (článok 4): prijmite opatrenia na podporu zručností svojho tímu v oblasti AI – napríklad tento kurz.

Platia aj ďalšie zákony: GDPR, spotrebiteľské právo, autorské právo, zákaz diskriminácie.

Pred použitím kontrolujte: fakty, čísla, mená, odkazy, právne alebo zdravotné tvrdenia.

Rozhodnutia o ľuďoch (nábor, ceny pre konkrétnu osobu, sťažnosti) nechajte v rukách človeka.

Na firemné údaje používajte len schválené nástroje a kde sa dá, vypnite trénovanie na svojich údajoch.

Buďte otvorení: povedzte zákazníkom, keď komunikujú s chatbotom, a kde je to potrebné, označte obrázky alebo texty vytvorené AI.

Píšte dobré prompty: dajte kontext, žiadajte zdroje, požiadajte nástroj, aby povedal, keď si nie je istý.

Hláste problémy: ak AI vytvorila niečo škodlivé alebo chybné, povedzte to zodpovednej osobe.

Krátke písomné zásady pomáhajú, aby sa všetci riadili rovnakými pravidlami, a ukazujú, aké opatrenia ste prijali. Mali by uvádzať: ktoré nástroje AI sú povolené a na čo, aké údaje sa do nich nikdy nesmú vkladať, kto kontroluje výstupy AI, ako informujete zákazníkov, kto je zodpovedný a ako sa pravidlá naučia noví zamestnanci (napríklad týmto kurzom).

Stiahnite si šablónu nižšie, doplňte hranaté zátvorky a raz ročne ju skontrolujte.