Gramotnost v oblasti AI pro váš tým: bezplatný kurz, test a osvědčení

Systémy AI se učí vzory z velkého množství dat a pak předpovídají odpověď: další slovo, popisek obrázku, číslo.

Generativní AI (chatovací asistenti, nástroje na obrázky) píše texty nebo vytváří obrázky, které působí přesvědčivě – ale fakta „nezná“. Může se mýlit velmi sebejistě. Tomu se často říká „halucinace“.

Užitečné pravidlo: berte výstup AI jako koncept od rychlého nového kolegy. Pomůže, ale zkontrolujete ho.

AI je často skrytá v běžných nástrojích: chatovací asistenti, překlady, pomocníci pro psaní e-mailů, kontrola pravopisu, editory obrázků, chatboti zákaznického servisu, třídění životopisů, cílení reklamy, kontroly podvodů.

Udělejte si krátký seznam: jaký nástroj, kdo ho používá, k čemu a jaká data se do něj vkládají. Tento seznam potřebujete pro své zásady AI (lekce 6).

V jazyce AI Act je vaše firma obvykle „zavádějící subjekt“ (AI používáte) a někdy „poskytovatel“ (vyvíjíte nebo prodáváte systém AI pod svým jménem).

Chyby: vymyšlená fakta, špatná čísla, falešné zdroje nebo citace.

Zkreslení: AI může s některými skupinami lidí zacházet nespravedlivě, například při náboru nebo rozhodování o úvěrech.

Osobní a tajné údaje: co napíšete do veřejného nástroje AI, může poskytovatel uložit nebo použít. Nevkládejte údaje zákazníků, zdravotní údaje, hesla ani obchodní tajemství, pokud vaše firma nástroj k tomu neschválila.

Autorská práva a práva k podobě: vytvořený obsah může být blízký existujícím dílům. S obrázky skutečných lidí zacházejte opatrně.

Přílišná důvěra: lidé mají sklon přijímat odpověď počítače. Zůstaňte kritičtí.

AI Act třídí AI podle rizika.

Zakázané praktiky (od 2. února 2025): například manipulace, která způsobuje újmu, sociální bodování, rozpoznávání emocí v práci nebo ve škole (s úzkými výjimkami).

Vysoce riziková AI (například při náboru, ve vzdělávání, u úvěrů, základních služeb): přísná pravidla pro poskytovatele a povinnosti pro zavádějící subjekty, jako lidský dohled a záznamy.

Transparentnost (článek 50): lidé musí být informováni, když chatují s AI, pokud to není zřejmé; deepfakes a některé texty vytvořené AI musí být označeny.

Gramotnost v oblasti AI (článek 4): přijměte opatření na podporu dovedností svého týmu v oblasti AI – například tento kurz.

Platí i další zákony: GDPR, spotřebitelské právo, autorské právo, zákaz diskriminace.

Před použitím kontrolujte: fakta, čísla, jména, odkazy, právní nebo zdravotní tvrzení.

Rozhodnutí o lidech (nábor, ceny pro konkrétní osobu, stížnosti) nechte v rukou člověka.

Pro firemní data používejte jen schválené nástroje a kde to jde, vypněte trénování na svých datech.

Buďte otevření: řekněte zákazníkům, když komunikují s chatbotem, a kde je to nutné, označte obrázky nebo texty vytvořené AI.

Pište dobré prompty: dejte kontext, žádejte zdroje, požádejte nástroj, ať řekne, když si není jistý.

Hlaste problémy: pokud AI vytvořila něco škodlivého nebo chybného, řekněte to odpovědné osobě.

Krátké písemné zásady pomáhají, aby se všichni řídili stejnými pravidly, a ukazují, jaká opatření jste přijali. Měly by uvádět: které nástroje AI jsou povolené a k čemu, jaká data se do nich nikdy nesmí vkládat, kdo kontroluje výstupy AI, jak informujete zákazníky, kdo je odpovědný a jak se pravidla naučí noví zaměstnanci (například tímto kurzem).

Stáhněte si šablonu níže, doplňte hranaté závorky a jednou ročně ji zkontrolujte.