Pismenost na področju UI za vašo ekipo: brezplačen tečaj, test in potrdilo

Sistemi UI se učijo vzorcev iz velikih količin podatkov in nato napovejo odgovor: naslednjo besedo, opis slike, število.

Generativna UI (pomočniki za klepet, orodja za slike) piše besedila ali ustvarja slike, ki delujejo prepričljivo – vendar dejstev »ne pozna«. Lahko se zelo samozavestno moti. Temu pogosto rečemo »halucinacija«.

Koristno pravilo: izhod UI obravnavajte kot osnutek hitrega novega sodelavca. Pomaga, vendar ga preverite.

UI je pogosto skrita v vsakdanjih orodjih: pomočniki za klepet, prevajanje, pomočniki za pisanje e-pošte, preverjanje črkovanja, urejevalniki slik, klepetalni roboti za pomoč strankam, razvrščanje življenjepisov, ciljanje oglasov, preverjanje goljufij.

Naredite kratek seznam: katero orodje, kdo ga uporablja, za kaj in kateri podatki se vanj vnašajo. Ta seznam potrebujete za svoja pravila UI (lekcija 6).

V jeziku AI Act je vaše podjetje običajno »uvajalec« (UI uporabljate) in včasih »ponudnik« (sistem UI razvijate ali prodajate pod svojim imenom).

Napake: izmišljena dejstva, napačne številke, lažni viri ali citati.

Pristranskost: UI lahko z nekaterimi skupinami ljudi ravna nepravično, na primer pri zaposlovanju ali odločanju o posojilih.

Osebni in zaupni podatki: kar vpišete v javno orodje UI, lahko ponudnik shrani ali uporabi. Ne vnašajte podatkov strank, zdravstvenih podatkov, gesel ali poslovnih skrivnosti, razen če je vaše podjetje orodje za to odobrilo.

Avtorske pravice in pravice do podobe: ustvarjena vsebina je lahko blizu obstoječim delom. S slikami resničnih ljudi ravnajte previdno.

Pretirano zaupanje: ljudje so nagnjeni k sprejemanju odgovora računalnika. Ostanite kritični.

AI Act razvršča UI po tveganju.

Prepovedane prakse (od 2. februarja 2025): na primer manipulacija, ki povzroča škodo, družbeno točkovanje, prepoznavanje čustev na delovnem mestu ali v šoli (z ozkimi izjemami).

UI visokega tveganja (na primer pri zaposlovanju, izobraževanju, posojilih, osnovnih storitvah): stroga pravila za ponudnike in obveznosti za uvajalce, kot sta človeški nadzor in evidence.

Preglednost (člen 50): ljudje morajo biti obveščeni, ko klepetajo z UI, razen če je to očitno; globoki ponaredki in nekatera besedila, ustvarjena z UI, morajo biti označeni.

Pismenost na področju UI (člen 4): sprejmite ukrepe za spodbujanje veščin svoje ekipe na področju UI – na primer ta tečaj.

Veljajo tudi drugi zakoni: GDPR, potrošniško pravo, avtorsko pravo, prepoved diskriminacije.

Pred uporabo preverite: dejstva, številke, imena, povezave, pravne ali zdravstvene trditve.

Odločitve o ljudeh (zaposlovanje, cene za posamezno osebo, pritožbe) naj ostanejo v rokah človeka.

Za podatke podjetja uporabljajte samo odobrena orodja in kjer je mogoče, izklopite učenje na svojih podatkih.

Bodite odkriti: strankam povejte, ko komunicirajo s klepetalnim robotom, in kjer je potrebno, označite slike ali besedila, ustvarjena z UI.

Pišite dobre pozive: dajte kontekst, zahtevajte vire, prosite orodje, naj pove, ko ni prepričano.

Poročajte o težavah: če je UI ustvarila nekaj škodljivega ali napačnega, to povejte odgovorni osebi.

Kratka pisna pravila pomagajo, da vsi sledijo istim pravilom, in kažejo, katere ukrepe ste sprejeli. Navajati morajo: katera orodja UI so dovoljena in za kaj, katerih podatkov nikoli ne smete vnesti vanje, kdo preverja izhode UI, kako obveščate stranke, kdo je odgovoren in kako se novi zaposleni naučijo pravil (na primer s tem tečajem).

Prenesite spodnjo predlogo, izpolnite oglate oklepaje in jo enkrat letno preglejte.