Грамотност в областта на ИИ за вашия екип: безплатен курс, тест и удостоверение

Системите с ИИ научават модели от големи количества данни и след това предвиждат отговор: следващата дума, етикет за изображение, число.

Генеративният ИИ (чат асистенти, инструменти за изображения) пише текст или създава изображения, които звучат или изглеждат убедително – но той не „знае“ факти. Може да греши с голяма увереност. Това често се нарича „халюцинация“.

Полезно правило: отнасяйте се към резултата от ИИ като към чернова от бърз нов колега. Полезна е, но вие я проверявате.

ИИ често е скрит в обикновени инструменти: чат асистенти, превод, помощници за писане на имейли, проверка на правописа, редактори на изображения, чатботове за обслужване на клиенти, преглед на автобиографии, таргетиране на реклами, проверки за измами.

Направете кратък списък: кой инструмент, кой го използва, за какво и какви данни влизат в него. Този списък ви трябва за правилата ви за ИИ (урок 6).

На езика на Акта за ИИ вашата фирма обикновено е „внедрител“ (използвате ИИ), а понякога и „доставчик“ (разработвате или продавате система с ИИ под свое име).

Грешки: измислени факти, грешни числа, фалшиви източници или цитати.

Пристрастност: ИИ може да третира групи хора несправедливо, например при наемане или решения за кредит.

Лични и тайни данни: това, което въвеждате в публичен инструмент с ИИ, може да бъде съхранено или използвано от доставчика. Не поставяйте данни на клиенти, здравни данни, пароли или търговски тайни, освен ако фирмата ви е одобрила инструмента за това.

Авторско право и право на образ: генерираното съдържание може да е близко до съществуващи произведения. Изображенията на реални хора изискват внимание.

Прекомерно доверие: хората са склонни да приемат отговора на компютъра. Бъдете критични.

Актът за ИИ подрежда ИИ според риска.

Забранени практики (от 2 февруари 2025 г.): например манипулация, която причинява вреда, социално оценяване, разпознаване на емоции на работното място или в училище (с тесни изключения).

Високорисков ИИ (например при наемане, в образованието, за кредити, основни услуги): строги правила за доставчиците и задължения за внедрителите, като човешки надзор и регистри.

Прозрачност (член 50): хората трябва да бъдат информирани, когато разговарят с ИИ, освен ако това е очевидно; дийпфейковете и част от текста, създаден с ИИ, трябва да бъдат маркирани.

Грамотност в областта на ИИ (член 4): предприемете мерки в подкрепа на уменията на екипа ви в областта на ИИ – като този курс.

Другите закони също продължават да се прилагат: GDPR, правото за защита на потребителите, авторското право, забраната за дискриминация.

Проверявайте преди употреба: факти, числа, имена, връзки, правни или медицински твърдения.

Решенията за хора (наемане, цени за конкретен човек, жалби) трябва да остават в ръцете на човек.

За фирмени данни използвайте само одобрени инструменти и където е възможно, изключете обучението върху вашите данни.

Бъдете открити: казвайте на клиентите, когато говорят с чатбот, и маркирайте изображения или текст, създадени с ИИ, където това се изисква.

Пишете добри заявки: дайте контекст, искайте източници, помолете инструмента да каже, когато не е сигурен.

Докладвайте проблеми: ако ИИ е създал нещо вредно или грешно, уведомете отговорното лице.

Кратките писмени правила помагат на всички да следват едни и същи правила и показват какви мерки сте предприели. Те трябва да посочват: кои инструменти с ИИ са разрешени и за какво, какви данни никога не бива да влизат в тях, кой проверява резултатите от ИИ, как информирате клиентите, кой отговаря и как новите служители научават правилата (например с този курс).

Изтеглете шаблона по-долу, попълнете частите в скоби и го преглеждайте веднъж годишно.