AI ACT ВЛИЗА В БИЗНЕСА: ЗАЩО СЪОТВЕТСТВИЕТО С ИЗКУСТВЕНИЯ ИНТЕЛЕКТ ВЕЧЕ НЕ Е САМО IT ВЪПРОС

Изкуственият интелект навлезе в бизнеса много по-бързо, отколкото организациите успяха да изградят правила за неговото използване.

Днес AI инструменти се използват в:

• подбора и управлението на хора;
• маркетинга и обслужването на клиенти;
• анализа на данни;
• автоматизацията на процеси;
• вътрешната комуникация и оперативната работа.

Но с навлизането на AI Act използването на изкуствен интелект вече не е само въпрос на ефективност и иновация.
То се превръща във въпрос на съответствие, отговорност и управление на риск.

От експерименти към регулация

Много организации внедриха AI инструменти без ясна структура:

• без оценка на риска;
• без вътрешни правила;
• без анализ на данните, които се обработват;
• без ясно разпределение на отговорностите.

AI Act променя именно това.

Регламентът въвежда конкретни категории риск и определя различни задължения според:

• вида на AI системата;
• начина на използване;
• ролята на организацията.

Това означава, че бизнесът трябва да започне да картографира реалното използване на AI вътре в компанията.

HR като част от AI съответствието

Една от най-съществените промени е, че AI Act засяга директно процесите по управление на хора.

AI системи, използвани за:

• подбор;
• оценка на представянето;
• анализ на поведение;
• автоматизирани решения за служители;

могат да попаднат в категорията на високорисковите системи.

Това поставя нови изисквания към работодателите по отношение на:

• прозрачността;
• човешкия контрол;
• документацията;
• защитата на основните права.

„Shadow AI“ - новият организационен риск

Все повече служители използват AI инструменти самостоятелно - често без знанието на организацията.

Това създава риск от:

• изтичане на чувствителна информация;
• неправомерно използване на лични данни;
• липса на проследимост;
• несъответствие с GDPR и AI Act.

Практиката показва, че забраните рядко работят.
Работи изграждането на ясни политики и правила за допустимо използване.

Отделните регулации вече работят заедно

AI Act не действа изолирано.

Организациите трябва да съобразят едновременно:

• GDPR;
• AI Act;
• Акта за данните;
• секторните регулации;
• изискванията за киберсигурност.

Това означава, че управлението на AI вече изисква координация между:

• HR;
• правен отдел;
• IT;
• compliance функции;
• ръководство.

От технологии към управленска система

Една от най-големите грешки е AI да се разглежда само като технологичен инструмент.

Всъщност регулацията изисква:

• вътрешни политики;
• обучение на служителите;
• документация и проследимост;
• оценки на въздействие;
• процедури за контрол и наблюдение.

С други думи - AI вече трябва да бъде управляван като цялостен бизнес процес.

Грамотността в областта на AI - ново организационно задължение

AI Act поставя акцент и върху обучението.

Организациите ще трябва да гарантират, че хората, които използват AI системи:

• разбират рисковете;
• познават ограниченията;
• умеят да работят в рамките на вътрешните правила;
• могат да идентифицират проблемни ситуации.

Това превръща AI грамотността в част от корпоративната култура.

Практическите аспекти на AI Act, привеждането на бизнес процесите в съответствие и управлението на AI риска ще бъдат разгледани подробно в онлайн семинара: https://expertevents.bg/seminar/business-process-ai-act

Пълен календар на обученията: https://expertevents.bg/seminari/