AI Act – jakie zmiany i obowiązki czekają polskich przedsiębiorców w erze cyfryzacji?

Sztuczna inteligencja coraz mocniej wpływa na sposób działania przedsiębiorstw. Narzędzia wykorzystujące algorytmy AI pomagają:

• tworzyć treści,
• analizować dane,
• obsługiwać klientów,
• automatyzować procesy biznesowe.

Wraz z rosnącą popularnością takich rozwiązań pojawiła się potrzeba stworzenia wspólnych zasad dla całej Unii Europejskiej. Odpowiedzią na te potrzeby jest AI Act, czyli pierwsze kompleksowe rozporządzenie regulujące wykorzystanie sztucznej inteligencji na rynku europejskim.

Jeśli chodzi o AI Acti, jakie zmiany dla przedsiębiorców to oznacza?

AI Act, czyli sztuczna inteligencja w firmie. Prawo

Rozporządzenie Parlamentu Europejskiego i Rady w sprawie sztucznej inteligencji ma zapewnić bezpieczeństwo użytkowników oraz większą przejrzystość działania nowoczesnych technologii. Ten akt prawny obejmuje zarówno podmioty tworzące rozwiązania AI, jak i „zwykłe” firmy, które wykorzystują gotowe narzędzia w codziennej działalności.

Taki stan rzeczy oznacza, że temat nie dotyczy wyłącznie gigantów technologicznych. Przepisów dotyczących AI muszą być świadome również małe i średnie przedsiębiorstwa, które korzystają np. z:

• popularnych chatbotów,
• generatorów treści,
• systemów wspierających obsługę klienta.

AI Act. Od kiedy?

Rozporządzenie AI Act weszło w życie 1 sierpnia 2024 r. Nie oznacza to jednak, że wszystkie obowiązki zaczęły obowiązywać jednocześnie (dlatego jest to wciąż stosunkowo świeży temat). Całe przedsięwzięcie zostało podzielone na etapy, aby przedsiębiorcy mogli przygotować się do zmian.

Pierwsze istotne obowiązki zaczęły obowiązywać od 2 lutego 2025 r. W tym terminie weszły w życie:

• regulacje dotyczące praktyk zakazanych,
• wymogi związane z edukacją pracowników w zakresie AI.

Firmy korzystające z narzędzi opartych o sztuczną inteligencję powinny zadbać o odpowiedni poziom wiedzy swoich zespołów. Coraz częściej mówi się tutaj o pojęciu AI literacy, czyli kompetencjach związanych z bezpiecznym i świadomym korzystaniem ze sztucznej inteligencji.

Jakie systemy AI obejmuje rozporządzenie?

Nie każdy system AI podlega takim samym wymaganiom. Celem AI Act jest dostosowanie poziomu obowiązków do potencjalnego zagrożenia dla użytkowników. Właśnie dlatego rozporządzenie wprowadza podział na różne kategorie ryzyka.

Najwięcej uwagi poświęcono rozwiązaniom uznawanym za wiążące się z wysokim ryzykiem. Taki system wysokiego ryzyka może być wykorzystywany między innymi przy:

• rekrutacji pracowników,
• ocenie zdolności kredytowej,
• edukacji,
• świadczeniu wybranych usług publicznych.

Jeżeli dany system AI wpływa na ważne decyzje dotyczące obywateli, podlega znacznie bardziej restrykcyjnym wymogom (więcej o tym przeczytasz w dalszej części tekstu).

Nowe obowiązki dla przedsiębiorców wykorzystujących system AI

Wielu przedsiębiorców zastanawia się dziś, jakie zmiany dla przedsiębiorców wynikające z wdrożenia AI Act będą dotyczyć ich na co dzień. Odpowiedź zależy od rodzaju wykorzystywanego rozwiązania oraz sposobu jego zastosowania w działalności firmy.

Jeżeli przedsiębiorstwo korzysta z AI do tworzenia treści marketingowych lub analiz biznesowych, zakres obowiązków będzie zwykle mniejszy niż w przypadku rozwiązań podejmujących decyzje dotyczące klientów lub pracowników. Mimo to każdy podmiot, który korzysta z AI, powinien:

• przeanalizować wykorzystywane narzędzia,
• określić poziom ryzyka wynikający z ich stosowania.

AI Act nakłada również obowiązki związane z przejrzystością działania systemów. Użytkownicy powinni wiedzieć, kiedy mają kontakt z rozwiązaniem opartym o sztuczną inteligencję. Coraz większe znaczenie będą mieć także procedury dokumentowania wykorzystania AI w organizacji oraz kontrolowania jakości generowanych wyników.

Przedsiębiorcy powinni pamiętać, że prawo traktuje sztuczną inteligencję w firmie dziś znacznie poważniej niż jeszcze kilka lat temu. W wielu przypadkach konieczne będzie opracowanie wewnętrznych zasad korzystania z narzędzi AI oraz przygotowanie pracowników do nowych realiów.

System AI wysokiego ryzyka a odpowiedzialność firm

Najbardziej restrykcyjne obowiązki dotyczą podmiotów odpowiedzialnych za tzw. systemy AI wysokiego ryzyka. Takim rygorem może zostać objęty zarówno dostawca rozwiązania, jak i organizacja wykorzystująca je w określonych procesach biznesowych. W takich przypadkach przepisy dotyczące sztucznej inteligencji wymagają zachowania szczególnej ostrożności.

Firmy muszą:

• monitorować działanie systemu,
• prowadzić odpowiednią dokumentację,
• zapewnić możliwość kontroli podejmowanych decyzji.

Ważne jest także eliminowanie błędów, które mogłyby prowadzić do dyskryminacji lub naruszenia praw podstawowych obywateli.

Systemy AI wysokiego ryzyka będą podlegały dodatkowym procedurom weryfikacyjnym. Oznacza to konieczność spełnienia wymogów jeszcze przed wprowadzeniem rozwiązania na rynek lub oddaniem do użytku. W niektórych sytuacjach wymagane będą również szczegółowe wytyczne dotyczące systemów AI oraz raportowanie określonych zdarzeń.

Jak AI Act wpłynie na polskie firmy?

AI Act bez wątpienia wpłynie na sposób projektowania usług, zarządzania ryzykiem oraz dokumentowania procesów technologicznych. W dłuższej perspektywie może jednak przynieść również korzyści. Jasna regulacja prawna zwiększa przewidywalność rynku i pozwala budować większe zaufanie do nowoczesnych rozwiązań.

Dla przedsiębiorców najważniejsze jest dziś zrozumienie, że akt w sprawie sztucznej inteligencji nie jest odległą wizją. Przepisy AI Act już obowiązują, a kolejne obowiązki będą wchodziły w życie w następnych miesiącach. Firmy, które odpowiednio wcześnie przygotują się do zmian, łatwiej wykorzystają potencjał nowoczesnych technologii i unikną problemów związanych z nieprzestrzeganiem nowych wymagań.