Zakazane praktyki AI – nowe regulacje Unii Europejskiej i ich znaczenie dla twórców

Od 2 lutego 2025 roku w całej Unii Europejskiej obowiązują przepisy Rozporządzenia Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji (AI Act) dotyczące zakazanych praktyk związanych z użyciem technologii AI. Nowe regulacje wymieniają konkretne praktyki, które ze względu na potencjalne naruszenie praw podstawowych uznano za niedopuszczalne. W artykule wymieniamy zakazane praktyki związane ze sztuczną inteligencją określone w rozporządzeniu (UE) 2024/1689 (AI Act) oraz podsumowanie wytycznych Komisji Europejskiej wydanych w tej sprawie na początku lutego br. 🌿

Czym jest AI Act?

Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 w sprawie sztucznej inteligencji jest pierwszym kompleksowym dokumentem prawnym na poziomie Unii Europejskiej, który całościowo reguluje zasady wprowadzania na rynek, wdrażania i wykorzystywania systemów sztucznej inteligencji.

Rozporządzenie obowiązuje od 1 sierpnia 2024 roku, ale od dnia 2 lutego 2025 roku mają zastosowanie przepisy dotyczące zakazanych praktyk związanych z użyciem sztucznej inteligencji.

Celem AI Act jest zapewnienie bezpiecznego i etycznego stosowania technologii sztucznej inteligencji, przy jednoczesnym wspieraniu rozwoju innowacyjności. Rozporządzenie opiera się na klasyfikacji systemów sztucznej inteligencji w zależności od stopnia ryzyka związanego z ich wykorzystaniem:

• Systemy o niedopuszczalnym ryzyku – stosowanie tych systemów jest całkowicie zabronione.
• Systemy wysokiego ryzyka – ich używanie obwarowane jest dodatkowymi obowiązkami w zakresie dokumentacji, kontroli i bezpieczeństwa.
• Systemy wymagające zapewnienia transparentności – na przykład w sytuacjach, gdy użytkownicy powinni być poinformowani, że mają do czynienia z generowanymi treściami lub rozmową z botem.
• Systemy o niskim lub minimalnym ryzyku – ich użycie jest dozwolone bez szczególnych obostrzeń.

Na początku lutego br. Komisja Europejska opublikowała wytyczne dotyczące zakazanych praktyk związanych ze sztuczną inteligencją określonych w rozporządzeniu (UE) 2024/1689 (AI Act). Poniżej znajdziesz moje podsumowanie tego dokumentu.

Jakie praktyki AI są zakazane w Unii Europejskiej?

AI Act wskazuje osiem praktyk stosowania AI, które ze względu na ich charakter i potencjalne naruszenie podstawowych praw człowieka, są zakazane na terenie Unii Europejskiej:

#1 Manipulacja, techniki podprogowe i wprowadzanie w błąd

Zakazane jest stosowanie systemów AI wykorzystujących techniki subliminalne (działające podprogowo), celowo manipulacyjne lub wprowadzające w błąd, które powodują lub mogą spowodować istotną szkodę i zakłócenie świadomych decyzji jednostek.

Przykład: ukryte przekazy w treściach wideo lub dźwiękach wpływające na decyzje zakupowe konsumentów bez ich świadomej zgody.

# 2 Nieetyczne wykorzystywanie ludzkich „słabości”

Niedopuszczalne jest używanie AI do wykorzystywania ludzkich słabości wynikających m.in. z wieku, niepełnosprawności czy trudnej sytuacji społeczno-ekonomicznej, jeżeli może to prowadzić do znaczącej szkody tych osób.

Przykład: aplikacje sprzedażowe celowo wprowadzające w błąd osoby starsze lub niepełnosprawne w celu dokonania niekorzystnych zakupów.

# 3 Systemy oceny społecznej (social scoring)

Zabrania się wykorzystywania systemów AI do klasyfikacji ludzi na podstawie ich zachowań społecznych lub cech osobowości, jeśli prowadzi to do dyskryminującego traktowania lub niesprawiedliwych konsekwencji, zwłaszcza w obszarach niezwiązanych z ocenianymi zachowaniami.

Przykład: automatyczna ocena reputacji na podstawie aktywności w mediach społecznościowych, która wpływa np. na dostęp do usług zdrowotnych lub edukacyjnych.

#4 Systemy przewidujące ryzyko popełnienia przestępstw w oparciu o profilowanie

AI Act zakazuje stosowania AI do przewidywania ryzyka popełnienia przestępstw przez osoby fizyczne wyłącznie na podstawie ich cech osobistych lub profilowania.

Przykład: system, który klasyfikuje osoby jako potencjalnych przestępców na podstawie ich pochodzenia środowiskowego bądź etnicznego.

# 5 Nieukierunkowane gromadzenie danych biometrycznych (scraping)

Zakazane jest zbieranie zdjęć ludzkich twarzy z internetu lub kamer monitoringu w celu tworzenia baz danych rozpoznawania twarzy bez zgody osób zainteresowanych.

Przykład: automatyczne pobieranie zdjęć użytkowników portali społecznościowych do celów identyfikacji biometrycznej.

# 6 Systemy rozpoznawania emocji w miejscu pracy lub edukacji

Zabrania się używania systemów AI do automatycznego rozpoznawania i analizowania ludzkich emocji w miejscu pracy oraz instytucjach edukacyjnych, chyba że służy to celom medycznym lub zapewnieniu bezpieczeństwa.

Przykład: system AI monitorujący emocje pracowników, aby ocenić ich efektywność pracy.

# 7 Kategoryzacja biometryczna ludzi

Zakazane są systemy AI klasyfikujące osoby na podstawie ich danych biometrycznych (np. rozpoznanie twarzy, głosu) w celu ustalenia cech wrażliwych takich jak pochodzenie rasowe, poglądy polityczne, religia czy orientacja seksualna.

Przykład: automatyczna segmentacja użytkowników według np. pochodzenia etnicznego na potrzeby reklam politycznych.

#8 Identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej

Zakazane jest stosowanie systemów rozpoznawania twarzy w czasie rzeczywistym w miejscach publicznych przez organy ścigania, z wyjątkiem wyjątkowych sytuacji określonych w AI Act (poszukiwanie osób zaginionych, zapobieganie atakom terrorystycznym).

Przykład: automatyczne rozpoznawanie twarzy uczestników manifestacji publicznych.

Co grozi za nierespektowanie przepisów AI Act?

AI Act nakłada na przedsiębiorców i organizacje stosujące systemy AI odpowiedzialność za przestrzeganie unijnych przepisów. Niedozwolone jest zarówno tworzenie, wprowadzanie na rynek, jak i stosowanie zakazanych systemów AI. Naruszenie przepisów AI Act skutkuje wysokimi karami finansowymi – do 35 milionów euro lub 7% rocznego globalnego przychodu firmy, w zależności od tego, która kwota jest wyższa.

Warto przypomnieć, że AI Act obowiązuje równolegle z innymi przepisami prawa UE , m.in. dotyczącymi ochrony danych osobowych (RODO), ochrony konsumentów czy prawa pracy.

Zakazane praktyki AI. Podsumowanie 

Kluczem do bezpiecznego stosowania technologii AI jest świadomość obowiązujących regulacji oraz wdrożenie rozwiązań chroniących użytkowników przed ww. ryzykami.

Zadbaj o to, aby współprcować wyłącznie z tymi dostawcami technologii AI, którzy gwarantują pełną zgodność rozwiązań z prawem. Dzięki temu zminimalizujesz ryzyko prawne.

Potrzebujesz pomocy prawnej? Zapraszam do kontaktu: kontakt@lookreatywni.pl.

Potrzebujesz krótkiej porady prawnej? Skorzystaj z konsultacji prawnych online.

___

źródło: Wytyczne Komisji Europejskiej dotyczące zakazanych praktyk AI Act

Chcesz dowiedzieć się więcej na temat AI i prawa autorskiego? Zacznij od: