"Jest Umowa!" - napisał w serwisie X (dawniej Twitter) unijny komisarz ds. rynku wewnętrznego i usług Thierry Breton. To ważne wydarzenie, które oznacza, że Unia Europejska staje się pierwszym kontynentem na świecie, który ustala konkretne zasady korzystania ze sztucznej inteligencji. Breton podkreślił, że jest to "porozumienie polityczne", które ma na celu promować innowacyjność zaawansowanych technologii w Europie, jednocześnie ograniczając możliwość ich nadużywania.
Agencja AFP podkreśla, że kluczowy wpływ na rozpoczęcie procesu negocjacji miał system ChatGPT, generator tekstu stworzony przez amerykańską firmę OpenAI. System ten, zdolny do generowania esejów, wierszy czy tłumaczeń w ciągu kilku sekund, pokazał światu ogromny potencjał sztucznej inteligencji, ale także związane z nią ryzyko. Przykładem może być dystrybucja fałszywych zdjęć w mediach społecznościowych.
Dalsza część artykułu pod materiałem wideo
W trakcie negocjacji uwzględniono zjawisko generatywnej sztucznej inteligencji. Posłowie do Parlamentu Europejskiego zwrócili uwagę na konieczność szczególnego nadzoru nad technologią. W szczególności wezwano do większej przejrzystości w odniesieniu do algorytmów i ogromnych baz danych.
Przed rozpoczęciem negocjacji, państwa członkowskie UE obawiały się, że zbyt restrykcyjne regulacje mogą zahamować rozwój ich wschodzących liderów w tej branży, takich jak Aleph Alpha w Niemczech i Mistal AI we Francji.
AFP wyjaśnia, że osiągnięte w piątkowy wieczór porozumienie będzie teraz uzupełniane pracami technicznymi, które mają na celu sfinalizowanie tekstu tzw. AI Act.
Kompromis zakłada uwzględnienie dwóch aspektów: rozwoju sztucznej inteligencji i ograniczeń, które mają na celu zapobieganie jej nadużywaniu. Na oba elementy nałożone zostaną zasady, które mają zapewnić jakość danych wykorzystywanych przy tworzeniu algorytmów i sprawdzić, czy nie naruszają one praw autorskich. Twórcy będą musieli także zadbać o to, aby tworzone przez nich dźwięki, obrazy i teksty były wyraźnie oznaczane.
Głównym elementem projektu jest lista zasad, które będą obowiązywały tylko systemy uznane za "wysokiego ryzyka". Dotyczy to głównie systemów stosowanych w obszarach wrażliwych, takich jak infrastruktura krytyczna, edukacja, zasoby ludzkie, egzekwowanie prawa itp. Systemy te będą musiały spełniać szereg obowiązków, takich jak zapewnienie ludzkiej kontroli nad maszyną, sporządzenie dokumentacji technicznej czy wdrożenie systemu zarządzania ryzykiem.
Przepisy przewidują wprowadzenie szczególnego nadzoru nad systemami sztucznej inteligencji, które wchodzą w interakcję z człowiekiem. Systemy te będą musiały poinformować użytkownika, że ma do czynienia z maszyną.
Rewolucja w ZUS. Stawiają na sztuczną inteligencję
AI Act przewiduje również stosowanie zakazów, które mają dotyczyć głównie zastosowań sprzecznych z europejskimi wartościami. Jako przykład podane są Chiny, gdzie istnieją systemy oceny obywateli, masowego nadzoru czy zdalnej biometrycznej identyfikacji osób w miejscach publicznych. W tej kwestii państwa UE uzyskały jednak pewną swobodę w przypadku niektórych działań związanych z egzekwowaniem prawa, takich jak walka z terroryzmem.
Porozumienie przewiduje również, że prawodawstwo europejskie zostanie wyposażone w środki nadzoru i sankcje. Utworzone zostanie także europejskie biuro ds. sztucznej inteligencji w Komisji Europejskiej. Za najpoważniejsze wykroczenia będą nakładane kary pieniężne w wysokości do 7 proc. obrotu, a dolna granica wynosić będzie 35 mln euro.
