• Nie będzie można używać sztucznej inteligencji (SI) do nadzoru biometrycznego, rozpoznawania emocji i prognozowania kryminologicznego
• Generatywne systemy sztucznej inteligencji, takie jak ChatGPT, będą musiały informować, że treści zostały wygenerowane przez sztuczną inteligencję
• Systemy sztucznej inteligencji wykorzystywane do wpływania na wyborców podczas wyborów będą uważane za obarczone wysokim ryzykiem

Zakazane praktyki związane ze sztuczną inteligencją

Proponowane zasady wynikają z podejścia opartego na ryzyku. Ustanawiają obowiązki dla dostawców i tych, którzy wdrażają systemy SI, w zależności od poziomu ryzyka, jakie może generować sztuczna inteligencja. Zabronione byłyby zatem systemy SI o niedopuszczalnym poziomie ryzyka dla bezpieczeństwa ludzi, takie jak te wykorzystywane do oceny społecznej (klasyfikowanie ludzi na podstawie ich zachowań społecznych lub cech osobistych). Posłowie rozszerzyli wykaz zakazanych praktyk o inwazyjne i dyskryminujące zastosowania sztucznej inteligencji, takie jak:

• wykorzystywanie w przestrzeni publicznej systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym i post-factum;
• systemy kategoryzacji biometrycznej wykorzystujące cechy wrażliwe (np. płeć, rasa, pochodzenie etniczne, status obywatelski, religia, orientacja polityczna),
• systemy prognozowania kryminologicznego (w oparciu o profilowanie, lokalizację lub wcześniejsze zachowania przestępcze),
• systemy rozpoznawania emocji wykorzystywane w egzekwowaniu prawa, zarządzaniu granicami, miejscu pracy i instytucjach edukacyjnych oraz
• nieukierunkowane pobieranie obrazów twarzy z internetu lub nagrań telewizji przemysłowej do tworzenia baz danych rozpoznawania twarzy (naruszanie praw człowieka i prawa do prywatności).

Sztuczna inteligencja wysokiego ryzyka

Posłowie zadbali o to, by klasyfikacja zastosowań wysokiego ryzyka obejmowała takie systemy sztucznej inteligencji, które przynoszą znaczne szkody dla zdrowia, bezpieczeństwa, praw podstawowych lub środowiska. Do wykazu systemów wysokiego ryzyka dodali systemy sztucznej inteligencji wykorzystywane do wpływania na wyborców i wyniki wyborów oraz systemy rekomendacji wykorzystywane przez platformy mediów społecznościowych (z ponad 45 milionami użytkowników).

MOŻE ZAINTERESUJE CIĘ TAKŻE

Inne

Sztuczna inteligencja narzędziem w rękach hakerów

Sztuczna inteligencja zaczyna odgrywać coraz ważniejszą rolę w sektorze cyberbezpieczeństwa – zarówno po dobrej, jak i złej stronie. – Z jednej strony powstają coraz bardziej zaawansowane narzędzia bazujące na SI, które pozwalają chronić przed cyberatakami, a z drugiej – narzędzia, które wykorzystują tę technologię, żeby takie ataki przeprowadzać – mówi Jan Nowak, prezes i założyciel Botwise. Według ekspertów w tej chwili zaawansowane cyberataki bazujące na SI wciąż zdarzają się dość rzadko, ale w perspektywie kilku lat można się spodziewać szerszego wykorzystania tej technologii przez hakerów. Firmy już powinny zacząć się na to przygotowywać.

Inne

Sztuczna inteligencja w laboratorium

Automatyzacja pozwala odkrywać kombinacje aminokwasów, które odżywiają dwa gatunki bakterii, i może nam powiedzieć znacznie więcej o 90% bakterii, których ludzie prawie nie badali. System sztucznej inteligencji umożliwia robotom przeprowadzanie autonomicznych eksperymentów naukowych – nawet 10 000 dziennie – potencjalnie napędzając drastyczny skok naprzód w tempie odkryć w obszarach od medycyny, przez rolnictwo, po naukę o środowisku.

Obowiązki w zakresie sztucznej inteligencji ogólnego przeznaczenia

Dostawcy modeli generatywnych – nowego i szybko rozwijającego się rozwiązania w dziedzinie sztucznej inteligencji – musieliby oceniać i ograniczać potencjalne ryzyko (dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności). Mieliby także rejestrować swoje modele w unijnej bazie danych przed ich wprowadzeniem na rynek Unii. Generatywne systemy sztucznej inteligencji, oparte na takich modelach, takie jak ChatGPT, musiałyby spełniać wymogi przejrzystości. Konieczne będzie ujawnianie, że treści wygenerowała sztuczna inteligencja (włącznie z pomocą w odróżnianiu tak zwanych głębokich fałszywych obrazów "deep fake" od prawdziwych) oraz wprowadzanie zabezpieczeń przed generowaniem nielegalnych treści. Trzeba będzie też publikować szczegółowe podsumowania danych chronionych prawem autorskim, które wykorzystano do szkolenia tych systemów.

Wspieranie innowacji i ochrona praw obywateli

Posłowie chcą pobudzać innowacje w zakresie sztucznej inteligencji i wspierać MŚP. Dlatego dodali wyjątki obejmujące badania naukowe i komponenty sztucznej inteligencji dostarczane na licencjach typu open source. Nowe prawo promuje tzw. piaskownice regulacyjne, czyli rzeczywiste środowiska ustanowione przez władze publiczne, w których testuje się sztuczną inteligencję przed wdrożeniem.

Ponadto posłowie chcą, by obywatelom było łatwiej składać skargi dotyczące systemów SI. Powinni mieć też łatwiejszy dostęp do wyjaśnień dotyczących decyzji opartych na systemach SI wysokiego ryzyka, które mają znaczący wpływ na ich prawa podstawowe. Posłowie zreformowali również zakres zadań Rady ds. Sztucznej Inteligencji. Miałaby ona monitorować sposób wdrażania przepisów dotyczących sztucznej inteligencji.

Źródło: Parlament Europejski