Parlament Europejski przegłosował AI Act. Przełomowe zmiany

Parlament Europejski w Strasburgu zatwierdził w środę akt w sprawie sztucznej inteligencji. Nowe przepisy mają zapewnić równowagę w UE między rozwojem sektora sztucznej inteligencji (AI) a ochroną praw obywateli, demokracji i praworządności.
Zdjęcie ilustracyjne Parlament Europejski przegłosował AI Act. Przełomowe zmiany
Zdjęcie ilustracyjne / fot. PAP/EPA/RONALD WITTEK

523 europosłów głosowało za, 46 było przeciw, a 49 posłów wstrzymało się od głosu.

● CZYTAJ TAKŻE: Niemieckie media i aktywiści ekologiczni na ogłoszeniu wyroku w sprawie Turowa

Ważne zmiany w prawie

Nowe przepisy zakazują pewnych zastosowań sztucznej inteligencji, które zagrażają prawom obywateli. Są to między innymi systemy kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe i nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej, by stworzyć bazy danych służące rozpoznawaniu twarzy.

Zakazane będą też rozpoznawanie za pomocą AI emocji w miejscu pracy i instytucjach edukacyjnych, prognozowanie przestępczości (wyłącznie na podstawie profilowania osoby lub oceny jej cech). Nie będzie też dozwolona sztuczna inteligencja, która manipuluje zachowaniem ludzi lub wykorzystuje ich słabości.

Organom ścigania z reguły nie wolno korzystać z systemów identyfikacji biometrycznej. Są jednak pewne wyjątki, które wąsko zdefiniowano na zamkniętej liście. Organy te mogą wykorzystywać systemy identyfikacji biometrycznej w czasie rzeczywistym tylko wtedy, gdy spełniły ściśle określone warunki. Na przykład mogą je stosować w określonym czasie i w określonym położeniu geograficznym.

Muszą też posiadać specjalne zezwolenie sądowe lub administracyjne. Mogą je wykorzystywać, by odnaleźć zaginioną osobę lub zapobiegać atakowi terrorystycznemu. Istnieją też tzw. systemy zdalnej identyfikacji biometrycznej post factum. Ich stosowanie wiąże się z wysokim ryzykiem i wymaga zezwolenia sądowego, ponieważ systemy takie wykorzystuje się do wyszukiwania w związku z przestępstwem.

Szczególne obowiązki określono również dla innych systemów sztucznej inteligencji wysokiego ryzyka, ponieważ stanowią one potencjalne zagrożenie dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji czy praworządności. Obszary, w których wykorzystuje się takie systemy, to na przykład: infrastruktura krytyczna, edukacja i szkolenie zawodowe, zatrudnienie, podstawowe usługi prywatne i publiczne (np. opieka zdrowotna, bankowość). Opierają się też na nich niektóre systemy organów ścigania.

Takie systemy muszą oceniać i ograniczać ryzyko oraz prowadzić rejestry zdarzeń. Muszą też być przejrzyste i dokładne oraz podlegać kontroli człowieka. Dzięki rozporządzeniu obywatele będą mieć prawo składania skarg dotyczących systemów. Będą także otrzymywać wyjaśnienia decyzji podejmowanych przez systemy sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Najbardziej zaawansowane modele AI ogólnego przeznaczenia, które mogą stwarzać ryzyko systemowe, będą musiały spełniać dodatkowe wymagania. Operatorzy sztucznej inteligencji będą musieli między innymi przeprowadzać oceny modeli, oceniać i ograniczać ryzyko systemowe i zgłaszać incydenty.

Ponadto należy wyraźnie oznaczać nieautentyczne lub zmanipulowane obrazy, treści audio lub wideo, tzw. deepfakes.

Rozporządzenie musi też formalnie przyjąć Rada. Wejdzie w życie dwadzieścia dni po publikacji w Dzienniku Urzędowym, a w pełni obowiązywać zacznie 24 miesiące później.

● CZYTAJ TAKŻE: Odpowiedź Grodzkiego zaskoczyła dziennikarza. Nagranie podbija sieć


 

POLECANE
Niemieckie władze ukarały klub fitness, który odmówił transseksualiście prawa do rozbierania się przy kobietach tylko u nas
Niemieckie władze ukarały klub fitness, który odmówił transseksualiście prawa do rozbierania się przy kobietach

Najpierw chciał uciszyć twórców podcastu, którzy nazwali go – poprawnie! - mężczyzną. Potem zaczął konkurować w sporcie przeciwko kobietom. Teraz transseksualista z Niemiec domaga się kary dla klubu fitness, który nie pozwolił mu podglądać nagich kobiet pod prysznicem.

Atak na Uniwersytecie Warszawskim. Nowy komunikat prokuratury Wiadomości
Atak na Uniwersytecie Warszawskim. Nowy komunikat prokuratury

- Podejrzany o zabójstwo pracownicy UW Mieszko R. przyznał się do popełnienia zarzucanych mu czynów - poinformował prokurator Piotr Antoni Skiba.

Mec. Michał Skwarzyński: Adam Bodnar nie dopilnował aby orzeczenie o własności mieszkania zostało ujawnione w Księdze Wieczystej tylko u nas
Mec. Michał Skwarzyński: Adam Bodnar nie dopilnował aby orzeczenie o własności mieszkania zostało ujawnione w Księdze Wieczystej

Kwestia mieszkania na ulicy Wąwozowej w Warszawie i braku jego wykazania w oświadczeniu majątkowym wzbudziła poruszenie opinii publicznej. Nie powinno to dziwić i zapewne nikogo nie dziwi. Wszak sprawa dotyczy Adama Bodnara człowieka o najwyższym, swego czasu poziomie zaufania co do jego profesjonalizmu, wiedzy, walorów moralnych etc.

Prezydent Andrzej Duda po wyborze nowego papieża: To poruszający moment Wiadomości
Prezydent Andrzej Duda po wyborze nowego papieża: To poruszający moment

- To moment głęboko poruszający dla wspólnoty Kościoła katolickiego - napisał prezydent Andrzej Duda po wyborze nowego papieża Leona XIV.

Jest nowy sondaż prezydencki Wiadomości
Jest nowy sondaż prezydencki

W najnowszym sondażu pracowni Atlas Intel na pierwszym miejscu znalazł się kandydat na prezydenta Karol Nawrocki z poparciem 29,1 proc. ankietowanych.

Jest reakcja Donalda Trumpa na wybór nowego papieża Wiadomości
Jest reakcja Donalda Trumpa na wybór nowego papieża

- Nie mogę doczekać się spotkania z papieżem Leonem XIV - napisał prezydent USA Donald Trump komentując wybór nowego papieża.

Szef holenderskiego wywiadu: To wtedy Rosja może uderzyć w NATO Wiadomości
Szef holenderskiego wywiadu: To wtedy Rosja może uderzyć w NATO

Rosja może być gotowa do wojny z NATO w ciągu roku od zakończenia wojny na Ukrainie – ostrzega szef holenderskiego wywiadu wojskowego.

Biały dym nad Kaplicą Sykstyńską. Kardynałowie wybrali papieża pilne
Biały dym nad Kaplicą Sykstyńską. Kardynałowie wybrali papieża

Po godz. 18 nad Kaplicą Sykstyńska pojawił się biały dym. To oznacza, że kardynałowie wybrali nowego papieża.

Nowy sondaż prezydencki z ostatniej chwili
Nowy sondaż prezydencki

Rafał Trzaskowski uzyskałby w wyborach 32,2 proc. głosów, Karol Nawrocki - 22,7 proc., Sławomir Mentzen - 13,5 proc., a Szymon Hołownia - 8,3 proc. głosów - wynika z sondażu Pollster dla "Super Expressu".

Komunikat dla mieszkańców Warszawy z ostatniej chwili
Komunikat dla mieszkańców Warszawy

W weekend tramwajarze dokończą asfaltowanie ulicy Belwederskiej pomiędzy Chełmską i Gagarina. Prace będą prowadzone także na skrzyżowaniu z Gagarina. Roboty rozpoczną się w czwartek w nocy.

REKLAMA

Parlament Europejski przegłosował AI Act. Przełomowe zmiany

Parlament Europejski w Strasburgu zatwierdził w środę akt w sprawie sztucznej inteligencji. Nowe przepisy mają zapewnić równowagę w UE między rozwojem sektora sztucznej inteligencji (AI) a ochroną praw obywateli, demokracji i praworządności.
Zdjęcie ilustracyjne Parlament Europejski przegłosował AI Act. Przełomowe zmiany
Zdjęcie ilustracyjne / fot. PAP/EPA/RONALD WITTEK

523 europosłów głosowało za, 46 było przeciw, a 49 posłów wstrzymało się od głosu.

● CZYTAJ TAKŻE: Niemieckie media i aktywiści ekologiczni na ogłoszeniu wyroku w sprawie Turowa

Ważne zmiany w prawie

Nowe przepisy zakazują pewnych zastosowań sztucznej inteligencji, które zagrażają prawom obywateli. Są to między innymi systemy kategoryzacji biometrycznej, które wykorzystują cechy wrażliwe i nieukierunkowane pobieranie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej, by stworzyć bazy danych służące rozpoznawaniu twarzy.

Zakazane będą też rozpoznawanie za pomocą AI emocji w miejscu pracy i instytucjach edukacyjnych, prognozowanie przestępczości (wyłącznie na podstawie profilowania osoby lub oceny jej cech). Nie będzie też dozwolona sztuczna inteligencja, która manipuluje zachowaniem ludzi lub wykorzystuje ich słabości.

Organom ścigania z reguły nie wolno korzystać z systemów identyfikacji biometrycznej. Są jednak pewne wyjątki, które wąsko zdefiniowano na zamkniętej liście. Organy te mogą wykorzystywać systemy identyfikacji biometrycznej w czasie rzeczywistym tylko wtedy, gdy spełniły ściśle określone warunki. Na przykład mogą je stosować w określonym czasie i w określonym położeniu geograficznym.

Muszą też posiadać specjalne zezwolenie sądowe lub administracyjne. Mogą je wykorzystywać, by odnaleźć zaginioną osobę lub zapobiegać atakowi terrorystycznemu. Istnieją też tzw. systemy zdalnej identyfikacji biometrycznej post factum. Ich stosowanie wiąże się z wysokim ryzykiem i wymaga zezwolenia sądowego, ponieważ systemy takie wykorzystuje się do wyszukiwania w związku z przestępstwem.

Szczególne obowiązki określono również dla innych systemów sztucznej inteligencji wysokiego ryzyka, ponieważ stanowią one potencjalne zagrożenie dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji czy praworządności. Obszary, w których wykorzystuje się takie systemy, to na przykład: infrastruktura krytyczna, edukacja i szkolenie zawodowe, zatrudnienie, podstawowe usługi prywatne i publiczne (np. opieka zdrowotna, bankowość). Opierają się też na nich niektóre systemy organów ścigania.

Takie systemy muszą oceniać i ograniczać ryzyko oraz prowadzić rejestry zdarzeń. Muszą też być przejrzyste i dokładne oraz podlegać kontroli człowieka. Dzięki rozporządzeniu obywatele będą mieć prawo składania skarg dotyczących systemów. Będą także otrzymywać wyjaśnienia decyzji podejmowanych przez systemy sztucznej inteligencji wysokiego ryzyka, które mają wpływ na ich prawa.

Najbardziej zaawansowane modele AI ogólnego przeznaczenia, które mogą stwarzać ryzyko systemowe, będą musiały spełniać dodatkowe wymagania. Operatorzy sztucznej inteligencji będą musieli między innymi przeprowadzać oceny modeli, oceniać i ograniczać ryzyko systemowe i zgłaszać incydenty.

Ponadto należy wyraźnie oznaczać nieautentyczne lub zmanipulowane obrazy, treści audio lub wideo, tzw. deepfakes.

Rozporządzenie musi też formalnie przyjąć Rada. Wejdzie w życie dwadzieścia dni po publikacji w Dzienniku Urzędowym, a w pełni obowiązywać zacznie 24 miesiące później.

● CZYTAJ TAKŻE: Odpowiedź Grodzkiego zaskoczyła dziennikarza. Nagranie podbija sieć



 

Polecane
Emerytury
Stażowe