Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Zełenski przez ostatnie lata przywykł do sytuacji.... Prezydent wprost o relacjach z Ukrainą z ostatniej chwili
"Zełenski przez ostatnie lata przywykł do sytuacji...". Prezydent wprost o relacjach z Ukrainą

– Mam poczucie, że prezydent Wołodymyr Zełenski przez ostatnie lata przywykł do sytuacji, w której bierze Polskę za pewnik. Z nami nic nie trzeba ustalać, nie trzeba rozmawiać, bo byliśmy i dawaliśmy wszystko – powiedział w rozmowie z Wirtualną Polską prezydent Karol Nawrocki.

Szczątki drona w woj. lubelskim. Nowe informacje z ostatniej chwili
Szczątki drona w woj. lubelskim. Nowe informacje

W lesie w Żeliźnie w woj. lubelskim znaleziono szczątki obiektu przypominającego drona. Według wiceszefa MSWiA możliwe, że to tzw. dron-wabik związany z wrześniowym naruszeniem polskiej przestrzeni powietrznej.

Rob Reiner i jego żona znalezieni martwi we własnym domu z ostatniej chwili
Rob Reiner i jego żona znalezieni martwi we własnym domu

Reżyser i aktor Rob Reiner i jego żona Michelle zostali znalezieni martwi w niedzielę w domu w Los Angeles należącym do Reinera – poinformował funkcjonariusz organów ścigania agencję AP.

Lewandowski nie pojawił się na boisku. Hiszpańskie media ujawniają powód Wiadomości
Lewandowski nie pojawił się na boisku. Hiszpańskie media ujawniają powód

Sobotni mecz FC Barcelony z Osasuną zakończył się zwycięstwem gospodarzy 2:0, ale dla polskich kibiców nie był to wieczór idealny. Robert Lewandowski całe spotkanie obejrzał z ławki rezerwowych, a po meczu pojawiły się niepokojące doniesienia dotyczące jego zdrowia.

Zignorowały zakaz i wpadły pod choinkę. Niebezpieczne zdarzenie w Gdańsku Wiadomości
Zignorowały zakaz i wpadły pod choinkę. Niebezpieczne zdarzenie w Gdańsku

Chwila nieuwagi i chęć zrobienia efektownego zdjęcia mogły skończyć się bardzo poważnie. Przy świątecznej choince na Długim Targu w Gdańsku doszło do zdarzenia, które postawiło na nogi służby miejskie i stało się ostrzeżeniem dla innych odwiedzających centrum miasta.

Prevc znów najlepszy. Polacy poza czołówką w Klingenthal z ostatniej chwili
Prevc znów najlepszy. Polacy poza czołówką w Klingenthal

Piotr Żyła zajął 20. miejsce, Paweł Wąsek był 21., a Dawid Kubacki - 28. w niedzielnym konkursie Pucharu Świata w skokach narciarskich w niemieckim Klingenthal. Wygrał Słoweniec Domen Prevc. Na podium stanęli też Japończycy Ren Nikaido i Ryoyu Kobayashi.

Pałac Buckingham. Nowe doniesienia ws. księżnej Kate Wiadomości
Pałac Buckingham. Nowe doniesienia ws. księżnej Kate

13 grudnia księżna Kate odwiedziła wyjątkowe miejsce pamięci – Ever After Garden. Ogród ten powstał, aby upamiętnić osoby, które zmarły na raka, a jednocześnie zbiera środki na rzecz organizacji The Royal Marsden Cancer Charity.

GIS wydał ostrzeżenie. Chodzi o popularny produkt dla dzieci Wiadomości
GIS wydał ostrzeżenie. Chodzi o popularny produkt dla dzieci

Główny Inspektorat Sanitarny wydał ostrzeżenie dotyczące dwóch partii mleka modyfikowanego dla niemowląt ze względu na wykrycie obecności mikroorganizmu na jednej z linii produkcyjnych w zakładzie. Zaznaczył, że nie należy spożywać produktów z dwóch wskazanych w komunikacie partii.

Niebezpieczna interwencja w Radomiu. 26-latka z nożem Wiadomości
Niebezpieczna interwencja w Radomiu. 26-latka z nożem

W sobotę wieczorem w Radomiu doszło do niebezpiecznej interwencji, podczas której policjanci próbowali obezwładnić kobietę chodzącą po mieście z nożem. Zgłoszenie wpłynęło około godz. 21.00. Po przyjeździe na miejsce funkcjonariusze zlokalizowali 26-letnią kobietę w okolicy ul. Słowackiego.

Nagły zwrot Ukrainy ws. NATO. Trwają rozmowy w Berlinie z ostatniej chwili
Nagły zwrot Ukrainy ws. NATO. Trwają rozmowy w Berlinie

Wołodymyr Zełenski poinformował, że Ukraina jest gotowa odstąpić od aspiracji członkostwa w NATO, jeśli otrzyma realne i prawnie wiążące gwarancje bezpieczeństwa od Zachodu. To element kompromisu mającego doprowadzić do zakończenia wojny z Rosją.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane