Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Larry, nie rób mi tego. Nieoczekiwany finał wizyty na Downing Street gorące
"Larry, nie rób mi tego". Nieoczekiwany finał wizyty na Downing Street

Wizyta prezydenta Karola Nawrockiego w Londynie miała swój nieoczekiwany, ale wyjątkowo medialny moment. Na czerwonym dywanie przed Downing Street pojawił się Larry – legendarny „Chief Mouser” brytyjskiej polityki. Prezydent pochwalił się nową znajomością w sieci, a internet natychmiast zareagował.

Prezydent Nawrocki do Białorusinów: Polska was nie zostawi z ostatniej chwili
Prezydent Nawrocki do Białorusinów: Polska was nie zostawi

Podczas spotkania z liderką białoruskiej opozycji Swiatłaną Cichanouską prezydent Karol Nawrocki złożył jednoznaczną deklarację wsparcia dla białoruskich dążeń niepodległościowych. Zapewnił, że Polska będzie towarzyszyć Białorusinom na ich trudnej drodze do wolności – niezależnie od kosztów i czasu.

Fatalny dla Putina początek roku. A będzie gorzej tylko u nas
Fatalny dla Putina początek roku. A będzie gorzej

Z jednej strony Władimir Putin może być zadowolony, bo otworzył nowy rok mając osiągnięte cele minimum w wojnie z Ukrainą. Rosyjska armia ciągle jest w natarciu i zajmuje kolejne miejscowości, do tego przez niemal rok udało się zwodzić Donalda Trumpa w sprawie rozmów pokojowych – bo Kremlowi zależy na kontynuowaniu wojny.

Sensacyjne znalezisko - jaja dinozaura sprzed 150 mln lat. Czeka nas Jurassic Park? gorące
Sensacyjne znalezisko - jaja dinozaura sprzed 150 mln lat. Czeka nas Jurassic Park?

Na jednym z klifów w zachodniej Portugalii naukowcy natrafili na niezwykłe znalezisko sprzed milionów lat. Odkrycie w pobliżu popularnej plaży może rzucić nowe światło na zachowania dinozaurów i sposób, w jaki chroniły swoje potomstwo.

Putin uderza w Polskę. Rosja przejmuje polską firmę Wiadomości
Putin uderza w Polskę. Rosja przejmuje polską firmę

Rosja przejęła kontrolę nad rosyjskimi oddziałami polsko-amerykańskiej spółki Canpack. Decyzja podpisana przez Władimira Putina wchodzi w życie tuż po świętach, a Kreml nie podał oficjalnego powodu. To kolejny przypadek nacjonalizacji zachodnich firm w odpowiedzi na sankcje po agresji na Ukrainę.

Trump zapowiedział pomoc dla Irańczyków pilne
Trump zapowiedział pomoc dla Irańczyków

Prezydent USA Donald Trump zapowiedział we wtorek pomoc dla demonstrantów w Iranie, zagrzewając do dalszych antyrządowych protestów i „przejmowania instytucji”. Kilka państw europejskich wezwało irańskich ambasadorów, a Komisja Europejska zagroziła wprowadzeniem sankcji.

Skandal wokół wyborów w Polsce 2050. Miała miejsce zewnętrzna ingerencja polityka
Skandal wokół wyborów w Polsce 2050. "Miała miejsce zewnętrzna ingerencja"

Wewnętrzne wybory w partii Polska 2050 Szymona Hołowni zostały przerwane po wykryciu poważnych nieprawidłowości w systemie głosowania. Ugrupowanie informuje o dużym prawdopodobieństwie zewnętrznej ingerencji i zapowiada działania prokuratorskie oraz zaangażowanie Agencji Bezpieczeństwa Wewnętrznego.

Groźny pomysł unijnego komisarza da Niemcom militarną kontrolę nad całą UE tylko u nas
Groźny pomysł unijnego komisarza da Niemcom militarną kontrolę nad całą UE

Unijny komisarz ds. obrony Andrius Kubilius chce likwidacji armii państw członkowskich UE na rzecz 100-tysięcznej unijnej armii oraz likwidacji 27 polityk obronnych i budżetów obronnych na rzecz jednej federalnej polityki i budżetu obronnego.

Wojna o wydawcę TVN wkracza na salę sądową. Warner Bros. Discovery z zarzutem braku transparentności gorące
Wojna o wydawcę TVN wkracza na salę sądową. Warner Bros. Discovery z zarzutem braku transparentności

Koncern Paramount Skydance wkracza na salę sądową – firma pozywa Warner Bros. Discovery, domagając się ujawnienia szczegółów umowy z Netfliksem.

Europejski komisarz obrony chce 100-tysięcznej unijnej armii gorące
Europejski komisarz obrony chce 100-tysięcznej unijnej armii

„UE może potrzebować armii liczącej 100 000 żołnierzy” - mówi komisarz obrony UE Andrius Kubilius, cytowany przez portal Politico.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane