Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Karol Nawrocki: Po pierwsze Polska, po pierwsze Polacy wideo
Karol Nawrocki: Po pierwsze Polska, po pierwsze Polacy

„Wypowiadam te słowa z poczuciem wielkiego zaszczytu i wdzięczności, ale i odpowiedzialności – bo ten urząd nie jest nagrodą, jest przede wszystkim zobowiązaniem” - mówił prezydent Karol Nawrocki.

Jan Krzysztof Ardanowski: Żądałem i żądam skierowania sprawy do sądu tylko u nas
Jan Krzysztof Ardanowski: Żądałem i żądam skierowania sprawy do sądu

„Prokuratorzy od praktycznie 6 lat prowadzą śledztwo, które wcześniej prowadziło je Centralne Biuro Antykorupcyjne. Dla mnie cała sprawa ma cel polityczny, mianowicie Kamiński i Wąsik wymyślili nieistniejącą aferę po to, by zamknąć mi usta, bym nie wypowiadał się w sprawach politycznych, a tym bardziej, bym nie wyrażał się krytycznie o polityce Prawa i Sprawiedliwości, a może i prezesa Kaczyńskiego” - mówi portalowi Tysol.pl Jan Krzysztof Ardanowski, były minister rolnictwa.

Akt oskarżenia przeciwko działaczowi Ruchu Obrony Granic Robertowi B. z ostatniej chwili
Akt oskarżenia przeciwko działaczowi Ruchu Obrony Granic Robertowi B.

Prokurator skierował w środę do sądu akt oskarżenia przeciwko działaczowi Ruchu Obrony Granic Robertowi B., któremu zarzucił cztery przestępstwa, w tym znieważenie funkcjonariuszy Straży Granicznej i Żandarmerii Wojskowej – podała w środę Prokuratura Okręgowa w Gorzowie Wielkopolskim.

Pociąg „Mazury” utknął w Nidzicy. Oblodzone drzewa runęły na linię trakcyjną z ostatniej chwili
Pociąg „Mazury” utknął w Nidzicy. Oblodzone drzewa runęły na linię trakcyjną

Zerwana sieć trakcyjna i unieruchomiony skład PKP Intercity. Pasażerowie pociągu „Mazury” zostali ewakuowani, a ruch kolejowy na ważnej trasie wstrzymano bez podania terminu wznowienia.

Grafzero: Najlepsze i najgorsze książki 2025! z ostatniej chwili
Grafzero: Najlepsze i najgorsze książki 2025!

Grafzero vlog literacki o najlepszych i najgorszych książkach 2025. Co się udało, co w przyszłym roku, jak wyszedł start wydawnictwa Centryfuga?

Tusk podczas sztabu kryzysowego o „niedobrych numerach” pogody. Rząd szykuje się na czarne scenariusze z ostatniej chwili
Tusk podczas sztabu kryzysowego o „niedobrych numerach” pogody. Rząd szykuje się na czarne scenariusze

Rząd zakłada najgorsze scenariusze, a służby zostały postawione w stan zwiększonej gotowości. Podczas sztabu kryzysowego Donald Tusk przyznał, że pogoda „wykręciła niedobre numery”, a sytuacja w części kraju nadal pozostaje poważna.

Energiewende na zakręcie. Deutsche Bank apeluje o zmianę kursu tylko u nas
Energiewende na zakręcie. Deutsche Bank apeluje o zmianę kursu

Deutsche Bank ostrzega, że niemiecka transformacja energetyczna Energiewende nie przebiega zgodnie z planem. W nowym raporcie bank wskazuje, że bez korekty polityki energetycznej, lepszego dopasowania OZE do sieci i magazynów oraz kontroli kosztów, Niemcy nie osiągną neutralności klimatycznej w 2045 roku, a ceny energii pozostaną wysokie.

W Elblągu ogłoszono pogotowie powodziowe. Służby w gotowości z ostatniej chwili
W Elblągu ogłoszono pogotowie powodziowe. Służby w gotowości

Sytuacja hydrologiczna na północy Polski staje się coraz poważniejsza. Obowiązują ostrzeżenia III stopnia, wprowadzono pogotowie przeciwpowodziowe, a służby monitorują poziomy wód na kluczowych rzekach i zbiornikach.

Bloomberg: Majątek 500 najbogatszych ludzi świata wzrósł w 2025 roku o 2,2 bln dolarów z ostatniej chwili
Bloomberg: Majątek 500 najbogatszych ludzi świata wzrósł w 2025 roku o 2,2 bln dolarów

Majątek 500 najbogatszych ludzi świata zwiększył się w upływającym roku o rekordowe 2,2 biliona dolarów, osiągając kwotę 11,9 biliona dolarów dzięki wzrostom na rynkach akcji, metali, kryptowalut i innych aktywów – przekazała w środę agencja Bloomberga.

Blokada Trumpa wystawiona na próbę. Gigantyczny chiński supertankowiec zmierza do Wenezueli pilne
Blokada Trumpa wystawiona na próbę. Gigantyczny chiński supertankowiec zmierza do Wenezueli

Tankowiec Thousand Sunny, od lat obsługujący transport ropy z Wenezueli do Chin, kieruje się w stronę objętego amerykańską blokadą kraju. Jednostka nie zmieniła kursu mimo zapowiedzi „całkowitej i kompletnej” blokady ogłoszonej przez Waszyngton. Liczy 330 metrów długości i 60 wysokości.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane