Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Siarczysty mróz uderzył w Polskę. Gdzie termometry pokazały najniższe wartości? z ostatniej chwili
Siarczysty mróz uderzył w Polskę. Gdzie termometry pokazały najniższe wartości?

Siarczysty mróz objął niemal cały kraj, a prognozy IMGW w pełni się potwierdziły. Alerty obowiązują w większości województw, a najbliższe noce mogą przynieść jeszcze trudniejsze warunki.

Sikorski po spotkaniu z prezydentem: Nie oddam w czyjeś ręce polityki kadrowej MSZ z ostatniej chwili
Sikorski po spotkaniu z prezydentem: Nie oddam w czyjeś ręce polityki kadrowej MSZ

Prezydent Karol Nawrocki przedstawił swoje propozycje dotyczące nominacji ambasadorskich, ale nazwiska pozostają tajemnicą. Minister spraw zagranicznych Radosław Sikorski podkreśla, że to on ponosi odpowiedzialność za politykę kadrową MSZ.

Separatyści z Quebecku z rekordowym poparciem. Prowincja oderwie się od Kanady? gorące
Separatyści z Quebecku z rekordowym poparciem. Prowincja oderwie się od Kanady?

Partia separatystyczna Parti Quebecois prowadzi w sondażach przed jesiennymi wyborami parlamentarnymi w Quebecu. Jej lider zapowiada referendum, a kanadyjscy politycy ostrzegają przed poważnymi konsekwencjami dla całego kraju.

Nocna akcja przy granicy. Komunikat wojska pilne
Nocna akcja przy granicy. Komunikat wojska

Polskie systemy obrony powietrznej po raz kolejny zostały postawione w stan gotowości. W nocy z 31 stycznia na 1 lutego w polską przestrzeń powietrzną wleciały obiekty o charakterze balonów, które nadleciały od strony Białorusi.

Wybory na szefa Polski 2050. Jest nazwisko zwycięzcy z ostatniej chwili
Wybory na szefa Polski 2050. Jest nazwisko zwycięzcy

Wybory na nową przewodniczącą Polski2050 wygrała Katarzyna Pełczyńska-Nałęcz. Nowa przewodnicząca podziękowała za wybór.

„Poczuł się oszukany”. Dziennikarka ujawnia kulisy sytuacji Hołowni Wiadomości
„Poczuł się oszukany”. Dziennikarka ujawnia kulisy sytuacji Hołowni

Dziennikarka Polsat News Dorota Gawryluk ujawniła, że Szymon Hołownia przeżywał „bardzo głęboki kryzys zdrowotny”. - „We wrześniu 2025 roku Szymon Hołownia przeżywał bardzo głęboki kryzys zdrowotny, na tyle głęboki, że był na silnych lekach i rzeczywiście potrzebował mocnej pomocy” - powiedziała Gawryluk.

Nawet –25°C w nocy. IMGW ostrzega przed silnym mrozem Wiadomości
Nawet –25°C w nocy. IMGW ostrzega przed silnym mrozem

W nocy z soboty na niedzielę temperatura w kraju wyniesie od minus 25 do minus 8 st. C. Stopniowego ocieplenia można się spodziewać od wtorku. Służby apelują o zwracanie uwagi na osoby zagrożone wychłodzeniem.

Balony nad Podlasiem. Straż Graniczna wydała komunikat Wiadomości
Balony nad Podlasiem. Straż Graniczna wydała komunikat

Sąd aresztował w sobotę na trzy miesiące dwóch Białorusinów w związku z przemytem balonami meteorologicznymi papierosów z Białorusi do Polski - poinformował Podlaski Oddział Straży Granicznej w Białymstoku.

Pod miastem powstał 100-tonowy korek. Eksperci ostrzegają przed kosztownym błędem Wiadomości
Pod miastem powstał 100-tonowy korek. Eksperci ostrzegają przed kosztownym błędem

Pod jedną z dzielnic Londynu służby odkryły ogromny zator w kanalizacji. Składał się głównie z zestalonego tłuszczu i oleju wylewanego do zlewów. Ważył około 100 ton i miał blisko 100 metrów długości. Przez ten korek ścieki nie mogły swobodnie odpływać, co sparaliżowało kanalizację w okolicy.

Konkurs PŚ w Willingen rozstrzygnięty. Polacy daleko w konkursie Pucharu Świata Wiadomości
Konkurs PŚ w Willingen rozstrzygnięty. Polacy daleko w konkursie Pucharu Świata

Aleksander Zniszczoł zajął 28. miejsce w konkursie Pucharu Świata w skokach narciarskich w niemieckim Willingen. Triumfował z dużą przewagą lider klasyfikacji generalnej PŚ Słoweniec Domen Prevc, odnosząc dziesiąte zwycięstwo w sezonie.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane