Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Jest nowy ranking zaufania. Karol Nawrocki ponownie na czele [SONDAŻ] z ostatniej chwili
Jest nowy ranking zaufania. Karol Nawrocki ponownie na czele [SONDAŻ]

W Wigilię portal Onet.pl opublikował grudniowy sondaż zaufania do polityków. Na pierwszym miejscu ponownie znalazł się prezydent Karol Nawrocki. W badaniu widać też powrót Jarosława Kaczyńskiego do pierwszej dziesiątki oraz pogarszającą się sytuację Mateusza Morawieckiego.

„Niech ucichną dzisiaj wszelkie spory”. Świąteczne życzenia Pary Prezydenckiej z ostatniej chwili
„Niech ucichną dzisiaj wszelkie spory”. Świąteczne życzenia Pary Prezydenckiej

Para Prezydencka skierowała do Polaków w kraju i za granicą życzenia świąteczne. W bożonarodzeniowym przesłaniu podkreślono znaczenie wspólnoty, tradycji oraz nadziei płynącej z Narodzenia Pańskiego. W komunikacie znalazły się także słowa wdzięczności dla osób pełniących służbę w święta.

Tragiczna Wigilia na Opolszczyźnie. Nie żyje sześć osób po wypadku na DK39 z ostatniej chwili
Tragiczna Wigilia na Opolszczyźnie. Nie żyje sześć osób po wypadku na DK39

Sześć osób zginęło w wypadku na drodze krajowej nr 39 w województwie opolskim w Wigilię o g. 6:30 rano. Po zderzeniu dwóch samochodów osobowych trasa została całkowicie zablokowana, a na miejscu pracują służby pod nadzorem prokuratury – poinformowała policja.

Ważny komunikat dla mieszkańców Warszawy z ostatniej chwili
Ważny komunikat dla mieszkańców Warszawy

W świąteczne dni zmienią się rozkłady komunikacji miejskiej. Zawieszone zostanie kursowanie kilkudziesięciu linii, a inne będą jeździć rzadziej.

Nie żyje Maciej Misztal. Kabareciarz miał tylko 43 lata z ostatniej chwili
Nie żyje Maciej Misztal. Kabareciarz miał tylko 43 lata

Maciej Misztal, współzałożyciel Kabaretu Trzeci Wymiar i wieloletni współpracownik OFPA w Rybniku, zmarł 22 grudnia 2025 r. po ciężkiej chorobie. Miał 43 lata.

Katastrofa samolotu w Turcji. Nie żyje szef sztabu armii Libii z ostatniej chwili
Katastrofa samolotu w Turcji. Nie żyje szef sztabu armii Libii

Służby dotarły do wraku samolotu, którym leciał szef sztabu armii Libii Mohammed Ali Ahmed Al-Haddad – przekazał minister spraw wewnętrznych Turcji Ali Yerlikaya. Wcześniej informowano, że z samolotem utracono kontakt radiowy.

Ogłoszenia o pracę muszą być neutralne płciowo. Minister: Mamy piękny, bogaty język z ostatniej chwili
Ogłoszenia o pracę muszą być neutralne płciowo. Minister: "Mamy piękny, bogaty język"

Minister rodziny, pracy i polityki społecznej Agnieszka Dziemianowicz-Bąk w TVP w likwidacji przekonywała, że w ogłoszeniach o pracę nie powinno się wskazywać płci. Zmiany wejdą w życie 24 grudnia 2025 r.

Nie żyje mężczyzna zaatakowany przez nożownika w Gdańsku z ostatniej chwili
Nie żyje mężczyzna zaatakowany przez nożownika w Gdańsku

Nie żyje mężczyzna, który w niedzielę w centrum Gdańska został zaatakowany przez 26-latka – poinformował serwis tvn24.pl.

Szokujące wieści z Włoch. Znany biathlonista znaleziony martwy podczas zgrupowania z ostatniej chwili
Szokujące wieści z Włoch. Znany biathlonista znaleziony martwy podczas zgrupowania

Sivert Guttorm Bakken, reprezentant Norwegii w biathlonowym Pucharze Świata, został we wtorek znaleziony martwy w hotelu we włoskim Lavaze – poinformowała norweska federacja biathlonu.

Leszek Czarnecki pozywa Telewizję Republika z ostatniej chwili
Leszek Czarnecki pozywa Telewizję Republika

Leszek Czarnecki pozywa Telewizję Republika. Chodzi o opublikowane przez stację w czerwcu tzw. "taśmy Giertycha". – Powodem tej sprawy jest to, że opublikowaliśmy jego rozmowę z Romanem Giertychem. Czyli nie to, że pokazaliśmy nieprawdę – stwierdził szef Telewizji Republika Tomasz Sakiewicz.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane