Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Iran chce zaatakować Europę? Wielka Brytania zabrała głos z ostatniej chwili
Iran chce zaatakować Europę? Wielka Brytania zabrała głos

– Nie ma żadnych raportów potwierdzających doniesienia, że Iran planuje zaatakować Europę rakietami balistycznymi, ani że w ogóle ma ku temu możliwości – powiedział w niedzielę w rozmowie ze stacją BBC Steve Reed, minister ds. mieszkalnictwa Wielkiej Brytanii.

Łukasz Jasina: Żarcik o Pearl Harbor tylko u nas
Łukasz Jasina: Żarcik o Pearl Harbor

Wizyta premier Japonii w Białym Domu pokazuje, jak ważny pozostaje sojusz USA–Japonia – mimo zmieniającej się polityki globalnej i rosnącej roli Chin.

Jak panu nie wstyd?. Bogucki puścił nagranie i przypomniał słowa polityka KO z ostatniej chwili
"Jak panu nie wstyd?". Bogucki puścił nagranie i przypomniał słowa polityka KO

Emocje w niedzielnym programie Bogdana Rymanowskiego sięgnęły zenitu. Zbigniew Bogucki zarzucił Bartoszowi Arłukowiczowi okłamywanie wyborców w sprawie limitów w NFZ.

Oszuści mają nowy sposób. Znany bank wydał pilny komunikat z ostatniej chwili
Oszuści mają nowy sposób. Znany bank wydał pilny komunikat

Oszuści podszywają się pod pracowników banków i instytucji publicznych, przesyłając fałszywe legitymacje. Celem jest wyłudzenie danych, kodów BLIK i pieniędzy z kont klientów.

Ceny paliw ostro w górę. Polacy domagają się reakcji rządu z ostatniej chwili
Ceny paliw ostro w górę. Polacy domagają się reakcji rządu

Większość Polaków chce ingerencji rządu w ceny paliw – wynika z badania United Surveys by IBRiS dla Wirtualnej Polski opublikowanego w niedzielę.

Komunikat dla mieszkańców woj. małopolskiego z ostatniej chwili
Komunikat dla mieszkańców woj. małopolskiego

Od poniedziałku kierowców czekają kolejne utrudnienia na Zakopiance w rejonie budowy węzła Myślenice.

Wypadek w woj. podlaskim. Pociąg uderzył w żubry z ostatniej chwili
Wypadek w woj. podlaskim. Pociąg uderzył w żubry

W miejscowości Kraskowszczyzna w woj. podlaskim pociąg Intercity uderzył w żubry. Pasażerom nic się nie stało. Zwierzęta nie przeżyły.

IMGW wydał nowy komunikat. Oto co nas czeka z ostatniej chwili
IMGW wydał nowy komunikat. Oto co nas czeka

Pogoda na 22 i 23 marca 2026 przyniesie w Polsce sporo zmian. Będzie do 15°C, ale miejscami pojawią się przelotne opady deszczu, w górach także śniegu, a nocami wróci mróz i lokalne mgły.

Garść faktów. Jest lista porodówek zamkniętych za rządów Tuska z ostatniej chwili
"Garść faktów". Jest lista porodówek zamkniętych za rządów Tuska

Janusz Cieszyński opublikował listę porodówek zamkniętych od lipca 2025 roku. Wpis pojawił się po słowach premiera Donalda Tuska dot. sytuacji w Lesku w woj. podkarpackim.

Komunikat dla mieszkańców Warszawy z ostatniej chwili
Komunikat dla mieszkańców Warszawy

W poniedziałek około godz. 9 zostanie zamknięty przejazd przez tory przy stacji Warszawa Falenica. Kierowcy pojadą objazdami, a trasy zmienią autobusy linii 115, 142, 161, 213 oraz nocne N22 i N72.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane