Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Co z ewakuacją Polaków z Bliskiego Wschodu? MSZ zapowiada komunikat Wiadomości
Co z ewakuacją Polaków z Bliskiego Wschodu? MSZ zapowiada komunikat

Wiceszef MSZ Marcin Bosacki wyraził przekonanie, że w ciągu najbliższych godzin resort będzie gotowy, by zakomunikować możliwość pomocy w wydostaniu się m.in. ze Zjednoczonych Emiratów Arabskich tym, którzy tam utknęli na skutek działań wojennych w regionie.

Nie żyje znany muzyk, partner artystyczny Lennona i McCartneya Wiadomości
Nie żyje znany muzyk, partner artystyczny Lennona i McCartneya

W wieku 84 lat zmarł Len Garry, angielski muzyk, najbardziej znany jako członek zespołu Quarrymen, który później przekształcił się w legendarnych The Beatles. Garry zmarł 2 marca 2026 roku w domu na zapalenie płuc po przebytej infekcji klatki piersiowej.

Nie żyje znany fotoreporter Adam Chełstowski. Jest komunikat opisujący okoliczności śmierci z ostatniej chwili
Nie żyje znany fotoreporter Adam Chełstowski. Jest komunikat opisujący okoliczności śmierci

Zmarł Adam Chełstowski, ceniony fotoreporter związany z agencją Forum. Wydarzenia z poniedziałkowego wieczoru budzą emocje, a dramatyczna relacja z walki o życie fotografa wywołała burzę w sieci. Opublikowano oświadczenie Związku Polskich Artystów Fotografików.

Migranci z UE rozczarowani Niemcami? Wyniki nowego badania Wiadomości
Migranci z UE rozczarowani Niemcami? Wyniki nowego badania

Ponad jedna trzecia obywateli Unii Europejskiej mieszkających w Niemczech zastanawia się nad opuszczeniem tego kraju – wynika z najnowszego badania przedstawionego przez pełnomocniczkę niemieckiego rządu ds. migracji i integracji, Natalie Pawlik. Ankieta pokazuje, że chociaż obywatele UE formalnie mają takie same prawa jak Niemcy, to ich codzienne doświadczenia często są inne – podkreślono w komunikacie.

Irański koszmar Putina tylko u nas
Irański koszmar Putina

Jak można się było spodziewać, ledwo amerykańskie i izraelskie rakiety walnęły w ajatollahów i ich arsenał, poniosła się szeroko w mediach teza „Rosja na tym korzysta”. Cóż, to samo słyszałem, gdy Amerykanie porwali Maduro z serca Caracas.

Karol Wagner: TDI Panie Premierze! Wiadomości
Karol Wagner: TDI Panie Premierze!

Rzecz o pospolitej, nie w Polsce, koncepcji rozwoju turystyki. Polska osiąga historycznie wysokie wyniki w globalnym Travel & Tourism Development Index (TTDI), rośnie szybciej niż Europa i generuje rekordowy wkład turystyki w PKB. Mimo tego sektor nie ma własnego, autonomicznego resortu, co ogranicza jego dalszy rozwój i zdolność do monetyzacji potencjału. Krótko i merytorycznie prezentuje dane, porównania międzynarodowe i argumenty ekonomiczne, które wskazują, że turystyka powinna otrzymać samodzielne miejsce w rządowej architekturze.

GIF podjął decyzję o wycofaniu popularnego leku Wiadomości
GIF podjął decyzję o wycofaniu popularnego leku

Główny Inspektor Farmaceutyczny zdecydował o natychmiastowym wycofaniu leku Veriflo oraz zakazał jego dalszego wprowadzania do obrotu. Preparat musi niezwłocznie zniknąć z aptek w całym kraju.

Pałac Buckingham: Gest króla Karola III szansą na pojednanie? Wiadomości
Pałac Buckingham: Gest króla Karola III szansą na pojednanie?

Rodzina królewska przechodzi trudny okres. Książę Harry i Meghan Markle od kilku lat mieszkają w Stanach Zjednoczonych i zdystansowali się od monarchii, krytykując ją w mediach i książkach. 

USA kończą współpracę handlową z Hiszpanią Wiadomości
USA kończą współpracę handlową z Hiszpanią

Prezydent USA Donald Trump oświadczył we wtorek, że nie jest zadowolony z Hiszpanii i powiadomił, że Stany Zjednoczone nie będą już handlować z tym krajem. Dodał, że nie jest też zadowolony z Wielkiej Brytanii.

IMGW wydał nowy komunikat. Oto co nas czeka Wiadomości
IMGW wydał nowy komunikat. Oto co nas czeka

W najbliższych dniach możemy spodziewać się zachmurzenia, deszczu i mżawki, które będą powodować mgły ograniczające widzialność do 500 m – poinformował synoptyk IMGW Michał Kowalczuk. W środę w południowej części Polski do 14 st. C.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane