Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Katastrofa kolejowa w Hiszpanii. MSZ zabrał głos z ostatniej chwili
Katastrofa kolejowa w Hiszpanii. MSZ zabrał głos

– Na tę chwilę nie mamy informacji, aby w tragedii kolejowej w Hiszpanii ucierpieli polscy obywatele – poinformował w poniedziałek rzecznik MSZ Maciej Wewiór. Podkreślił, że polskie służby konsularne pozostają w kontakcie z lokalnymi służbami ratowniczymi.

NFZ wydał pilny komunikat z ostatniej chwili
NFZ wydał pilny komunikat

Bezpłatny test HPV HR jest już dostępny w programie profilaktyki raka szyjki macicy na NFZ – informuje w poniedziałek 19 stycznia 2026 r. Narodowy Fundusz Zdrowia.

Fala bankructw zalewa Niemcy. Transport i logistyka na czele niechlubnego rankingu z ostatniej chwili
Fala bankructw zalewa Niemcy. Transport i logistyka na czele niechlubnego rankingu

Niemiecka gospodarka wysyła sprzeczne sygnały. Z jednej strony rosną zamówienia w przemyśle, z drugiej – liczba niewypłacalności firm bije rekordy sprzed dwóch dekad. Najtrudniejsza sytuacja panuje w transporcie i logistyce, gdzie upadłości występują częściej niż w jakiejkolwiek innej branży.

Manifestacja pro-life pod szpitalem w Gdańsku. Kaja Godek mówi o siłowym wypychaniu obrońców życia z ostatniej chwili
Manifestacja pro-life pod szpitalem w Gdańsku. Kaja Godek mówi o "siłowym wypychaniu" obrońców życia

Pod gdańskim szpitalem św. Wojciecha na Zaspie odbyły się dwie manifestacje: pro-life oraz kontrmanifestacja lewicy.

IMGW wydał ostrzeżenie dla woj. warmińsko-mazurskiego z ostatniej chwili
IMGW wydał ostrzeżenie dla woj. warmińsko-mazurskiego

W poniedziałek Instytut Meteorologii i Gospodarki wydał ostrzeżenie hydrologiczne 1. stopnia dla części województwa warmińsko-mazurskiego. Ostrzeżenie jest ważne do 20 stycznia 2026 r. do godz. 10.

Prokuratura potwierdza: Nowe fakty w sprawie Iwony Wieczorek z ostatniej chwili
Prokuratura potwierdza: Nowe fakty w sprawie Iwony Wieczorek

W sprawie dotyczącej Iwony Wieczorek pojawiły się nowe fakty oraz dowody – poinformowała w poniedziałek Wirtualna Polska. Informację potwierdziła Prokuratura Krajowa.

Nie żyje twórca „Króla Lwa” Wiadomości
Nie żyje twórca „Króla Lwa”

To wiadomość, która poruszyła fanów animacji na całym świecie. W wieku 76 lat zmarł Roger Allers – wybitny reżyser, scenarzysta i animator, współtwórca legendarnego „Króla Lwa”. O jego nagłym odejściu poinformował rzecznik Disney Animation, a branża filmowa oddaje hołd artyście, który na zawsze zmienił historię animacji.

Kuriozum! Sąd nie uznał rozwodu, bo orzekał neosędzia z ostatniej chwili
Kuriozum! Sąd nie uznał rozwodu, bo orzekał "neosędzia"

W styczniu 2026 r. Sąd Rejonowy w Giżycku odmówił dokonania podziału majątku byłych współmałżonków, uznając, że wyrok w ich sprawie rozwodowej nie istnieje. Dlaczego? Ponieważ wydał go tzw. neosędzia.

To nagranie to hit sieci. Blitzkrieg Bundeswehry na Grenlandii gorące
To nagranie to hit sieci. Blitzkrieg Bundeswehry na Grenlandii

Kilkunastosekundowe wideo robi furorę w sieci. Niemieccy żołnierze wysiadają z samolotu, po chwili – na innym ujęciu – już do niego wracają i odlatują. Dwudniowa obecność Bundeswehry na Grenlandii miała być rutynową misją rozpoznawczą, jednak tempo jej zakończenia i forma powrotu wywołały falę spekulacji.

Nowy komunikat IMGW. Oto co nas czeka z ostatniej chwili
Nowy komunikat IMGW. Oto co nas czeka

Polskę czeka spokojna, ale wyjątkowo chłodna aura. Dominacja wyżu barycznego przyniesie dużo słońca i niewielkie zachmurzenie, jednak nocami temperatury spadną miejscami poniżej -20°C, a w górach i nad morzem da się odczuć silny, porywisty wiatr.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane