Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Wagnerowcy w Bułgarii? Alarm ws. bazy pod Sofią Wiadomości
Wagnerowcy w Bułgarii? Alarm ws. bazy pod Sofią

Uzbrojeni ludzie w rosyjskich mundurach, flaga Federacji Rosyjskiej i silnie strzeżony obiekt w górach nieopodal Sofii. Bułgarskie stowarzyszenie obywatelskie alarmuje: na terytorium państwa NATO może działać baza objętej sankcjami Grupy Wagnera.

Miażdżąca krytyka na wysłuchaniu publicznym ws. tzw. ustawy praworządnościowej w Sejmie pilne
Miażdżąca krytyka na wysłuchaniu publicznym ws. tzw. ustawy praworządnościowej w Sejmie

Wtorkowe wysłuchanie publiczne projektu ustawy praworządnościowej pokazało prawdziwe oblicze rządowych eksperymentów z sądownictwem. Zamiast reformy – chaos, zamiast ochrony obywatela – polityczne kalkulacje. Projekt Żurka spotkał się z ostrą krytyką zarówno ze strony ekspertów, jak i środowiska prawniczego.

Dziś setne urodziny Gdyni. IPN otworzył wystawę pt. „Gdynia wczoraj i dziś. Kadry z historii miasta i portu z perspektywy 100-lecia” Wiadomości
Dziś setne urodziny Gdyni. IPN otworzył wystawę pt. „Gdynia wczoraj i dziś. Kadry z historii miasta i portu z perspektywy 100-lecia”

10 lutego 2026 r. w Gdyni otwarto wystawę pt. „Gdynia wczoraj i dziś. Kadry z historii miasta i portu z perspektywy 100-lecia”. W wydarzeniu wziął udział prezes Fundacji Promocji Solidarności Michał Ossowski.

Dziwne zachowanie Czarzastego. Przytulę się do pana... pilne
Dziwne zachowanie Czarzastego. "Przytulę się do pana..."

Zamiast odpowiedzi - spoufalanie i uniki. Gdy dziennikarz TV Republika zapytał Włodzimierza Czarzastego o niewypełnioną ankietę bezpieczeństwa, marszałek Sejmu zareagował w sposób, który wzbudził spore zdziwienie.

Szokujące relacje ks. Olszewskiego. Proces Funduszu Sprawiedliwości pilne
Szokujące relacje ks. Olszewskiego. Proces Funduszu Sprawiedliwości

Po raz pierwszy od początku procesu oskarżeni mogli swobodnie przemówić przed sądem. Podczas trzeciej rozprawy ks. Michał Olszewski opisał, jak był traktowany w trakcie postępowania prowadzonego przez prokuraturę.

Awantura w Sejmie. Żukowska porównała „Burego” do Putina z ostatniej chwili
Awantura w Sejmie. Żukowska porównała „Burego” do Putina

Emocjonalne wystąpienie, ostre oskarżenia i porównanie żołnierza polskiego podziemia niepodległościowego do rosyjskiego dyktatora. Sejmowa debata nad projektem Lewicy zamieniła się w polityczny skandal z Anną Żukowską w roli głównej.

Niezwykłe zjawisko na Bałtyku. Woda cofnęła się jak nigdy wcześniej Wiadomości
Niezwykłe zjawisko na Bałtyku. Woda cofnęła się jak nigdy wcześniej

Ponad 67 centymetrów poniżej normy – tak niski poziom Bałtyku zarejestrowano po raz pierwszy od rozpoczęcia pomiarów. Główną przyczyną tej sytuacji są długotrwałe i wyjątkowo silne wiatry ze wschodu, które dosłownie "wypchnęły" wodę z basenu Morza Bałtyckiego. Rekordowy odpływ wody uderza w żeglugę i rybołówstwo, ale według naukowców może przynieść pozytywne skutki dla morskiej przyrody.

Brutalne zabójstwo Mai z Mławy. Nowe informacje ws. podejrzanego z ostatniej chwili
Brutalne zabójstwo Mai z Mławy. Nowe informacje ws. podejrzanego

Do sądu trafi wniosek o skierowanie na obserwację psychiatryczną podejrzanego o zabójstwo ze szczególnym okrucieństwem 16-letniej Mai K. z Mławy. Takie zalecenie wydali biegli po jednorazowym badaniu 18-letniego Bartosza G. - dowiedziała się we wtorek PAP w Prokuraturze Okręgowej w Płocku.

PE przegłosował ekstremalny cel klimatyczny na 2040 rok. Emisja ma spaść o 90 proc. gorące
PE przegłosował ekstremalny cel klimatyczny na 2040 rok. Emisja ma spaść o 90 proc.

Unia Europejska przyspiesza realizację polityki klimatycznej. Europarlament przegłosował nowy cel na 2040 rok, zakładający niemal całkowite ograniczenie emisji CO2, mimo obaw części państw o koszty i wpływ na konkurencyjność gospodarek.

Oferta” niemieckiego dyplomaty. Sprzęt wojskowy zamiast reparacji? pilne
"Oferta” niemieckiego dyplomaty. Sprzęt wojskowy zamiast reparacji?

Zamiast reparacji - wojskowy „prezent”. Taka sugestia padła ze strony doświadczonego niemieckiego dyplomaty i natychmiast wywołała ostrą reakcję polityków oraz ekspertów. Nawet w Niemczech propozycja została uznana za dziwną i paternalistyczną.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane