Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Ważny komunikat dla mieszkańców Gdańska z ostatniej chwili
Ważny komunikat dla mieszkańców Gdańska

Ważny komunikat dla mieszkańców Gdańska. Miasto uruchomiło konsultacje społeczne dotyczące dokumentu, który zadecyduje o kierunkach rozwoju komunikacji miejskiej na najbliższe kilkanaście lat. Każdy mieszkaniec może zgłosić swoje uwagi – czasu jest jednak niewiele.

ZUS rusza po pieniądze. Te świadczenia trzeba będzie oddać Wiadomości
ZUS rusza po pieniądze. Te świadczenia trzeba będzie oddać

ZUS wydał komunikat, który może zaniepokoić tysiące świadczeniobiorców. Osoby, które pobrały pieniądze nienależnie – nawet nieświadomie – muszą liczyć się z koniecznością zwrotu środków.

W tajemnicy przed Polakami. Europoseł alarmuje w sprawie specustawy dot. Ukraińców z ostatniej chwili
"W tajemnicy przed Polakami". Europoseł alarmuje w sprawie specustawy dot. Ukraińców

Rada Ministrów przyjęła projekt wygaszający rozwiązania specustawy ukraińskiej. Rząd mówi o przejściu na równe zasady, a Maciej Wąsik ostrzega, że nowe przepisy mogą rozszerzyć ochronę na cudzoziemców spoza Ukrainy.

Rewolucja przy wzywaniu karetki. Ministerstwo zmienia zasady Wiadomości
Rewolucja przy wzywaniu karetki. Ministerstwo zmienia zasady

To jedna z największych zmian w systemie ratownictwa od lat. Ministerstwo Zdrowia szykuje nowe zasady obsługi zgłoszeń pod numerem 112. Dyspozytor medyczny nie zacznie już rozmowy od pytania o adres. Liczyć się będzie coś zupełnie innego — i to ma skrócić czas wysłania karetki nawet w sytuacjach zagrożenia życia.

Kraj skuty lodem. IMGW i RCB ostrzegają: najgorsze dopiero przed nami pilne
Kraj skuty lodem. IMGW i RCB ostrzegają: najgorsze dopiero przed nami

Marznący deszcz, mgła i nagłe oblodzenie dróg mogą dziś sparaliżować znaczną część kraju. IMGW wydał ostrzeżenia dla 13 województw, a RCB rozesłało pilne alerty do milionów Polaków. Eksperci ostrzegają: sytuacja może być niebezpieczna dla kierowców i pieszych nawet do wtorkowego poranka.

Zakaz social mediów dla dzieci. Zapytano Polaków z ostatniej chwili
Zakaz social mediów dla dzieci. Zapytano Polaków

Polacy dostrzegają problem nadmiernej aktywności dzieci i młodzieży w portalach społecznościowych i płynących z tego zagrożeń, wynika z badania IBRiS – pisze poniedziałkowa ''Rzeczpospolita''.

To koniec PGNiG. Orlen podał datę z ostatniej chwili
To koniec PGNiG. Orlen podał datę

Od 27 stycznia 2026 r. marka PGNiG przechodzi pod ORLEN, a PGNiG Obrót Detaliczny zmienia nazwę na myORLEN. Umowy i rachunki pozostają bez zmian. Startuje myorlen.pl i bonusy w ORLEN VITAY.

Nie żyje najstarsza Polka. Jadwiga Żak-Stewart miała 113 lat z ostatniej chwili
Nie żyje najstarsza Polka. Jadwiga Żak-Stewart miała 113 lat

W wieku 113 lat zmarła Jadwiga Żak-Stewart, najstarsza Polka. Informację 26 stycznia przekazał Urząd Marszałkowski Województwa Łódzkiego.

Ogromne utrudnienia na kolei. Pilny komunikat PKP Intercity z ostatniej chwili
Ogromne utrudnienia na kolei. Pilny komunikat PKP Intercity

Z powodu oblodzenia sieci trakcyjnej pociągi PKP Intercity mogą być opóźnione lub odwołane. Wstrzymano ruch pociągów na kilku odcinkach – m.in. Poznań Główny – Frankfurt/Oder i Poznań Główny – Wrocław Główny – podał przewoźnik.

Fatalna sytuacja na północy Polski. Ponad 100 kolizji i wypadków z ostatniej chwili
Fatalna sytuacja na północy Polski. Ponad 100 kolizji i wypadków

Z powodu opadów marznącego deszczu i gołoledzi warunki drogowe w woj. zachodniopomorskim są trudne. Policja i samorządy apelują o niekorzystanie z samochodów. Od północy doszło do 105 kolizji i wypadków, skrzyżowania m.in. w Szczecinie są zakorkowane. Dyrektorzy części szkół odwołali lekcje.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane