Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Rekordowo niski poziom wody w Bałtyku Wiadomości
Rekordowo niski poziom wody w Bałtyku

Instytut Oceanologii PAN (IO PAN) poinformował, że w pierwszych tygodniach lutego br. Morze Bałtyckie doświadczyło bezprecedensowego spadku poziomu wody — średnie poziomy są obecnie blisko 67 cm poniżej normy. Głównym czynnikiem jest stały i silny wschodni wiatr, który wypycha wodę z Bałtyku przez cieśniny duńskie.

Tȟašúŋke Witkó: Poganiacze niewolników XXI wieku tylko u nas
Tȟašúŋke Witkó: Poganiacze niewolników XXI wieku

Tuż przed Bożym Narodzeniem roku 1990, kiedy byłem w III klasie technikum, do mej szkoły przybył ówczesny minister pracy i polityki socjalnej, Jacek Kuroń. Oficjel wystąpił w swej charakterystycznej niebieskiej koszuli i przez cały czas spotkania miętosił w palcach niezapalonego papierosa pewnej marki, reklamowanej w tamtych latach przez kowboja, posiadacza kwadratowej szczęki i z lassem dzierżonym w dłoni.

Niespodzianka w M jak miłość. Specjalny odcinek dla widzów Wiadomości
Niespodzianka w "M jak miłość". Specjalny odcinek dla widzów

W Grabinie zrobi się gorąco w walentynki. Specjalny odcinek „M jak miłość”, który zostanie wyemitowany 14 lutego o godz. 17.20 w TVP2, przyniesie sporo emocji, zaskoczeń i niespodziewanych zwrotów akcji.

Polskie szkoły muszą zaakceptować ideologię gender. Jest wyrok sądu tylko u nas
Polskie szkoły muszą zaakceptować ideologię gender. Jest wyrok sądu

Aktywiści gender świętują od wczoraj w Polsce. W Rzeszowie zapadł bowiem prawomocny wyrok Sądu Apelacyjnego, który zmusza szkoły do uznawania "tożsamości płciowej" uczniów niezależnie od ich dokumentów. Wyrok budzi, rzecz jasna, poważne wątpliwości każdego, kto nie kupuje pomysłów o „zmianach płci”. Czy polski system oświaty ma teraz ugiąć się pod ciężarem ideologicznych trendów?

Trump: Rosja chce zawrzeć układ, Zełenski musi się ruszyć Wiadomości
Trump: Rosja chce zawrzeć układ, Zełenski musi się ruszyć

Rosja chce zawrzeć układ, a prezydent Ukrainy Wołodymyr Zełenski musi się ruszyć, bo straci wielką okazję - powiedział w piątek prezydent USA Donald Trump. Odpowiedział w ten sposób na pytanie o presję wywieraną przez administrację USA na władze Ukrainy.

Niecodzienne odkrycie naukowców. Gratka dla fanów astronomii Wiadomości
Niecodzienne odkrycie naukowców. Gratka dla fanów astronomii

Naukowcy odkryli niezwykły układ planetarny, który nie przypomina typowych systemów planetarnych. Chodzi o czerwonego karła LHS 1903, wokół którego krążą cztery egzoplanety - w tym jedna planeta skalista znajduje się dalej od gwiazdy niż gazowe olbrzymy.

Igrzyska 2026. Polski reprezentant ze srebrnym medalem Wiadomości
Igrzyska 2026. Polski reprezentant ze srebrnym medalem

Władimir Semirunnij wywalczył srebrny medal olimpijski w łyżwiarstwie szybkim na 10000 m w Mediolanie. Wygrał Czech Metodej Jilek, a brąz zdobył Holender Jorrit Bergsma.

Prezydent: Budowa bezpieczeństwa to najważniejsze wyzwanie XXI wieku Wiadomości
Prezydent: Budowa bezpieczeństwa to najważniejsze wyzwanie XXI wieku

Do najważniejszych wyzwań, które stoją przed Polską w XXI wieku należy budowa bezpieczeństwa i odporności państwa polskiego - podkreślił prezydent Karol Nawrocki podczas spotkania z mieszkańcami Hajnówki (woj. podlaskie). Jak dodał, te kwestie szczególnie dotyczą ściany wschodniej naszego kraju.

Komunikat dla mieszkańców Lublina Wiadomości
Komunikat dla mieszkańców Lublina

Mieszkańcy bloku przy ul. Sympatycznej 1 na osiedlu Skarpa w Lublinie muszą liczyć się z czasowym brakiem wody. Przerwa w dostawie zarówno zimnej, jak i ciepłej wody została zaplanowana na poniedziałek 16 lutego w godzinach od 10:00 do 12:00.

Rząd Tuska szykuje państwowy rejestr zwierząt i grzywny Wiadomości
Rząd Tuska szykuje państwowy rejestr zwierząt i grzywny

Resort rolnictwa planuje wprowadzenie obowiązkowej rejestracji wszystkich psów (dobrowolnej w przypadku kotów) w nowym, państwowym systemie. Projekt przygotowało Ministerstwo Rolnictwa i Rozwoju Wsi, a rejestr ma działać w ramach Agencji Restrukturyzacji i Modernizacji Rolnictwa (ARiMR). Przyjęcie ustawy zaplanowano na I kwartał 2026 roku.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane