Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Komorowski broni Czarzastego. Prezydent Nawrocki chce eskalować sprawę Wiadomości
Komorowski broni Czarzastego. "Prezydent Nawrocki chce eskalować sprawę"

Bronisław Komorowski w Radiu Zet ostro odniósł się do sporu wokół marszałka Sejmu i relacji z USA. Były prezydent skrytykował prawicową opozycję, bronił marszałka Czarzastego i obarczył odpowiedzialnością za eskalację prezydenta Karola Nawrockiego.

Bogucki do Żurka: Odpowie Pan przed wymiarem sprawiedliwości, który próbuje Pan zniszczyć z ostatniej chwili
Bogucki do Żurka: Odpowie Pan przed wymiarem sprawiedliwości, który próbuje Pan zniszczyć

„Panie Ministrze Waldemarze Żurek, to nie Pierwsza Prezes Sądu Najwyższego jest nielegalnie powołana, tylko Pana działania są jawnie nielegalne” - napisał na platformie X szef Kancelarii Prezydenta RP Zbigniew Bogucki zwracając się do ministra sprawiedliwości Waldemara Żurka.

USA tną pomoc zagraniczną. Od lutego koniec finansowania aborcji i ideologii gender pilne
USA tną pomoc zagraniczną. Od lutego koniec finansowania aborcji i ideologii gender

Stany Zjednoczone obejmą niemal całość niemilitarnej pomocy zagranicznej nowymi ograniczeniami. Z programów finansowanych przez USA zniknie wsparcie dla aborcji, ideologii gender oraz polityk DEI. Nowe regulacje mają wejść w życie 26 lutego 2026 roku

PiS chce tajnego posiedzenia Sejmu ws. Czarzastego. „To kwestia bezpieczeństwa państwa” z ostatniej chwili
PiS chce tajnego posiedzenia Sejmu ws. Czarzastego. „To kwestia bezpieczeństwa państwa”

Prawo i Sprawiedliwość domaga się zwołania posiedzenia Sejmu w trybie niejawnym ws. relacji marszałka Sejmu Włodzimierza Czarzastego i jego żony z Rosjanką posiadającą polski paszport oraz niewypełnienie przez Czarzastego ankiety bezpieczeństwa. Politycy PiS mówią wprost o zagrożeniu dla bezpieczeństwa państwa.

Włochy: Rząd oficjalnie zapowiedział spotkanie premier Meloni z prezydentem Nawrockim z ostatniej chwili
Włochy: Rząd oficjalnie zapowiedział spotkanie premier Meloni z prezydentem Nawrockim

Rząd Włoch oficjalnie zapowiedział na godz. 15.30 w piątek w Mediolanie spotkanie premier Giorgii Meloni z prezydentem Karolem Nawrockim, który przybył tam na inaugurację zimowych igrzysk olimpijskich. Spotkanie odbędzie się w siedzibie prefektury w stolicy Lombardii.

Wyraźny sygnał po sześciu miesiącach. Karol Nawrocki z poparciem większości z ostatniej chwili
Wyraźny sygnał po sześciu miesiącach. Karol Nawrocki z poparciem większości

Po sześciu miesiącach urzędowania Karol Nawrocki może mówić o wyraźnym sukcesie. Najnowszy sondaż pokazuje, że mimo bezustannej, ostrej krytyki ze strony obozu rządzącego prezydent cieszy się poparciem ponad połowy Polaków.

Samolot SAS rozpędził się do startu na drodze kołowania. Pomyłka pilota Wiadomości
Samolot SAS rozpędził się do startu na drodze kołowania. Pomyłka pilota

Niewiele brakowało do poważnej katastrofy na lotnisku w Brukseli. Samolot lecący do Kopenhagi rozpędził się do prędkości startowej, po czym pilot w ostatniej chwili gwałtownie zahamował, a maszyna zjechała z drogi.

Pilne doniesienia z granicy. Jest komunikat Straży Granicznej z ostatniej chwili
Pilne doniesienia z granicy. Jest komunikat Straży Granicznej

Straż Graniczna opublikowała w piątek najnowszy raport z sytuacji na granicach Polski. Dane z 5 lutego pokazują skalę kontroli na granicy z Litwą i Niemcami, a także sytuację ws. prób nielegalnego przekroczenia granicy z Białorusią. 

Żurek: Polacy powinni stanąć murem za Czarzastym z ostatniej chwili
Żurek: Polacy powinni stanąć murem za Czarzastym

Po decyzji ambasadora USA o zerwaniu kontaktów z marszałkiem Sejmu Włodzimierzem Czarzastym sprawa wywołała polityczną reakcję rządu. Minister sprawiedliwości Waldemar Żurek ocenił, że Polska nie powinna ulegać presji, a marszałek „nie użył obraźliwych słów”.

Rosja: Wiceszef GRU poważnie ranny w zamachu w Moskwie z ostatniej chwili
Rosja: Wiceszef GRU poważnie ranny w zamachu w Moskwie

W północno-zachodniej części Moskwy doszło do zamachu na wysokiego rangą rosyjskiego wojskowego. Wiceszef GRU generał Władimir Aleksiejew został postrzelony i trafił do szpitala. Rosyjski Komitet Śledczy potwierdza wszczęcie postępowanie w sprawie usiłowania zabójstwa.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane