Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Rozpoczął się strajk Lufthansy. Odwołano setki lotów z ostatniej chwili
Rozpoczął się strajk Lufthansy. Odwołano setki lotów

Całodniowy strajk pilotów i personelu pokładowego Lufthansy sparaliżował ruch lotniczy w Niemczech. Przewoźnik odwołał niemal wszystkie wyloty, w tym rejsy do Polski. Utrudnienia objęły dziesiątki tysięcy pasażerów.

WhatsApp i YouTube już niedostępne w Rosji. Zaostrza się kontrola informacji Wiadomości
WhatsApp i YouTube już niedostępne w Rosji. Zaostrza się kontrola informacji

Rosyjskie władze rozszerzyły internetową blokadę na całe usługi WhatsApp i YouTube. Decyzja weszła w życie 11 lutego i oznacza faktyczne odcięcie milionów użytkowników od popularnych platform komunikacyjnych i wideo.

„Rz”: Konflikt Lewicy z prezydentem jest celowy. Chodzi o pompowanie Czarzastego polityka
„Rz”: Konflikt Lewicy z prezydentem jest celowy. Chodzi o pompowanie Czarzastego

Nowa Lewica ma świadomie eskalować spór z Karolem Nawrockim, by wzmocnić swoją pozycję polityczną – informuje „Rzeczpospolita”. Według dziennika strategia została oparta na badaniach i ma być realizowana przez wiele miesięcy i ma służyć wykreowaniu Czarzastego na polityka równego Tuskowi.

Decyzja rządu: Obecnością Cenckiewicza na RBN zajmie się ABW pilne
Decyzja rządu: Obecnością Cenckiewicza na RBN zajmie się ABW

Udział szefa Biura Bezpieczeństwa Narodowego w niejawnych obradach Rady Bezpieczeństwa Narodowego wywołał reakcję rządu. Rzecznik ministra koordynatora służb specjalnych zapowiedział działania ABW.

Potężna bójka w tureckim parlamencie. Poszło o nowego ministra z ostatniej chwili
Potężna bójka w tureckim parlamencie. Poszło o nowego ministra

W tureckim parlamencie doszło najpierw do przepychanek, a następnie rękoczynów podczas zaprzysiężenia nowego ministra sprawiedliwości. Opozycja próbowała zablokować objęcie stanowiska przez Akina Gurleka – byłego prokuratora generalnego Stambułu.

Rosyjskie myśliwce przy granicy z Japonią. Sygnał dla Tokio i Pekinu z ostatniej chwili
Rosyjskie myśliwce przy granicy z Japonią. Sygnał dla Tokio i Pekinu

Co najmniej 15 myśliwców piątej generacji Su-57 trafiło do bazy Dziomgi w obwodzie chabarowskim – wynika z analiz zdjęć satelitarnych. Według ukraińskiego wywiadu to czytelny sygnał wobec Japonii i Chin oraz element szerszej strategii Moskwy na Dalekim Wschodzie.

Tusk opuścił RBN przed dyskusją dot. Czarzastego. To nie jest miejsce do takich dyskusji z ostatniej chwili
Tusk opuścił RBN przed dyskusją dot. Czarzastego. "To nie jest miejsce do takich dyskusji"

Premier Donald Tusk skrytykował prezydenta Nawrockiego za poruszanie podczas Rady Bezpieczeństwa Narodowego kwestii „kontaktów towarzyskich” marszałka Sejmu. Szef rządu opuścił posiedzenie jeszcze przed rozpoczęciem tej części dyskusji.

Czarzasty po posiedzeniu RBN: „Ustawka się nie udała” z ostatniej chwili
Czarzasty po posiedzeniu RBN: „Ustawka się nie udała”

Marszałek Sejmu Włodzimierz Czarzasty podkreślił, że w sprawach programu SAFE oraz Rady Pokoju odbyły się na posiedzeniu Rady Bezpieczeństwa Narodowego ważne rozmowy. Odnosząc się do poświęconego mu punktu obrad RBN, stwierdził, że „ustawka się nie udała”.

Szef BBN: Kwestia warunkowości może całkowicie rozbić ewentualną polską akcesję do SAFE z ostatniej chwili
Szef BBN: Kwestia warunkowości może całkowicie rozbić ewentualną polską akcesję do SAFE

Szef Biura Bezpieczeństwa Narodowego prof. Sławomir Cenckiewicz po posiedzeniu Rady Bezpieczeństwa Narodowego przyznał, że „kwestia warunkowości może całkowicie rozbić ewentualną polską akcesję do SAFE”.

Michał Woś: Usuniętego sędziego Łubowskiego zastępuje nominat Rady Państwa PRL gorące
Michał Woś: Usuniętego sędziego Łubowskiego zastępuje nominat Rady Państwa PRL

„Usuniętego sędziego Łubowskiego zastępuje T.Grochowicz - nominat Rady Państwa PRL” - napisał poseł PiS Michał Woś na platformie X.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane