Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Bosak o KSeF: Każdy wywiad gospodarczy może tylko pomarzyć, żeby mieć przegląd wszystkich faktur wideo
Bosak o KSeF: Każdy wywiad gospodarczy może tylko pomarzyć, żeby mieć przegląd wszystkich faktur

„Wasz rząd niestety wyoutsourceował za granicę kolejny ogromny obszar danych gospodarczych, o których każdy wywiad gospodarczy może tylko pomarzyć, żeby mieć przegląd wszystkich faktur” - powiedział wicemarszałek Sejmu Krzysztof Bosak na antenie Telewizji Polsat odnosząc się do Krajowego Systemu e-Faktur (KSeF).

Zdarzenie z nożem w zachodnich Niemczech. Policja użyła broni z ostatniej chwili
Zdarzenie z nożem w zachodnich Niemczech. Policja użyła broni

W sobotę po południu w centrum Trewiru na zachodzie Niemiec policja postrzeliła mężczyznę, który chodził po deptaku z nożem i zaczepiał przechodniów. Na szczęście nikt nie został ranny.

Ogień w miejscu pamięci ofiar tragedii. Niepokojące sceny w Crans-Montana Wiadomości
Ogień w miejscu pamięci ofiar tragedii. Niepokojące sceny w Crans-Montana

W prowizorycznym miejscu pamięci poświęconym ofiarom tragicznego pożaru, do którego doszło podczas imprezy sylwestrowej w szwajcarskim kurorcie Crans-Montana, w niedzielę rano pojawił się ogień - poinformowała policja. Przyczyną prawdopodobnie były znajdujące się tam świece.

Urzędnik Trumpa: Brytyjskie ofiary wolności słowa powinny ubiegać się o azyl w USA z ostatniej chwili
Urzędnik Trumpa: Brytyjskie ofiary wolności słowa powinny ubiegać się o azyl w USA

Cytowana przez „The Telegraph” Sarah Rogers, prawnik kierująca dyplomacją publiczną prezydenta USA, ostrzega, że wspólne wartości krajów są pod presją.

Korea Południowa wyrosła na potężnego rywala Niemiec w przemyśle zbrojeniowym tylko u nas
Korea Południowa wyrosła na potężnego rywala Niemiec w przemyśle zbrojeniowym

Jeszcze dekadę temu Korea Południowa była odbiorcą niemieckich technologii wojskowych, dziś odbiera Berlinowi kluczowe kontrakty i wchodzi na europejski rynek zbrojeniowy z impetem. Szybkie dostawy, niższe ceny i gotowe linie produkcyjne sprawiły, że azjatycki producent stał się jednym z najgroźniejszych rywali Niemiec – także tam, gdzie dotąd dominował przemysł zbrojeniowy z UE.

Wypadek na Warmii. Nie żyje wieloletni proboszcz z Cerkiewnik Wiadomości
Wypadek na Warmii. Nie żyje wieloletni proboszcz z Cerkiewnik

Nie żyje ks. Mirosław Pękała, wieloletni proboszcz parafii w Cerkiewniku (woj. warmińsko-mazurskie). Duchowny zmarł w szpitalu po wypadku samochodowym, do którego doszło w sobotę w trakcie pełnienia posługi duszpasterskiej.

Rosyjska ropa bez nabywców. Tankowce Kremla krążą po oceanie z ostatniej chwili
Rosyjska ropa bez nabywców. Tankowce Kremla krążą po oceanie

Decyzja Indii o ograniczeniu importu rosyjskiej ropy wywołała chaos na morskich szlakach. Ponad tuzin tankowców z rosyjskim surowcem krąży po wodach Azji, nie mając ani nabywców, ani portów docelowych.

Szokujące praktyki w Wielkiej Brytanii: „Obchodzili islamskie święto Eid, gwałcąc młode białe dziewczyny” gorące
Szokujące praktyki w Wielkiej Brytanii: „Obchodzili islamskie święto Eid, gwałcąc młode białe dziewczyny”

Wielką Brytanią wstrząsnęły zeznania złożone podczas niezależnego dochodzenia w sprawie epidemii gangów gwałcących nieletnich.

Komunikat dla mieszkańców Poznania Wiadomości
Komunikat dla mieszkańców Poznania

Do 15 lutego potrwa nabór na kolejną edycję Programu Staży Studenckich w Urzędzie Miasta Poznania. Na chętnych czeka blisko 90 miejsc. Staże potrwają cztery miesiące.

Triumf konserwatystów w wyborach w Japonii. Partia premier Takaichi odzyskuje większość pilne
Triumf konserwatystów w wyborach w Japonii. Partia premier Takaichi odzyskuje większość

Konserwatywna Partia Liberalno-Demokratyczna pod przywództwem premier Sanae Takaichi odniosła zdecydowane zwycięstwo w wyborach do Izby Reprezentantów Japonii, odzyskując samodzielną większość i silny mandat do realizacji swojego programu.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane