Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Iran wystrzelił rakietę w stronę Turcji. Jest reakcja NATO z ostatniej chwili
Iran wystrzelił rakietę w stronę Turcji. Jest reakcja NATO

Rzecznik prasowa Sojuszu Północnoatlantyckiego Allison Hart w środę potępiła działania Iranu, który tego dnia wystrzelił pocisk balistyczny w kierunku przestrzeni powietrznej Turcji.

Irański okręt u wybrzeży Sri Lanki zatopiony przez niezidentyfikowaną jednostkę pilne
Irański okręt u wybrzeży Sri Lanki zatopiony przez niezidentyfikowaną jednostkę

Po ataku na irańską jednostkę u wybrzeży Sri Lanki pojawiły się sprzeczne informacje o liczbie ofiar i zaginionych, a w tle pojawiają się spekulacje o możliwym udziale amerykańskich sił.

Irańska rakieta kierowała się nad państwo NATO. Obrona zareagowała natychmiast z ostatniej chwili
Irańska rakieta kierowała się nad państwo NATO. Obrona zareagowała natychmiast

Kolejne niebezpieczne zdarzenie w regionie objętym konfliktem. Systemy obronne NATO zostały postawione w stan gotowości po wykryciu zagrożenia, a władze jednego z państw Sojuszu zapowiadają zdecydowaną reakcję.

Ważny komunikat dla mieszkańców Poznania z ostatniej chwili
Ważny komunikat dla mieszkańców Poznania

W Poznaniu rozpoczęły się intensywne prace porządkowe po zimie. Służby miejskie czyszczą chodniki, drogi rowerowe, place oraz miejsca parkingowe. Łącznie sprzątanie obejmie ponad 900 tysięcy metrów kwadratowych nawierzchni. To element przygotowań miasta do nadchodzącej wiosny.

Tusk z radą dla Polaków: Kto nie musi, niech nie leci z ostatniej chwili
Tusk z radą dla Polaków: "Kto nie musi, niech nie leci"

Polski rząd deklaruje gotowość do ewakuacji obywateli z Bliskiego Wschodu, ale jednocześnie tonuje nadmierne oczekiwania. Premier Donald Tusk podkreśla, że operacje ratunkowe muszą być prowadzone z zachowaniem bezpieczeństwa i realnych możliwości.

Włochy szykują się na kryzys energetyczny. Rząd rozważa powrót do elektrowni węglowych z ostatniej chwili
Włochy szykują się na kryzys energetyczny. Rząd rozważa powrót do elektrowni węglowych

Włoski minister środowiska i bezpieczeństwa energetycznego Gilberto Pichetto Fratin powiedział w środę, że Włochy mogą ponownie uruchomić niektóre elektrownie węglowe, jeśli obecny konflikt zbrojny na Bliskim Wschodzie wywołała kryzys energetyczny.

Co z TVN po zmianie właściciela? Pracownicy obawiają się prawicowego zwrotu Wiadomości
Co z TVN po zmianie właściciela? Pracownicy obawiają się prawicowego zwrotu

Gigantyczna transakcja na rynku medialnym wywołała pytania o przyszłość TVN. Jak donoszą Wirtualne Media, w samej redakcji słychać głosy niepewności, choć część dziennikarzy tonuje emocje i przekonuje, że na razie nie ma mowy o panice.

Wyłączenia prądu na Śląsku. Ważny komunikat dla mieszkańców z ostatniej chwili
Wyłączenia prądu na Śląsku. Ważny komunikat dla mieszkańców

Operator Tauron opublikował najnowsze informacje o planowanych przerwach w dostawie energii elektrycznej na terenie województwa śląskiego. Wyłączenia dotyczą zarówno dużych miast, m.in. Katowic, Częstochowy, Gliwic, Zabrza, Tychów, Rybnika, oraz kilku mniejszych miejscowości. Sprawdź, czy Twoja ulica znajduje się na liście; poniżej publikujemy szczegółowe zestawienie planowanych wyłączeń.

Węgry ewakuują swoich obywateli z Bliskiego Wschodu. Pierwszy samolot już w drodze pilne
Węgry ewakuują swoich obywateli z Bliskiego Wschodu. Pierwszy samolot już w drodze

Węgry rozpoczęły akcję ewakuacyjną swoich obywateli z regionu ogarniętego napięciami. Pierwszy specjalny samolot wystartował już z bazy w Kecskemet i ma sprowadzić do kraju dziesiątki osób.

Nowe informacje z granicy. Pilny komunikat Straży Granicznej z ostatniej chwili
Nowe informacje z granicy. Pilny komunikat Straży Granicznej

Straż Graniczna opublikowała najnowsze dane dotyczące sytuacji na granicach Polski. Z raportu wynika, że tylko 3 marca funkcjonariusze przeprowadzili kilka tysięcy kontroli osób i pojazdów na granicach z Niemcami i Litwą. W raporcie znalazła się też istotna informacja dotycząca odcinka białoruskiego.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane