Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Nie chcę psuć zabawy, ale.... Co kryje oświadczenie  majątkowe Trzaskowskiego? gorące
"Nie chcę psuć zabawy, ale...". Co kryje oświadczenie  majątkowe Trzaskowskiego?

Zwolennicy Rafała Trzaskowskiego nie przebierają w środkach, próbując zdezawuować kandydaturę Karola Nawrockiego na prezydenta RP, ostatnio uderzając sprawą mieszkania i „pana Jerzego”. Tymczasem warto rzucić okiem… na oświadczenie majątkowe Rafała Trzaskowskiego i wpisaną tam „umowę dożywocia” dotyczącą mieszkania jego żony.

Szykują się potężne problemy z tańszymi zamiennikami leków. Co czeka pacjentów? z ostatniej chwili
Szykują się potężne problemy z tańszymi zamiennikami leków. Co czeka pacjentów?

''Zniknie półroczny termin na zawnioskowanie o zabezpieczenie w sporze z zakresu własności intelektualnej; zyskają na tym producenci innowacyjnych leków, którzy nawet po kilku latach będą mogli zażądać usunięcia z rynku tańszego odpowiednika swojego produktu'' – pisze w poniedziałek "Dziennik Gazeta Prawna".

Nowy komunikat IMGW. Oto co nas czeka Wiadomości
Nowy komunikat IMGW. Oto co nas czeka

Nad Polskę nadciągnęło wyraźne ochłodzenie, ponadto na większości obszaru kraju aura nie będzie sprzyjała naszemu samopoczuciu.

Ważny komunikat dla mieszkańców Krakowa z ostatniej chwili
Ważny komunikat dla mieszkańców Krakowa

W krakowskiej dzielnicy Dębniki rusza kolejny etap rozbudowy ważnej drogi. Sprawdź, jakie objazdy i zmiany czekają kierowców.

Niepokojące informacje z granicy polsko-białoruskiej. Porażający komunikat Straży Granicznej pilne
Niepokojące informacje z granicy polsko-białoruskiej. Porażający komunikat Straży Granicznej

Straż Graniczna regularnie publikuje raporty dotyczące wydarzeń na granicy polsko-białoruskiej. Jak podaje, doszło do ataku na polskich funkcjonariuszy.

Urlopowy koszmar na Tajlandii. Polak zginął na oczach żony z ostatniej chwili
Urlopowy koszmar na Tajlandii. Polak zginął na oczach żony

To kolejna smutna historia pokazująca, że beztroski wypoczynek za granicą może w jednej chwili przerodzić się w tragedię. W popularnym kurorcie Phuket na Tajlandii doszło do śmiertelnego wypadku z udziałem Polaka. 

Rumunia wybrała. Są wyniki pierwszej tury polityka
Rumunia wybrała. Są wyniki pierwszej tury

Przeliczono prawie 100 proc. głosów pierwszej tury powtórzonych wyborów prezydenckich w Rumunii. Największe zaufanie zdobył George Simion, zdobywając 41 proc. głosów. Drugi - z wynikiem 21 proc. - był Nicusor Dan. To oni zmierzą się 18 maja w rozstrzygającej drugiej turze.

Wybory prezydenckie w Polsce. Ważny komunikat z ostatniej chwili
Wybory prezydenckie w Polsce. Ważny komunikat

Poniedziałek, 5 maja jest ostatnim dniem na zgłaszanie komisarzowi wyborczemu zamiaru głosowania korespondencyjnego w tegorocznych wyborach prezydenckich przez m.in. wyborców z niepełnosprawnością lub wyborców, którzy najpóźniej w dniu głosowania ukończą 60 lat.

Mogą być stresujące. Policja wydała komunikat Wiadomości
"Mogą być stresujące". Policja wydała komunikat

Policja wydała raport podsumowujący długi majowy weekend. W tym czasie na polskich drogach doszło do 307 wypadków drogowych, w których zginęło 19 osób, a 383 zostały ranne – podała policja w komunikacie. Przestrzegła jednak, że to nie koniec, bo wiele osób przełożyło powroty na poniedziałek.

Mijanka w wyborach prezydenckich w Rumunii. Przeliczono blisko 99 proc. głosów z ostatniej chwili
Mijanka w wyborach prezydenckich w Rumunii. Przeliczono blisko 99 proc. głosów

Po przeliczeniu 98,85 proc. głosów George Simion wygrał I turę wyborów prezydenckich z 40,39-proc. wynikiem. Na drugim miejscu znalazł się Dan Nicusor z 20,86-proc. wynikiem. Druga tura wyborów prezydenckich w Rumunii odbędzie się 18 maja.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe