Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Walentynki napędziły turystykę. Zakopane przeżywa prawdziwe oblężenie Wiadomości
Walentynki napędziły turystykę. Zakopane przeżywa prawdziwe oblężenie

Zakopane przeżywa walentynkowe oblężenie. Już od rana na popularnej zakopiance panował wzmożony ruch samochodowy, a w sobotę w mieście pod Giewontem trudno znaleźć wolne miejsce parkingowe. Na ulicach panuje tłok, a Krupówki są wypełnione spacerującymi parami

Dramat znanej polskiej piosenkarki. Jej słowa chwytają za serce Wiadomości
Dramat znanej polskiej piosenkarki. Jej słowa chwytają za serce

Ewa Bem w rozmowie z mediami wróciła do trudnych chwil związanych z chorobą nowotworową i śmiercią męża, Ryszarda Sibilskiego. Artystka przyznała, że przez długi czas była przekonana, iż to ona odejdzie pierwsza.

Przywrócenie obowiązkowej służby wojskowej. Zapytano Polaków z ostatniej chwili
Przywrócenie obowiązkowej służby wojskowej. Zapytano Polaków

Czy Polska powinna powrócić do obowiązkowej służby wojskowej? Zapytała o to Polaków pracownia Social Changes na zlecenie Telewizji wPolsce24.

Kryptodyktatura dopadła sędziego Dariusza Łubowskiego tylko u nas
Kryptodyktatura dopadła sędziego Dariusza Łubowskiego

Wyrok w sprawie Europejskiego Nakazu Aresztowania wobec Marcin Romanowski wywołał burzliwą debatę o granicach niezależności sędziowskiej. Po decyzji sędziego Dariusz Łubowski i użyciu w uzasadnieniu słowa „kryptodyktatura” pojawiły się zmiany w jego obowiązkach służbowych. Czy to zwykła reorganizacja pracy sądu, czy element szerszego sporu o praworządność? Sprawa budzi pytania o relacje między władzą wykonawczą a wymiarem sprawiedliwości.

Pałac Buckingham. Książęca para opublikowała poruszający wpis Wiadomości
Pałac Buckingham. Książęca para opublikowała poruszający wpis

Książę i księżna Walii postanowili uczcić walentynki uroczym czarno-białym zdjęciem, które opublikowali w mediach społecznościowych. „Szczęśliwych walentynek!” – życzyli fanom rodziny królewskiej.

To koniec Polski 2050? Kolejny poseł mówi o odejściu z ostatniej chwili
To koniec Polski 2050? Kolejny poseł mówi o odejściu

– W ciągu kilku dni podejmę decyzję w sprawie przyszłości w partii – poinformowała w rozmowie z Polsat News posłanka Polski 2050 Aleksandra Leo. Wcześniej decyzję o odejściu z partii podjęła Żaneta Cwalina-Śliwowska.

Burza w „Na Wspólnej. Twórcy przygotowali niespodzianki dla widzów Wiadomości
Burza w „Na Wspólnej". Twórcy przygotowali niespodzianki dla widzów

W serialu „Na Wspólnej” niemal każda para przechodzi przez zdrady, konflikty i dramatyczne rozstania. Wyjątkiem wydawała się dotąd rodzina Żbików – pan Włodek i pani Maria. Okazuje się jednak, że w tym wątku jest jeszcze jedna para, którą fani mogą oglądać bez obaw.

Wymazali historyczne upały ze statystyk, a potem je przywrócili. Klimat stał się narzędziem politycznym Wiadomości
Wymazali historyczne upały ze statystyk, a potem je przywrócili. "Klimat stał się narzędziem politycznym"

Królewski Holenderski Instytut Meteorologiczny KNMI w 2016 roku wymazał z rekordów 16 z 23 fal upałów z lat 1901-1950. W tym roku je przywrócono. Instytutowi zarzuca się manipulowanie danymi w celu poparcia teorii o ocieplaniu się klimatu.

Orban: Po wyborach rozprawimy się z Brukselą z ostatniej chwili
Orban: Po wyborach rozprawimy się z Brukselą

– Brukselska machina represji na Węgrzech nadal działa, ale po wyborach się nią zajmiemy – zapowiedział węgierski premier Viktor Orban w wygłoszonym w sobotę w Budapeszcie dorocznym orędziu o stanie państwa, mającym podsumować miniony rok.

Komunikat dla mieszkańców woj. dolnośląskiego Wiadomości
Komunikat dla mieszkańców woj. dolnośląskiego

W Karkonoszach panują trudne warunki do wędrówek: szlaki są śliskie, oblodzone, temperatura do minus 8 stopni Celsjusza, a widoczność ograniczona do 30 metrów – poinformowali w sobotę ratownicy Karkonoskiej Grupy GOPR.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane