Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Niemcy wyślą żołnierzy na Grenlandię z ostatniej chwili
Niemcy wyślą żołnierzy na Grenlandię

Niemcy wyślą w czwartek na Grenlandię kilkunastu żołnierzy Bundeswehry – poinformował w środę rzecznik niemieckiego rządu. Zgodnie z jego słowami ma to być misja rozpoznawcza.

Komunikat dla mieszkańców woj. podkarpackiego z ostatniej chwili
Komunikat dla mieszkańców woj. podkarpackiego

Zarząd Województwa Podkarpackiego przyjął uchwałę o przyznaniu Andrzejowi Dudzie Odznaki Honorowej "Zasłużony dla Województwa Podkarpackiego" oraz pozytywnie zaopiniował aktualizację strategii "Dorzecze Wisłoki".

Trzy małpki w Brukseli tylko u nas
Trzy małpki w Brukseli

Japońskie przysłowie o trzech małpach – Mizaru, Kikazaru i Iwazaru – miało być przestrogą moralną, a stało się dziś trafną metaforą politycznej hipokryzji. „Nie widzę nic złego, nie słyszę nic złego, nie mówię nic złego” – to już nie tylko ludowa mądrość, lecz brutalna praktyka i zasada funkcjonowania brukselskich elit wobec tego, co dzieje się w Polsce. Zwłaszcza wtedy, gdy władzę sprawują „właściwi ludzie”.

Trump mówi o Iranie. Zostaliśmy poinformowani z ostatniej chwili
Trump mówi o Iranie. "Zostaliśmy poinformowani"

– Zostaliśmy poinformowani dość stanowczo – ale dowiemy się, co to wszystko oznacza – że zabójstwa w Iranie zostały wstrzymane i nie ma planów egzekucji – poinformował w środę wieczorem Donald Trump.

Za nami konferencja pt. Czy człowiek ma wpływ na klimat? Wiadomości
Za nami konferencja pt. "Czy człowiek ma wpływ na klimat?"

Konferencja pt. "Czy człowiek ma wpływ na klimat?", zorganizowana przez Instytut Studiów Doktrynalnych, odbyła się dziś w Sejmie RP.

Reuters: Interwencja USA w Iranie może nastąpić w ciągu najbliższej doby z ostatniej chwili
Reuters: Interwencja USA w Iranie może nastąpić w ciągu najbliższej doby

Amerykańska interwencja w Iranie może nastąpić w ciągu najbliższych 24 godzin – napisała w środę wieczorem agencja Reutera, powołując się na zachodnich urzędników. Dowódca irańskiej gwardii rewolucyjnej zapowiedział, że Teheran "zdecydowanie" odpowie na ewentualny atak USA lub Izraela.

Polacy powinni natychmiast opuścić Iran. Pilny komunikat MSZ z ostatniej chwili
Polacy powinni natychmiast opuścić Iran. Pilny komunikat MSZ

Ministerstwo Spraw Zagranicznych apeluje o natychmiastowe opuszczenie Iranu oraz odradza wszelkie podróże do tego państwa – poinformował w środę wieczorem polskie ministerstwo spraw zagranicznych.

Niepokojące znalezisko. Komunikat Straży Granicznej z ostatniej chwili
Niepokojące znalezisko. Komunikat Straży Granicznej

Ponad 60 dokumentów tożsamości ujawniono w mieszkaniu Polki zaangażowanej w udzielanie pomocy cudzoziemcom na granicy z Białorusią – poinformowała Straż Graniczna.

Szwecja wyśle wojska na Grenlandię z ostatniej chwili
Szwecja wyśle wojska na Grenlandię

Szwedzkie wojsko wniesie wkład w duńskie działania obronne na Grenlandii – poinformował w środę premier Szwecji Ulf Kristersson. Wcześniej rząd w Kopenhadze oświadczył, że wojska Danii i państw NATO zwiększają obecność na Grenlandii.

Żurek grozi zgłoszeniem sprawy azylu Zbigniewa Ziobry do TSUE z ostatniej chwili
Żurek grozi zgłoszeniem sprawy azylu Zbigniewa Ziobry do TSUE

Minister sprawiedliwości Waldemar Żurek powiedział w środę, że nie wyklucza skierowania skargi na Węgry do Trybunału Sprawiedliwości UE w związku z udzieleniem azylu Zbigniewowi Ziobrze. Jak jednak zastrzegł, najpierw chce zobaczyć dokument, który poświadczałby, że Ziobro taki azyl rzeczywiście dostał.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane