Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Pilna decyzja MSZ ws. ambasadora Polski we Francji z ostatniej chwili
Pilna decyzja MSZ ws. ambasadora Polski we Francji

Rzecznik MSZ Maciej Wewiór przekazał w środę PAP, że decyzją szefa MSZ Radosława Sikorskiego ambasador Polski we Francji Jan R. został zwolniony z kierowania placówką do czasu wyjaśnienia wątpliwości. Sprawa ma związek z medialnymi doniesieniami o jego zatrzymaniu przez CBA.

 „Die Welt” ostro o Unii Europejskiej: „Nie sprawdziła się” z ostatniej chwili
„Die Welt” ostro o Unii Europejskiej: „Nie sprawdziła się”

Na łamach niemieckiego dziennika „Die Welt” opublikowano krytyczny tekst dotyczący kondycji Unii Europejskiej. Autorzy zarzucają Brukseli biurokratyczny autorytaryzm, nieskuteczność w kluczowych kryzysach i oderwanie od realnych problemów gospodarki oraz obywateli. W tekście pojawiają się mocne tezy o Green Deal, polityce migracyjnej i braku demokratycznej legitymacji urzędników w Brukseli.

USA objęły sankcjami wizowymi byłego komisarza UE. Oburzenie w Brukseli z ostatniej chwili
USA objęły sankcjami wizowymi byłego komisarza UE. Oburzenie w Brukseli

Komisja Europejska zdecydowanie potępiła w środę decyzję administracji Donalda Trumpa o nałożeniu zakazu wjazdu do USA na byłego komisarza UE ds. rynku wewnętrznego Thierry'ego Bretona oraz czterech szefów organizacji pozarządowych z Wielkiej Brytanii i Niemiec.

Prezydent Karol Nawrocki odwiedził żołnierzy i funkcjonariuszy SG na granicy z ostatniej chwili
Prezydent Karol Nawrocki odwiedził żołnierzy i funkcjonariuszy SG na granicy

Prezydent RP Karol Nawrocki spotkał się z żołnierzami Wojska Polskiego i funkcjonariuszami Straży Granicznej, stacjonującymi na wschodniej granicy Polski.

Tom Rose przekazał Polakom życzenia świąteczne od prezydenta Trumpa z ostatniej chwili
Tom Rose przekazał Polakom życzenia świąteczne od prezydenta Trumpa

Ambasador USA w Polsce Thomas Rose, składając w środę Polakom życzenia świąteczne w imieniu swoim oraz prezydenta Donalda Trumpa, podkreślił, że Boże Narodzenie to czas, w którym wszyscy ludzie mogą dziękować Bogu za błogosławieństwa wiary, rodziny i wolności.

KO wygrywa wybory, ale nie ma z kim rządzić, spadki największych. Zobacz najnowszy sondaż z ostatniej chwili
KO wygrywa wybory, ale nie ma z kim rządzić, spadki największych. Zobacz najnowszy sondaż

W środę opublikowano najnowsze badanie poparcia dla partii politycznych. Z sondażu United Surveys by IBRiS dla Wirtualnej Polski wynika, że Koalicja Obywatelska wygrałaby wybory, jednak Donald Tusk właściwie nie miałby z kim utworzyć rząd - potencjalni koalicjanci właściwie nie wchodzą do Sejmu.

Zełenski ujawnił amerykański plan pełnego porozumienia pokojowego. Co zawiera? z ostatniej chwili
Zełenski ujawnił amerykański plan pełnego porozumienia pokojowego. Co zawiera?

Prezydent Ukrainy Wołodymyr Zełenski przekazał, że amerykański plan pokojowy, dotyczący zakończenia wojny rosyjsko-ukraińskiej, przewiduje zamrożenie konfliktu na obecnych liniach kontaktowych - poinformowały w środę media, w tym m.in. agencja AFP. Ukraiński prezydent rozmawiał z dziennikarzami we wtorek, ale wypowiedzi ze spotkania zostały opublikowane dopiero w środę. 

W Wigilię na straży bezpieczeństwa kraju stoi 20 tys. polskich żołnierzy z ostatniej chwili
W Wigilię na straży bezpieczeństwa kraju stoi 20 tys. polskich żołnierzy

W Wigilię Świąt Bożego Narodzenia na straży bezpieczeństwa państwa polskiego i naszych sojuszników stoi około 20 tysięcy żołnierzy - powiedział w środę wicepremier, minister obrony narodowej Władysław Kosiniak-Kamysz podczas spotkania z żołnierzami służącymi w Centrum Logistycznym Rzeszów-Jasionka.

Jest nowy ranking zaufania. Karol Nawrocki ponownie na czele [SONDAŻ] z ostatniej chwili
Jest nowy ranking zaufania. Karol Nawrocki ponownie na czele [SONDAŻ]

W Wigilię portal Onet.pl opublikował grudniowy sondaż zaufania do polityków. Na pierwszym miejscu ponownie znalazł się prezydent Karol Nawrocki. W badaniu widać też powrót Jarosława Kaczyńskiego do pierwszej dziesiątki oraz pogarszającą się sytuację Mateusza Morawieckiego.

„Niech ucichną dzisiaj wszelkie spory”. Świąteczne życzenia Pary Prezydenckiej z ostatniej chwili
„Niech ucichną dzisiaj wszelkie spory”. Świąteczne życzenia Pary Prezydenckiej

Para Prezydencka skierowała do Polaków w kraju i za granicą życzenia świąteczne. W bożonarodzeniowym przesłaniu podkreślono znaczenie wspólnoty, tradycji oraz nadziei płynącej z Narodzenia Pańskiego. W komunikacie znalazły się także słowa wdzięczności dla osób pełniących służbę w święta.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane