Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Komunikat dla mieszkańców woj. warmińsko-mazurskiego z ostatniej chwili
Komunikat dla mieszkańców woj. warmińsko-mazurskiego

W okolicach Elbląga przekroczono stany ostrzegawcze na trzech wodowskazach. W mieście obowiązuje pogotowie przeciwpowodziowe, a służby raportują szczelne wały i działania zabezpieczające przy silnym wietrze.

Delegacja z Zełenskim przybyła do USA. Dziś rozmowy z Trumpem z ostatniej chwili
Delegacja z Zełenskim przybyła do USA. Dziś rozmowy z Trumpem

Prezydent Ukrainy Wołodymyr Zełenski przybył w sobotę wieczorem do USA. W niedzielę na Florydzie ukraiński lider rozmawiać będzie na temat planu pokojowego i zakończenia wojny rosyjsko-ukraińskiej z prezydentem USA Donaldem Trumpem – poinformowały w nocy ukraińskie media.

Pogotowie przeciwpowodziowe w Elblągu. Przekroczony stan ostrzegawczy z ostatniej chwili
Pogotowie przeciwpowodziowe w Elblągu. Przekroczony stan ostrzegawczy

Prezydent Elbląga Michał Missan wprowadził w nocy z soboty na niedzielę stan pogotowia przeciwpowodziowego, po tym jak poziom wody w rzece Elbląg przekroczył stan ostrzegawczy – poinformowały służby miasta.

Putin grozi dalszą ofensywą. „Cele Rosji zostaną osiągnięte” Wiadomości
Putin grozi dalszą ofensywą. „Cele Rosji zostaną osiągnięte”

Władimir Putin powtórzył w sobotę, że Rosja osiągnie wszystkie wyznaczone cele „drogą zbrojną”, jeśli Ukraina nie chce rozwiązać konfliktu pokojowo - poinformowała agencja Reutera. Putin wypowiadał się podczas narady w jednym z punktów dowodzenia sił zbrojnych.

Akcja ratunkowa w Tatrach. Turysta utknął na skalnym filarze Wiadomości
Akcja ratunkowa w Tatrach. Turysta utknął na skalnym filarze

Polscy turyści schodzący w sobotę Doliną Mięguszowiecką w słowackiej części Tatr usłyszeli wołanie o pomoc. Okazało się, że 21-letni Węgier utknął na skalnym filarze w rejonie Żabich Stawów – konieczna była ewakuacja z użyciem śmigłowca - poinformowali słowaccy ratownicy górscy.

18-latek zmarł po bójce przed dyskoteką. Nowe informacje Wiadomości
18-latek zmarł po bójce przed dyskoteką. Nowe informacje

Dwóch mężczyzn podejrzanych jest o udział w bójce przed dyskoteką w miejscowości Wnory-Wiechy (Podlaskie), gdzie wskutek obrażeń zmarł 18-latek - poinformowała w sobotę prokuratura. Okoliczności tego zdarzenia wyjaśnia policja pod nadzorem prokuratury.

Nie żyje druh OSP. Zasłabł podczas wyjazdu do pożaru Wiadomości
Nie żyje druh OSP. Zasłabł podczas wyjazdu do pożaru

Tragiczne wydarzenie rozegrało się w nocy z piątku na sobotę w województwie warmińsko-mazurskim. Podczas wyjazdu do pożaru domku letniskowego zmarł prezes Ochotniczej Straży Pożarnej w Jerzwałdzie Edward Smagała. Druh miał 69 lat.

Dawid Kubacki na podium w Engelbergu. Austriacy niepokonani z ostatniej chwili
Dawid Kubacki na podium w Engelbergu. Austriacy niepokonani

Dawid Kubacki zajął trzecie miejsce w sobotnim konkursie Pucharu Kontynentalnego w skokach narciarskich w szwajcarskim Engelbergu. Triumfował Austriak Clemens Leitner, a drugi był jego rodak Markus Mueller.

Niesamowite widowisko nad Tatrami. IMGW udostępnił zdjęcia Wiadomości
Niesamowite widowisko nad Tatrami. IMGW udostępnił zdjęcia

W Polsce słupy świetlne to prawdziwa rzadkość, a ich obserwacja jest prawdziwą gratką dla miłośników niezwykłych zjawisk atmosferycznych.

Prezydent Karol Nawrocki: W XXI wieku musimy być jak powstańcy wielkopolscy wideo
Prezydent Karol Nawrocki: W XXI wieku musimy być jak powstańcy wielkopolscy

„Powstanie Wielkopolskie spotyka dwie wspaniałe polskie tradycje: tradycję pozytywistyczną i romantyczną. Tradycję ciężkiej pracy i tradycję gotowości do insurekcji i do walki. Musimy być dzisiaj, w XXI wieku tacy sami, jak oni, gotowi do ciężkiej pracy jeśli tylko to możliwe, jeśli tylko nasze bezpieczeństwo nie jest zagrożone, ale też musimy być gotowi do tego, aby mieć odwagę, gdy przychodzi konflikt, bądź wojna” - mówił prezydent Karol Nawrocki podczas uroczystości w 107. rocznicę Powstania Wielkopolskiego.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane