Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Ojciec paktu senackiego prawicy. Jakubiak wskazał nazwisko z ostatniej chwili
"Ojciec paktu senackiego prawicy". Jakubiak wskazał nazwisko

Marek Jakubiak wskazuje, że Karol Nawrocki mógłby zostać pośrednikiem w budowie paktu senackiego i jednej listy prawicy.

Pekin ogłosił sankcje na 20 firm zbrojeniowych z USA za sprzedaż broni Tajwanowi z ostatniej chwili
Pekin ogłosił sankcje na 20 firm zbrojeniowych z USA za sprzedaż broni Tajwanowi

Ministerstwo spraw zagranicznych Chin poinformowało w piątek o nałożeniu sankcji na 10 obywateli USA i 20 amerykańskich firm zbrojeniowych za sprzedaż broni Tajwanowi. Kwestia Tajwanu stanowi czerwoną linię w relacjach między Chinami i USA - dodał resort, cytowany przez agencję Reutera.

Marznące opady deszczu powodujące gołoledź w 13 województwach. Komunikat IMGW z ostatniej chwili
Marznące opady deszczu powodujące gołoledź w 13 województwach. Komunikat IMGW

Instytut Meteorologii i Gospodarki Wodnej wydał w piątek ostrzeżenia I stopnia przed marznącymi opadami deszczu powodującymi gołoledź dla 13 województw.

Rosyjscy dowódcy wydają rozkazy pod wpływem alkoholu z ostatniej chwili
Rosyjscy dowódcy wydają rozkazy pod wpływem alkoholu

Jak poinformował portal polsatnews.pl, szeregowi rosyjscy żołnierze narzekają na dowódców, którzy wydają rozkazy pod wpływem alkoholu. Z informacji ujawnionych przez ukraiński ruch oporu Atesz wynika, że nietrzeźwi oficerowie doprowadzają podległą im jednostkę do ogromnych strat na froncie.

Policja: Dotychczas odnaleziono siedem balonów, które wleciały nad Polskę z Białorusi z ostatniej chwili
Policja: Dotychczas odnaleziono siedem balonów, które wleciały nad Polskę z Białorusi

Policja podała, że do tej pory odnalezionych zostało siedem najprawdopodobniej tzw. balonów przemytniczych, które w Wigilię wleciały nad Polskę z kierunku Białorusi. Cztery na terenie województwa podlaskiego i trzy na terenie województwa lubelskiego.

Axios: W niedzielę Trump spotka się z Zełenskim na Florydzie z ostatniej chwili
Axios: W niedzielę Trump spotka się z Zełenskim na Florydzie

Prezydent USA Donald Trump spotka się z prezydentem Ukrainy Wołodymyrem Zełenskim w niedzielę w swojej posiadłości Mar-a-Lago na Florydzie - podał w piątek dziennikarz portalu Axios Barak Ravid w serwisie X, powołując się na wysokiego rangą przedstawiciela władz Ukrainy.

„Kommiersant”: Putin powiedział, że może być otwarty na częściową wymianę terytoriów z Ukrainą z ostatniej chwili
„Kommiersant”: Putin powiedział, że może być otwarty na częściową wymianę terytoriów z Ukrainą

Przywódca Rosji Władimir Putin na spotkaniu z grupą czołowych biznesmenów powiedział, że może być otwarty na wymianę części terytoriów kontrolowanych przez wojska rosyjskie na Ukrainie, podkreślił jednak, że chce całego Donbasu - poinformował w piątek dziennik „Kommiersant”.

Weber chce wysłania europejskich żołnierzy na Ukrainę, ale pod przewodem Niemiec gorące
Weber chce wysłania europejskich żołnierzy na Ukrainę, ale pod przewodem Niemiec

Szef EPP Manfred Weber opowiada się za wysłaniem na Ukrainę niemieckich żołnierzy. Liczy też na to, że europejska armia będzie pod niemieckim przywództwem.

Dr Jacek Saryusz-Wolski: Europejska broń nuklearna może wpaść w ręce islamistów już za 15 lat gorące
Dr Jacek Saryusz-Wolski: Europejska broń nuklearna może wpaść w ręce islamistów już za 15 lat

„EUROPEJSKA BROŃ NUKLEARNA MOŻE WPAŚĆ W RĘCE ISLAMISTÓW JUŻ ZA 15 LAT” - napisał na platformie X doradca prezydenta ds. europejskich dr Jacek Saryusz-Wolski powołując się na słowa wiceprezydenta USA JD Vance'a.

Zełenski: Spotkam się z Trumpem w niedalekiej przyszłości z ostatniej chwili
Zełenski: Spotkam się z Trumpem w niedalekiej przyszłości

Prezydent Ukrainy Wołodymyr Zełenski poinformował w piątek rano w serwisie X, że „w niedalekiej przyszłości” spotka się z przywódcą Stanów Zjednoczonych Donaldem Trumpem. Wiele kwestii może się rozstrzygnąć jeszcze przed końcem roku – dodał.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane