Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Komunikat dla mieszkańców woj. świętokrzyskiego z ostatniej chwili
Komunikat dla mieszkańców woj. świętokrzyskiego

Ruszają zgłoszenia do XVII edycji konkursu "Świętokrzyski Racjonalizator". Rekordowa pula 90 tys. zł i dwie nowe kategorie czekają na naukowców, studentów i firmy z regionu – informuje Urząd Marszałkowski Województwa Świętokrzyskiego.

Pod Nowym Targiem kobieta urodziła na stacji benzynowej Wiadomości
Pod Nowym Targiem kobieta urodziła na stacji benzynowej

Na stacji benzynowej w Harklowej przypadkowo znalazła się położna z nowotarskiego szpitala, która jako pierwsza udzieliła rodzącej fachowej pomocy, zanim na miejsce dotarły służby ratunkowe.

Rośnie napięcie na Pacyfiku. Chińskie myśliwce celują w japońskie samoloty pilne
Rośnie napięcie na Pacyfiku. Chińskie myśliwce celują w japońskie samoloty

Japońskie F-15 poderwano w odpowiedzi na operacje lotnicze z chińskiego lotniskowca Liaoning, gdy jego myśliwce dwukrotnie skierowały radar naprowadzania na japońskie maszyny. Tokio uznało to za groźną prowokację, a Pekin – za rzekome „oczernianie”.

Prezydent o zawetowanych ustawach: Chcę, żebyście państwo wiedzieli... z ostatniej chwili
Prezydent o zawetowanych ustawach: "Chcę, żebyście państwo wiedzieli..."

– Nie mam wielkiej radości w wetowaniu ustaw. Natomiast chcę, żebyście państwo wiedzieli, że aby prezydent podjął ostatecznie decyzję, to pracuje nad tym prawem cała drużyna, zespół specjalistów – prawników, specjalistów od tej konkretnej dziedziny i moich ministrów – mówił w sobotę na antenie Kanału Zero prezydent Karol Nawrocki.

Pożar kamienicy w Będzinie. Zarządzono ewakuację z ostatniej chwili
Pożar kamienicy w Będzinie. Zarządzono ewakuację

W nocy z soboty na niedzielę w Będzinie wybuchł groźny pożar w jednej z kamienic. Mieszkańcy zostali ewakuowani, a strażacy walczą z ogniem.

Musk odpowiedział na wpis Tuska. Nie przebierał w słowach z ostatniej chwili
Musk odpowiedział na wpis Tuska. Nie przebierał w słowach

Elon Musk zareagował na apel Donalda Tuska do Amerykanów o utrzymanie więzi transatlantyckich. W swoim dwuznacznym komentarzu przede wszystkim skrytykował Unię Europejską. Przypomnijmy, że wspólnota ukarała portal X, którego jest właścicielem, karą ponad 100 mln euro.

Szef Pentagonu chwali Polskę. Warszawa jako wzór z ostatniej chwili
Szef Pentagonu chwali Polskę. Warszawa jako wzór

Szef Pentagonu Pete Hegseth wezwał w sobotę do zerwania z "utopijnym idealizmem" w polityce zagranicznej i skupienia się na „twardym realizmie”. Chwalił Polskę za wzrost wydatków na obronność.

FIFA odsłania karty. Oto możliwi przeciwnicy biało-czerwonych z ostatniej chwili
FIFA odsłania karty. Oto możliwi przeciwnicy biało-czerwonych

Piłkarska reprezentacja Polski, w przypadku awansu z baraży do mistrzostw świata, rozegra pierwszy mecz mundialu 15 czerwca z Tunezją w Guadalupe/Monterrey w Meksyku. Pięć dni później czeka w Houston Holandia, a 26 czerwca w Arlington/Dallas - Japonia.

Znana polska piosenkarka w żałobie. Przekazała smutne wieści Wiadomości
Znana polska piosenkarka w żałobie. Przekazała smutne wieści

Małgorzata Ostrowska poinformowała o śmierci swojego męża, Jacka Gulczyńskiego. Artystka przekazała tę wiadomość w poruszającym wpisie na Instagramie. Kilka dni wcześniej opowiadała, że jej małżonek przebywa w poznańskim Hospicjum Palium.

Sezon grzewczy znowu zbiera żniwo. Strażacy apelują Wiadomości
Sezon grzewczy znowu zbiera żniwo. Strażacy apelują

Od 1 października do 5 grudnia strażacy odnotowali ponad 5 tys. pożarów w budynkach mieszkalnych, w wyniku których zmarły 82 osoby - przekazał w sobotę rzecznik prasowy komendanta głównego PSP st. bryg. Karol Kierzkowski. Strażacy apelują o stosowanie czujek dymu i czadu w domach.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane