Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Komunikat dla mieszkańców Warszawy z ostatniej chwili
Komunikat dla mieszkańców Warszawy

Od poniedziałku pasażerowie warszawskiej komunikacji miejskiej usłyszą komunikat "Możliwa kontrola biletów".

Tragiczny wypadek na Mazowszu. Nie żyje trzech pacjentów jadących na dializy z ostatniej chwili
Tragiczny wypadek na Mazowszu. Nie żyje trzech pacjentów jadących na dializy

Poranek na Mazowszu przyniósł dramatyczne informacje. W miejscowości Chyliny doszło do śmiertelnego wypadku z udziałem busa przewożącego pacjentów na dializy. Zginęły trzy osoby. Na miejscu pracują służby pod nadzorem prokuratora, a droga pozostaje zablokowana.

Komunikat Straży Granicznej. Pilne doniesienia z granicy z ostatniej chwili
Komunikat Straży Granicznej. Pilne doniesienia z granicy

Straż Graniczna publikuje raporty dotyczące wydarzeń na polskiej granicy z Białorusią. Ponadto zaraportowano także o sytuacji na granicy z Litwą i Niemcami w związku z przywróceniem na nich tymczasowych kontroli.

Niemcy sparaliżowane. Strajk transportu publicznego w 150 miastach z ostatniej chwili
Niemcy sparaliżowane. Strajk transportu publicznego w 150 miastach

Strajk ostrzegawczy pracowników transportu publicznego sparaliżował w poniedziałek 150 miast w niemal całych Niemczech. Protest związku zawodowego Verdi ma zwiększyć presję w trwających negocjacjach płacowych dotyczących prawie 100 tys. pracowników.

Waldemar Żurek złamał przepisy. Jest decyzja policji z ostatniej chwili
Waldemar Żurek złamał przepisy. Jest decyzja policji

Minister sprawiedliwości Waldemar Żurek zrzekł się immunitetu i zgodził się przyjąć mandat karny – poinformowała w poniedziałek Komenda Wojewódzka Policji w Krakowie.

TVN kontra szef Telewizji Republika. Sąd zdecydował z ostatniej chwili
TVN kontra szef Telewizji Republika. Sąd zdecydował

Szef Telewizji Republika wygrał w sądzie z TVN Warner Bros. Discovery.

Nie żyje Adam Borejko. Został odnaleziony martwy w hotelu z ostatniej chwili
Nie żyje Adam Borejko. Został odnaleziony martwy w hotelu

Polski podróżnik Adam Borejko został znaleziony martwy w hotelu w Chandydze w Jakucji. Informację podał rosyjski serwis sakhaday.ru.

Krzysztof Bosak został ojcem po raz czwarty. Zdradził płeć dziecka z ostatniej chwili
Krzysztof Bosak został ojcem po raz czwarty. Zdradził płeć dziecka

Poseł Konfederacji Krzysztof Bosak został po raz czwarty ojcem. – Żona czuje się bardzo dobrze. Wczoraj odebrałem żonę i synka ze szpitala – powiedział na antenie Radia ZET.

Obowiązek czipowania psów. Wiadomo, ile będzie kosztować z ostatniej chwili
Obowiązek czipowania psów. Wiadomo, ile będzie kosztować

Po aferze ze schroniskami znalazły się pieniądze na Krajowy Rejestr Oznakowania Psów i Kotów. MRiRW deklaruje, że pokryje większość kosztów związanych z uruchomieniem i utrzymaniem KROPiK. Łącznie to ponad 130 mln zł w ciągu 10 lat – informuje w poniedziałkowym wydaniu "Dziennik Gazeta Prawna".

IMGW wydał komunikat. Oto co nas czeka w najbliższych dniach z ostatniej chwili
IMGW wydał komunikat. Oto co nas czeka w najbliższych dniach

Polska znajduje się pod wpływem wyżu znad Finlandii, w masie powietrza arktycznego. W poniedziałek mróz do minus 19 st. C, a w nocy nawet do minus 27 st. C. We wtorek nadal zimno, miejscami słaby śnieg i marznące mgły – informuje IMGW.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane