Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Apel policji do mieszkańców woj. małopolskiego z ostatniej chwili
Apel policji do mieszkańców woj. małopolskiego

Proszowiccy policjanci podczas mrozów znaleźli w pustostanie mężczyznę pod wpływem alkoholu i udzielili mu pomocy. Mundurowi przypominają: reaguj, gdy widzisz osobę narażoną na wychłodzenie.

Kompromitacja na igrzyskach Mediolan-Cortina. Medale się rozpadają z ostatniej chwili
Kompromitacja na igrzyskach Mediolan-Cortina. Medale się rozpadają

Jak poinformował portal BBC, organizatorzy igrzysk Mediolan-Cortina 2026 twierdzą, że poświęcają „maksymalną uwagę” przyczynom łamania medali olimpijskich po tym, jak kilku sportowców miało z nimi problemy.

Atak na autostradzie we Włoszech. Wybuch furgonetki i strzelanina z ostatniej chwili
Atak na autostradzie we Włoszech. Wybuch furgonetki i strzelanina

Atak na opancerzoną furgonetkę w okolicach Tuturano we Włoszech. Uzbrojeni napastnicy próbowali wysadzić pojazd, a na miejscu doszło do strzelaniny. Nagranie obiegło sieć.

Prezydent pominięty przez TVP. KRRiT wszczyna postępowanie z ostatniej chwili
Prezydent pominięty przez TVP. KRRiT wszczyna postępowanie

Przewodnicząca Krajowej Rady Radiofonii i Telewizji dr Agnieszka Glapiak uruchomiła postępowanie wyjaśniające wobec Telewizji Polskiej w likwidacji w związku z przebiegiem transmisji ceremonii otwarcia Zimowych Igrzysk Olimpijskich Mediolan-Cortina 2026. W tej sprawie KRRiT otrzymała skargi od widzów, którzy zwrócili uwagę na rażące pominięcie w przekazie informacji o obecności Prezydenta RP Karola Nawrockiego, na inauguracji igrzysk.

NATO planuje uruchomić wojskową misję w Arktyce z ostatniej chwili
NATO planuje uruchomić wojskową misję w Arktyce

NATO planuje w najbliższych dniach uruchomić wojskową misję pod nazwą Arktyczna Straż (Arctic Sentry), której celem ma być wzmocnienie obecności Sojuszu w Arktyce - wynika z nieoficjalnych informacji PAP.

Nie żyje Edward Linde-Lubaszenko. Będzie pogrzeb państwowy? z ostatniej chwili
Nie żyje Edward Linde-Lubaszenko. Będzie pogrzeb państwowy?

W niedzielny wieczór Polskę obiegła smutna informacja o śmierci legendarnego polskiego aktora Edwarda Linde-Lubaszenko. Jak informuje "Super Express", do resortu kultury wpłynęła prośba o organizację pogrzebu państwowego.

ZUS wydał pilny komunikat z ostatniej chwili
ZUS wydał pilny komunikat

ZUS wdrożył automatyczną aktywację i dezaktywację ePłatnika w eZUS. System weryfikuje płatnika przy pierwszym logowaniu – informuje w poniedziałek w komunikacie ZUS.

Szefowa MSZ: Łotwa nie przyjmie migrantów, ani nie będzie za nich płacić gorące
Szefowa MSZ: Łotwa nie przyjmie migrantów, ani nie będzie za nich płacić

Przemawiając podczas dorocznej debaty na temat polityki zagranicznej w łotewskim parlamencie 29 stycznia, minister spraw zagranicznych Baiba Braže złożyła jasne oświadczenie dotyczące polityki imigracyjnej Łotwy, mówiąc, że kraj „nie przyjmie nowych migrantów”.

Euractiv: Dyrektor PGZ nie wie, co jest w polskim planie SAFE z ostatniej chwili
Euractiv: Dyrektor PGZ nie wie, co jest w polskim planie SAFE

Europejscy producenci broni twierdzą, że nadal czekają, aż rządy powiedzą im dokładnie, w jaki sposób planują wykorzystać unijny program pożyczek €150 miliardów na wspólne zamówienia w dziedzinie obronności – alarmuje portal Euractiv.com.

Poseł Śliwka: Wniosek ws. SAFE został złożony bez akceptacji Zwierzchnika Sił Zbrojnych pilne
Poseł Śliwka: Wniosek ws. SAFE został złożony bez akceptacji Zwierzchnika Sił Zbrojnych

„Wniosek ws. SAFE został złożony bez akceptacji Zwierzchnika Sił Zbrojnych oraz sejmowej Komisji Obrony Narodowej” – alarmuje na platformie X poseł Andrzej Śliwka.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane