Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Eurodeputowani przegłosowali przekształcenie UE w autonomię strategiczną pilne
Eurodeputowani przegłosowali przekształcenie UE w autonomię strategiczną

W sprawozdaniu przyjętym w środę Parlament Europejski podkreślił, że partnerstwa UE w dziedzinie bezpieczeństwa i obrony są kluczowe dla skutecznego reagowania na pojawiające się zagrożenia i wzmacniania globalnej roli UE jako autonomii strategicznej.

PiS nie będzie rekomendował weta do ustawy o SAFE mimo mechanizmu warunkowości z ostatniej chwili
PiS nie będzie rekomendował weta do ustawy o SAFE mimo mechanizmu warunkowości

PiS nie będzie rekomendował weta do ustawy o SAFE mimo mechanizmu warunkowości – wynika ze stanowiska w sprawie ustawy o SAFE, jakie przedstawił Mariusz Błaszczak reprezentujący Klub PiS podczas Rady Bezpieczeństwa Narodowego. Frakcja przewidziała zaledwie kilka poprawek.

Bogucki: Podczas RBN nie rozwiano wszystkich wątpliwości ws. programu SAFE pilne
Bogucki: Podczas RBN nie rozwiano wszystkich wątpliwości ws. programu SAFE

Po środowym posiedzeniu Rady Bezpieczeństwa Narodowego, które dotyczyło m.in. programu SAFE, szef Kancelarii Prezydenta Zbigniew Bogucki ocenił, że w czasie dyskusji w tej sprawie nie rozwiano wszystkich wątpliwości ani nie wybrzmiały wszystkie odpowiedzi na pytania KPRP.

Karol Nawrocki: Jest dezinformacją, jakoby Polska musiała wpłacić 1 mld dolarów, aby przystąpić do Rady Pokoju tylko u nas
Karol Nawrocki: Jest dezinformacją, jakoby Polska musiała wpłacić 1 mld dolarów, aby przystąpić do Rady Pokoju

Prezydent Karol Nawrocki podczas posiedzenia Rady Bezpieczeństwa Narodowego stanowczo zaprzeczył, jakoby Polska musiała wpłacić 1 mld dolarów, by przystąpić do Rady Pokoju. Jak podkreślił, informacje o obowiązkowej wpłacie to „jaskrawa dezinformacja”, a w sprawach kluczowych dla bezpieczeństwa państwa nie może być miejsca na polityczną ciszę i brak jasnych decyzji.

Dr Jacek Saryusz-Wolski: „Pożyczka SAFE może zagrozić Polsce. To pułapka” tylko u nas
Dr Jacek Saryusz-Wolski: „Pożyczka SAFE może zagrozić Polsce. To pułapka”

„Sprawą naprawdę pierwszorzędną jest SAFE!!! Pożyczka SAFE może zagrozić Polsce, na wzór KPO, potencjalnym, politycznie motywowanym, dyskrecjonalnym i arbitralnym szantażem oraz blokowaniem środków” - mówi portalowi Tysol.pl doradca prezydenta ds. UE dr Jacek Saryusz-Wolski.

Trwa posiedzenie Rady Bezpieczeństwa Narodowego. „Chodzi o polską rację stanu” z ostatniej chwili
Trwa posiedzenie Rady Bezpieczeństwa Narodowego. „Chodzi o polską rację stanu”

W Pałacu Prezydenckim trwa zwołane przez prezydenta RP Karola Nawrockiego posiedzenie Rady Bezpieczeństwa Narodowego.

„Przyjęcie funduszy SAFE w formie zaproponowanej przez rząd doprowadzi MON do niewypłacalności!” z ostatniej chwili
„Przyjęcie funduszy SAFE w formie zaproponowanej przez rząd doprowadzi MON do niewypłacalności!”

„Przyjęcie funduszy SAFE w formie zaproponowanej przez rząd doprowadzi MON do niewypłacalności!” – napisał na platformie X Mariusz Błaszczak (PiS), były minister obrony narodowej.

Rutte: Reakcja NATO na ewentualną blokadę przez Rosję przesmyku suwalskiego będzie druzgocąca z ostatniej chwili
Rutte: Reakcja NATO na ewentualną blokadę przez Rosję przesmyku suwalskiego będzie druzgocąca

Sekretarz generalny NATO Mark Rutte oświadczył w środę na konferencji w Brukseli, że reakcja Sojuszu na ewentualną blokadę tzw. przesmyku suwalskiego przez Rosję będzie szybka i druzgocąca. – Jesteśmy sojuszem obronnym, nasza reakcja będzie zabójcza, jeśli spróbują nas zaatakować – powiedział.

Miał wspierać dżihadystów, szykując zamach. Jest akt oskarżenia gorące
Miał wspierać dżihadystów, szykując zamach. Jest akt oskarżenia

W wyniku śledztwa wszczętego na podstawie materiałów własnych i prowadzonego przez Delegaturę Agencji Bezpieczeństwa Wewnętrznego w Rzeszowie pod nadzorem 1 Wydziału Śledczego Prokuratury Okręgowej w Tarnobrzegu do Sądu Okręgowego w Tarnobrzegu skierowano akt oskarżenia przeciwko 18-letniemu Remigiuszowi Ż.

Polityczna burza w Wielkiej Brytanii. Większość Brytyjczyków chce dymisji premiera z ostatniej chwili
Polityczna burza w Wielkiej Brytanii. Większość Brytyjczyków chce dymisji premiera

Ponad połowa Brytyjczyków uważa, że premier Keir Starmer powinien zrezygnować w związku z nominowaniem Petera Mandelsona na stanowisko ambasadora w USA – wynika z opublikowanego w środę sondażu przeprowadzonego dla portalu Politico. Afera wybuchła po ujawnieniu nowych dokumentów dotyczących relacji Mandelsona z Jeffreyem Epsteinem.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane