Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Wiadomości
Kiedy warto przejść na grę z trójką stoperów?

Coraz częstszym widokiem na piłkarskich boiskach jest ustawienie z trzema stoperami. Jakie są cechy takiej formacji, a także jakie są jej plusy i minusy?

Nowe prawo klimatyczne UE uderzy w gospodarkę z ostatniej chwili
Nowe prawo klimatyczne UE uderzy w gospodarkę

„Sztandarowy plan Komisji Europejskiej, mający na celu tchnięcie nowego życia w borykające się z trudnościami sektory produkcyjne bloku, wzbudził obawy rządów dotyczące stosunków handlowych i interwencjonistycznej polityki przemysłowej. Ale nie dajcie się zwieść: to ukryte prawo klimatyczne” – alarmuje Politico.

Irańskie bombowce zmierzały na bazę USA. Katarskie F-15 zestrzeliły je w ostatniej chwili Wiadomości
Irańskie bombowce zmierzały na bazę USA. Katarskie F-15 zestrzeliły je w ostatniej chwili

Dwa irańskie bombowce taktyczne były zaledwie kilka minut od swoich celów w Katarze – w tym od największej amerykańskiej bazy lotniczej w regionie. Według informacji CNN katarskie myśliwce F-15 podjęły walkę w powietrzu i zestrzeliły maszyny tuż przed możliwym atakiem.

Wiadomości
Panele podłogowe SPC – zastosowane, wady i zalety

Urządzenie nowego domu, czy mieszkania, jest nierozerwalnie związane z koniecznością podejmowania wielu decyzji. Jedną z nich jest oczywiście dobór podłóg, nad którym trzeba zastanowić się praktycznie na samym początku. Dzisiaj, opowiemy Ci więcej o panelach podłogowych SPC, które w ostatnich latach zaczęły cieszyć się coraz większą popularnością. Sprawdź, zarówno jakie są ich walory, jak i ewentualne ograniczenia i zastanów się, czy będą dobrą opcją dla Ciebie!

Migracja sterowana algorytmami. Raport niemieckiego think tanku tylko u nas
Migracja sterowana algorytmami. Raport niemieckiego think tanku

Algorytmy, systemy biometryczne i aplikacje cyfrowe mają coraz częściej decydować o tym, kto może wjechać do Europy i znaleźć w niej pracę. Według raportu Stiftung Wissenschaft und Politik, migracja staje się procesem zarządzanym przez dane i technologie – od składania wniosków po kontrolę granic.

Wojewoda zdjął krzyż w urzędzie. Jest decyzja sądu z ostatniej chwili
Wojewoda zdjął krzyż w urzędzie. Jest decyzja sądu

Sąd Okręgowy w Lublinie utrzymał w mocy wyrok tutejszego sądu rejonowego uniewinniający wojewodę lubelskiego Krzysztofa Komorskiego w sprawie zdjęcia krzyża w reprezentacyjnej sali urzędu. Prywatni oskarżyciele zarzucali mu przekroczenie uprawnień i obrazę uczuć religijnych.

Iran grozi krajom UE: „Zapłacą cenę” gorące
Iran grozi krajom UE: „Zapłacą cenę”

Kraje Unii Europejskiej „wcześniej czy później zapłacą cenę”, jeśli będą milczeć w sprawie amerykańsko-izraelskiego ataku na Iran – przekazał rzecznik MSZ Iranu Esmail Bagei w czwartkowym wywiadzie dla hiszpańskiej państwowej telewizji TVE.

Kraje UE zatwierdziły cel klimatyczny na 2040 r. zakładający redukcję emisji o 90 proc. z ostatniej chwili
Kraje UE zatwierdziły cel klimatyczny na 2040 r. zakładający redukcję emisji o 90 proc.

Kraje Unii Europejskiej w czwartek ostatecznie zatwierdziły nowy cel klimatyczny zakładający redukcję emisji gazów cieplarnianych o 90 proc. do 2040 r. w stosunku do poziomu z 1990 r. Zatwierdzono również roczne opóźnienie wejścia w życie systemu ETS2.

Telewizor 65 cali za 135 zł? Jest pilne ostrzeżenie z ostatniej chwili
Telewizor 65 cali za 135 zł? Jest pilne ostrzeżenie

Uważaj na fałszywy sklep podszywający się pod Empik. W oczy rzucają się przede wszystkim ceny oderwane od realiów – informują w nowym komunikacie analitycy z CERT Orange Polska.

Anna Zalewska: ETS-2 najdotkliwiej uderzy w Polaków z ostatniej chwili
Anna Zalewska: ETS-2 najdotkliwiej uderzy w Polaków

„Jedynym racjonalnym rozwiązaniem jest zawieszenie obowiązywania systemu ETS2” – napisała na platformie X Anna Zalewska, eurodeputowana PiS.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane