Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
TVN do Czarnka: „Jak obniżymy ceny paliwa, ludzie je wykupią” pilne
TVN do Czarnka: „Jak obniżymy ceny paliwa, ludzie je wykupią”

Podczas konferencji prasowej Przemysława Czarnka doszło do dyskusji z TVN. Wymiana zdań dotyczyła propozycji obniżenia podatków na paliwo. W pewnym momencie wysłanniczka stacji stwierdziła, że niższe ceny będą grozić wykupieniem go w całości przez kierowców.

Balon zahaczył o budynek w Zielonej Górze. Jeden z pasażerów wypadł z kosza z ostatniej chwili
Balon zahaczył o budynek w Zielonej Górze. Jeden z pasażerów wypadł z kosza

Dramatyczne zdarzenie w Zielonej Górze. Balon pasażerski zahaczył o budynek w rejonie ulicy Chrobrego. W koszu znajdowały się trzy osoby - dwie zdołały opuścić go o własnych siłach, trzecia wypadła.

Ceny paliw rosną. Minister zapowiada analizy i „stosowne działania” z ostatniej chwili
Ceny paliw rosną. Minister zapowiada analizy i „stosowne działania”

Rosnące ceny ropy na świecie zaczynają odbijać się na kosztach paliw w Polsce. W tej sytuacji pojawiła się propozycja obniżenia podatków na paliwo. Minister finansów i gospodarki odniósł się do tego pomysłu w programie „Graffiti”.

Pierwsze burze już niedługo. Gdzie pogoda zaskoczy? Wiadomości
Pierwsze burze już niedługo. Gdzie pogoda zaskoczy?

Najbliższe dni przyniosą w Polsce prawdziwie wiosenną aurę. Temperatura miejscami wzrośnie nawet do 18°C, ale pogoda nie będzie stabilna. W prognozach pojawiają się przelotne opady deszczu, a w niektórych regionach także burze.

Obietnice wyborcze dla kobiet a rzeczywistość. Nowy sondaż o rządach Tuska gorące
Obietnice wyborcze dla kobiet a rzeczywistość. Nowy sondaż o rządach Tuska

Ponad dwa lata po powrocie Donalda Tuska na stanowisko premiera Polacy wciąż nie są zgodni, czy sytuacja kobiet w kraju się poprawiła. Najnowszy sondaż RMF wskazuje, że największa grupa respondentów nie dostrzega żadnych zmian, a opinie społeczeństwa są mocno podzielone.

Iran ma nowego przywódcę pilne
Iran ma nowego przywódcę

Modżtaba Chamenei został nowym najwyższym przywódcą Iranu po śmierci swojego ojca w atakach Izraela i USA. Wybór ogłosiło Zgromadzenie Ekspertów, a region wciąż pogrążony jest w eskalacji konfliktu. Napięcie na Bliskim Wschodzie natychmiast odbiło się na rynkach – ceny ropy przekroczyły 100 dolarów za baryłkę.

tylko u nas
Jeśli prawica chce wygrać, musi budować wokół Nawrockiego

Dzielenie skóry na niedźwiedziu w postaci rozważań pt. „kto będzie premierem z PiS-u” nie ma dziś większego sensu. Prawo i Sprawiedliwość nie wygra samodzielnie wyborów. Tak samo nie zrobi tego Konfederacja. Tym, co może się udać, jest stworzenie wspólnego rządu środowisk prawicowych w Polsce. Jeśli szeroko pojęta prawica chce wygrać w 2027 r., powinna budować swoją siłę wokół Karola Nawrockiego i razem z nim – w praktyce tworząc system prezydencki.

Burza po decyzji Brauna. Ambasador USA w Polsce reaguje z ostatniej chwili
Burza po decyzji Brauna. Ambasador USA w Polsce reaguje

Grzegorz Braun odwiedził ambasadę Iranu w Warszawie i wpisał się do księgi kondolencyjnej po śmierci Alego Chameneiego. Decyzja szefa Konfederacji Korony Polskiej spotkała się z ostrą krytyką ambasadora USA w Polsce.

Atak na Iran. USA podały dane o poległych żołnierzach z ostatniej chwili
Atak na Iran. USA podały dane o poległych żołnierzach

Wczoraj wieczorem amerykański żołnierz zmarł w wyniku obrażeń odniesionych podczas pierwszych ataków irańskiego reżimu na Bliskim Wschodzie – poinformowało w niedzielę wieczorem Dowództwo Centralne USA (CENTCOM).

Grafzero: Brzemię pustego morza i Kaduk, czyli wielka niemoc Tadeusz Łopalewski z ostatniej chwili
Grafzero: "Brzemię pustego morza" i "Kaduk, czyli wielka niemoc" Tadeusz Łopalewski

Grafzero razem z Mirkiem z kanału ‪@emigrant41‬ o dwóch powieściach Tadeusza Łopalewskiego: "Brzemię pustego morza" i "Kaduk, czyli wielka niemoc" . Czyli polskie powieści historyczne o losach Rzeczpospolitej w XVII wieku.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane