Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Awantura w ukraińskim parlamencie. Doszło do rękoczynów Wiadomości
Awantura w ukraińskim parlamencie. Doszło do rękoczynów

Sesja plenarna Rady Najwyższej Ukrainy została przerwana kilkanaście minut po rozpoczęciu. Powodem była awantura z udziałem posłanki Mariany Bezugli, która zablokowała mównicę i domagała się dymisji głównodowodzącego ukraińskiej armii.

Krajewski stawia ultimatum w sprawie umowy UE-Mercosur z ostatniej chwili
Krajewski stawia ultimatum w sprawie umowy UE-Mercosur

Polska domaga się utworzenia Europejskiego Funduszu Wyrównawczego dla Rolnictwa - powiedział we wtorek minister rolnictwa Stefan Krajewski. Zaapelował też do wszystkich krajów członkowskich i europarlamentarzystów o poparcie poprawek polskich europosłów do umowy z krajami Mercosur.

PE poparł uproszczenie zasad i większe wsparcie dla rolników z ostatniej chwili
PE poparł uproszczenie zasad i większe wsparcie dla rolników

Posłowie do Parlamentu Europejskiego przyjęli we wtorek nowe przepisy wprowadzające większą elastyczność i wsparcie dla rolników w przestrzeganiu wspólnej polityki rolnej (WPR) UE.

10 miliardów dolarów odszkodowania. Trump idzie do sądu z BBC gorące
10 miliardów dolarów odszkodowania. Trump idzie do sądu z BBC

Donald Trump złożył pozew przeciwko BBC, domagając się 10 miliardów dolarów odszkodowania. Sprawa dotyczy emisji zmanipulowanego materiału z jego przemówienia, który miał wyrządzić mu poważne szkody wizerunkowe i finansowe. Zmanipulowane słowa dotyczyły rzekomego wzywania przez Trumpa swoich zwolenników do szturmu na Kapitol po przegranych przez niego wyborach prezydenckich.

Nagroda Sacharowa 2025. PE uhonorował Andrzeja Poczobuta i Mzię Amaglobeli z ostatniej chwili
Nagroda Sacharowa 2025. PE uhonorował Andrzeja Poczobuta i Mzię Amaglobeli

Przewodnicząca Parlamentu Europejskiego Roberta Metsola podczas wtorkowej ceremonii w Strasburgu przyznała Nagrodę Sacharowa 2025 przedstawicielom dwóch dziennikarzy przetrzymywanych na Białorusi i w Gruzji.

PE przyjął klauzulę ochronną do umowy z Mercosurem z ostatniej chwili
PE przyjął klauzulę ochronną do umowy z Mercosurem

Parlament Europejski w Strasburgu przegłosował we wtorek wzmocnioną klauzulę ochronną do umowy handlowej UE z państwami Mercosuru. Ma to pozwolić na szybszą reakcję Wspólnoty w razie spadku cen produktów takich jak wołowina i jaja wskutek importu z krajów tego bloku Ameryki Południowej.

Delegalizacja Konfederacji Brauna? Kierwiński: Są na to widoki pilne
Delegalizacja Konfederacji Brauna? Kierwiński: "Są na to widoki"

Minister spraw wewnętrznych i administracji Marcin Kierwiński nie wyklucza delegalizacji partii Grzegorza Brauna. Jego zdaniem politycy tacy jak Braun stanowią zagrożenie dla polskiej racji stanu.

Niemcy grożą ws. finansowania pożyczki reparacyjnej dla Ukrainy z ostatniej chwili
Niemcy grożą ws. finansowania pożyczki reparacyjnej dla Ukrainy

Niemcy grożą, że państwa UE, które odmówią poparcia „pożyczki reparacyjnej” dla Ukrainy opartej na rosyjskich państwowych aktywach, mogą ponieść poważne konsekwencje finansowe, w tym w postaci wyższych stóp procentowych i obniżenia ratingów kredytowych.

Nowe informacje ws. zabójstwa 11-latki w Jeleniej Górze. Sąd przesłucha 12-letnią dziewczynkę pilne
Nowe informacje ws. zabójstwa 11-latki w Jeleniej Górze. Sąd przesłucha 12-letnią dziewczynkę

Sąd rodzinny w Jeleniej Górze jeszcze dziś ma przesłuchać 12-letnią dziewczynkę zatrzymaną w związku z zabójstwem 11-latki. Do tragedii doszło w pobliżu szkoły, do której obie uczęszczały. Policja znalazła prawdopodobne narzędzie zbrodni.

Zbigniew Ziobro bez paszportu. Wojewoda podjął decyzję na wniosek prokuratury z ostatniej chwili
Zbigniew Ziobro bez paszportu. Wojewoda podjął decyzję na wniosek prokuratury

Decyzja administracyjna wobec Zbigniewa Ziobry zapadła na wniosek Prokuratury Krajowej i została ogłoszona przez szefa MSWiA. Jak tłumaczy PK, ma to związek ze śledztwem dotyczącym Funduszu Sprawiedliwości oraz pobytem polityka poza Polską.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane