Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Łukasz Jasina: Problemem jest Zełenski tylko u nas
Łukasz Jasina: Problemem jest Zełenski

Relacje polsko-ukraińskie po czterech latach wojny weszły w fazę wyraźnego ochłodzenia. Coraz więcej napięć pojawia się wokół decyzji prezydenta Wołodymyra Zełenskiego, które – zdaniem części ekspertów – utrudniają dialog z Polską i osłabiają pozycję samej Ukrainy. Najnowsze wydarzenia pokazują, że powrót do bliskiej współpracy z pierwszych miesięcy wojny staje się coraz trudniejszy

Niemiecki dom aukcyjny handluje rzeczami ofiar niemieckich zbrodni gorące
Niemiecki dom aukcyjny handluje rzeczami ofiar niemieckich zbrodni

Niemiecki dom aukcyjny Felzmann chce sprzedać na licytacji dokumenty należące do ofiar obozów koncentracyjnych. Wśród wystawionych przedmiotów są listy więźniów, kartoteki Gestapo i osobiste pamiątki. Organizacje pamięci o Holokauście mówią o „skandalu” i żądają natychmiastowego przerwania aukcji.

Tragedia w Wielkopolsce: 45-latek znaleziony martwy z ostatniej chwili
Tragedia w Wielkopolsce: 45-latek znaleziony martwy

Policja wyjaśnia, jak zginął 45-latek, którego ciało zostało znalezione w sobotę po południu na jednej z ulic w Poznaniu. Niewykluczone, że mężczyzna został pobity; zatrzymano dwie osoby.

Zdjęcie Polaka otrzymało wyróżnienie od NASA Wiadomości
Zdjęcie Polaka otrzymało wyróżnienie od NASA

Zdjęcie wykonane przez Piotra Czerskiego trafiło 15 listopada na stronę NASA jako Astronomy Picture of the Day. To ogromne wyróżnienie, przyznawane jedynie najbardziej wyjątkowym fotografiom związanym z kosmosem. Jego praca, zatytułowana „Andromeda i Przyjaciele”, przedstawia Galaktykę Andromedy oraz towarzyszące jej mniejsze galaktyki - M32 i M110.

Karol Nawrocki: zapraszam Zełenskiego do Warszawy Wiadomości
Karol Nawrocki: zapraszam Zełenskiego do Warszawy

Prezydent Karol Nawrocki w rozmowie z tygodnikiem Do Rzeczy (która ukaże się w najbliższym wydaniu) stwierdził, że oczekuje przyjazdu Wołodymyra Zełenskiego do Polski. Podkreślił, że wizyta w Warszawie byłaby okazją do spotkania z ukraińską diasporą oraz do podziękowania Polakom za wsparcie udzielane Ukrainie od początku wojny.

Kontuzja w reprezentacji Polski przed meczem z Maltą z ostatniej chwili
Kontuzja w reprezentacji Polski przed meczem z Maltą

Sebastian Szymański opuścił zgrupowanie kadry przed poniedziałkowym meczem z Maltą, który zakończy fazę grupową eliminacji mistrzostw świata - poinformował selekcjoner piłkarskiej reprezentacji Jan Urban, cytowany na stronie PZPN.

Niemiecki historyk: Berlin wykorzystuje „kulturę pamięci”, aby blokować reparacje wojenne tylko u nas
Niemiecki historyk: Berlin wykorzystuje „kulturę pamięci”, aby blokować reparacje wojenne

Niemiecki historyk Karl Heinz Roth ujawnia, że Berlin stosuje „kulturę pamięci” jako strategię odsuwania rozmów o odszkodowaniach za II wojnę światową. Jego analiza pokazuje, jak ta metoda zadziałała wobec Grecji — i jak podobny mechanizm ma dziś dotyczyć Polski.

Atak zimy nad Polską: nadchodzą śnieg i przymrozki Wiadomości
Atak zimy nad Polską: nadchodzą śnieg i przymrozki

Jak informuje Instytut Meteorologii i Gospodarki Wodnej, nad wschodnią i południowo-wschodnią częścią Europy będzie zalegał jeszcze słabnący układ wyżowy. Resztę kontynentu zdominują liczne niże z frontami atmosferycznymi. Polska od południowego zachodu będzie się dostawać pod wpływ zatoki niżowej z pofalowanym frontem chłodnym. Na froncie tym utworzy się płytki ośrodek niżowy, który w ciągu dnia przemieszczać się będzie przez północną część kraju. Napływać będzie wilgotne powietrze polarne morskie, które przejściowo będzie wypierać z północy kraju chłodniejsze powietrze pochodzenia arktycznego.

Ważny komunikat dla mieszkańców Łodzi z ostatniej chwili
Ważny komunikat dla mieszkańców Łodzi

Od 7 listopada 2025 roku w Łodzi działa pierwszy odcinkowy pomiar prędkości. System pojawił się na ul. Chocianowickiej i ma zwiększyć bezpieczeństwo kierowców oraz pieszych. Gdzie dokładnie stanęły kamery, jakie obowiązuje tu ograniczenie oraz dlaczego wybrano właśnie to miejsce?

Tusk znowu kłamał? Naczelna Izba Lekarska odpowiada premierowi z ostatniej chwili
Tusk znowu kłamał? Naczelna Izba Lekarska odpowiada premierowi

Premier Donald Tusk podczas piątkowej konferencji prasowej w Retkowie stanowczo zaprzeczył doniesieniom o odsyłaniu pacjentów onkologicznych ze szpitali. „To jest kłamstwo, prostowaliśmy te informacje” - mówił szef rządu. Dodał: „Do tej pory informacje, jakie przekazywano, były sprawdzane natychmiast i okazywały się nieprawdziwe”. Podkreślił, że szpitale nie mają prawa odsyłać tych chorych, a w razie choćby jednego przypadku osobiście interweniuje minister zdrowia. Tusk wspomniał też o rozmowie z szefową MZ, Jolantą Sobierańską-Grendą.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe