Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Nie żyje legendarny mistrz olimpijski Wiadomości
Nie żyje legendarny mistrz olimpijski

Ronnie Delany, irlandzki lekkoatleta, który zdobył złoty medal w biegu na 1500 metrów podczas Igrzysk Olimpijskich w Melbourne w 1956 roku, zmarł w wieku 91 lat. Mistrz olimpijski zapisał się w historii jako jedyny Irlandczyk, który zdobył złoto w lekkoatletyce między 1932 a 1992 rokiem.

Zełenski: Orban jest jak Putin, tylko nie wysyła dronów i wojsk na Ukrainę z ostatniej chwili
Zełenski: Orban jest jak Putin, tylko nie wysyła dronów i wojsk na Ukrainę

Prezydent Ukrainy Wołodymyr Zełenski porównał działania premiera Węgier Viktora Orbána do polityki Władimira Putina. Powiedział, że Orban blokuje pomoc dla Ukrainy i popiera Putina, choć nie używa siły militarnej.

„To przeżytek”. Ta ocena zniknie ze szkół? Wiadomości
„To przeżytek”. Ta ocena zniknie ze szkół?

Szefowa Ministerstwa Edukacji Narodowej Barbara Nowacka podczas spotkania z uczniami w Gdańsku stwierdziła, że ocena z zachowania w szkołach to „przeżytek”. Jednocześnie zaznaczyła, że w najbliższym czasie nie planuje jej likwidacji. – Ocena z zachowania w takim kształcie występuje w dwóch krajach: w Polsce i na Białorusi. To nie jest dobre towarzystwo – podkreśliła minister.

Lewandowski zagra w Barcelonie w kolejnym sezonie? Klub ma plan Wiadomości
Lewandowski zagra w Barcelonie w kolejnym sezonie? Klub ma plan

Przyszłość Roberta Lewandowskiego w FC Barcelona wciąż jest niepewna. Hiszpańskie media podają, że klub rozważa dużą wymianę z Atletico Madryt, która mogłaby pozwolić Polakowi zostać w drużynie.

Uśpieni agenci Iranu w USA. Trump: Są pod obserwacją Wiadomości
Uśpieni agenci Iranu w USA. Trump: Są pod obserwacją

Prezydent USA Donald Trump potwierdził, że został poinformowany o obecności uśpionych agentów Iranu w Stanach Zjednoczonych. Zapewnił, że są pod obserwacją amerykańskich służb. - Wiemy, gdzie większość z nich się znajduje. Obserwujemy ich wszystkich, tak myślę - powiedział w środę Trump dziennikarzom w drodze powrotnej do Waszyngtonu z Kentucky.

Pilny komunikat dla klientów Alior Banku Wiadomości
Pilny komunikat dla klientów Alior Banku

Alior Bank ostrzegł klientów przed rosnącą liczbą oszustw telefonicznych i internetowych. Przestępcy wykorzystują nie tylko technologię, ale także manipulację i presję, aby zdobyć dostęp do pieniędzy lub danych bankowych.

IMGW wydał nowy komunikat. Oto co nas czeka Wiadomości
IMGW wydał nowy komunikat. Oto co nas czeka

Jak informuje Instytut Meteorologii i Gospodarki Wodnej, Europa Południowa przeważnie jest w zasięgu wyżów z centrami nad południową Ukrainą oraz południową Francją. Płytkie niże kształtują pogodę jedynie nad Włochami i w rejonie Adriatyku. Pozostały obszar kontynentu pozostaje pod wpływem rozległego i głębokiego niżu z ośrodkiem położonym na północ od Islandii. Polska jest pod wpływem zatoki związanej z tym niżem, w strefie frontu chłodnego przemieszczającego się z zachodu na wschód kraju, stopniowo jednak od południowego zachodu nasuwa się klin wyżowy. Napływa chłodniejsze i wilgotniejsze powietrze polarne morskie.

Prof. Czarnek: Jeżeli Tusk będzie chciał obejść weto prezydenta ws. SAFE uchwałą, stanie przed sądem z ostatniej chwili
Prof. Czarnek: Jeżeli Tusk będzie chciał obejść weto prezydenta ws. SAFE uchwałą, stanie przed sądem

– Herr Kamerad Czarzasty, Herr Ober Tusk i popychadła Tuska z koalicji 13 grudnia chcą zrobić Polsce wielką krzywdę, i jeśli będą ją robili, to za nią odpowiedzą – zapowiedział podczas środowej konferencji prasowej w Sejmie prof. Przemysław Czarnek, kandydat PiS na premiera.

Ważny komunikat dla mieszkańców Szczecina gorące
Ważny komunikat dla mieszkańców Szczecina

Mieszkańcy Szczecina powinni zachować ostrożność. Służby ostrzegają przed ryzykiem przekroczenia poziomu informowania dla pyłu PM10 w powietrzu. Zanieczyszczenie może być szczególnie niebezpieczne dla dzieci, seniorów oraz osób z chorobami układu oddechowego i serca.

Zełenski wzywa Europę, aby opracowała „plan B” finansowania Ukrainy z ostatniej chwili
Zełenski wzywa Europę, aby opracowała „plan B” finansowania Ukrainy

W obliczu blokady przez Węgry obiecanej pożyczki w wysokości 90 miliardów euro prezydent Ukrainy Wołodymyr Zełenski wzywa Europę do znalezienia alternatywnego rozwiązania.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane