Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Waszyngton: pierwsze posiedzenie Rady Pokoju. Min. Przydacz zabrał głos polityka
Waszyngton: pierwsze posiedzenie Rady Pokoju. Min. Przydacz zabrał głos

Minęło pierwsze posiedzenie Rady Pokoju w Waszyngtonie. Polskę reprezentował w roli obserwatora Marcin Przydacz, który podkreślił znaczenie budowania relacji z partnerami także poza Europą Wschodnią. "Czego NIE BYŁO, a czym próbowano dezinformować opinię publiczną w Polsce: oczekiwania 1 mld dolarów, oczekiwania wysłania wojsk, obecności Putina i Łukaszenki" - napisał w mediach społecznościowych prezydencki minister.

Koniec anarchii w togach? Ustawa, która mogłaby zamknąć spór o status sędziów tylko u nas
Koniec anarchii w togach? Ustawa, która mogłaby zamknąć spór o status sędziów

Dziś Prezydent RP złożył projekt ustawy o przywróceniu prawa do sądu oraz rozpoznania sprawy bez nieuzasadnionej zwłoki. Sam tytuł brzmi koncyliacyjnie.

Nowacka: Rząd nie sfinansuje dodatkowych lekcji religii Wiadomości
Nowacka: Rząd nie sfinansuje dodatkowych lekcji religii

Minister edukacji Barbara Nowacka zapowiedziała, że samorządy, które zdecydują się organizować dodatkowe lekcje religii ponad ustawowy wymiar, nie otrzymają z budżetu państwa żadnych rekompensat. Od września w szkołach obowiązuje jedna godzina religii lub etyki tygodniowo.

Aktywiści usiłują oswajać z tzw. etyczną pedofilią tylko u nas
Aktywiści usiłują oswajać z tzw. "etyczną pedofilią"

Dzieci trzeba chronić przed wykorzystaniem seksualnym – zgodzi się z tym praktycznie każdy. Innego zdania są jednak niektórzy aktywiści gender z Ameryki, którzy zorganizowali w Seattle akcję promującą normalizację tego typu zachowań

Kurs dolara w górę. Regres w przemyśle ciągnie złotego w dół pilne
Kurs dolara w górę. Regres w przemyśle ciągnie złotego w dół

Złoty znalazł się pod wyraźną presją. Kurs dolara zbliżył się do 3,60 zł po rozczarowujących danych o produkcji przemysłowej. Jak opisuje money.pl, impulsem do wyprzedaży polskiej waluty stały się czwartkowe dane Głównego Urzędu Statystycznego.

Muszle pod 500 m lodu. Niezwykłe dane z odwiertu na Antarktydzie Wiadomości
Muszle pod 500 m lodu. Niezwykłe dane z odwiertu na Antarktydzie

Pod ponad 500-metrową warstwą lodu na Antarktydzie odkryto ślady dawnego, otwartego oceanu. Wstępne dane wskazują, że warstwy osadów w rdzeniu obejmują ostatnie 23 miliony lat, w tym okresy, w których średnia globalna temperatura Ziemi była znacznie wyższa od temperatury sprzed epoki przemysłowej.

TOPR przerywa akcję ratunkową. Poszukiwania turysty w Tatrach zawieszone Wiadomości
TOPR przerywa akcję ratunkową. Poszukiwania turysty w Tatrach zawieszone

Kolejny dzień poszukiwań 30-letniego turysty w Tatrach nie przyniósł rezultatu. Ratownicy w czwartek wstrzymali działania z uwagi na pogarszające się warunki i wzrost zagrożenia lawinowego do trzeciego stopnia.

Komunikat dla mieszkańców woj. łódzkiego Wiadomości
Komunikat dla mieszkańców woj. łódzkiego

Po zderzeniu busa z ciężarówką autostrada A2 jest zablokowana w kierunku Poznania koło Wartkowic (Łódzkie). Według dyżurnego GDDKiA w Łodzi, 4 osoby zostały ranne.

Żurek reaguje na prezydenckie weto ws. KRS: Nie ustąpię, mamy plan B gorące
Żurek reaguje na prezydenckie weto ws. KRS: "Nie ustąpię, mamy plan B"

Prezydent Karol Nawrocki zablokował zmiany w Krajowej Radzie Sądownictwa i powiązaną nowelizację Kodeksu wyborczego. Zapowiedział też własny projekt ustawowy oraz możliwość referendum, jeśli jego propozycje dialogu zostaną odrzucone. Na decyzję głowy państwa ostro zareagował minister sprawiedliwości Waldemar Żurek.

Żałoba w siedleckiej policji. Nie żyje wieloletni funkcjonariusz i radny Wiadomości
Żałoba w siedleckiej policji. Nie żyje wieloletni funkcjonariusz i radny

W Siedlcach panuje żałoba po śmierci asp. Janusza Cabaja, wieloletniego funkcjonariusza miejscowej policji i radnego miasta. Po przejściu na emeryturę nie zakończył swojej działalności, angażując się w rozmaite, prospołeczne inicjatywy.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane