Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Program Orka bez kluczowego uzbrojenia. Rząd rezygnuje z Tomahawków pilne
Program Orka bez kluczowego uzbrojenia. Rząd rezygnuje z Tomahawków

Polska planuje zakup nowych okrętów podwodnych, ale bez pocisków manewrujących. Podczas posiedzenia sejmowych komisji potwierdzono, że w negocjacjach programu Orka nie ma mowy ani o Tomahawkach, ani o przystosowaniu jednostek do takiego uzbrojenia w przyszłości.

Emerytowany nauczyciel dostał z sądu astronomiczny rachunek tylko u nas
Emerytowany nauczyciel dostał z sądu astronomiczny rachunek

Wyobraźcie sobie, że jesteście emerytowanym nauczycielem i byłym członkiem rady szkolnej, który przez lata żył sobie spokojnie w swojej ojczyźnie. Nagle dostajecie rachunek z sądu na 750 tysięcy dolarów (kanadyjskich) – nie za kradzież czy oszustwo, ale za publiczne wypowiedzi na Facebooku i w różnych wywiadach. To nie fikcja, a rzeczywistość Barry'ego Neufelda, 80-letniego mieszkańca Chilliwack w Kolumbii Brytyjskiej (BC).

Minister rolnictwa zostaje. Wotum nieufności nie przeszło z ostatniej chwili
Minister rolnictwa zostaje. Wotum nieufności nie przeszło

Wniosek o odwołanie ministra rolnictwa Stefana Krajewskiego nie uzyskał poparcia większości Sejmu. Za jego odrzuceniem zagłosowało 235 posłów, co oznacza, że szef resortu pozostaje na stanowisku.

Komunikat o wystąpieniu wody z koryta rzeki Wkry Wiadomości
Komunikat o wystąpieniu wody z koryta rzeki Wkry

Dzisiaj około godziny 17 Wody Polskie otrzymały zgłoszenie dot. wystąpienia wody z koryta rzeki Wkry w Błędowie. Przyczyną lokalnego wystąpienia wody z koryta jest zator lodowy czołowy zlokalizowany poniżej miejscowości.

Sąd nie zgodził się na areszt prezydenta Częstochowy. W tle zarzuty o korupcję z ostatniej chwili
Sąd nie zgodził się na areszt prezydenta Częstochowy. W tle zarzuty o korupcję

Prezydent Częstochowy Krzysztof M. usłyszał dzisiaj dwa zarzuty dotyczące przyjmowania korzyści majątkowych. Mimo wniosku prokuratury o trzymiesięczny areszt, sąd nie przychylił się do tego żądania.

Turyści w Barcelonie zapłacą więcej. Nowa decyzja lewicy Wiadomości
Turyści w Barcelonie zapłacą więcej. Nowa decyzja lewicy

Od 1 kwietnia pobyt w Barcelonie stanie się wyraźnie droższy. Regionalny parlament Katalonii zatwierdził podwyżkę podatku turystycznego do poziomu, który stawia miasto wśród najdroższych w Europie.

Tusk zaczepił Orbana po węgiersku. Dostał szybką ripostę - po niemiecku pilne
Tusk zaczepił Orbana po węgiersku. Dostał szybką ripostę - po niemiecku

Publiczna wymiana zdań między premierami Polski i Węgier pokazała, jak głęboki jest dziś spór między Warszawą a Budapesztem. Viktor Orban odpowiedział Donaldowi Tuskowi jednym zdaniem - i zrobił to w języku niemieckim.

Samochody spoza UE mogą jeździć w Polsce bez przeglądów technicznych Wiadomości
Samochody spoza UE mogą jeździć w Polsce bez przeglądów technicznych

Przez lata zagraniczne samochody mogły poruszać się po polskich drogach bez obowiązkowych badań technicznych. Teraz Ministerstwo Infrastruktury zapowiada zmiany, które mogą objąć kierowców spoza Unii Europejskiej.

Niemcy chcą być suwerenne tylko u nas
Niemcy chcą być suwerenne

Cyfrowa suwerenność stała się jednym z kluczowych haseł niemieckiej polityki. Kanclerz Friedrich Merz zapowiada ograniczanie technologicznych zależności, a eksperci z Deutsche Gesellschaft für Auswärtige Politik ostrzegają przed strategiczną podatnością Europy na USA i Chiny. O co naprawdę chodzi w sporze o kontrolę nad danymi i infrastrukturą cyfrową?

Pilny komunikat dla klientów PKO BP Wiadomości
Pilny komunikat dla klientów PKO BP

PKO BP poinformował o utrudnieniach w korzystaniu z części swoich usług elektronicznych. Bank zapewnia, że karty płatnicze działają bez zakłóceń i trwają prace nad usunięciem problemu.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane