Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Nie pouczaj mnie. Anna Lewandowska opublikowała wpis Wiadomości
"Nie pouczaj mnie". Anna Lewandowska opublikowała wpis

Anna Lewandowska wraz z mężem Robertem i dziećmi spędziła Boże Narodzenie w Polsce. 28 grudnia trenerka opublikowała na Instagramie galerię zdjęć, które szybko podbiły serca obserwatorów.

Bolesny upadek Łukaszenki na lodzie. Sieć obiegło nagranie Wiadomości
Bolesny upadek Łukaszenki na lodzie. Sieć obiegło nagranie

71-letni Alaksandr Łukaszenka wziął ostatnio udział w amatorskim meczu hokejowym. Jego drużyna zmierzyła się z zespołem z obwodu brzeskiego, a spotkanie zakończyło się remisem. Największe emocje wywołał jednak nie wynik, a spektakularny upadek białoruskiego lidera.

Niepokojące nagranie z Czech. Policja publikuje film ku przestrodze Wiadomości
Niepokojące nagranie z Czech. Policja publikuje film ku przestrodze

Policja z czeskiego Szpindlerowego Młyna udostępniła w mediach społecznościowych niepokojące wideo, które ma służyć jako ostrzeżenie dla turystów. Na filmie widać kobietę, która bez wahania wjeżdża łyżwami na zamarzniętą powierzchnię zapory Łabskiej - pcha przy tym wózek z dzieckiem.

Spotkanie z Zełenskim w Mar-a-Lago. Pierwsze słowa Trumpa z ostatniej chwili
Spotkanie z Zełenskim w Mar-a-Lago. Pierwsze słowa Trumpa

Uważam, że mamy podstawy do zawarcia porozumienia w sprawie Ukrainy, korzystnego dla wszystkich - powiedział prezydent USA Donald Trump na początku spotkania z prezydentem Ukrainy Wołodymyrem Zełenskim w Mar-a-Lago na Florydzie.

To było oburzające. Aktor polskich seriali przerwał milczenie Wiadomości
"To było oburzające". Aktor polskich seriali przerwał milczenie

W najnowszym odcinku programu „interAKCJA. Starcie pokoleń” Małgorzata Czop wraz z Marią Kowalską rozmawiała z Michałem Czerneckim o tym, jak aktorzy bronią swoich granic w pracy. Aktor ujawnił dramatyczną historię z planu popularnego serialu oraz podzielił się metodą, która zawsze zatrzymuje pomysły zbyt śmiałych reżyserów.

Trump: właśnie odbyłem bardzo produktywną rozmowę z Putinem z ostatniej chwili
Trump: właśnie odbyłem bardzo produktywną rozmowę z Putinem

Prezydent USA Donald Trump powiedział w niedzielę, że odbył „dobrą i bardzo produktywną” rozmowę telefoniczną z przywódcą Rosji Władimirem Putinem. Do rozmowy doszło tuż przed spotkaniem Trumpa z prezydentem Ukrainy Wołodymyrem Zełenskim.

Seria wypadków w Tatrach. Trudne święta dla ratowników TOPR Wiadomości
Seria wypadków w Tatrach. Trudne święta dla ratowników TOPR

W ciągu minionego świątecznego tygodnia ratownicy Tatrzańskiego Ochotniczego Pogotowia Ratunkowego udzielili pomocy 18 osobom. Doszło do kilku poważnych wypadków, w tym na Rysach. Ratownicy podkreślają, że nie były to spokojne święta Bożego Narodzenia.

Już się nie nabiorę na gładkie słówka rządzących. Babcia Kasia niezadowolona z ministra Żurka Wiadomości
"Już się nie nabiorę na gładkie słówka rządzących". "Babcia Kasia" niezadowolona z ministra Żurka

Katarzyna Augustynek, znana szerzej jako "Babcia Kasia" - ikona ulicznych protestów opozycyjnych w czasach rządów PiS - wyraziła głębokie rozczarowanie po spotkaniu z ministrem sprawiedliwości Waldemarem Żurkiem. Aktywistka, która brała udział w listopadowym spotkaniu w Prokuraturze Regionalnej w Warszawie, czuje się oszukana brakiem konkretnych działań w sprawie swoich spraw sądowych.

Karol Nawrocki odpowiedział na atak Donalda Tuska Wiadomości
Karol Nawrocki odpowiedział na atak Donalda Tuska

Prezydent Karol Nawrocki odpowiedział premierowi Donaldowi Tuskowi po krytyce jego słów o obronie zachodniej granicy Rzeczpospolitej. Spór wybuchł po sobotnim przemówieniu Nawrockiego podczas obchodów Powstania Wielkopolskiego w Poznaniu.

Zima uderzy przed Nowym Rokiem. Silne opady i mróz w całym kraju Wiadomości
Zima uderzy przed Nowym Rokiem. Silne opady i mróz w całym kraju

Końcówka roku przyniesie w Polsce prawdziwy atak zimy. Prognozy modeli pogodowych wskazują, że już od 30 grudnia do kraju zaczną napływać chłodne masy powietrza z północy. Kulminacja zimowej pogody ma przypaść na 1 stycznia.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane