Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Kto powinien być twarzą PiS przed kolejnymi wyborami? Zaskakujące wyniki sondażu z ostatniej chwili
Kto powinien być twarzą PiS przed kolejnymi wyborami? Zaskakujące wyniki sondażu

Wg sondażu SW Research na zlecenie Onetu to prezes PiS Jarosław Kaczyński był najczęściej wskazywany przez ankietowanych jako polityk, który powinien poprowadzić partię jako twarz wyborów. Co ciekawe jednak, najwięcej ankietowanych wskazało, że nie widzi w elicie PiS dobrego kandydata.

Wyłączenia prądu. Ważny komunikat dla mieszkańców Wielkopolski z ostatniej chwili
Wyłączenia prądu. Ważny komunikat dla mieszkańców Wielkopolski

Enea Operator opublikowała nowy harmonogram planowanych wyłączeń energii elektrycznej w Wielkopolsce. W najbliższych dniach przerwy obejmą wiele miejscowości, zarówno w dużych miastach, jak i mniejszych gminach regionu. Sprawdź, czy Twoja ulica znajduje się na liście.

Rozmowy pokojowe z Ukrainą. Departament Stanu USA przekazał nowe informacje z ostatniej chwili
Rozmowy pokojowe z Ukrainą. Departament Stanu USA przekazał nowe informacje

Departament Stanu USA poinformował, że w sobotę będą kontynuowane rozmowy amerykańsko-ukraińskie na temat zakończenia wojny na Ukrainie. Trwające od czwartku negocjacje oceniono jako „konstruktywne”.

Ukraina: Zmasowany atak powietrzny sił rosyjskich prawie w całym kraju. Polska poderwała myśliwce z ostatniej chwili
Ukraina: Zmasowany atak powietrzny sił rosyjskich prawie w całym kraju. Polska poderwała myśliwce

Siły rosyjskie przypuściły w nocy z piątku na sobotę zmasowany atak rakietowo-dronowy na większość obwodów Ukrainy. W obwodzie kijowskim co najmniej trzy osoby zostały ranne - przekazała w Telegramie wojskowa administracja obwodowa. Koło godz. 4 rano Polska poderwała myśliwce; nie zaobserwowano naruszenia przestrzeni powietrznej RP.

Instrukcja zabicia dziecka społecznie nieszkodliwa? Postępowanie przeciwko proaborcyjnej lekarce umorzone gorące
Instrukcja zabicia dziecka społecznie nieszkodliwa? Postępowanie przeciwko proaborcyjnej lekarce umorzone

Czyn zabroniony polegać miał na udzieleniu ciężarnej kobiecie pomocy w nielegalnej aborcji poprzez instrukcje, w jaki sposób i z użyciem jakiego leku ma wykonać aborcję farmakologiczną oraz poprzez oferowanie pomocy w szpitalu, w którym pracuje, w razie gdyby doszło do komplikacji medycznych.

Nie żyje słynny architekt Wiadomości
Nie żyje słynny architekt

W wieku 96 lat zmarł w piątek Frank Gehry, jeden z najsłynniejszych współczesnych architektów - poinformowała Meaghan Lloyd z jego pracowni architektonicznej Gehry Partners. Najbardziej znanym dziełem zmarłego twórcy jest Muzeum Guggenheima w Bilbao na północy Hiszpanii.

USA zapowiadają ingerencję w Europie. W niemieckich mediach płacz tylko u nas
USA zapowiadają ingerencję w Europie. W niemieckich mediach płacz

Stany Zjednoczone przedstawiły nową strategię bezpieczeństwa narodowego. Jej mocnym akcentem jest krytyka Unii Europejskiej. Niemieckie media już zdążyły to odnotować.

Szykuje się wielki protest rolników w Brukseli Wiadomości
Szykuje się wielki protest rolników w Brukseli

Na 18 grudnia organizacje rolnicze funkcjonujące w krajach UE zapowiedziały wielki protest w Brukseli. Zaledwie kilka godzin później wizytę w Brazylii w celu podpisania kontrowersyjnej umowy UE–Mercosur planuje odbyć Ursula von der Leyen.

Bogucki w Sejmie: „Chciałbym mieć premiera polskiego rządu”. Tusk: „Ale nie masz chłopie” wideo
Bogucki w Sejmie: „Chciałbym mieć premiera polskiego rządu”. Tusk: „Ale nie masz chłopie”

Donald Tusk przyznał podczas posiedzenia Sejmu, że nie jest „premierem polskiego rządu”. Szokujące słowa padły przy okazji orki, jaką Tuskowi zafundował szef Kancelarii Prezydenta Zbigniew Bogucki.

Pałac Buckingham potwierdza: te święta króla Karola III będą zupełnie inne Wiadomości
Pałac Buckingham potwierdza: te święta króla Karola III będą zupełnie inne

Król Karol III od prawie dwóch lat zmaga się z ciężką chorobą. Wie, że czasu może mu zostać już niewiele, dlatego bardzo chce, by tegoroczne Boże Narodzenie było inne niż wszystkie poprzednie. Święta odbędą się tradycyjnie w rezydencji Sandringham w hrabstwie Norfolk. Tym razem grono gości będzie bardzo wąskie. Zaproszenie dostali tylko naprawdę najbliżsi.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane