Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Historyczny gol Lewandowskiego na nowym Camp Nou Wiadomości
Historyczny gol Lewandowskiego na nowym Camp Nou

Piłkarze Barcelony w pierwszym po dwuipółletniej przerwie występie na zmodernizowanym stadionie Camp Nou pokonali w meczu ligowym Athletic Bilbao 4:0, a pierwszego gola po powrocie strzelił Robert Lewandowski.

Komunikat dla mieszkańców Gdańska Wiadomości
Komunikat dla mieszkańców Gdańska

W sobotę uroczyście otwarto Jarmark Bożonarodzeniowy w Gdańsku. Potrwa on do 23 grudnia. Wśród licznych atrakcji będą m.in. koncerty, rodzinne spektakle, potańcówki, konkursy, animacje. Na odwiedzających czeka również 222 wystawców, oferujących rękodzieło, unikatowe prezenty, przysmaki.

Nie żyje znany polski raper Wiadomości
Nie żyje znany polski raper

Środowisko hip-hopowe przeżywa wyjątkowo trudne dni. 21 listopada potwierdzono śmierć Marcina Sawickiego, znanego jako Sawa SPZ - jednego z ważniejszych raperów związanych ze szczecińską ekipą Specnaz. Muzyk miał 43 lata. Informację o jego odejściu przekazała najpierw rodzina, prosząc o spokój i uszanowanie prywatności.

Zadymienie w kabinie. LOT zawrócił maszynę do Warszawy Wiadomości
Zadymienie w kabinie. LOT zawrócił maszynę do Warszawy

Pasażerowie piątkowego lotu z Warszawy do Stambułu przeżyli niebezpieczną sytuację, która zmusiła kapitana do podjęcia decyzji o powrocie na Lotnisko Chopina. Jak relacjonują świadkowie, w trakcie lotu w jednym z telefonów doszło do zapłonu baterii, a w kabinie pojawił się dym.

Stoch liderem biało-czerwonych, Tomasiak z udanym wejściem do PŚ Wiadomości
Stoch liderem biało-czerwonych, Tomasiak z udanym wejściem do PŚ

Kamil Stoch zajął 13. miejsce w sobotnim konkursie Pucharu Świata w skokach narciarskich w norweskim Lillehammer. Kacper Tomasiak był 18., Piotr Żyła - 19., Dawid Kubacki - 22., a Paweł Wąsek - 28. Na podium stanęli trzej Austriacy. Wygrał Daniel Tschofenig przed Janem Hoerlem i Stefanem Kraftem.

Prof. Andrew Michta: Kwestia reparacji od Niemiec pozostaje otwarta z ostatniej chwili
Prof. Andrew Michta: Kwestia reparacji od Niemiec pozostaje otwarta

– Żaden kraj nie wycierpiał bardziej niż Polska – mówił w piątek ambasador USA w Polsce Tom Rose. Jego wypowiedź skomentował na antenie Radia Wnet amerykański politolog polskiego pochodzenia prof. Andrew Michta.

Pałac Buckingham: W rodzinie królewskiej zapadnie ważna decyzja Wiadomości
Pałac Buckingham: W rodzinie królewskiej zapadnie ważna decyzja

Książę George, najstarsze dziecko księcia i księżnej Walii, już za dwa lata ma rozpocząć naukę w szkole średniej. Według planów zmiana ma nastąpić we wrześniu 2026 roku, kiedy 12-latek zakończy edukację w Lambrook School w Berkshire, do której uczęszcza razem z Charlotte i Louisem.

wideo
Premiera 7. tomu „Dziejów Polski” prof. Andrzeja Nowaka [TRANSMISJA]

W krakowskiej sali „Sokoła” trwa właśnie uroczysta premiera siódmego tomu monumentalnych „Dziejów Polski”. Najnowsze dzieło prof. Andrzeja Nowaka, opublikowane nakładem wydawnictwa Biały Kruk, to jedno z najważniejszych wydarzeń literackich i historycznych tego roku. W gali biorą udział wybitni goście, publicyści i artyści. Transmisja wydarzenia dostępna jest w internecie.

Niebezpieczna jazda na hulajnodze. 13-latek ukarany przez sąd Wiadomości
Niebezpieczna jazda na hulajnodze. 13-latek ukarany przez sąd

Sąd Rodzinny i Nieletnich w Słupcy wydał wyrok w sprawie 13-latka, który spowodował wypadek na hulajnodze elektrycznej. Chłopiec nie będzie już mógł prowadzić tego typu pojazdów.

Plan pokojowy dla Ukrainy. Wysłannicy Trumpa przylecą do Genewy z ostatniej chwili
Plan pokojowy dla Ukrainy. Wysłannicy Trumpa przylecą do Genewy

W niedziele w Genewie w Szwajcarii odbędzie się spotkanie doradców bezpieczeństwa nieformalnej grupy E3 Wielkiej Brytanii, Francji i Niemiec z przedstawicielami Ukrainy, Unii Europejskiej i Stanów Zjednoczonych – poinformowała w sobotę agencja Reutera, powołują się na oficjeli, biorących udział w szczycie G20 w RPA.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe