Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
GIS wydał nowy komunikat. Na ten produkt trzeba uważać z ostatniej chwili
GIS wydał nowy komunikat. Na ten produkt trzeba uważać

Główny Inspektorat Sanitarny wydał ostrzeżenie dotyczące jednej partii mąki żytniej razowej typ 720 producenta Radix-Bis. Wcześniej GIS informował o przekroczeniu dopuszczalnego poziomu ochratoksyny A w produkcie tego samego producenta, wyprodukowanym z tej samej partii surowca.

Jest decyzja Szymona Hołowni ws. startu w wyborach prezydenckich z ostatniej chwili
Jest decyzja Szymona Hołowni ws. startu w wyborach prezydenckich

W środę po południu Szymon Hołownia – założyciel Polski 2050 i marszałek Sejmu – ogłosił swój start w wyborach prezydenckich w 2025 roku.

Niepokojące doniesienia ws. Roberta Lewandowskiego z ostatniej chwili
Niepokojące doniesienia ws. Roberta Lewandowskiego

Robert Lewandowski, pomimo że w wieku 36 lat wciąż imponuje formą, zbliża się do końca swojej kariery. Kontrakt Polaka z Barceloną obowiązuje do 2026 roku, ale klub już teraz intensywnie rozgląda się za jego następcą. Jego prezes Joan Laporta ma nadzieję na sprowadzenie wielkiej gwiazdy, która zapewni drużynie płynne przejście.

PKO BP: Fatalne dane ws. inwestycji zagranicznych z ostatniej chwili
PKO BP: Fatalne dane ws. inwestycji zagranicznych

Spadł napływ inwestycji zagranicznych; liczony w ujęciu dwunastomiesięcznym jest on obecnie na poziomie dołka z czasów pandemii – wynika z komentarza ekonomistów PKO BP do danych NBP. Stwierdzili, że widać także spadek reinwestowanych zysków.

Zaginięcie Iwony Wieczorek. Jest zwrot w sprawie z ostatniej chwili
Zaginięcie Iwony Wieczorek. Jest zwrot w sprawie

Sprawa Iwony Wieczorek nawet po latach budzi wiele emocji i wątpliwości. Ostatnio pojawiły się nowe informacje, które mogą dawać nadzieję na przełom w śledztwie.

Zacharowa: „Morze Bałtyckie nigdy nie stanie się jeziorem NATO” z ostatniej chwili
Zacharowa: „Morze Bałtyckie nigdy nie stanie się jeziorem NATO”

Rzecznik rosyjskiego MSZ Maria Zacharowa na środowym briefingu prasowym powiedziała, że „Morze Bałtyckie nigdy nie stanie się jeziorem NATO” i „zawsze będzie wspólną przestrzenią dla wszystkich krajów regionu bez wyjątku”.

Scholz: Odbyłem dobrą rozmowę z prezydentem Trumpem z ostatniej chwili
Scholz: Odbyłem dobrą rozmowę z prezydentem Trumpem

W środę, tydzień po rozpadzie koalicji SPD, Zielonych i FDP, kanclerz Niemiec Olaf Scholz wygłosił przemówienie w niemieckim parlamencie.

Zaskakujące odkrycie astronomów. Tego nikt się nie spodziewał z ostatniej chwili
Zaskakujące odkrycie astronomów. Tego nikt się nie spodziewał

Naukowcy od dawna próbują rozwikłać zagadkę powstawania supermasywnych czarnych dziur, czyli obiektów, których masa przewyższa masę naszego Słońca miliony, a nawet miliardy razy. Choć wiele procesów dotyczących czarnych dziur jest dla nich zrozumiała, to nowe dane z teleskopu Webba zupełnie zmieniają dotychczasowe wyobrażenia.

Kate i William wydali komunikat. Pod wpisem lawina gratulacji z ostatniej chwili
Kate i William wydali komunikat. Pod wpisem lawina gratulacji

Od czasu, kiedy świat obiegły informacje, że księżna Kate, żona brytyjskiego następcy tronu księcia Williama, zmaga się z wykrytym u niej rakiem, oczy całego świata skierowane są na Pałac Buckingham. Tym razem płyną stamtąd radosne wieści.

Nie żyje znany aktor. Znaleziono list z ostatniej chwili
Nie żyje znany aktor. Znaleziono list

Wiadomość o śmierci Song Jae-Rim'a, południowokoreańskiego aktora znanego z serialu "The Moon Embracing the Sun", wstrząsnęła fanami i branżą rozrywkową na całym świecie. Aktor został znaleziony martwy w swoim domu w Seulu we wtorek, 12 listopada 2024 roku. Miał 39 lat.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe