Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Spotkanie ministrów obrony państw NATO. „Arctic Sentry została aktywowana” z ostatniej chwili
Spotkanie ministrów obrony państw NATO. „Arctic Sentry została aktywowana”

W czwartek, 12 lutego br., wiceprezes Rady Ministrów, minister obrony narodowej Władysław Kosiniak-Kamysz uczestniczył w spotkaniu ministrów obrony państw NATO w Kwaterze Głównej Sojuszu Północnoatlantyckiego w Brukseli.

IMGW wydał pilny komunikat. Oto co nas czeka z ostatniej chwili
IMGW wydał pilny komunikat. Oto co nas czeka

IMGW wydał ostrzeżenia I stopnia przed marznącymi opadami na północy i północnym wschodzie.

Jeden z najbogatszych Brytyjczyków: Jesteśmy kolonizowani przez imigrantów gorące
Jeden z najbogatszych Brytyjczyków: Jesteśmy kolonizowani przez imigrantów

Spore kontrowersje wywołały w Wielkiej Brytanii słowa Jima Ratcliffe'a, jednego z najbogatszych ludzi w tym kraju, który powiedział, że jest on „kolonizowany przez imigrantów”. Oburzenie tą wypowiedzią wyrazili m.in. premier Keir Starmer i burmistrz Manchesteru Andy Burnham. Koniec końców miliarder, pod naciskiem poprawności politycznej i środowisk lewicowo-liberalnych przeprosił za swoje słowa.

Kim jest znajoma Czarzastego? „Pani Czesnych zajmowała się m. in. sprzedażą majątku FSB” z ostatniej chwili
Kim jest znajoma Czarzastego? „Pani Czesnych zajmowała się m. in. sprzedażą majątku FSB”

„Pani Czesnych, jak wskazują media, zajmowała się w obecnym biznesie m. in. sprzedażą majątku FSB” - napisał na platformie X były rzecznik ministra koordynatora służb specjalnych Stanisław Żaryn.

Rozenek-Majdan ukarana przez UOKiK! Ogromna kwota z ostatniej chwili
Rozenek-Majdan ukarana przez UOKiK! Ogromna kwota

Sąd podtrzymał decyzję prezesa Urzędu Ochrony Konkurencji i Konsumentów z końca lutego ubiegłego roku w sprawie kary nałożonej na Małgorzatę Rozenek-Majdan w wysokości ponad 200 tys. zł za wprowadzanie w błąd odbiorców jej postów i relacji – poinformował w czwartek UOKiK.

Krzysztof Bosak: Program SAFE to KPO na sterydach gorące
Krzysztof Bosak: Program SAFE to KPO na sterydach

„Powoli staje się jasne, że program SAFE to KPO na sterydach. Ma wszystkie wady KPO… i jeszcze kilka innych” – napisał na platformie X wicemarszałek Sejmu Krzysztof Bosak (Konfederacja).

Prokuratura złożyła wniosek o wyłączenie sędziego Łubowskiego w sprawie ENA Ziobry z ostatniej chwili
Prokuratura złożyła wniosek o wyłączenie sędziego Łubowskiego w sprawie ENA Ziobry

Prokuratura skierowała do Sądu Okręgowego w Warszawie wniosek o wyłączenie sędziego Dariusza Łubowskiego z rozpoznania sprawy dotyczącej Europejskiego Nakazu Aresztowania wobec Zbigniewa Ziobry. Śledczy wskazują na wątpliwości co do jego bezstronności.

Nie żyje Janina Rożecka, ps. Dora. Była sanitariuszką Powstania Warszawskiego z ostatniej chwili
Nie żyje Janina Rożecka, ps. Dora. Była sanitariuszką Powstania Warszawskiego

W wieku 104 lat zmarła Janina Rożecka, ps. Dora, sanitariuszka z Powstania Warszawskiego, Sprawiedliwa wśród Narodów Świata – przekazała Fundacja Nie Zapomnij o Nas, Powstańcach Warszawskich.

Angela Merkel kandydatką na prezydenta RFN? Doniesienia z kręgów chadecji polityka
Angela Merkel kandydatką na prezydenta RFN? Doniesienia z kręgów chadecji

W niemieckiej chadecji pojawiły się spekulacje o możliwym powrocie Angeli Merkel do najwyższej polityki. Według medialnych doniesień była kanclerz miałaby zostać kandydatką na prezydenta RFN w 2027 roku.

Zawiadomienie do prokuratury ws. Tuska. Publiczne nawoływanie do zbrodni z ostatniej chwili
Zawiadomienie do prokuratury ws. Tuska. "Publiczne nawoływanie do zbrodni"

Prokuratura postawiła Robertowi Bąkiewiczowi trzy zarzuty po jego wystąpieniu na wiecu PiS w Warszawie. Lider Ruchu Obrony Granic w odpowiedzi składa zawiadomienie na Donalda Tuska.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane