Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


Oceń artykuł
Wczytuję ocenę...

 

POLECANE
Leon Foksiński. Uczestnik Marszu Śmierci Wiadomości
Leon Foksiński. Uczestnik Marszu Śmierci

Urodzony 23.06.1919 r. w Bestwinie pow. bielski, syn Franciszka i Anny z d. Bolek, zamieszkały w tej miejscowości. Mając szesnaście lat – w 1935 r., rozpoczął pracę zarobkową jako pomocnik a następnie samodzielny pracownik w cegielni. Podczas okupacji hitlerowskiej, w styczniu 1940 r. wywieziony na roboty przymusowe do Niemiec – Brandenburg Hawel. W lipcu 1941 r. uciekł z miejsca przymusowego zatrudnienia i wrócił do Bestwiny, gdzie w październiku tegoż roku jako uciekinier został aresztowany przez policję niemiecką.

Gen. Rajmund Andrzejczak: Trzeba się szykować do wojny z ostatniej chwili
Gen. Rajmund Andrzejczak: Trzeba się szykować do wojny

Czy Polsce grozi wojna? – Trzeba się szykować – twierdzi gen. Rajmund Andrzejczak, były Szef Sztabu Generalnego Wojska Polskiego w "Gościu Wydarzeń" na antenie Polsat News.

Agnieszka Romaszewska-Guzy zwolniona dyscyplinarnie. Były minister kultury nie przebierał w słowach z ostatniej chwili
Agnieszka Romaszewska-Guzy zwolniona dyscyplinarnie. Były minister kultury nie przebierał w słowach

– Agnieszka Romaszewska-Guzy stworzyła wspaniałą instytucję. (…) Takie mafijno-ubeckie metody są masowo stosowane wobec niezależnych dyrektorów instytucji, które nie zostały opanowane przez obecną władzę. Ten szantaż i to przekupstwo mają miejsce – twierdzi były minister kultury Piotr Gliński.

Paweł Jędrzejewski: Trzy przyczyny dla których aż 30% młodych amerykańskich kobiet identyfikuje się jako LGBTQ Wiadomości
Paweł Jędrzejewski: Trzy przyczyny dla których aż 30% młodych amerykańskich kobiet identyfikuje się jako LGBTQ

W zeszłym tygodniu Instytut Gallupa ogłosił wyniki badań, które ujawniają wielką zmianę w społeczeństwie amerykańskim. Wszyscy są zgodni, że jest to kolosalna zmiana, wręcz rewolucyjna, pozostaje jedynie kwestią interpretacji i sporu, na czym ta zmiana naprawdę polega i o czym świadczy.

Sutryk zakazał organizacji protestów rolników we Wrocławiu z ostatniej chwili
Sutryk zakazał organizacji protestów rolników we Wrocławiu

„Wydałem cztery decyzje zakazujące organizacji protestów rolniczych na terenie administracyjnym Wrocławia” – poinformował prezydent Wrocławia Jacek Sutryk.

Putin przegrał wybory w Polsce z ostatniej chwili
Putin przegrał wybory w Polsce

Polska jest jednym z krajów, gdzie Władimir Putin przegrał zakończone w niedzielę trzydniowe wybory prezydenckie w Rosji – wynika z informacji podanej przez rosyjski niezależny portal Meduza.

Francuski europoseł: Sytuacja w Polsce jest poważna, rząd Tuska prześladuje sędziów, media i konserwatywnych polityków z ostatniej chwili
Francuski europoseł: Sytuacja w Polsce jest poważna, rząd Tuska prześladuje sędziów, media i konserwatywnych polityków

Zdaniem znanego francuskiego europarlamentarzysty rząd Donalda Tuska „prześladuje sędziów, media i konserwatywnych polityków”.

Złe wieści dla Tuska. Jest nowy sondaż z ostatniej chwili
Złe wieści dla Tuska. Jest nowy sondaż

Prawo i Sprawiedliwość jest najchętniej wybieraną partią polityczną w Polsce – wynika z najnowszego sondażu „Super Expressu” przeprowadzonego przez Instytut Badań Pollster.

Spięcie w koalicji. Poseł Lewicy atakuje Hołownię: „Jest kłamcą” z ostatniej chwili
Spięcie w koalicji. Poseł Lewicy atakuje Hołownię: „Jest kłamcą”

– Kłamcą jest on, bo to on ściemnia, on manipuluje, on twierdzi, że nie można tego procedować teraz – mówi o marszałku Sejmu Szymonowi Hołowni poseł Lewicy Tomasz Trela.

Jest decyzja UE ws. zwiększenia finansowania dla ukraińskiej armii z ostatniej chwili
Jest decyzja UE ws. zwiększenia finansowania dla ukraińskiej armii

W poniedziałek szefowie MSZ państw UE zgodzili się zwiększyć wsparcie dla ukraińskich sił zbrojnych o 5 miliardów euro za pośrednictwem specjalnego funduszu pomocowego.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



Oceń artykuł
Wczytuję ocenę...

 

Polecane
Emerytury
Stażowe