Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


Oceń artykuł
Wczytuję ocenę...

 

POLECANE
Waldemar Krysiak: Lekarze zmieniający dzieciom płeć zostaną zmuszeni do ujawnienia szczegółów swoich eksperymentów Wiadomości
Waldemar Krysiak: Lekarze "zmieniający dzieciom płeć" zostaną zmuszeni do ujawnienia szczegółów swoich eksperymentów

Kolejny, ciężki cios dla ideologii gender: Szkocja wycofuje się z prób „zmiany płci” u dzieci, a angielscy lekarze, którzy takich procedur się dopuszczali, zostaną zmuszeni do ujawnienia szczegółów eksperymentów. W Wielkiej Brytanii kończy się masowe okaleczanie dzieci motywowane lewicowym szaleństwem.

Naukowy wieczór z dr Kaweckim: Polacy tworzą urządzenie do badania naszej pozycji względem czasoprzestrzeni Wiadomości
Naukowy wieczór z dr Kaweckim: Polacy tworzą urządzenie do badania naszej pozycji względem czasoprzestrzeni

Moc polskiej nauki! Polacy tworzą najczulsze na Ziemi urządzenie do badania naszej pozycji względem czasoprzestrzeni! To jest projekt rodem science - fiction.

Polacy na lotnisku w Dubaju: 27 godzin czekania, a linie proponują nam lot za pięć dni z ostatniej chwili
Polacy na lotnisku w Dubaju: 27 godzin czekania, a linie proponują nam lot za pięć dni

Główne lotnisko w Dubaju powoli wraca do normalnej pracy po zakłóceniach związanych z gwałtownymi deszczami. "Dziś odleciał do Warszawy w połowie pusty samolot, a naszych bagaży nie ma. Po 27 godzinach czekania na lotnisku linie proponują nam lot powrotny dopiero 23 kwietnia" - powiedziała PAP Nina, jedna z pasażerek.

Prezydent Duda: Idea włączenia się do tzw. kopuły europejskiej dla nas jest nieco spóźniona z ostatniej chwili
Prezydent Duda: Idea włączenia się do tzw. kopuły europejskiej dla nas jest nieco spóźniona

Prezydent Andrzej Duda ocenił w czwartek, że jeśli chodzi o plan włączenia się Polski tzw. kopuły europejskiej, to "ta idea, kiedy dwa lata temu została ogłoszona, była dla nas nieco spóźniona". Jak przypomniał od kilku lat realizujemy nasz system obrony przeciwlotniczej.

Szokujący tytuł Rzeczpospolitej. Ekspert łapie się za głowę z ostatniej chwili
Szokujący tytuł "Rzeczpospolitej". Ekspert łapie się za głowę

Prokuratura Krajowa podała w czwartek, że na terytorium Polski zatrzymano i postawiono zarzuty Pawłowi K., który zgłosił gotowość do działania dla wywiadu wojskowego Rosji. Jak wynika ze śledztwa, informacje Pawła K. miały pomóc w ewentualnym zamachu na życie prezydenta Ukrainy Wołodymyra Zełenskiego. Artykuł w tej sprawie pojawił się na wielu portalach, w tym rownież na stronie "Rzeczpospolitej". Problem w tym, że na portalu "Rzeczpospolitej" okraszono go szokującym tytułem. Głos zabrał ekspert ds. wojskowych Paweł Zariczny.

Polak z poważnymi zarzutami. W tle plan zamachu na Zełenskiego z ostatniej chwili
Polak z poważnymi zarzutami. W tle plan zamachu na Zełenskiego

Prokuratura Krajowa podała w czwartek, że na terytorium Polski zatrzymano i postawiono zarzuty Pawłowi K., który zgłosił gotowość do działania dla wywiadu wojskowego Rosji. Jak wynika ze śledztwa, informacje Pawła K. miały pomóc w ewentualnym zamachu na życie prezydenta Ukrainy Wołodymyra Zełenskiego.

Dramat w Bydgoszczy. Nie żyje 15-latka z ostatniej chwili
Dramat w Bydgoszczy. Nie żyje 15-latka

Nie żyje 15-letnia dziewczyna, która w czwartek w Bydgoszczy wpadła pod tramwaj na ul. Fordońskiej. Wypadek spowodował poważne utrudnienia w ruchu samochodów i kursowaniu tramwajów - poinformowała kom. Lidia Kowalska z bydgoskiej Komendy Miejskiej Policji.

Mariusz Błaszczak żąda wyjaśnień od kierownictwa MON z ostatniej chwili
Mariusz Błaszczak żąda wyjaśnień od kierownictwa MON

W środę w Warszawie doszło do spotkania generalnego inspektora Bundeswehry gen. Carstena Breuera z szefem Sztabu Generalnego Wojska Polskiego gen. Wiesławem Kukułą. Wpis niemieckiego generała wywołał burzę. Mariusz Błaszczak żąda wyjaśnień od kierownictwa MON.

Niemcy przejmują odpowiedzialność za wschodnią flankę NATO. Burza po słowach szefa Bundeswehry z ostatniej chwili
"Niemcy przejmują odpowiedzialność za wschodnią flankę NATO". Burza po słowach szefa Bundeswehry

W środę w Warszawie doszło do spotkania generalnego inspektora Bundeswehry gen. Carstena Breuera z szefem Sztabu Generalnego Wojska Polskiego gen. Wiesławem Kukułą. Wpis niemieckiego generała wywołał burzę.

Oni również musieli zrezygnować z Tańca z gwiazdami z ostatniej chwili
Oni również musieli zrezygnować z "Tańca z gwiazdami"

Na trzy dni przed kolejnym odcinkiem „Tańca z gwiazdami” jedna z uczestniczek ogłosiła, że rezygnuje z dalszego uczestnictwa w programie.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



Oceń artykuł
Wczytuję ocenę...

 

Polecane
Emerytury
Stażowe