Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Chaos w Iranie. Wygnany szach Reza Pahlawi zwrócił się do irańskich sił bezpieczeństwa z ostatniej chwili
Chaos w Iranie. Wygnany szach Reza Pahlawi zwrócił się do irańskich sił bezpieczeństwa

"W tych decydujących momentach oczekuję, że powrócicie do ojczyzny i użyjecie swojej broni nie po to, by strzelać do ludzi, ale by ich chronić. Czyniąc to, nie tylko wypełnicie swój narodowy obowiązek; będziecie także chronić swoją przyszłość i przyszłość swoich rodzin" – mówi w nagraniu opublikowanym w mediach społecznościowych Reza Pahlawi, syn ostatniego szacha i jedna z najbardziej rozpoznawalnych postaci irańskiej opozycji na emigracji. W Iranie wybuchły wielkie protesty przeciwko władzom. 

Uważajcie na KGHM. Na światowych rynkach zabraknie miedzi pilne
"Uważajcie na KGHM". Na światowych rynkach zabraknie miedzi

Notowania miedzi osiągnęły w ubiegłym roku historyczne maksima, a analitycy ostrzegają, że to nie koniec. Deficyt podaży, obawy o cła i rosnący popyt ze strony energetyki oraz sektora AI mają utrzymać wzrostowy trend także w 2026 roku.

Ważny komunikat dla mieszkańców Gdańska z ostatniej chwili
Ważny komunikat dla mieszkańców Gdańska

Mieszkańcy Gdańska muszą przygotować się na czasowe zmiany nad morzem. Już w styczniu ruszą prace, które sprawią, że plaża w Górkach Zachodnich wyraźnie się poszerzy, ale na kilka tygodni nie będzie można z niej korzystać.

Pościg na Atlantyku. Rosja wysyła okręty wojenne w odpowiedzi na działania USA z ostatniej chwili
Pościg na Atlantyku. Rosja wysyła okręty wojenne w odpowiedzi na działania USA

Rosja wysłała okręt podwodny i jednostki wojenne, by osłaniały tankowiec ścigany przez amerykańską Straż Przybrzeżną. Według mediów to bezprecedensowy ruch, który zwiększa ryzyko eskalacji między Waszyngtonem a Moskwą.

Wiadomości
Nauka francuskiego od zera – jak zaplanować pierwsze miesiące?

Francuski uznaje się za jeden z trudniejszych języków. Tak naprawdę jednak większość zaawansowanych kwestii pojawia się dopiero na późniejszym etapie. Początkowe problemy może sprawiać jedynie wymowa. Sprawdź, co jeszcze warto wiedzieć o nauce języka oraz jak ją odpowiednio zaplanować.

MEN pracuje nad przepisami dot. wyglądu uczniów. Ma obowiązywać „wolność i brak dyskryminacji” pilne
MEN pracuje nad przepisami dot. wyglądu uczniów. Ma obowiązywać „wolność i brak dyskryminacji”

Resort edukacji szykuje zmiany, które mają ograniczyć wpływ szkół na wygląd uczniów. Ministerstwo mówi o wolności i braku dyskryminacji, krytycy widzą kolejną ideologiczną ingerencję w funkcjonowanie placówek.

Wiadomości
Jak mądrze urządzić salon bez względu na wielkość mieszkania?

Salon jest przestrzenią wielofunkcyjną. To miejsce, w którym można odpocząć, spotkać się ze znajomymi i miło spędzać czas. Bez względu na to, czy znajduje się w kawalerce, czy w dużym domu, urządzenie salonu powinno opierać się na świadomych decyzjach. Dowiedz się, jak mądrze go zaaranżować – niezależnie od wielkości mieszkania.

Zima sparaliżowała Holandię. Setki odwołanych lotów i rekordowe korki z ostatniej chwili
Zima sparaliżowała Holandię. Setki odwołanych lotów i rekordowe korki

Silne opady śniegu i mróz doprowadziły do poważnych zakłóceń w transporcie w Holandii. Najpierw masowo odwoływano loty, natomiast potem problemy objęły kolej, a na drogach utworzyły się rekordowe korki; część szkół pozostaje zamknięta – poinformował holenderski nadawca NOS.

Szkoły przechodzą na zdalne nauczanie. Gdzie zima paraliżuje edukację? z ostatniej chwili
Szkoły przechodzą na zdalne nauczanie. Gdzie zima paraliżuje edukację?

Silny mróz i śnieżyce zmuszają dyrektorów szkół do zawieszania zajęć stacjonarnych. W części gmin uczniowie nie wrócą do ławek od 7 stycznia, a nauka przenosi się do internetu. Przepisy jasno wskazują, kiedy szkoła musi zostać zamknięta.

KO przed PiS, duży spadek Konfederacji. Zobacz najnowszy sondaż z ostatniej chwili
KO przed PiS, duży spadek Konfederacji. Zobacz najnowszy sondaż

Najnowsze badanie preferencji wyborczych IBRiS przeprowadzone dla „Rzeczpospolitej” pokazuje niewielkie przetasowania na scenie politycznej. Jak wynika z sondażu, lider KO nieznacznie umacnia swoją pozycję, Konfederacja spada, ale rośnie ugrupowanie Grzegorza Brauna.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane