Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Geje uznali się za lesbijki i zgarnęli kobietom nagrody sprzed nosa tylko u nas
Geje uznali się za lesbijki i zgarnęli kobietom nagrody sprzed nosa

Kolejny raz kilku transseksualistów zabrało kobietom sportowe nagrody przeznaczone dla zawodniczek, które kobietami się urodziły, a nie tylko mianowały. Kto jednak transseksualiście zabroni, skoro każdy z nas może sobie dzisiaj dowolnie wybrać swoją prawdziwą rzekomo tożsamość?

Kongres USA przyjął wielką piękną ustawę Donalda Trumpa z ostatniej chwili
Kongres USA przyjął "wielką piękną ustawę" Donalda Trumpa

Izba Reprezentantów USA przyjęła ustawę "One Big Beautiful Bill Act" zapowiadaną przez prezydenta Donalda Trumpa, łączącą cięcia podatków, redukcje socjalne i większe środki na deportacje.

Ogromny pożar bloku mieszkalnego w Ząbkach z ostatniej chwili
Ogromny pożar bloku mieszkalnego w Ząbkach

Około 20 zastępów straży pożarnej walczy z pożarem budynku wielorodzinnego przy ulicy Powstańców 62 w podwarszawskich Ząbkach.

Qczaj dopiero co zrobił prawo jazdy: Mam BMW M2, to samochód dla wariatów gorące
Qczaj dopiero co zrobił prawo jazdy: "Mam BMW M2, to samochód dla wariatów"

Trener podkreśla, że decyzja o zrobieniu prawa jazdy była jedną z najlepszych w jego życiu. Teraz, kiedy odpowiedni dokument ma już w kieszeni, z ogromną przyjemnością wsiada za kierownicę i mknie przed siebie. Najbardziej lubi drogi szybkiego ruchu, bo tam może mocniej wcisnąć pedał gazu.

Straż Graniczna miała odesłać migranta do Niemiec pod presją mieszkańców Gubina z ostatniej chwili
Straż Graniczna miała odesłać migranta do Niemiec pod presją mieszkańców Gubina

Próba nielegalnego przekazania migranta na polską stronę granicy wywołała w czwartek nerwową interwencję mieszkańców Gubina – informuje Robert Bąkiewicz z Ruchu Obrony Granic.

Grafzero: Zew Zajdla 2024 z ostatniej chwili
Grafzero: Zew Zajdla 2024

Nadszedł czas na Nagrody Fandomu Polskiego, czyli popularne Zajdle! W 2025 roku nieco wcześniej, bo Polcon ma miejsce w lipcu, ale równie ciekawie. Sześć powieści i cztery opowiadania - Grafzero vlog literacki podaje swoje typy!

PGNiG wydało pilny komunikat dla klientów z ostatniej chwili
PGNiG wydało pilny komunikat dla klientów

Uwaga na fałszywych przedstawicieli PGNiG Obrót Detaliczny i Grupy Orlen. Sprawdź, jak się chronić przed oszustami podszywającymi się pod pracowników.

Nie żyje gwiazda filmów Quentina Tarnatino z ostatniej chwili
Nie żyje gwiazda filmów Quentina Tarnatino

W czwartek w wieku 67 lat po prawdopodobnym zawale serca zmarł Michael Madsen, gwiazda "Wściekłych psów" i "Kill Billa".

Przewodniczący Wojewódzkiej Rady Bezpieczeństwa Ruchu Drogowego piratem drogowym tylko u nas
Przewodniczący Wojewódzkiej Rady Bezpieczeństwa Ruchu Drogowego piratem drogowym

W Polsce, proszę Państwa, logika od dawna prosiła o azyl polityczny, ale ostatnio chyba wyemigrowała na stałe, i to bez prawa powrotu. Bo jak inaczej skomentować fakt, który nawet dla mnie, człowieka przywykłego do absurdów postkomunizmu, jest niczym diament w koronie groteski?

Trump rozmawiał z Putinem. Jest reakcja Kremla z ostatniej chwili
Trump rozmawiał z Putinem. Jest reakcja Kremla

W czwartek Władimir Putin powiedział prezydentowi USA Donaldowi Trumpowi w rozmowie telefonicznej w czwartek, że Moskwa nie zrezygnuje z celów, jakie sobie postawiła dotyczących wojny na Ukrainie.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe