Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Skażona wołowina z Brazylii trafiła do UE. Jest reakcja Polski z ostatniej chwili
Skażona wołowina z Brazylii trafiła do UE. Jest reakcja Polski

– Ministerstwo Rolnictwa i Rozwoju Wsi zleciło kontrole wołowiny importowanej z Brazylii w związku z doniesieniami o wykryciu w tym mięsie sprowadzanym do UE hormonu wzrostu – poinformowała w poniedziałek wiceminister resortu rolnictwa Małgorzata Gromadzka.

Orlen wydał ważny komunikat z ostatniej chwili
Orlen wydał ważny komunikat

Spółka ORLEN ostrzega przed fałszywymi ofertami inwestycyjnymi wykorzystującymi markę spółki i wizerunki osób publicznych. Firma apeluje o ostrożność i przypomina, że nie oferuje inwestycji w kryptowaluty ani produktów gwarantujących zyski.

Komunikat dla mieszkańców Poznania Wiadomości
Komunikat dla mieszkańców Poznania

Kolejny obiekt w Poznaniu będzie lepiej służył swoim użytkownikom. Postępują prace na terenie stadionu w północno-zachodniej części kompleksu sportowego przy ul. Warmińskiej na Golęcinie.

Ujawniono stan zdrowia Szymona Hołowni. Polityk reaguje na przeprosiny z ostatniej chwili
Ujawniono stan zdrowia Szymona Hołowni. Polityk reaguje na przeprosiny

Wyciek informacji o zdrowiu Szymona Hołowni wywołał burzę. "Rzeczpospolita" opublikowała przeprosiny, do których odniósł się były marszałek Sejmu.

Paweł Jędrzejewski: Oszukujmy piratów drogowych a nie drogówkę! tylko u nas
Paweł Jędrzejewski: Oszukujmy piratów drogowych a nie "drogówkę"!

1651 osób zginęło w Polsce w wypadkach samochodowych w roku 2025. Główna przyczyna wypadków, których rezultatem jest śmierć, to nadmierna prędkość. Powód jest prosty: przy każdym podwojeniu prędkości, energia uderzenia podczas kolizji zwiększa się czterokrotnie.

Słowacja wstrzymała dostawy prądu na Ukrainę. Czarzasty zadeklarował pomoc Polski z ostatniej chwili
Słowacja wstrzymała dostawy prądu na Ukrainę. Czarzasty zadeklarował pomoc Polski

Przebywający na Ukrainie marszałek Sejmu Włodzimierz Czarzasty zadeklarował pomoc Ukrainie po decyzji słowackiego rządu o wstrzymaniu dostaw energii elektrycznej na Ukrainę.

Spotkanie USA-Chiny ws. zbrojeń nuklearnych. Padła data z ostatniej chwili
Spotkanie USA-Chiny ws. zbrojeń nuklearnych. Padła data

Delegacje USA i Chin na Konferencję Rozbrojeniową ONZ w Genewie odbędą we wtorek rozmowy na temat kontroli zbrojeń – doniósł w poniedziałek Bloomberg. W poniedziałek amerykańska delegacja miała spotkać się z Rosjanami.

Ujawniono stan zdrowia Szymona Hołowni. Prezydencki minister nie przebierał w słowach z ostatniej chwili
Ujawniono stan zdrowia Szymona Hołowni. Prezydencki minister nie przebierał w słowach

Nie milkną echa kontrowersyjnej publikacji dziennika "Rzeczpospolita" dotyczącej Szymona Hołowni. "Obrzydliwa – bo medialna i publiczna – metoda niszczenia człowieka z wykorzystaniem kwestii zdrowotnych" – komentuje sprawę szef BBN Sławomir Cenckiewicz.

200 tys. zł zamiast 800 plus. Zaskakująca propozycja ekspertów z ostatniej chwili
200 tys. zł zamiast 800 plus. Zaskakująca propozycja ekspertów

Analitycy z Klubu Jagiellońskiego proponują zmianę w polityce rodzinnej: zamiast 800 plus rodzice mieliby dostać jednorazowo ponad 200 tys. zł po narodzinach dziecka.

Rachunek za nazistowską grabież. Dlaczego Berlin wciąż chroni owoce „dekretu Göringa”? tylko u nas
Rachunek za nazistowską grabież. Dlaczego Berlin wciąż chroni owoce „dekretu Göringa”?

Pod płaszczykiem europejskiego pojednania Berlin od ponad ośmiu dekad de facto sankcjonuje skutki nazistowskiego bezprawia, odmawiając restytucji miliardów euro zagrabionych Polakom na mocy zbrodniczego „dekretu Göringa”.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane