Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Bunt w NBP. Jest ruch prezesa Glapińskiego z ostatniej chwili
Bunt w NBP. Jest ruch prezesa Glapińskiego

Trzech członków zarządu NBP straciło nadzór nad departamentami merytorycznymi – wynika z opublikowanej we wtorek struktury organizacyjnej NBP. W efekcie już czterech członków zarządu banku centralnego nie nadzoruje pracy żadnego z departamentów.

Dziki terroryzują Warszawę wideo
Dziki terroryzują Warszawę

Mieszkańcy Białołęki boją się wychodzić z psami. Podobnie jest w Józefowie k. Warszawy.

Katastrofa samolotu w Rosji z ostatniej chwili
Katastrofa samolotu w Rosji

W obwodzie iwanowskim w Rosji rozbił się samolot An-22. Informację potwierdziło rosyjskie Ministerstwo Obrony.

Tusk straszy Putinem. Zapomniał o swoich poprzednich rządach? z ostatniej chwili
Tusk straszy Putinem. Zapomniał o swoich poprzednich rządach?

– W sprawach polskiego bezpieczeństwa Donald Tusk nie może się pogodzić, że nie ma jednowładztwa. On próbuje działać tak, jakby prezydenta w ogóle nie było – stwierdził w Telewizji Republika Sebastian Kaleta.

KRUS wydał komunikat dla rolników z ostatniej chwili
KRUS wydał komunikat dla rolników

KRUS zakończył VII edycję losowania hulajnóg dla dzieci, które ukończyły kurs e-learningowy "Bezpiecznie na wsi mamy – upadkom zapobiegamy". Ogłoszono listę 100 laureatów.

Bunt w NBP. Jest pilny komunikat z ostatniej chwili
Bunt w NBP. Jest pilny komunikat

Trwa konflikt w Narodowym Banku Polskim. "Zwracamy się o wyciszenie emocji, rozwagę i niedokonywanie żadnych pochopnych działań" – przekazano w komunikacie NBP opublikowanym we wtorek.

Niepokojące informacje z granicy. Komunikat Straży Granicznej z ostatniej chwili
Niepokojące informacje z granicy. Komunikat Straży Granicznej

Straż Graniczna publikuje raporty dotyczące wydarzeń na polskiej granicy z Białorusią. Ponadto zaraportowano także o sytuacji na granicy z Litwą i Niemcami w związku z przywróceniem na nich tymczasowych kontroli.

UE jest totalnie nieprzygotowana do wojny z Rosją tylko u nas
UE jest totalnie nieprzygotowana do wojny z Rosją

Zdaniem premiera Viktora Orbana Bruksela szykuje się do wojny z Rosją. Ma ona – zdaniem szefa węgierskiego rządu – wybuchnąć w 2030 roku. Jeżeli rzeczywiście premier Węgier ma rację, to Europa będzie do tej wojny totalnie nieprzygotowana.

Przyszły burmistrz Nowego Jorku idzie na zwarcie z Trumpem z ostatniej chwili
Przyszły burmistrz Nowego Jorku idzie na zwarcie z Trumpem

Burmistrz elekt Nowego Jorku Zohran Mamdani zapowiedział, że miasto będzie bronić praw imigrantów i przygotuje się na działania agentów ICE. Jak stwierdził, każdy mieszkaniec ma prawo do protestu.

Komunikat dla mieszkańców woj. podkarpackiego z ostatniej chwili
Komunikat dla mieszkańców woj. podkarpackiego

POLREGIO pozostanie operatorem regionalnych połączeń kolejowych na Podkarpaciu w latach 2027–2031 na mocy wartej blisko 900 mln zł umowy z samorządem.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane