Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.


 

POLECANE
Nie żyje papież Franciszek. Przewodniczący KEP zabrał głos Wiadomości
Nie żyje papież Franciszek. Przewodniczący KEP zabrał głos

– Franciszek wniósł ferment do Kościoła, zmuszając do wyjścia z utartych kolein myślenia o instytucji i jej miejscu we współczesnym świecie – powiedział PAP przewodniczący KEP abp Tadeusz Wojda SAC, wieloletni podsekretarz Kongregacji ds. Ewangelizacji Narodów, który znał osobiście papieża.

Nie żyje papież Franciszek z ostatniej chwili
Nie żyje papież Franciszek

Papież Franciszek nie żyje. Zmarł 21 kwietnia 2025 r. w wieku 88 lat. Jorge Mario Bergoglio stał na czele Kościoła katolickiego od 13 marca 2013 roku.

Tragiczny wypadek w Lubuskiem. Nie żyją trzy osoby Wiadomości
Tragiczny wypadek w Lubuskiem. Nie żyją trzy osoby

W wyniku nocnego zderzenia dwóch samochodów na S3 w Glińsku (woj. lubuskie) w Wielkanoc zginęły trzy osoby, a kolejne trzy doznały poważnych obrażeń.

Szokujący incydent w Szczecinie. Ktoś strzelał do okien, na balkonie wisiał baner wyborczy Karola Nawrockiego Wiadomości
Szokujący incydent w Szczecinie. Ktoś strzelał do okien, na balkonie wisiał baner wyborczy Karola Nawrockiego

W nocy z 19 na 20 kwietnia w Szczecinie ktoś oddał strzały z wiatrówki w okna mieszkania, na balkonie którego wisiał baner wyborczy Karola Nawrockiego. Policja wszczęła śledztwo – informuje Telewizja Republika.

Porozumienie Ukraina-Rosja. Trump zabrał głos z ostatniej chwili
Porozumienie Ukraina-Rosja. Trump zabrał głos

Prezydent USA Donald Trump przekazał w niedzielę, że liczy na dojście do porozumienia między Ukrainą i Rosją w nadchodzącym tygodniu. Wyraził nadzieję, że oba kraje będą robić "duże interesy" ze Stanami Zjednoczonymi.

Pożar w Biebrzańskim Parku Narodowym. Użyto śmigłowców z ostatniej chwili
Pożar w Biebrzańskim Parku Narodowym. Użyto śmigłowców

– Ok. 400 ha terenu obejmuje pożar w Biebrzańskim Parku Narodowym – poinformowała PAP w poniedziałek rano mł. ogn. Justyna Kłusewicz, rzecznik prasowy podlaskiego komendanta wojewódzkiego PSP. W nocy teren był monitorowany przy użyciu dronów, od rana w akcji znowu będą używane śmigłowce i samolot gaśniczy.

Setki strażaków walczą z ogniem w Biebrzańskim Parku Narodowym. Spłonęło już ponad 60 hektarów [WIDEO] z ostatniej chwili
Setki strażaków walczą z ogniem w Biebrzańskim Parku Narodowym. Spłonęło już ponad 60 hektarów [WIDEO]

Ponad dwadzieścia zastępów straży pożarnej bierze udział w gaszeniu pożaru suchych trzcinowisk w Biebrzańskim Parku Narodowym. Ogień wybuchł na styku powiatów augustowskiego i monieckiego, w okolicach wsi Kopytkowo. W akcji biorą też udział śmigłowce i samolot gaśniczy.

TVN: Zużyte niemieckie panele fotowoltaiczne, zamiast do recyclingu, trafiają do Polski z ostatniej chwili
TVN: Zużyte niemieckie panele fotowoltaiczne, zamiast do recyclingu, trafiają do Polski

Tysiące ton starych paneli fotowoltaicznych wjeżdża do Polski z Niemiec. Nadają się do utylizacji, ale Polacy je biorą za darmo. Są sprzedawane na rynku wtórnym jako tanie zamienniki, ale szybko trafiają na śmietnik – donoszą dziennikarze „Superwizjera” TVN24.

Wielkanocne zawieszenie broni na Ukrainie. Jest nowy komunikat Kremla z ostatniej chwili
Wielkanocne zawieszenie broni na Ukrainie. Jest nowy komunikat Kremla

Prezydent Rosji Władimir Putin nie wydał rozkazu przedłużenia wielkanocnego zawieszenia broni w Ukrainie – podał w niedzielę Reuters, powołując się na oświadczenie rzecznika Kremla Dmitrija Pieskowa. Rozejm ma obowiązywać do północy (godz. 23 w Polsce) z niedzieli na poniedziałek.

Niepokojące informacje z granicy polsko-niemieckiej. Komunikat niemieckich służb z ostatniej chwili
Niepokojące informacje z granicy polsko-niemieckiej. Komunikat niemieckich służb

W minionym tygodniu odkryto próbę przemytu dwóch osób w południowej Brandenburgii. Kierowca pojazdu wylegitymował się polskim dokumentem pobytowym – informuje w komunikacie niemiecka policja.

REKLAMA

Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.



 

Polecane
Emerytury
Stażowe