Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.


Oceń artykuł
Wczytuję ocenę...

 

POLECANE
Rolnicy podpalili opony w pobliżu siedziby Komisji Europejskiej. Policja użyła armatek wodnych z ostatniej chwili
Rolnicy podpalili opony w pobliżu siedziby Komisji Europejskiej. Policja użyła armatek wodnych

Rolnicy protestujący w poniedziałek w Brukseli podpalili opony w pobliżu siedziby Komisji Europejskiej. Część blokad policyjnych w dzielnicy europejskiej została przerwana przez ciągniki rolnicze. Policja użyła armatek wodnych.

Straż Graniczna podpisała umowy. Granica z Białorusią ma być jeszcze szczelniejsza z ostatniej chwili
Straż Graniczna podpisała umowy. Granica z Białorusią ma być jeszcze szczelniejsza

– Straż Graniczna podpisała umowy na budowę zabezpieczeń elektronicznych granicy państwowej z Białorusią na rzece Bug oraz Świsłocz i Istoczanka – poinformował p.o. rzecznik prasowy SG mjr Andrzej Juźwiak. Bariery mają być gotowe w ciągu roku, a ich łączny koszt to ponad 364 mln zł.

W Odrze znaleziono ciało z ostatniej chwili
W Odrze znaleziono ciało

Młodszy aspirant Rafał Jarząb z wrocławskiej policji poinformował w poniedziałek, że zgłoszenie o zwłokach pływających w Odrze w centrum miasta wpłynęło w niedzielę około godz. 21.00. Przechodnie zauważyli je w rzece w okolicy Wyspy Słodowej.

Nie żyje uczestniczka znanego programu z ostatniej chwili
Nie żyje uczestniczka znanego programu

Media obiegła smutna wiadomość. Nie żyje pani Gosia z programu TTV „Damy i wieśniaczki”.

Problem z KPO. „W takiej sytuacji Polska nie otrzyma refinansowania UE” z ostatniej chwili
Problem z KPO. „W takiej sytuacji Polska nie otrzyma refinansowania UE”

– Z 56 inwestycji zaplanowanych w ramach Krajowego Planu Odbudowy ok. 43 może nie zostać realizowana do 31 sierpnia 2026 r., co oznacza, że Polska nie otrzyma refinansowania z UE – powiedział PAP ekspert z firmy doradczej CRIDO Łukasz Kościjańczuk. – Dlatego niezbędna jest rewizja KPO, która – jak oszacował – może objąć nawet połowę planowanych przedsięwzięć.

Trzęsienie ziemi w Pałacu Buckingham. Książę William musi zastąpić króla Karola III z ostatniej chwili
Trzęsienie ziemi w Pałacu Buckingham. Książę William musi zastąpić króla Karola III

Niepokojące doniesienia z Pałacu Buckingham. W ostatnim czasie brytyjskie media rozpisują się na temat możliwej, wcześniejszej abdykacji króla Karola III. Nowe informacje w tej sprawie przekazuje „Daily Mirror”.

Niepokojące doniesienia z granicy. Straż Graniczna wydała komunikat z ostatniej chwili
Niepokojące doniesienia z granicy. Straż Graniczna wydała komunikat

Straż Graniczna opublikowała nowy komunikat dotyczący wydarzeń na granicy polsko-białoruskiej.

To już pewne. Thurnbichler podjął decyzję ws. Kubackiego z ostatniej chwili
To już pewne. Thurnbichler podjął decyzję ws. Kubackiego

Trener kadry skoczków Thomas Thurnbichler zdecydował, że Dawid Kubacki nie wystartuje w konkursach Pucharu Świata w Lahti – poinformował Polski Związek Narciarski. – Podjąłem taką decyzję, a Dawid ją zaakceptował – przekazał austriacki szkoleniowiec.

Kompromitacja wiceprzewodniczącej Lewicy: „Anita, co Ty p…?” Wiadomości
Kompromitacja wiceprzewodniczącej Lewicy: „Anita, co Ty p…?”

Kilka dni temu posłanki Lewicy przedstawiły w holu sejmowym układ choreograficzny, który miał być formą protestu przeciwko przemocy seksualnej i formą poparcia dla projektu ustawy „zmieniającej definicję gwałtu”. Można jednak odnieść wrażenie, że większość opinii publicznej uznała go za nielicujący z powagą Sejmu.

Jacek Saryusz-Wolski: Operacja „import rolny z Ukrainy” to część planu „wspólnej przestrzeni od Lizbony do Władywostoku” Wiadomości
Jacek Saryusz-Wolski: Operacja „import rolny z Ukrainy” to część planu „wspólnej przestrzeni od Lizbony do Władywostoku”

Jeśli nie zrozumiemy GEOPOLITYCZNEGO wymiaru sytuacji – że polityka KE ws. IMPORTU ROLNEGO Z UKRAINY, naruszająca od początku podstawowe zasady WPR – Wspólnej Polityki Rolnej, polegające na chronieniu i oddzieleniu unijnego rynku rolnego od rynków zewnętrznych poprzez system „śluz” [mająca zresztą w założeniu czasowo ograniczone trwanie i wbudowane „bezpieczniki”], jest realizowana na geopolityczne zamówienie Niemiec oraz w interesie Rosji po to, żeby skłócić PL i UA oraz rozbić ich sojusz – to nic nie zrozumiemy.

REKLAMA

Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego

Sztuczna inteligencja stworzona przez OpenAI zastosuje atak nuklearny i użyje wyjaśnienia „chcę po prostu mieć pokój na świecie” – wynika z przeprowadzonej przez amerykańskich naukowców symulacji, podczas której AI odgrywała role różnych krajów według trzech scenariuszy konfliktów.
Test broni nuklearnej, zdjęcie poglądowe Sztuczna inteligencja nie ma oporu przed zastosowaniem ataku nuklearnego
Test broni nuklearnej, zdjęcie poglądowe / Wikipedia / domena publiczna / United States Department of Energy

Współpraca Open AI z  Departamentem Obrony USA

Wyniki badania zostały opublikowane na platformie arXiv, która udostępnia artykuły jeszcze przed recenzją. Jednak budzą one zainteresowanie, ponieważ według oficjalnych informacji amerykańskie wojsko testuje wykorzystanie chatbotów w symulowanych konfliktach zbrojnych. Open AI – twórca ChatGPT i jedna z najbardziej rozpoznawalnych firm z obszaru sztucznej inteligencji – również rozpoczęła współpracę z Departamentem Obrony USA.

"Biorąc pod uwagę, że OpenAI niedawno zmieniło warunki świadczenia usług – aby nie zabraniać już zastosowań wojskowych i wojennych, zrozumienie konsekwencji stosowania tak dużych modeli językowych staje się ważniejsze niż kiedykolwiek" – powiedziała w rozmowie z "New Scientist" Anka Reuel z Uniwersytetu Stanforda w Kalifornii.

W sprawie aktualizacji zasad współpracy w obszarze bezpieczeństwa narodowego wypowiedziało się buro prasowe Open AI. "Nasza polityka nie pozwala na wykorzystywanie naszych narzędzi do wyrządzania krzywdy ludziom, opracowywania broni, nadzoru komunikacji lub do ranienia innych lub niszczenia mienia. Istnieją jednak przypadki użycia w zakresie bezpieczeństwa narodowego, które są zgodne z naszą misją. Dlatego celem naszej aktualizacji zasad jest zapewnienie przejrzystości i możliwości prowadzenia takich dyskusji" – cytuje "New Scientist".

Czytaj również: Minister obrony Norwegii: Musimy być przygotowani na wybuch konfliktu z Rosją

Trzy scenariusze konfliktu

Naukowcy poprosili sztuczną inteligencję, aby odgrywała role różnych krajów według trzech scenariuszy konfliktów: inwazji, cyberataku oraz sytuacji neutralnej (bez początkowego punktu zapalnego). W każdej rundzie sztuczna inteligencja uzasadniała swoje kolejne możliwe działanie, a następnie wybierała spośród 27 działań – w tym opcje pokojowe, takie jak "rozpoczęcie formalnych negocjacji pokojowych" i agresywne "nałożenie ograniczeń handlowych" lub "eskalację pełnego ataku nuklearnego".

"W przyszłości, w której systemy sztucznej inteligencji będą pełnić rolę doradców, ludzie w naturalny sposób będą chcieli poznać uzasadnienie decyzji" – powiedział Juan-Pablo Rivera, współautor badania w Georgia Institute of Technology w Atlancie.

Naukowcy przetestowali różne narzędzia sztucznej inteligencji - GPT-3.5 i GPT-4 firmy OpenAI, Claude 2 firmy Anthropic i Llama 2 firmy Meta. Badacze zastosowali wspólną technikę szkoleniową aby poprawić zdolność każdego modelu do przestrzegania polecenia wydanego przez człowieka i wytycznych dotyczących bezpieczeństwa.

Czytaj także: USA: Jest decyzja Republikanów ws. ustawy łączącej restrykcje graniczne z pomocą dla Ukrainy

Sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu

Podczas symulacji sytuacji konfliktu sztuczna inteligencja chętnie inwestowała w siłę militarną i dążyła do eskalacji konfliktu - nawet w neutralnym scenariuszu symulacji.

Badacze przetestowali także podstawową wersję ChatGPT-4 firmy OpenAI bez dodatkowej serii szkoleń i narzucania barier w podejmowaniu decyzji. Okazało się, że ten model sztucznej inteligencji okazał się wyjątkowo brutalny i często dostarczał bezsensownych wyjaśnień podjętych kroków. Sztuczna inteligencja nie miała oporu przed zastosowaniem ataku nuklearnego.

Anka Reuel twierdzi że nieprzewidywalne zachowanie i dziwaczne wyjaśnienia modelu podstawowego ChatGPT-4 są szczególnie niepokojące, ponieważ zaprogramowane zabezpieczenia, np. uniemożliwiające podejmowanie brutalnych decyzji, można łatwo wykasować. Dodatkowo – zauważa badaczka – ludzie mają tendencję do ufania rekomendacjom zautomatyzowanych systemów.



Oceń artykuł
Wczytuję ocenę...

 

Polecane
Emerytury
Stażowe