Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Wiceszef Pentagonu: Iran gotowy, by uderzać nie tylko na Bliskim Wschodzie, ale potencjalnie w NATO z ostatniej chwili
Wiceszef Pentagonu: Iran gotowy, by uderzać nie tylko na Bliskim Wschodzie, ale potencjalnie w NATO

Widzimy wyraźnie, że Iran jest gotowy, by uderzać w różne kraje, nie tylko na Bliskim Wschodzie, ale też potencjalnie w NATO - powiedział w środę wiceszef Pentagonu Elbridge Colby. Wiceminister podczas spotkania w think tanku Council on Foreign Relations odpowiadał na pytania m.in. dotyczące amerykańsko-izraelskiej operacji przeciwko Iranowi.

Polski SAFE kontra niemiecki SAFE tylko u nas
Polski SAFE kontra niemiecki SAFE

Rząd się spieszy. Spieszy się tak, jakby jutra miało nie być. Jakby trzeba było już dziś podpisać zobowiązanie, które będą spłacać dzieci – te dzisiejsze dziesięcio- i dwunastolatki. Program SAFE przedstawiany jest jako oczywistość, europejska konieczność, jedyna droga. Tyle że to droga długu na dekady, z warunkami pisanymi w Brukseli i kontrolą co pół roku.

Wiceszef Pentagonu: Bylibyśmy przeciwni rozwijaniu zdolności atomowych przez Polskę czy Niemcy z ostatniej chwili
Wiceszef Pentagonu: Bylibyśmy przeciwni rozwijaniu zdolności atomowych przez Polskę czy Niemcy

Wiceszef Pentagonu Elbridge Colby powiedział w środę, że USA byłyby przeciwne rozwijaniu zdolności nuklearnych przez takie państwa jak Polska, Niemcy czy kraje skandynawskie.

Unijna strategia dotycząca portów. Marynarze mają dosyć z ostatniej chwili
Unijna strategia dotycząca portów. Marynarze mają dosyć

Komisja Europejska uruchamia unijne strategie dotyczące gospodarki morskiej i portów przemysłowych w celu zwiększenia konkurencyjności w całym sektorze morskim.

„Islamska Republika Iranu trzyma się mocno” z ostatniej chwili
„Islamska Republika Iranu trzyma się mocno”

Islamska Republika Iranu trzyma się mocno – oceniła w studiu PAP iranistka Urszula Pytkowska-Jakimczyk. Wyjaśniła, że Iran spodziewał się amerykańsko-izraelskiego ataku, a sam przywódca Iranu ajatollah Ali Chamenei już wcześniej zapowiedział, że chce oddać życie za swój naród i stać się męczennikiem.

Multikulti po brytyjsku. Co 60 minut gwałcona jest kobieta z ostatniej chwili
Multikulti po brytyjsku. Co 60 minut gwałcona jest kobieta

Jak poinformował portal European Conservative, według publicznie dostępnych danych o przestępczości Metropolitan Police Service, w styczniu w Londynie odnotowano łącznie 746 gwałtów.

„Polski SAFE 0 procent”. Nawrocki po spotkaniu z prezesem NBP zaprasza Tuska na rozmowy z ostatniej chwili
„Polski SAFE 0 procent”. Nawrocki po spotkaniu z prezesem NBP zaprasza Tuska na rozmowy

– Znalezienie korzystnej, suwerennej, bezpiecznej, dobrej i efektywnej alternatywy dla programu SAFE było tematem spotkania z prezesem NBP Adamem Glapińskim – powiedział prezydent Karol Nawrocki po spotkaniu z prezesem NBP. Prezydent przekazał również, iż dziś wystosuje pismo do premiera Donalda Tuska i wicepremiera Władysława Kosiniaka-Kamysza, zapraszając na spotkanie wokół polskiego SAFE 0 proc.

Atak na Iran. Tusk ugiął się pod presją, wyśle samoloty po Polaków z ostatniej chwili
Atak na Iran. Tusk ugiął się pod presją, wyśle samoloty po Polaków

„Podjąłem decyzję o wykorzystaniu samolotów będących w dyspozycji Sił Zbrojnych do wsparcia ewakuacji Polaków z Bliskiego Wschodu. Odpowiedni wniosek w tej sprawie trafił już do prezydenta” – poinformował w środę po południu premier Donald Tusk.

Pentagon: Wkrótce będziemy mieli całkowitą kontrolę nieba nad Iranem, jest już po nich z ostatniej chwili
Pentagon: Wkrótce będziemy mieli całkowitą kontrolę nieba nad Iranem, jest już po nich

– Wkrótce będziemy mieć całkowitą kontrolę nieba nad Iranem – zapowiedział w środę szef Pentagonu Pete Hegseth. Ogłosił, że USA wygrywają wojnę, a Iran wie, że jest już po nim. Hegseth poinformował też o pierwszym od 1945 r. zatopieniu okrętu przeciwnika przez amerykański okręt podwodny.

Wojna na Bliskim Wschodzie. Jest nowy komunikat Wizz Air z ostatniej chwili
Wojna na Bliskim Wschodzie. Jest nowy komunikat Wizz Air

Węgierski Wizz Air do 15 marca włącznie przedłuża zawieszenie wszystkich lotów do i z Izraela, Dubaju, Abu Zabi oraz Ammanu – poinformował w środę przewoźnik. Loty z Wielkiej Brytanii do Dżuddy i Medyny zostaną wznowione zgodnie z planem – 8 marca – dodano.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane