Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Nie żyje gwiazda legendarnego serialu z ostatniej chwili
Nie żyje gwiazda legendarnego serialu

Nie żyje James Ransone, znany m.in. z legendarnego serialu "Prawo ulicy" (ang. The Wire). Aktor miał tylko 46 lat.

Norwegia zaostrza przepisy. Wyjazd na święta może skończyć się utratą ochrony z ostatniej chwili
Norwegia zaostrza przepisy. Wyjazd na święta może skończyć się utratą ochrony

Władze Norwegii przed Bożym Narodzeniem zaostrzyły przepisy azylowe. Od czwartku wyjazd z tego kraju, by w okresie świątecznym odwiedzić rodzinę, może skończyć się dla uchodźców utratą statusu czy cofnięciem zezwolenia na pobyt.

Blisko podium w Engelbergu! Kacper Tomasiak najlepszy z Polaków z ostatniej chwili
Blisko podium w Engelbergu! Kacper Tomasiak najlepszy z Polaków

Kacper Tomasiak zajął piąte miejsce, Paweł Wąsek był 13., Kamil Stoch - 18., a Maciej Kot - 27. w niedzielnym konkursie Pucharu Świata w skokach narciarskich w szwajcarskim Engelbergu. Wygrał Japończyk Ryoyu Kobayashi przed Słoweńcem Domenem Prevcem i Niemcem Felixem Hoffmannem.

Policyjna obława w Warszawie. Wyprowadził z mieszkania 9-latka z ostatniej chwili
Policyjna obława w Warszawie. Wyprowadził z mieszkania 9-latka

Na warszawskiej Białołęce doszło do awantury domowej, podczas której mężczyzna wyprowadził z mieszkania 9-letniego chłopca i oddalił się z dzieckiem w nieznanym kierunku – informuje Onet. Policja rozpoczęła obławę.

IMGW wydał komunikat. Oto, co nas czeka z ostatniej chwili
IMGW wydał komunikat. Oto, co nas czeka

IMGW prognozuje na poniedziałek i wtorek duże zachmurzenie, lokalne mgły oraz opady deszczu.

Kłótnia w TVP między doradcą prezydenta a prowadzącą. Nie ma pani prawa mnie wypraszać z ostatniej chwili
Kłótnia w TVP między doradcą prezydenta a prowadzącą. "Nie ma pani prawa mnie wypraszać"

Decyzja Unii Europejskiej o wielomiliardowej pożyczce dla Ukrainy doprowadziła do ostrego sporu w studiu TVP Info. W trakcie programu doszło do kłótni między doradcą prezydenta RP Błażejem Pobożym a prowadzącą.

Groźny wypadek w Gdyni. Wjechał w przechodniów i restaurację z ostatniej chwili
Groźny wypadek w Gdyni. Wjechał w przechodniów i restaurację

W Gdyni przy ul. Władysław IV kierowca samochodu marki volvo z nieustalonych przyczyn stracił panowanie nad pojazdem, potrącił 16-latkę, a następnie uderzył w budynek restauracji.

Putin gotowy do rozmowy z Macronem. Jest reakcja Pałacu Elizejskiego z ostatniej chwili
Putin gotowy do rozmowy z Macronem. Jest reakcja Pałacu Elizejskiego

Pałac Elizejski poinformował w niedzielę, że z zadowoleniem przyjął deklarację przywódcy Rosji Władimira Putina o gotowości do rozmowy z prezydentem Francji Emmanuelem Macronem – podała agencja AFP. W najbliższych dniach podjęte zostaną decyzje w sprawie dalszych kroków – dodano w oświadczeniu.

Karol Nawrocki mówił o braku partnerstwa z Ukrainą. Co o tym sądzą Polacy? pilne
Karol Nawrocki mówił o braku partnerstwa z Ukrainą. Co o tym sądzą Polacy?

Podczas wizyty Wołodymyra Zełenskiego w Warszawie Karol Nawrocki poruszył temat relacji polsko-ukraińskich. Po rozmowie obu prezydentów odbyła się konferencja prasowa, na której przedstawiono główne wątki spotkania.

Komunikat dla mieszkańców woj. śląskiego z ostatniej chwili
Komunikat dla mieszkańców woj. śląskiego

W okresie świątecznym Transport GZM wprowadza zmiany w kursowaniu. – Czymś nowym jest obowiązywanie 24 grudnia niedzielnych i świątecznych rozkładów jazdy – zapowiada Zarząd Transportu Metropolitalnego.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane