Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Alarm w Dubaju. Drony w pobliżu lotniska i ranni cywile Wiadomości
Alarm w Dubaju. Drony w pobliżu lotniska i ranni cywile

W pobliżu międzynarodowego lotniska w Dubaju doszło do groźnego incydentu z udziałem bezzałogowca. Strącony dron spadł niedaleko portu lotniczego, a odłamki raniły cztery osoby. Mimo zdarzenia ruch lotniczy odbywa się bez zakłóceń.

KRUS wydał komunikat dla rolników z ostatniej chwili
KRUS wydał komunikat dla rolników

Od 5 marca 2026 r. obowiązują przepisy, zgodnie z którymi obywatele Ukrainy, których pobyt był uznawany za legalny na podstawie dotychczasowych regulacji i którzy uzyskali status beneficjenta ochrony czasowej, mają przedłużoną ochronę czasową do 4 marca 2027 r.

Czarzasty zablokował w Sejmie ustawę o SAFE 0 procent: Dość ściemy i obłudy pilne
Czarzasty zablokował w Sejmie ustawę o SAFE 0 procent: "Dość ściemy i obłudy"

Włodzimierz Czarzasty ogłosił wstrzymanie prac nad prezydenckim projektem dotyczącym Polskiego Funduszu Inwestycji Obronnych. Decyzję uzależnił od zakończenia procesu legislacyjnego ustawy, która wcześniej trafiła do podpisu głowy państwa.

Polski wątek afery Epsteina. Jest decyzja prokuratury z ostatniej chwili
Polski wątek afery Epsteina. Jest decyzja prokuratury

Wszczęto śledztwo w sprawie handlu ludźmi w polskim wątku tzw. afery Epsteina – poinformowała w środę Prokuratura Krajowa.

Tragedia na stacji metra. Nie żyje kobieta z ostatniej chwili
Tragedia na stacji metra. Nie żyje kobieta

Na stacji Metro Wilanowska doszło do śmiertelnego zdarzenia. Po tragedii wprowadzono zmiany w kursowaniu pociągów i autobus zastępczy.

Pogoda nagle zaskoczy. IMGW wydał komunikat z ostatniej chwili
Pogoda nagle zaskoczy. IMGW wydał komunikat

Najpierw słońce i wysoka temperatura, potem nagłe pogorszenie. IMGW ostrzega przed zmianą pogody.

Największe w historii uwolnienie rezerw ropy. Nieoficjalne doniesienia z ostatniej chwili
Największe w historii uwolnienie rezerw ropy. Nieoficjalne doniesienia

Międzynarodowa Agencja Energetyczna (MAE) zaproponowała największe w historii uwolnienie rezerw ropy naftowej, by obniżyć ceny surowca, które gwałtownie wzrosły w wyniku wojny USA i Izraela z Iranem – poinformował we wtorek "Wall Street Journal", powołując się na urzędników zaznajomionych ze sprawą.

Napięcie w cieśninie Ormuz. USA pokazały nagranie z ataku z ostatniej chwili
Napięcie w cieśninie Ormuz. USA pokazały nagranie z ataku

Napięcie wokół cieśniny Ormuz gwałtownie rośnie. CENTCOM poinformowało o zniszczeniu irańskich statków minowych, a Donald Trump zapowiedział zdecydowaną odpowiedź na ruchy Teheranu.

Polacy czują się nabici w butelkę. Sondaż nie pozostawia złudzeń z ostatniej chwili
Polacy czują się nabici w butelkę. Sondaż nie pozostawia złudzeń

Ponad połowa obywateli źle ocenia funkcjonowanie mechanizmu zwrotu opakowań, a prawie połowa w ogóle w nim nie uczestniczy – wynika z badania IBRiS dla "Rzeczpospolitej" opublikowanego w tym dzienniku w środę.

Za pieniądze z SAFE sprzedamy naszą niepodległość tylko u nas
Za pieniądze z SAFE sprzedamy naszą niepodległość

W kwestii SAFE nie chodzi jedynie o horrendalną pożyczkę, którą spłacać będą przez ponad 40 lat kolejne pokolenia, ale o istnienie państwa polskiego jako samodzielnego, suwerennego podmiotu.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane