Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Reżim irański rzuci hasło do ogólnoświatowego dżihadu? Ekspert wyjaśnia tylko u nas
Reżim irański rzuci hasło do ogólnoświatowego dżihadu? Ekspert wyjaśnia

„Wzrósł poziom prawdopodobieństwa ataków terrorystycznych. Trzeba pamiętać, że toczona jest wojna, więc podobnie jak Ukraina uderza w Rosję na całym świecie, tak samo Iran może uderzyć w izraelskie, czy amerykańskie interesy na całym świecie” - mówi w wywiadzie dla Tysol.pl dr Wojciech Szewko, politolog, ekspert ds. terroryzmu.

Czy judaizm dopuszcza rasizm? tylko u nas
Czy judaizm dopuszcza rasizm?

W debacie publicznej pojawiają się zarzuty, że judaizm ma charakter rasowy. Autor artykułu wyjaśnia, jak na tę kwestię patrzy tradycja religijna i teksty takie jak Tora czy Talmud.

Beata Szydło: „Cesarskie” zachowania von der Leyen budzą coraz większe oburzenie z ostatniej chwili
Beata Szydło: „Cesarskie” zachowania von der Leyen budzą coraz większe oburzenie

„Ursula von der Leyen nie ma żadnych uprawnień do reprezentowania Unii na zewnątrz” - skomentowała na platformie X eurodeputowana Beata Szydło poniedziałkową wideokonferencję Ursuli von der Leyen i przewodniczącego Rady Europejskiej Antonio Costy m.in. z przywódcami Zatoki Perskiej.

tylko u nas
Idziemy PO was oszuści! - nowy numer "Tygodnika Solidarność"

Mobilizacja środowisk społecznych i patriotycznych wokół Solidarności, spór o przyszłość Polski oraz konsekwencje decyzji obecnej władzy – to główne tematy najnowszego numeru „Tygodnika Solidarność” nr 10/2026. Wydanie koncentruje się na spotkaniu w historycznej Sali BHP Stoczni Gdańskiej, gdzie przedstawiciele wielu organizacji społecznych dyskutowali o wyzwaniach stojących dziś przed państwem i społeczeństwem.

Partia Orbana proponuje ustawę o zatrzymaniu skonfiskowanej ukraińskiej gotówki i złota z ostatniej chwili
Partia Orbana proponuje ustawę o zatrzymaniu skonfiskowanej ukraińskiej gotówki i złota

Rządząca na Węgrzech partia Fidesz premiera Viktora Orbana zaproponowała w poniedziałek projekt ustawy, który umożliwiłby organom podatkowym zatrzymanie skonfiskowanej w ubiegłym tygodniu ukraińskiej gotówki i złota na czas trwania dochodzenia podatkowego.

Kolejni funkcjonariusze BOR podejrzani w śledztwie dotyczącym wypadku premier Szydło z ostatniej chwili
Kolejni funkcjonariusze BOR podejrzani w śledztwie dotyczącym wypadku premier Szydło

Do sześciu wzrosła liczba b. funkcjonariuszy BOR, którym Prokuratura Regionalna w Białymstoku przedstawiła zarzuty w śledztwie dotyczącym nieprawidłowości w postępowaniach po wypadku premier Beaty Szydło, do którego doszło w Oświęcimiu w 2017 r. Zarzuca im składanie w tych postępowaniach fałszywych zeznań.

Ceny ropy wystrzeliły. Trump: Mam plan. Będziecie zadowoleni z ostatniej chwili
Ceny ropy wystrzeliły. Trump: Mam plan. Będziecie zadowoleni

Prezydent USA Donald Trump zapewnił w poniedziałek, że ma plan, by zahamować wzrost cen ropy z powodu wojny z Iranem.

ZUS wydał pilny komunikat z ostatniej chwili
ZUS wydał pilny komunikat

ZUS uruchamia w całym kraju nową usługę dla przedsiębiorców. Płatnicy składek będą na bieżąco dostawać wezwania do zapłaty za ostatni miesiąc, co ma pomóc szybciej reagować i uniknąć dodatkowych kosztów.

Czarzasty kontra Ziobro. „Prokuratura już w listopadzie zabrała mi te środki” gorące
Czarzasty kontra Ziobro. „Prokuratura już w listopadzie zabrała mi te środki”

„To już jest koniec. Ostateczna decyzja w sprawie diety poselskiej i uposażenia Zbigniewa Ziobry” - napisał na platformie X marszałek Sejmu Włodzimierz Czarzasty. Na odpowiedź Zbigniewa Ziobry nie musiał czekać zbyt długo.

Ceny ropy wystrzeliły. Orlen wydał komunikat z ostatniej chwili
Ceny ropy wystrzeliły. Orlen wydał komunikat

Dostawy ropy trafiają do rafinerii należących do Orlenu zgodnie z harmonogramem, a dzięki dywersyfikacji kierunków dostaw koncern ograniczył ryzyko związane z niestabilną sytuacją na Bliskim Wschodzie – przekazało w poniedziałek w odpowiedzi na pytania PAP biuro prasowe Orlenu.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane