Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Zimowa przerwa w Tatrach. „Elektryki” znikają z trasy do Morskiego Oka Wiadomości
Zimowa przerwa w Tatrach. „Elektryki” znikają z trasy do Morskiego Oka

Elektryczne busy na trasie do Morskiego Oka w połowie listopada przestaną kursować na okres zimowy. Przerwę Tatrzański Park Narodowy (TPN) wykorzysta na przegląd techniczny pojazdów. W tym czasie na popularnym szlaku nadal będą kursować tradycyjne zaprzęgi konne, ale wozy zastąpią sanie.

Gazeta Wyborcza pochowała żyjącego Powstańca. W sieci zawrzało gorące
Gazeta Wyborcza "pochowała" żyjącego Powstańca. W sieci zawrzało

W piątek Wojska Obrony Terytorialnej poinformowały o śmierci ppłk. Zbigniewa Rylskiego „Brzozy”, ostatniego z obrońców Pałacyku Michla. O wydarzeniu napisały również Gazeta.pl i Gazeta Wyborcza, jednak w publikacjach zamieszczono zdjęcie innego, wciąż żyjącego Powstańca – ppłk. Jakuba Nowakowskiego „Tomka”. Błąd szybko zauważyli internauci, którzy wezwali redakcję do sprostowania.

Julia W. skazana w UK: twierdziła, że jest zaginioną Madeleine McCann Wiadomości
Julia W. skazana w UK: twierdziła, że jest zaginioną Madeleine McCann

24-letnia Julia W. z Dolnego Śląska została skazana na sześć miesięcy więzienia przez brytyjski sąd za nękanie rodziców zaginionej Madeleine McCann. Kobieta przekonywała, że jest zaginioną dziewczynką, co wzbudziło duże zainteresowanie mediów społecznościowych już na początku 2023 roku.

Kompromitacja rzecznika rządu Donalda Tuska Adama Szłapki na platformie X gorące
Kompromitacja rzecznika rządu Donalda Tuska Adama Szłapki na platformie "X"

W relacjach między premierem Donaldem Tuskiem a prezydentem Karolem Nawrockim doszło do kolejnego sporu – tym razem o zasady współpracy ze służbami specjalnymi. Prezydent poinformował, że premier zakazał szefom służb kontaktów z głową państwa, co Biuro Bezpieczeństwa Narodowego uznało za „groźne dla bezpieczeństwa Polski”. W związku z brakiem kontaktu z szefami służb Karol Nawrocki wstrzymał nominacje oficerskie.

Rosja w gotowości nuklearnej. Putin reaguje na decyzje Trumpa Wiadomości
Rosja w gotowości nuklearnej. Putin reaguje na decyzje Trumpa

Prezydent Rosji Władimir Putin polecił rozpoczęcie przygotowań do potencjalnych prób broni jądrowej. Decyzja Kremla jest odpowiedzią na wcześniejsze zapowiedzi Stanów Zjednoczonych dotyczące wznowienia testów nuklearnych. Szef rosyjskiej dyplomacji Siergiej Ławrow potwierdził, że polecenia zostały już przyjęte do realizacji.

Nie żyje legenda polskiej fotografii z ostatniej chwili
Nie żyje legenda polskiej fotografii

Nie żyje Andrzej Świetlik, polski fotografik, który przez dekady utrwalał w obiektywie najważniejsze postaci kultury, muzyki i polityki. Artysta odszedł 8 listopada.

Gigantyczne korki w Krakowie. Zmiany w organizacji ruchu i objazdy z ostatniej chwili
Gigantyczne korki w Krakowie. Zmiany w organizacji ruchu i objazdy

Sobota, 8 listopada, przyniosła gigantyczne korki w północno-wschodniej części Krakowa. Szczególnie trudna była sytuacja na ulicy Bora-Komorowskiego, gdzie ruch niemal całkowicie się zatrzymał. Kierowcy utknęli w wielokilometrowych zatorach, a dostęp do Galerii Serenada i pobliskich sklepów był mocno utrudniony.

Tragiczna pomyłka w USA. Nie żyje kobieta z ostatniej chwili
Tragiczna pomyłka w USA. Nie żyje kobieta

Władze amerykańskiego stanu Indiana rozważają, czy postawić zarzuty właścicielowi domu, który śmiertelnie postrzelił próbującą wejść do środka 32-letnią kobietę, biorąc ją za włamywaczkę. Okazało się, że kobieta, będąca imigrantką z Gwatemali, pomyliła adres domu, w którym miała sprzątać.

Polska królikiem doświadczalnym nowego systemu - „rewolucyjnej dyktatury” tworzącej „nową demokrację” tylko u nas
Polska królikiem doświadczalnym nowego systemu - „rewolucyjnej dyktatury” tworzącej „nową demokrację”

Sprawa zarzutów wobec byłego ministra sprawiedliwości Zbigniewa Ziobry to przejaw głębszego problemu, który trawi Polskę w zasadzie od przejęcia władzy przez „uśmiechniętą koalicję”, a mianowicie nienazwanej zmiany systemu politycznego. Odtąd już nie prawo reguluje życie polityczno-społeczne, ale wola tych, którzy znajdują się u władzy. Nic dziwnego, że zachodnie media konserwatywne mówią wprost o autorytaryzmie, który zapukał do polskich drzwi. Ja bym jednak nazwała to totalitaryzmem i wykażę, że taka ocena jest uzasadniona.

Niemcy w kłopocie. Alarm w służbie zdrowia i budownictwie Wiadomości
Niemcy w kłopocie. Alarm w służbie zdrowia i budownictwie

W Niemczech rośnie problem z brakiem wykwalifikowanych pracowników. Jak wynika z najnowszego raportu Instytutu Gospodarki Niemieckiej (IW), tylko w 2024 roku nieobsadzonych pozostało ponad 260 tysięcy stanowisk w dziesięciu kluczowych branżach.

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe