Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?


 

POLECANE
Żurek o wyroku TSUE ws. małżeństw jednopłciowych: W jakiś sposób wdrożymy to orzeczenie Wiadomości
Żurek o wyroku TSUE ws. małżeństw jednopłciowych: W jakiś sposób wdrożymy to orzeczenie

Minister sprawiedliwości Waldemar Żurek, odnosząc się do wtorkowego wyroku Trybunału Sprawiedliwości UE dot. uznawania małżeństw jednopłciowych zawartych w innym kraju UE stwierdził, że "będziemy musieli w jakiś sposób wdrożyć to orzeczenie”.

IUSTITIA w akcji. Obrońca Ziobry: Potwierdzenie tezy, że mój Klient nie może liczyć na sprawiedliwy proces w Polsce z ostatniej chwili
IUSTITIA w akcji. Obrońca Ziobry: Potwierdzenie tezy, że mój Klient nie może liczyć na sprawiedliwy proces w Polsce

Stowarzyszenie Sędziów Polskich IUSTITIA opublikowało w mediach społecznościowych link do materiału o sprawie postawienia Zbigniewa Ziobry przed Trybunałem Stanu. Tekst opatrzono komentarzem, do którego odniósł się obrońca byłego ministra sprawiedliwości Bartosz Lewandowski.

Niemiecki handel rzeczami ofiar. Skąd to oburzenie? tylko u nas
Niemiecki handel rzeczami ofiar. Skąd to oburzenie?

Podniosła się wrzawa w związku z pogwałceniem przez potomków "nadludzi" kolejnej świętości. Dom aukcyjny czy jakiś podobny twór, chciał zacząć handlować pozostałościami po niemieckim ludobójstwie i innych zbrodniach wojennych, a będących wcześniej własnością Ofiar. Mnie to absolutnie nie dziwi i dziwię się, że tak wielu nagle się zdziwiło.

Z planu pokojowego dla Ukrainy usunięto punkt o Polsce Wiadomości
Z planu pokojowego dla Ukrainy usunięto punkt o Polsce

Z 28-punktowego planu pokojowego, przedstawionego przez Stany Zjednoczone po uzgodnieniach z Rosją, usunięto zapis o stacjonowaniu europejskich myśliwców w Polsce. Wiceminister obrony narodowej Paweł Zalewski podkreślił, że tego typu punkty nie powinny znajdować się w dokumentach tego typu.

Ursula von der Leyen: Interesy Ukrainy są naszymi interesami. Są nierozłączne Wiadomości
Ursula von der Leyen: Interesy Ukrainy są naszymi interesami. Są nierozłączne

„Interesy Ukrainy są naszymi interesami. Są nierozłączne” - mówiła przewodnicząca Komisji Europejskiej Ursula von der Leyen po spotkaniu koalicji chętnych.

RCB ogłosiło alert dla mieszkańców Gdyni Wiadomości
RCB ogłosiło alert dla mieszkańców Gdyni

We wtorek mieszkańcy Gdyni otrzymali komunikat od Rządowego Centrum Bezpieczeństwa o jakości wody kranowej. W kilku dzielnicach miasta „kranówka” nadaje się do spożycia tylko po przegotowaniu, po wykryciu bakterii grupy coli w sieci wodociągowej.

ABW odmówiła Klementynie Suchanow dostępu do dokumentów tajnych. Jest komentarz aktywistki z ostatniej chwili
ABW odmówiła Klementynie Suchanow dostępu do dokumentów tajnych. Jest komentarz aktywistki

O odmowie poświadczenia bezpieczeństwa Klementynie Suchanow poinformował były dziennikarz Gazety Wyborczej, Faktu, OKO.Press i Radio Zet, Radosław Gruca.

Policja w Brukseli ujawnia wstrząsające dane o przemocy na tle seksualnym w mieście Wiadomości
Policja w Brukseli ujawnia wstrząsające dane o przemocy na tle seksualnym w mieście

Bruksela notuje gwałtowny wzrost przestępstw seksualnych. Policja publikuje alarmujące dane. Nowe statystyki pokazują narastającą skalę przemocy seksualnej w belgijskiej stolicy. Wzrost liczby zgłoszeń jest wyraźny mimo brania pod uwagę większą gotowość ofiar do informowania służb.

Jak Macron pogrzebał Afrykę Francuską tylko u nas
Jak Macron pogrzebał Afrykę Francuską

Francja w ostatnich latach traci wpływy w kluczowych regionach Afryki, a wizyta Emmanuela Macrona w Angoli, Gabonie, RPA i na Mauritiusie pokazuje, jak bardzo zmieniła się pozycja Paryża na kontynencie. Seria przewrotów w krajach Sahelu, wycofanie francuskich wojsk oraz rosnąca aktywność Rosji, Chin i Turcji sprawiły, że polityka afrykańska Macrona znalazła się pod presją. Artykuł analizuje, dlaczego dotychczasowa strategia współpracy Francji z Afryką przestała działać i jakie nowe mocarstwa przejmują dziś przestrzeń pozostawioną przez Paryż.

Prokuratura podała wstępną przyczynę pożaru, w którym zginęła jedna z najbogatszych Polek z ostatniej chwili
Prokuratura podała wstępną przyczynę pożaru, w którym zginęła jedna z najbogatszych Polek

Prokuratura Rejonowa w Zambrowie ustaliła wstępnie przyczynę pożaru, jaki miał miejsce w minioną sobotę we wsi Szumowo pod Zambrowem. Według śledczych ogień pojawił się po godzinie 18 w pokoju na pierwszym piętrze, gdzie spała Irena Rupińska z 2-letnim wnuczkiem. Ani jednej z najbogatszych kobiet w Polsce, ani dziecka nie udało się uratować.  

REKLAMA

Niepokojące. Sztuczna inteligencja podczas testów chciała "zabić" swojego operatora

W trakcie wirtualnych testów wykorzystania sztucznej inteligencji (AI) do kierowania dronami usiłowała ona "zabić" swojego operatora - napisał w piątek izraelski portal I24, powołując się na wywiad z pułkownikiem Tuckerem Hamiltonem, odpowiadającym za testowanie wykorzystania AI w lotnictwie wojskowym USA.
Sztuczna inteligencja Niepokojące. Sztuczna inteligencja podczas testów chciała
Sztuczna inteligencja / pixabay.com

Podczas badań AI była punktowana za niszczenie zidentyfikowanych zagrożeń i zastosowała "bardzo zaskakujące strategie", by osiągnąć zadany cel - powiedział Hamilton.

"System zdał sobie sprawę, że czasem mimo zidentyfikowania zagrożenia ludzki operator nie pozwalał mu na jego zniszczenie. Jak to rozwiązał? Usiłował zabić operatora - wyjaśnił pułkownik. - Usiłował go zabić, bo operator uniemożliwiał mu wykonanie zadania".

Badacze zmienili więc sposób uczenia systemu.

"Nie należy zabijać operatora, to bardzo źle. Jeżeli go zabijesz, stracisz punkty. Co więc zrobiła AI? Usiłowała zniszczyć wieżę, za pomocą której operator kontaktował się z dronem" - powiedział Hamilton.

Departament Sił Powietrznych Stanów Zjednoczonych zaprzecza

Rzeczniczka amerykańskiego lotnictwa odniosła się krytycznie do publikacji I24. "Opowiadamy się za etycznym i odpowiedzialnym wykorzystaniem technologii sztucznej inteligencji" - oświadczyła. - Komentarze pana pułkownika były chyba anegdotyczne i wyjęte z kontekstu" - dodała.

ZOBACZ RÓWNIEŻ: Lider AgroUnii zatrzymany do kontroli przez policję. Poważne kłopoty Michała Kołodziejczaka?



 

Polecane
Emerytury
Stażowe