[Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie

Autonomiczne środki walki są technologicznie łatwiejsze do skonstruowania niż samochody bez kierowcy i roboty bojowe, pojawią się na froncie szybciej niż to się wydaje - uważają generałowie z Pentagonu i dlatego przyjęli przed kilkoma dniami etyczne zasady wykorzystania sztucznej inteligencji w warunkach frontowych. Sto lat temu. w czasie I wojny światowej, blokadą nieprzyjacielskiego natarcia były rozbudowane linie okopów otoczone zasiekami i polami minowymi oraz ziemne i betonowe fortyfikacje. W II wojnie światowej rolę blokady szybkich ataków jednostek pancernych przejęły zamienione w twierdze miasta, które trzeba było zdobywać w żmudnych i krwawych walkach o każdy dom. Podobnie jest obecnie z tym, że osłoną obrońców miasta-blokady jest coraz częściej ludność cywilna. Śmierć cywilów to dla wojskowych „straty uboczne”, ale dla polityków to poważny problem zwłaszcza jeśli los ludności stanie się głównym tematem doniesień medialnych. Dlatego też eliminacja siły żywej nieprzyjaciela przy minimalnych stratach wśród ludności cywilnej, to jedno z głównych zadań stawianych specjalistom pracującym nad „śmiercionośnymi broniami autonomicznymi”.
 [Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie
/ screen YouTube Corridor. Robot bojowy
Dotychczas jeszcze żaden kraj nie pochwalił się, że ma roboty na wyposażeniu swoich sił zbrojnych, ale potrzebne technologie są dostępne. Wiadomo również, że wiele wojskowych ośrodków naukowych pracuje nad ich skonstruowaniem i oprogramowaniem. Głównie w Chinach, USA, Korei Południowej, Izraelu, Wielkiej Brytanii i Australii. W Rosji zapewne też. Profesor Stuart Russell z Uniwersytetu Berkeley przewiduje, że „zabójcze roboty” pojawią się na polu walki w ciągu najbliższych dwóch lat. Nie będą to roboty człekokształtne w stylu Terminatora, ale zapewne drony podobne do współczesnych tylko zaadaptowane do działań autonomicznych.

Zdaniem specjalistów drony są najłatwiejsze do przekonstruowania. Już obecnie są „w połowie drogi”. Ich dolot do celu może być z góry zaprogramowany, a kiedy znajdą się w zadanym rejonie przekazują obraz do prowadzącego człowieka, który dokonuje wyboru celu i wydaje komendę „ognia”. Po ewentualnej adaptacji sztuczna inteligencja autonomicznego drona będzie samodzielnie identyfikować cel na podstawie zgromadzonych w pamięci obrazów (zdjęć lub filmów video), algorytm nakieruje pokładowe uzbrojenie i da polecenie „zniszczyć”. Sztuczną inteligencję autonomicznego drona można też przeszkolić z różnych wariantów sytuacji bojowej i nauczyć, w której z nich człowiek wydaje komendę „ognia”. Później dron sam porównuje sytuację widzianą przez swoje kamery z zapamiętanymi wariantami i decyduje „zniszczyć”, kiedy algorytm uzna, że człowiek wydałby komendę „ognia”. Można też wprowadzić algorytm, który będzie otwierał ogień do każdej postaci w zasięgu kamer, która będzie trzymała coś przypominającego broń i nie będzie w mundurze własnych sił zbrojnych. W ciągu minionych kilku lat sztuczna inteligencja dokonała dużego skoku i jej umiejętności rozpoznawania twarzy, ruchów, detali uzbrojenia i odzieży są olbrzymie.  Autonomiczne drony mają przy tym dwie wielkie zalety: są tanie i nie potrzebują prowadzącego człowieka ani kanału łączności między człowiekiem a dronem. Jeśli same wybierają cel i moment otwarcia ognia, to można ich wysłać całą chmarę a nie tylko tyle, ilu posiada się operatorów. Jeśli nie ma kanału łączności, to przeciwnik nie może zakłócić komunikacji i sparaliżować atak.

Techniczne przewagi autonomicznych dronów równoważą etyczne mankamenty. Zwolennicy „robotów bojowych” twierdzą, że są one bardziej etyczne niż ludzie, gdyż nie męczą się, nie ulegają stresom, nie wpadają w złość, nie popełniają zbrodni wojennych i są rycerskie bowiem świadomie nie zabijają poddającego się nieprzyjaciela. Przeciwnicy uważają, że wypełniając co do joty polecenia oprogramowania roboty nie znają litości. Trudno też wyobrazić sobie, żeby nawet najlepsza sztuczna inteligencja bezbłędnie rozróżniała cywila z karabinem od cywila ze szczotką na kiju. Stąd znaczenie etycznych ram militarnego wykorzystywania sztucznej inteligencji. W dokumencie Pentagonu podkreślono, że to na ludziach ciąży odpowiedzialność za „odpowiednią ocenę i troskę” w podejmowaniu decyzji użycia wszelkiego rodzaju robotów bojowych. To ludzie, muszą odpowiedzialnie uczyć sztuczną inteligencję rozpoznawania obiektów do zniszczenia. To ludzie muszą zadbać, żeby decyzje podejmowane przez automatyzowane systemy były możliwe do prześledzenia i oceny a jeśli zajdzie potrzeba człowiek musi mieć możliwość przerwania operacji i dezaktywacji robota. Bez takich możliwości kontroli sztucznej inteligencji ludzie dobrowolnie oddadzą zbyt wielkie obszary życia społecznego w ręce technologii, której w pełni jeszcze nie rozumieją. Co więcej jeśli algorytmy robotów optymalizując możliwe rozwiązania natrafią na lukę lub błąd oprogramowania to działając schematycznie robot bojowy może niszczyć obiekty, które powinien zostawić nienaruszone i stanie się zagrożeniem a nie obrońcą.

Rafał Brzeski

Oceń artykuł
Wczytuję ocenę...

 

POLECANE
GW: Budowa CPK odłożona z ostatniej chwili
"GW": Budowa CPK odłożona

Budowa Centralnego Portu Komunikacyjnego w Baranowie odłożona. Wracają inwestycje na Lotnisku Chopina, którego przepustowość kosztem 2,4 mld zł wzrośnie do 30 mln pasażerów rocznie. Część samolotów ma być przeniesiona do Modlina, Radomia i Łodzi – informuje "Gazeta Wyborcza".

Komisja Europejska: Polski plan klimatyczny za mało ambitny z ostatniej chwili
Komisja Europejska: Polski plan klimatyczny za mało ambitny

Komisja Europejska opublikowała swoją ocenę projektów zaktualizowanych krajowych planów w zakresie energii i klimatu (KPEiK) Bułgarii i Polski. Wydała w niej zalecenia dla obu krajów, aby "zwiększyły swoje ambicje" zgodnie z uzgodnionymi celami unijnymi na 2030 rok.

Jest wyrok ws. koncertu WOŚP podczas którego zginął Paweł Adamowicz pilne
Jest wyrok ws. koncertu WOŚP podczas którego zginął Paweł Adamowicz

Organizatorzy finału WOŚP w styczniu 2019 r., gdy ciosy nożem zadano prezydentowi Gdańska Pawłowi Adamowiczowi, a także sądzeni razem z nimi policjanci i urzędnik zostali prawomocnie uniewinnieni. Sąd podtrzymał wyrok skazujący wobec szefa firmy ochroniarskiej, a uchylił wobec kierownika ochrony.

Szydło wbija szpilę Tuskowi: Jest chory, ale nikt się nie spodziewał, że aż tak z ostatniej chwili
Szydło wbija szpilę Tuskowi: Jest chory, ale nikt się nie spodziewał, że aż tak

"Donald Tusk pisał, że jest chory, ale nikt się nie spodziewał, że aż tak" – pisze na platformie X była premier, a obecnie europoseł PiS Beata Szydło.

Dramatyczne wyznanie Britney Spears: moja rodzina mnie skrzywdziła z ostatniej chwili
Dramatyczne wyznanie Britney Spears: "moja rodzina mnie skrzywdziła"

Gwiazda muzyki - Britney Spears stwierdziła, że "nie ma sprawiedliwości" po tym, jak rozstrzgynięty został spór prawny pomiędzy nią a jej ojcem. - Moja rodzina mnie skrzywdziła - oceniła.

Janina Ochojska jednak wystartuje w wyborach do PE? Znamienne słowa z ostatniej chwili
Janina Ochojska jednak wystartuje w wyborach do PE? Znamienne słowa

– Janina Ochojska dowiedziała się z mediów, że nie startuje z list KO, w związku z tym prowadzone są pewne rozmowy – oświadczyła poseł PSL Urszula Pasławska.

Kto zostanie nowym szefem NATO? Turcja wskazała kandydata z ostatniej chwili
Kto zostanie nowym szefem NATO? Turcja wskazała kandydata

Turcja poinformowała sojuszników, że poprze kandydaturę holenderskiego premiera Marka Ruttego na sekretarza generalnego NATO – przekazali przedstawiciele tureckich władz, cytowani w poniedziałek przez agencję Anatolia.

Francuski portal: Żegnaj, von der Leyen z ostatniej chwili
Francuski portal: Żegnaj, von der Leyen

„Obecnie Ursula Von der Leyen kandyduje do ponownego objęcia stanowiska szefowej Komisji Europejskiej i wydaje się, że ma duże szanse na jego utrzymanie. Istnieje jednak wiele powodów przemawiających przeciwko przedłużeniu jej kadencji” – pisze francuski portal Sauvons l’Europe.

Koniec „nowego Messiego”. Barcelona chce pozbyć się swojej gwiazdy z ostatniej chwili
Koniec „nowego Messiego”. Barcelona chce pozbyć się swojej gwiazdy

Dziennikarz Relevo Matteo Moretto na łamach Football Espana odniósł się do przyszłości Ansu Fatiego przebywającego obecnie na wypożyczeniu w Brighton & Hove Albion. Ujawnił, że według jego informacji FC Barcelona nie chce, aby zawodnik powrócił do swojego macierzystego klubu.

Dziwna „konferencja” Sienkiewicza: „Pozapraszał media, a potem sam się nie pojawił” z ostatniej chwili
Dziwna „konferencja” Sienkiewicza: „Pozapraszał media, a potem sam się nie pojawił”

„Minister Bartłomiej Sienkiewicz zwołał na godzinę 11 konferencję prasową. Pozapraszał media. A potem na konferencji sam się nie pojawił. Nie mówiąc nikomu” – oświadczył w mediach społecznościowych dziennikarz RMF FM Krzysztof Berenda.

REKLAMA

[Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie

Autonomiczne środki walki są technologicznie łatwiejsze do skonstruowania niż samochody bez kierowcy i roboty bojowe, pojawią się na froncie szybciej niż to się wydaje - uważają generałowie z Pentagonu i dlatego przyjęli przed kilkoma dniami etyczne zasady wykorzystania sztucznej inteligencji w warunkach frontowych. Sto lat temu. w czasie I wojny światowej, blokadą nieprzyjacielskiego natarcia były rozbudowane linie okopów otoczone zasiekami i polami minowymi oraz ziemne i betonowe fortyfikacje. W II wojnie światowej rolę blokady szybkich ataków jednostek pancernych przejęły zamienione w twierdze miasta, które trzeba było zdobywać w żmudnych i krwawych walkach o każdy dom. Podobnie jest obecnie z tym, że osłoną obrońców miasta-blokady jest coraz częściej ludność cywilna. Śmierć cywilów to dla wojskowych „straty uboczne”, ale dla polityków to poważny problem zwłaszcza jeśli los ludności stanie się głównym tematem doniesień medialnych. Dlatego też eliminacja siły żywej nieprzyjaciela przy minimalnych stratach wśród ludności cywilnej, to jedno z głównych zadań stawianych specjalistom pracującym nad „śmiercionośnymi broniami autonomicznymi”.
 [Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie
/ screen YouTube Corridor. Robot bojowy
Dotychczas jeszcze żaden kraj nie pochwalił się, że ma roboty na wyposażeniu swoich sił zbrojnych, ale potrzebne technologie są dostępne. Wiadomo również, że wiele wojskowych ośrodków naukowych pracuje nad ich skonstruowaniem i oprogramowaniem. Głównie w Chinach, USA, Korei Południowej, Izraelu, Wielkiej Brytanii i Australii. W Rosji zapewne też. Profesor Stuart Russell z Uniwersytetu Berkeley przewiduje, że „zabójcze roboty” pojawią się na polu walki w ciągu najbliższych dwóch lat. Nie będą to roboty człekokształtne w stylu Terminatora, ale zapewne drony podobne do współczesnych tylko zaadaptowane do działań autonomicznych.

Zdaniem specjalistów drony są najłatwiejsze do przekonstruowania. Już obecnie są „w połowie drogi”. Ich dolot do celu może być z góry zaprogramowany, a kiedy znajdą się w zadanym rejonie przekazują obraz do prowadzącego człowieka, który dokonuje wyboru celu i wydaje komendę „ognia”. Po ewentualnej adaptacji sztuczna inteligencja autonomicznego drona będzie samodzielnie identyfikować cel na podstawie zgromadzonych w pamięci obrazów (zdjęć lub filmów video), algorytm nakieruje pokładowe uzbrojenie i da polecenie „zniszczyć”. Sztuczną inteligencję autonomicznego drona można też przeszkolić z różnych wariantów sytuacji bojowej i nauczyć, w której z nich człowiek wydaje komendę „ognia”. Później dron sam porównuje sytuację widzianą przez swoje kamery z zapamiętanymi wariantami i decyduje „zniszczyć”, kiedy algorytm uzna, że człowiek wydałby komendę „ognia”. Można też wprowadzić algorytm, który będzie otwierał ogień do każdej postaci w zasięgu kamer, która będzie trzymała coś przypominającego broń i nie będzie w mundurze własnych sił zbrojnych. W ciągu minionych kilku lat sztuczna inteligencja dokonała dużego skoku i jej umiejętności rozpoznawania twarzy, ruchów, detali uzbrojenia i odzieży są olbrzymie.  Autonomiczne drony mają przy tym dwie wielkie zalety: są tanie i nie potrzebują prowadzącego człowieka ani kanału łączności między człowiekiem a dronem. Jeśli same wybierają cel i moment otwarcia ognia, to można ich wysłać całą chmarę a nie tylko tyle, ilu posiada się operatorów. Jeśli nie ma kanału łączności, to przeciwnik nie może zakłócić komunikacji i sparaliżować atak.

Techniczne przewagi autonomicznych dronów równoważą etyczne mankamenty. Zwolennicy „robotów bojowych” twierdzą, że są one bardziej etyczne niż ludzie, gdyż nie męczą się, nie ulegają stresom, nie wpadają w złość, nie popełniają zbrodni wojennych i są rycerskie bowiem świadomie nie zabijają poddającego się nieprzyjaciela. Przeciwnicy uważają, że wypełniając co do joty polecenia oprogramowania roboty nie znają litości. Trudno też wyobrazić sobie, żeby nawet najlepsza sztuczna inteligencja bezbłędnie rozróżniała cywila z karabinem od cywila ze szczotką na kiju. Stąd znaczenie etycznych ram militarnego wykorzystywania sztucznej inteligencji. W dokumencie Pentagonu podkreślono, że to na ludziach ciąży odpowiedzialność za „odpowiednią ocenę i troskę” w podejmowaniu decyzji użycia wszelkiego rodzaju robotów bojowych. To ludzie, muszą odpowiedzialnie uczyć sztuczną inteligencję rozpoznawania obiektów do zniszczenia. To ludzie muszą zadbać, żeby decyzje podejmowane przez automatyzowane systemy były możliwe do prześledzenia i oceny a jeśli zajdzie potrzeba człowiek musi mieć możliwość przerwania operacji i dezaktywacji robota. Bez takich możliwości kontroli sztucznej inteligencji ludzie dobrowolnie oddadzą zbyt wielkie obszary życia społecznego w ręce technologii, której w pełni jeszcze nie rozumieją. Co więcej jeśli algorytmy robotów optymalizując możliwe rozwiązania natrafią na lukę lub błąd oprogramowania to działając schematycznie robot bojowy może niszczyć obiekty, które powinien zostawić nienaruszone i stanie się zagrożeniem a nie obrońcą.

Rafał Brzeski


Oceń artykuł
Wczytuję ocenę...

 

Polecane
Emerytury
Stażowe