[Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie

Autonomiczne środki walki są technologicznie łatwiejsze do skonstruowania niż samochody bez kierowcy i roboty bojowe, pojawią się na froncie szybciej niż to się wydaje - uważają generałowie z Pentagonu i dlatego przyjęli przed kilkoma dniami etyczne zasady wykorzystania sztucznej inteligencji w warunkach frontowych. Sto lat temu. w czasie I wojny światowej, blokadą nieprzyjacielskiego natarcia były rozbudowane linie okopów otoczone zasiekami i polami minowymi oraz ziemne i betonowe fortyfikacje. W II wojnie światowej rolę blokady szybkich ataków jednostek pancernych przejęły zamienione w twierdze miasta, które trzeba było zdobywać w żmudnych i krwawych walkach o każdy dom. Podobnie jest obecnie z tym, że osłoną obrońców miasta-blokady jest coraz częściej ludność cywilna. Śmierć cywilów to dla wojskowych „straty uboczne”, ale dla polityków to poważny problem zwłaszcza jeśli los ludności stanie się głównym tematem doniesień medialnych. Dlatego też eliminacja siły żywej nieprzyjaciela przy minimalnych stratach wśród ludności cywilnej, to jedno z głównych zadań stawianych specjalistom pracującym nad „śmiercionośnymi broniami autonomicznymi”.
 [Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie
/ screen YouTube Corridor. Robot bojowy
Dotychczas jeszcze żaden kraj nie pochwalił się, że ma roboty na wyposażeniu swoich sił zbrojnych, ale potrzebne technologie są dostępne. Wiadomo również, że wiele wojskowych ośrodków naukowych pracuje nad ich skonstruowaniem i oprogramowaniem. Głównie w Chinach, USA, Korei Południowej, Izraelu, Wielkiej Brytanii i Australii. W Rosji zapewne też. Profesor Stuart Russell z Uniwersytetu Berkeley przewiduje, że „zabójcze roboty” pojawią się na polu walki w ciągu najbliższych dwóch lat. Nie będą to roboty człekokształtne w stylu Terminatora, ale zapewne drony podobne do współczesnych tylko zaadaptowane do działań autonomicznych.

Zdaniem specjalistów drony są najłatwiejsze do przekonstruowania. Już obecnie są „w połowie drogi”. Ich dolot do celu może być z góry zaprogramowany, a kiedy znajdą się w zadanym rejonie przekazują obraz do prowadzącego człowieka, który dokonuje wyboru celu i wydaje komendę „ognia”. Po ewentualnej adaptacji sztuczna inteligencja autonomicznego drona będzie samodzielnie identyfikować cel na podstawie zgromadzonych w pamięci obrazów (zdjęć lub filmów video), algorytm nakieruje pokładowe uzbrojenie i da polecenie „zniszczyć”. Sztuczną inteligencję autonomicznego drona można też przeszkolić z różnych wariantów sytuacji bojowej i nauczyć, w której z nich człowiek wydaje komendę „ognia”. Później dron sam porównuje sytuację widzianą przez swoje kamery z zapamiętanymi wariantami i decyduje „zniszczyć”, kiedy algorytm uzna, że człowiek wydałby komendę „ognia”. Można też wprowadzić algorytm, który będzie otwierał ogień do każdej postaci w zasięgu kamer, która będzie trzymała coś przypominającego broń i nie będzie w mundurze własnych sił zbrojnych. W ciągu minionych kilku lat sztuczna inteligencja dokonała dużego skoku i jej umiejętności rozpoznawania twarzy, ruchów, detali uzbrojenia i odzieży są olbrzymie.  Autonomiczne drony mają przy tym dwie wielkie zalety: są tanie i nie potrzebują prowadzącego człowieka ani kanału łączności między człowiekiem a dronem. Jeśli same wybierają cel i moment otwarcia ognia, to można ich wysłać całą chmarę a nie tylko tyle, ilu posiada się operatorów. Jeśli nie ma kanału łączności, to przeciwnik nie może zakłócić komunikacji i sparaliżować atak.

Techniczne przewagi autonomicznych dronów równoważą etyczne mankamenty. Zwolennicy „robotów bojowych” twierdzą, że są one bardziej etyczne niż ludzie, gdyż nie męczą się, nie ulegają stresom, nie wpadają w złość, nie popełniają zbrodni wojennych i są rycerskie bowiem świadomie nie zabijają poddającego się nieprzyjaciela. Przeciwnicy uważają, że wypełniając co do joty polecenia oprogramowania roboty nie znają litości. Trudno też wyobrazić sobie, żeby nawet najlepsza sztuczna inteligencja bezbłędnie rozróżniała cywila z karabinem od cywila ze szczotką na kiju. Stąd znaczenie etycznych ram militarnego wykorzystywania sztucznej inteligencji. W dokumencie Pentagonu podkreślono, że to na ludziach ciąży odpowiedzialność za „odpowiednią ocenę i troskę” w podejmowaniu decyzji użycia wszelkiego rodzaju robotów bojowych. To ludzie, muszą odpowiedzialnie uczyć sztuczną inteligencję rozpoznawania obiektów do zniszczenia. To ludzie muszą zadbać, żeby decyzje podejmowane przez automatyzowane systemy były możliwe do prześledzenia i oceny a jeśli zajdzie potrzeba człowiek musi mieć możliwość przerwania operacji i dezaktywacji robota. Bez takich możliwości kontroli sztucznej inteligencji ludzie dobrowolnie oddadzą zbyt wielkie obszary życia społecznego w ręce technologii, której w pełni jeszcze nie rozumieją. Co więcej jeśli algorytmy robotów optymalizując możliwe rozwiązania natrafią na lukę lub błąd oprogramowania to działając schematycznie robot bojowy może niszczyć obiekty, które powinien zostawić nienaruszone i stanie się zagrożeniem a nie obrońcą.

Rafał Brzeski

 

POLECANE
Tajne laboratorium na terenie Niemiec? Niemcy zaniepokojeni tylko u nas
Tajne laboratorium na terenie Niemiec? Niemcy zaniepokojeni

W Weilerbach, w pobliżu amerykańskiej bazy wojskowej Ramstein, od 2023 roku budowany jest największy amerykański szpital wojskowy poza USA, którego zakończenie planowane jest na koniec 2027 roku. Składa się z 4 680 sal, 120 gabinetów zabiegowych i dziewięciu sal operacyjnych, a jego koszt wynosi ponad miliard euro, z czego Niemcy zapłacą 151 milionów euro za planowanie i nadzór budowlany. Niemcy przewidują, że w nowym szpitalu powstanie 2800 nowych miejsc pracy.

Jest decyzja Grecji ws. ekstradycji podejrzanego o brutalne zabójstwo 16-letniej Mai z Mławy z ostatniej chwili
Jest decyzja Grecji ws. ekstradycji podejrzanego o brutalne zabójstwo 16-letniej Mai z Mławy

Sąd odwoławczy w Salonikach w środę wydał zgodę na ekstradycję do Polski 17-letniego Bartłomieja G., który jest podejrzany o brutalne zabicie 23 kwietnia w Mławie 16-letniej Mai - poinformował grecki portal Kathimerini.

Polityk Koalicji 13 grudnia zakłócał debatę w Końskich Wiadomości
Polityk Koalicji 13 grudnia zakłócał debatę w Końskich

Polityk Koalicji 13 grudnia Witold Zembaczyński miał zakłócać debatę w Końskich organizowaną przez Telewizję Republika.

Co Trzaskowski obiecał Brukseli za plecami Polaków tylko u nas
Co Trzaskowski obiecał Brukseli za plecami Polaków

Kandydat Koalicji Obywatelskiej założył piękną maskę - w kampanii wyborczej stara się uchodzić za polityka umiarkowanego, racjonalnego, a nawet sceptycznego wobec Zielonego Ładu. Ostatnio w debacie zaprzeczył nawet, że „nie ma Europejskiego Zielonego Ładu”, co zostało uznane (nie dziwne) za kłamstwo przez Demagoga. A jaka jest ponura i ukrywana rzeczywistość?

Wyłączenia prądu w Krakowie. Jest komunikat Wiadomości
Wyłączenia prądu w Krakowie. Jest komunikat

Mieszkańcy Krakowa muszą przygotować się na planowane przerwy w dostawie prądu. Sprawdź, gdzie od 29 do 30 maja i od 3 do 5 czerwca 2025 r. nastąpią wyłączenia.

Marco Rubio: Cudzoziemcy odpowiedzialni za cenzurę wolności słowa nie wjadą do USA z ostatniej chwili
Marco Rubio: Cudzoziemcy odpowiedzialni za cenzurę wolności słowa nie wjadą do USA

Marco Rubio ogłosił nowe przepisy wizowe skierowane przeciwko "zagranicznym urzędnikom ograniczającym prawa Amerykanów". Wynika z nich, że urzędnicy, jak napisał sekretarz stanu, "współwinni cenzurowania wolności słowa" mają zakaz wjazdu do Stanów Zjednoczonych.

Rafał Trzaskowski nie przybył na debatę w Końskich. Jest reakcja Karola Nawrockiego Wiadomości
Rafał Trzaskowski nie przybył na debatę w Końskich. Jest reakcja Karola Nawrockiego

Rafał Trzaskowski nie przybył na debatę prezydencką do Końskich organizowanej przez m.in. Telewizję Republika. Na debacie pojawił się z kolei inny z kandydatów Karol Nawrocki.

Niepokojące informacje z granicy polsko-niemieckiej. Jest komunikat niemieckich służb Wiadomości
Niepokojące informacje z granicy polsko-niemieckiej. Jest komunikat niemieckich służb

Niemieckie służby podały, że doszło do zatrzymania kolejnej grupy nielegalnych imigrantów, którzy do Niemiec dostali się szlakiem białoruskim.

Mieszkańcy nie mogli wejść na sesję Rady Warszawy. Bąkiewicz: Buta, arogancja i policyjny kordon z ostatniej chwili
Mieszkańcy nie mogli wejść na sesję Rady Warszawy. Bąkiewicz: "Buta, arogancja i policyjny kordon"

Mieszkańcy Warszawy nie zostali wpuszczeni na sesję Rady Warszawy. - Ekipa Trzaskowskiego nie wpuściła mieszkańców [na sesję], od razu po jej rozpoczęciu złożyli wniosek o jej zerwanie - napisał na portalu X, poseł Sebastian Kaleta. 

Kreml: Zaproponowaliśmy Ukrainie przeprowadzenie drugiej rundy rozmów. Padła data Wiadomości
Kreml: Zaproponowaliśmy Ukrainie przeprowadzenie drugiej rundy rozmów. Padła data

Rosja zaproponowała Ukrainie drugą turę rozmów pokojowych 2 czerwca w Stambule. Kreml jest też gotowy do przedstawienia z warunkami porozumienia.

REKLAMA

[Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie

Autonomiczne środki walki są technologicznie łatwiejsze do skonstruowania niż samochody bez kierowcy i roboty bojowe, pojawią się na froncie szybciej niż to się wydaje - uważają generałowie z Pentagonu i dlatego przyjęli przed kilkoma dniami etyczne zasady wykorzystania sztucznej inteligencji w warunkach frontowych. Sto lat temu. w czasie I wojny światowej, blokadą nieprzyjacielskiego natarcia były rozbudowane linie okopów otoczone zasiekami i polami minowymi oraz ziemne i betonowe fortyfikacje. W II wojnie światowej rolę blokady szybkich ataków jednostek pancernych przejęły zamienione w twierdze miasta, które trzeba było zdobywać w żmudnych i krwawych walkach o każdy dom. Podobnie jest obecnie z tym, że osłoną obrońców miasta-blokady jest coraz częściej ludność cywilna. Śmierć cywilów to dla wojskowych „straty uboczne”, ale dla polityków to poważny problem zwłaszcza jeśli los ludności stanie się głównym tematem doniesień medialnych. Dlatego też eliminacja siły żywej nieprzyjaciela przy minimalnych stratach wśród ludności cywilnej, to jedno z głównych zadań stawianych specjalistom pracującym nad „śmiercionośnymi broniami autonomicznymi”.
 [Tylko u nas] Dr Rafał Brzeski: Sztuczna inteligencja. Roboty bojowe. Szansa i zagrożenie
/ screen YouTube Corridor. Robot bojowy
Dotychczas jeszcze żaden kraj nie pochwalił się, że ma roboty na wyposażeniu swoich sił zbrojnych, ale potrzebne technologie są dostępne. Wiadomo również, że wiele wojskowych ośrodków naukowych pracuje nad ich skonstruowaniem i oprogramowaniem. Głównie w Chinach, USA, Korei Południowej, Izraelu, Wielkiej Brytanii i Australii. W Rosji zapewne też. Profesor Stuart Russell z Uniwersytetu Berkeley przewiduje, że „zabójcze roboty” pojawią się na polu walki w ciągu najbliższych dwóch lat. Nie będą to roboty człekokształtne w stylu Terminatora, ale zapewne drony podobne do współczesnych tylko zaadaptowane do działań autonomicznych.

Zdaniem specjalistów drony są najłatwiejsze do przekonstruowania. Już obecnie są „w połowie drogi”. Ich dolot do celu może być z góry zaprogramowany, a kiedy znajdą się w zadanym rejonie przekazują obraz do prowadzącego człowieka, który dokonuje wyboru celu i wydaje komendę „ognia”. Po ewentualnej adaptacji sztuczna inteligencja autonomicznego drona będzie samodzielnie identyfikować cel na podstawie zgromadzonych w pamięci obrazów (zdjęć lub filmów video), algorytm nakieruje pokładowe uzbrojenie i da polecenie „zniszczyć”. Sztuczną inteligencję autonomicznego drona można też przeszkolić z różnych wariantów sytuacji bojowej i nauczyć, w której z nich człowiek wydaje komendę „ognia”. Później dron sam porównuje sytuację widzianą przez swoje kamery z zapamiętanymi wariantami i decyduje „zniszczyć”, kiedy algorytm uzna, że człowiek wydałby komendę „ognia”. Można też wprowadzić algorytm, który będzie otwierał ogień do każdej postaci w zasięgu kamer, która będzie trzymała coś przypominającego broń i nie będzie w mundurze własnych sił zbrojnych. W ciągu minionych kilku lat sztuczna inteligencja dokonała dużego skoku i jej umiejętności rozpoznawania twarzy, ruchów, detali uzbrojenia i odzieży są olbrzymie.  Autonomiczne drony mają przy tym dwie wielkie zalety: są tanie i nie potrzebują prowadzącego człowieka ani kanału łączności między człowiekiem a dronem. Jeśli same wybierają cel i moment otwarcia ognia, to można ich wysłać całą chmarę a nie tylko tyle, ilu posiada się operatorów. Jeśli nie ma kanału łączności, to przeciwnik nie może zakłócić komunikacji i sparaliżować atak.

Techniczne przewagi autonomicznych dronów równoważą etyczne mankamenty. Zwolennicy „robotów bojowych” twierdzą, że są one bardziej etyczne niż ludzie, gdyż nie męczą się, nie ulegają stresom, nie wpadają w złość, nie popełniają zbrodni wojennych i są rycerskie bowiem świadomie nie zabijają poddającego się nieprzyjaciela. Przeciwnicy uważają, że wypełniając co do joty polecenia oprogramowania roboty nie znają litości. Trudno też wyobrazić sobie, żeby nawet najlepsza sztuczna inteligencja bezbłędnie rozróżniała cywila z karabinem od cywila ze szczotką na kiju. Stąd znaczenie etycznych ram militarnego wykorzystywania sztucznej inteligencji. W dokumencie Pentagonu podkreślono, że to na ludziach ciąży odpowiedzialność za „odpowiednią ocenę i troskę” w podejmowaniu decyzji użycia wszelkiego rodzaju robotów bojowych. To ludzie, muszą odpowiedzialnie uczyć sztuczną inteligencję rozpoznawania obiektów do zniszczenia. To ludzie muszą zadbać, żeby decyzje podejmowane przez automatyzowane systemy były możliwe do prześledzenia i oceny a jeśli zajdzie potrzeba człowiek musi mieć możliwość przerwania operacji i dezaktywacji robota. Bez takich możliwości kontroli sztucznej inteligencji ludzie dobrowolnie oddadzą zbyt wielkie obszary życia społecznego w ręce technologii, której w pełni jeszcze nie rozumieją. Co więcej jeśli algorytmy robotów optymalizując możliwe rozwiązania natrafią na lukę lub błąd oprogramowania to działając schematycznie robot bojowy może niszczyć obiekty, które powinien zostawić nienaruszone i stanie się zagrożeniem a nie obrońcą.

Rafał Brzeski


 

Polecane
Emerytury
Stażowe