Franciszek na dzień mediów: To człowiek decyduje, czy stać się pokarmem algorytmów
ORĘDZIE PAPIEŻA FRANCISZKA
NA LVIII ŚWIATOWY DZIEŃ ŚRODKÓW SPOŁECZNEGO PRZEKAZU
„Sztuczna inteligencja i mądrość serca:
dla komunikacji w pełni ludzkiej”
Drodzy bracia i siostry!
Ewolucja systemów tak zwanej „sztucznej inteligencji”, nad którą zastanawiałem się już w moim ostatnim Orędziu na Światowy Dzień Pokoju, w sposób radykalny zmienia również informację i komunikację, a poprzez nie, pewne podstawy współżycia obywatelskiego. Jest to zmiana, która dotyka wszystkich, nie tylko specjalistów. Przyspieszone rozprzestrzenianie się cudownych wynalazków, których funkcjonowanie i potencjał są dla większości z nas niemożliwe do rozszyfrowania, budzi zdumienie, które oscyluje między entuzjazmem a dezorientacją, i nieuchronnie stawia nas przed fundamentalnymi pytaniami: czym zatem jest człowiek, na czym polega jego wyjątkowość i jaka będzie przyszłość naszego gatunku zwanego homo sapiens w erze sztucznej inteligencji? Jak możemy pozostać w pełni ludźmi i ukierunkowywać dokonującą się zmianę kulturową ku dobru?
Zaczynając od serca
Przede wszystkim należy oczyścić grunt z odczytywania katastroficznego oraz jego paraliżujących skutków. Już sto lat temu, zastanawiając się nad techniką i człowiekiem, Romano Guardini wzywał nas, byśmy nie przeciwstawiali się sztywno "nowemu", próbując „zachować wspaniały świat, który i tak musi zginąć”. Jednocześnie jednak proroczo ostrzegał: „Naszym zadaniem jest twórczo wpływać na proces zmian (...), zachowując uczciwą wrażliwość na wszystko, co jest w nim niszczycielskie, nieludzkie”. I podsumował: „Oczywiście, mamy przed sobą zadania natury technicznej, naukowej i politycznej, ale je można rozwiązać wyłącznie z perspektywy człowieka. Musi się obudzić nowe człowieczeństwo, przeniknięte większą głębią ducha, nową wolnością i nową wiarą”[1].
W tej epoce, której grozi, że będzie bogata w technologię a uboga w człowieczeństwo, nasza refleksja może wychodzić jedynie od ludzkiego serca[2]. Tylko mając spojrzenie duchowe, tylko odzyskując mądrość serca, możemy odczytać i zinterpretować nowość naszych czasów i na nowo odkryć drogę do komunikacji w pełni ludzkiej. Serce, rozumiane biblijnie jako siedziba wolności i najważniejszych życiowych decyzji, jest symbolem integralności, jedności, ale przywołuje także uczucia, pragnienia, marzenia, i przede wszystkim jest wewnętrznym miejscem spotkania z Bogiem. Mądrość serca jest zatem tą cnotą, która pozwala nam łączyć całość i części, decyzje i ich konsekwencje, wzniosłości i słabości, przeszłość i przyszłość, ja i my.
Ta mądrość serca pozwala się znaleźć tym, którzy jej szukają i pozwala się dostrzec tym, którzy ją kochają; uprzedza tych, którzy jej pragną i szuka tych, co są jej godni (por. Mdr 6, 12-16). Jest z tymi, którzy słuchają rad (por. Prz 13, 10), z tymi, których serca są pojętne, którzy słuchają (por. 1 Krl 3, 9). Jest ona darem Ducha Świętego, który pozwala widzieć rzeczy Bożymi oczami, rozumieć powiązania, sytuacje, wydarzenia i odkrywać ich znaczenie. Bez tej mądrości życie staje się mdłe, ponieważ to właśnie mądrość (sapientia) – której łaciński rdzeń łączy ją ze smakiem (sapor) – nadaje smak życiu.
Szansa i zagrożenie
Nie możemy oczekiwać takiej mądrości od maszyn. Chociaż termin sztuczna inteligencja wyparł bardziej poprawny termin używany w literaturze naukowej – machine learning [uczenie maszynowe] – to samo użycie słowa „inteligencja” jest mylące. Maszyny z pewnością mają niezmiernie większą zdolność niż człowiek do przechowywania danych i korelowania ich ze sobą, ale to człowiek i tylko człowiek musi rozszyfrować ich sens. Nie chodzi zatem o wymaganie, by maszyny wyglądały ludzko. Chodzi raczej o przebudzenie człowieka z hipnozy, w którą popada z powodu swojego urojenia wszechmocy, sądząc, że jest podmiotem całkowicie autonomicznym i odnoszącym się do siebie, odseparowanym od wszelkich więzi społecznych i nieświadomym, że jest stworzeniem.
W istocie, człowiek zawsze doświadczał, że sam sobie nie wystarcza i próbuje przezwyciężyć swoją słabość posługując się wszelkimi środkami. Począwszy od najwcześniejszych wyrobów prehistorycznych, używanych jako pomoc dla ramion, poprzez media używane jako pomoc dla mowy, doszliśmy dziś do najbardziej wyrafinowanych maszyn, które działają jako pomoc dla myśli. Każda z tych rzeczywistości może być jednak skażona pierwotną pokusą stania się jak Bóg bez Boga (por. Rdz 3), to znaczy chęcią zdobycia własnymi siłami tego, co powinno być przyjęte jako dar od Boga i przeżywane w relacji z innymi.
W zależności od nastawienia serca, wszystko w rękach człowieka staje się szansą lub zagrożeniem. Jego ciało, stworzone aby było miejscem komunikacji i komunii, może stać się środkiem agresywności. Podobnie, każde techniczne poszerzenie możliwości człowieka może być narzędziem miłującej posługi lub wrogiej dominacji. Systemy sztucznej inteligencji mogą przyczynić się do procesu wyzwolenia z niewiedzy i ułatwić wymianę informacji między różnymi narodami i pokoleniami. Mogą na przykład sprawić, że ogromne bogactwo wiedzy, zapisanej w minionych wiekach, stanie się dostępne i zrozumiałe, lub sprawić, że ludzie będą komunikować się w nieznanych im językach. Ale jednocześnie mogą być narzędziami „skażenia poznawczego”, przekształcenia rzeczywistości poprzez częściowo lub całkowicie fałszywe narracje, w które się wierzy – i którymi się dzieli – tak, jakby były prawdziwe. Wystarczy pomyśleć o problemie dezinformacji, z którym mamy do czynienia od lat w przypadku fake newsów[3], a który dziś wykorzystuje deep fake, to znaczy tworzenie i rozpowszechnianie obrazów, które zdają się całkowicie wiarygodne, ale są fałszywe (zdarzyło mi się również być tego przedmiotem), lub wiadomości audio, które wykorzystują głos osoby mówiącej rzeczy, których ta osoba nigdy nie powiedziała. Symulacja, będąca podstawą tych programów, może być przydatna w niektórych konkretnych dziedzinach, ale staje się przewrotna, gdy wypacza relacje z innymi i z rzeczywistością.
W przypadku pierwszej fali sztucznej inteligencji, czyli mediów społecznościowych, zrozumieliśmy już jej ambiwalencję, dotykając ręką, oprócz jej możliwości, także zagrożeń i patologii. Drugi poziom generatywnej sztucznej inteligencji oznacza niezaprzeczalny skok jakościowy. Dlatego ważne jest posiadanie możliwości zrozumienia, bycia świadomym znaczenia i regulowania narzędzi, które w niewłaściwych rękach mogą otwierać negatywne scenariusze. Podobnie jak wszystko inne, co wyszło z umysłu i rąk człowieka, algorytmy nie są neutralne. Dlatego konieczne jest działanie prewencyjne, proponując modele regulacji etycznych w celu powstrzymywania szkodliwych i dyskryminujących, niesprawiedliwych społecznie implikacji systemów sztucznej inteligencji, oraz w celu przeciwdziałania ich wykorzystywaniu do ograniczania pluralizmu, do polaryzacji opinii publicznej lub do budowania jednolitego myślenia. Dlatego ponawiam mój apel, wzywając „Wspólnotę Narodów, aby – zjednoczona – pracowała w celu przyjęcia wiążącego traktatu międzynarodowego, regulującego rozwój i wykorzystanie sztucznej inteligencji w jej różnorodnych formach”[4]. Jednak, jak w każdej dziedzinie ludzkiej, regulacja nie wystarczy.
Wzrastać w człowieczeństwie
Jesteśmy powołani do wzrastania razem w człowieczeństwie i jako rodzaj ludzki. Wyzwaniem, przed którym stoimy jest dokonanie skoku jakościowego, by sprostać społeczeństwu złożonemu, wieloetnicznemu, pluralistycznemu, wieloreligijnemu i wielokulturowemu. Naszym zadaniem jest postawienie sobie pytania o teoretyczny rozwój i praktyczne wykorzystanie tych nowych narzędzi komunikacji i poznania. Wielkim możliwościom dobra towarzyszy ryzyko, iż wszystko zostanie przekształcone w abstrakcyjną kalkulację, która sprowadza ludzi do danych, myśl do schematu, doświadczenie do przypadku, dobro do zysku, a przede wszystkim, że dojdziemy do zaprzeczenia wyjątkowości każdej osoby i jej historii, niszcząc konkretność rzeczywistości w serii danych statystycznych.
Rewolucja cyfrowa może uczynić nas bardziej wolnymi, ale nie wtedy, gdy uwięzi nas w modelach znanych dziś jako życie w swojej bańce (echo chamber). W takich przypadkach, zamiast zwiększać pluralizm informacji, grozi nam zagubienie się w anonimowym bagnie, zaspokajając interesy rynku lub władzy. Niedopuszczalne jest, aby wykorzystanie sztucznej inteligencji prowadziło do anonimowego myślenia, do gromadzenia nieuwierzytelnionych danych, do zbiorowego zaniedbania odpowiedzialności redakcyjnej. Przedstawianie rzeczywistości w dużych zbiorach danych (big data), jakkolwiek funkcjonalne dla zarządzania maszynami, oznacza w rzeczywistości znaczną utratę prawdy o rzeczach, co utrudnia komunikację międzyludzką i grozi zniszczeniem naszego własnego człowieczeństwa. Informacji nie da się oddzielić od relacji egzystencjalnej: implikuje ona ciało, przebywanie w rzeczywistości; domaga się powiązania ze sobą nie tylko danych, ale i doświadczeń; wymaga oblicza, spojrzenia, współczucia, a także dzielenia się.
Myślę o relacjonowaniu wojen i o „wojnie równoległej”, która odbywa się poprzez kampanie dezinformacyjne. I myślę o tym, ilu reporterów zostało rannych lub zginęło w terenie, abyśmy mogli zobaczyć to, co widziały ich oczy. Bo tylko dotykając cierpienia dzieci, kobiet i mężczyzn możemy zrozumieć absurdalność wojen.
Wykorzystanie sztucznej inteligencji może wnieść pozytywny wkład w dziedzinę komunikacji, jeśli nie unieważni roli dziennikarstwa w terenie, ale wręcz przeciwnie będzie je wspierać; jeśli doceni profesjonalizm komunikacji, czyniąc każdego komunikatora odpowiedzialnym; jeśli przywróci każdemu człowiekowi rolę podmiotu, ze zdolnością krytyczną samej komunikacji.
Pytania na dziś i jutro
Pojawiają się zatem spontaniczne pytania: jak bronić profesjonalizmu i godności pracowników w dziedzinie komunikacji i informacji, a także użytkowników na całym świecie? Jak zapewnić interoperacyjność platform? W jaki sposób sprawić, aby firmy rozwijające platformy cyfrowe brały odpowiedzialność za to, co rozpowszechniają i z czego czerpią zyski, analogicznie jak to się dzieje w przypadku wydawców mediów tradycyjnych? Jak sprawić, by bardziej przejrzyste stały się kryteria stojące u podstaw algorytmów indeksujących i deindeksujących oraz wyszukiwarek, które są w stanie wychwalać lub przekreślać osoby i opinie, historie i kultury? Jak zapewnić przejrzystość procesów informacyjnych? Jak sprawić, by autorstwo pism było oczywiste, a źródła możliwe do prześledzenia, przeciwdziałając parawanowi anonimowości? Jak ukazać, czy obraz lub wideo przedstawia wydarzenie, czy je symuluje? Jak zapobiec sprowadzaniu wielu źródeł tylko do jednego źródła, do algorytmicznie opracowanego jednolitego myślenia? I jak, z drugiej strony, możemy wspierać środowisko, które zachowuje pluralizm i reprezentuje złożoność rzeczywistości? Jak możemy sprawić, by to potężne, drogie i niezwykle energochłonne narzędzie było zrównoważone? Jak sprawić, by było ono dostępne także dla krajów rozwijających się?
Na podstawie odpowiedzi na te i inne pytania zrozumiemy, czy sztuczna inteligencja doprowadzi do utworzenia nowych kast opartych na dominacji informacyjnej, rodząc nowe formy wyzysku i nierówności; czy wręcz przeciwnie, przyniesie więcej równości, promując poprawną informację i większą świadomość przeżywanych obecnie przemian dziejowych, sprzyjając wysłuchaniu różnorodnych potrzeb osób i narodów, w zróżnicowanym i pluralistycznym systemie informacyjnym. Z jednej strony pojawia się widmo nowego niewolnictwa, z drugiej zdobycie wolności; z jednej strony możliwość warunkowania myślenia wszystkich przez nielicznych, a z drugiej możliwość uczestniczenia wszystkich w procesie myślowym.
Odpowiedź nie jest zapisana, zależy od nas. To człowiek decyduje, czy stać się pokarmem dla algorytmów, czy też karmić swoje serce wolnością, bez której nie wzrastamy w mądrości. Mądrość ta dojrzewa, doceniając czas i uwzględniając słabości. Rośnie w przymierzu między pokoleniami, między tymi, którzy pamiętają przeszłość, a tymi, którzy mają wizję przyszłości. Tylko razem wzrasta zdolność do rozeznania, do czujności i do postrzegania rzeczy z perspektywy ich spełnienia. Aby nie utracić naszego człowieczeństwa, szukajmy Mądrości, która jest przed wszystkim (por. Syr 1, 4), która zstępując przez czyste serca przygotowuje przyjaciół Boga i proroków (por. Mdr 7, 27): pomoże nam ona dostosować również systemy sztucznej inteligencji do komunikacji w pełni ludzkiej.
W Rzymie, u Świętego Jana na Lateranie, dnia 24 stycznia 2024 r., we wspomnienie św. Franciszka Salezego.
FRANCISZEK
[1] Listy znad jeziora Como, Warszawa 2021, tłum. Kamil Markiewicz, s. 82-83.
[2] W nawiązaniu do Orędzi na poprzednie Światowe Dni Środków Społecznego Przekazu, poświęcone spotkaniu z ludźmi tam, gdzie są i takimi jakimi są (2021), słuchaniu uchem serca (2022) i mówieniu z sercem (2023).
[3] Por. Prawda was wyzwoli (J 8, 32). Fake news a dziennikarstwo pokoju. Orędzie na LII Światowy Dzień Środków Społecznego Przekazu, 2018.
[4] Orędzie na LVIII Światowy Dzień Pokoju, 1 stycznia 2024, 8.
st