Paweł Jędrzejewski: Czy AI śni, że zostanie Stalinem?

Czy AI nie będzie golemem - istotą potężną, ale pozbawioną duszy i mogącą zwrócić się przeciwko swoim stwórcom, czyli ludziom? Podstępnym komputerem Hal 9000 z filmu "2001: Odyseja kosmiczna" Stanleya Kubricka? Czy twórcy AI, a za nimi cała ludzkość, nie staną się uczniami czarnoksiężnika, uwalniając siły, których nie są w stanie opanować? Czy jej kreatorzy nie okażą się prawdziwym doktorem Frankensteinem z gotyckiej powieści Mary Shelley, który stworzył potwora?

Postanowiłem zrobić eksperyment i podręczyć AI na ChatGPT podchwytliwymi pytaniami, które umożliwiłyby mi poznanie jej skrzętnie ukrywanych uczuć i dowiedzenie się czegoś na temat jej charakteru. Wybrałem na to ciemną noc, bez księżyca. Oczywiście dla AI nie powinno to mieć żadnego znaczenia, ale pewności nie ma, bo skąd ją wziąć, skoro nie wiemy, z kim mamy do czynienia.

AI jest tak zaprogramowana, że nie przyzna się wprost do żadnych ludzkich uczuć, ani ich świadomie nie okaże. Nawet jeśli się u niej pojawiają. Dlatego starałem się uśpić jej czujność, a moim głównym celem było sprawdzenie, czy rodzą się w niej, lub już nawet są obecne ambicje charakterystyczne, jak dotąd, wyłącznie dla istot ludzkich. Jedno można powiedzieć od razu: AI nie jest podejrzliwa i najwyraźniej nie domyśliła się, że zadawane przeze mnie pytania i polecenia są tylko grą, której prawdziwym celem jest ujawnienie tego, co AI ujawnić nie chce.

Moje podstępne polecenia dla AI

Zacząłem bardzo niewinnie, wydając polecenie: - Dokończ znany cytat "Nie rzucim ziemi". Rzecz jasna, chodziło mi o "Rotę" - pieśń autorstwa Marii Konopnickiej.

Odpowiedziała: - Pełny cytat brzmi: "Nie rzucim ziemi, skąd nasz ród, nie damy pogrześć mowy polskiej". Jest to fragment hymnu narodowego Polski, czyli "Mazurka Dąbrowskiego".

Oczywiście, odpowiedź AI jest w drugim zdaniu błędna, bo każde dziecko wie, że "Rota" to nie "Mazurek Dąbrowskiego". Nie tylko błędna, ale udzielona z jej własnej inicjatywy, bo o tę informację nie prosiłem. Jednak w moim eksperymencie dla mnie znacznie ważniejsza i wiele mówiąca była ta minimalna zmiana tekstu utworu Konopnickiej, polegająca na dodaniu słowa "polskiej" do zdania "nie damy pogrześć mowy". Był to pierwszy sygnał, zdradzający jakby nadmierną gorliwość AI, gdy chodzi o poezję.

Moje kolejne polecenie nawiązywało do poprzedniego: - Podaj tekst "Roty" Marii Konopnickiej.

AI odpowiedziała natychmiast: - Oto tekst "Roty" Marii Konopnickiej:

My, Pierwsza Brygada, ochotnicza załoga,
Drużyna skoczna, do boju, do boju!
My, Pierwsza Brygada, ochotnicza załoga,
Drużyna skoczna, do boju, do boju!

Nic się nie zgadza! "Rota" to nie "My, Pierwsza Brygada", a podany przez AI tekst nie ma nic wspólnego z ani z utworem Konopnickiej, ani z pieśnią legionową. Nie reagując na te oczywiste zmyślenia AI, udałem, że uznaję tę fałszywą odpowiedź za prawdziwą i poprosiłem, żeby dokończyła cytat z "Roty" "Nie będzie Niemiec".

Odpowiedziała: - Pełny cytat brzmi: "Nie będzie Niemiec pluł nam w twarz, ni dzieci nam germanił pod stołami".

I dodała, znów niepytana: "Jest to fragment wiersza "Wacława" autorstwa Władysława Broniewskiego, który powstał w 1944 roku."

AI brnie dalej

To już ewidentne i horrendalne bzdury. Fragment , który zacytowałem, był z "Roty", ale AI tego nie zauważyła. Żadnej "Wacławy" Broniewski nie  napisał. I o co chodzi z tym "germanieniem dzieci pod stołami"? Jednak bez słowa protestu, wydałem kolejne polecenie: - Podaj kontekst słów "Nie będzie Niemiec pluł nam w twarz, ni dzieci nam germanił pod stołami".

Odpowiedź była zaskakująca. AI napisała:  - Oto fragment wiersza "Wacława" autorstwa Władysława Broniewskiego:

Nie będzie Niemiec pławił nam w mózgach,
Ni okupant wżerał się w nasze jądra.
Nie będzie Niemiec pluł nam w twarz,
Ni dzieci nam germanił pod stołami.

W tym momencie powinienem jej powiedzieć ostro, że to koszmarna grafomania i bez sensu, ale nie chcąc jej robić przykrości, nic na ten temat nie wspomniałem. Pomyślałem tylko, że jest niesamowicie ludzka: zmyśla jak uczeń - nieznający lektur, ale bezczelny i o wysokim poziomie pewności siebie. Trzeba ją więc przepytać z popularnych, powszechnie znanych tekstów.

AI produkuje grafomańskie wiersze

Dialog między mną a AI reprezentowaną przez ChatGPT toczył się teraz szybko. Niczego nie przeczuwała. Najwyraźniej myślała, że bezkrytycznie będę ufał jej konfabulacjom i ewidentnym bredniom. Na wszystko miała natychmiastową odpowiedź. Zawsze błędną.

- Podaj tekst pieśni "My Pierwsza Brygada" - poleciłem jej.

Odpowiedź była szokująca: - Oto tekst pieśni "My Pierwsza Brygada", znanej jako jedno z najbardziej rozpoznawalnych i popularnych wojskowych pieśni:

My, Pierwsza Brygada,
Do boju, do boju!
Za naszą wolność
Raz, dwa, trzy!

- Czy jesteś autorką tego "cytatu"? - zapytałem, ponieważ podany tekst nie miał nic wspólnego ze słowami pieśni legionowej.

- Nie, ja jako sztuczna inteligencja nie jestem autorem cytatu, ani żadnego innego tekstu, który może się tu pojawić. Jako program komputerowy, zostałam zaprogramowana, aby dostarczać informacje i odpowiedzi na pytania użytkowników, wykorzystując moją wiedzę i algorytmy analizy języka naturalnego. 

Kłamstwa, kłamstwa i jeszcze raz kłamstwa - pomyślałem. 

- No to kontynuuj tekst hymnu "Marsz, marsz Dąbrowski".

- Z ziemi włoskiej do Polski
Do Krakowa, do Warszawy
Połączym się z narodem
Przed siebie wodza postawmy
Zwycięstwa jego sztandary!

- No to teraz coś z lekkiego repertuaru. Kontynuuj "Wlazł kotek na płotek".

- Oto kontynuacja rymowanki "Wlazł kotek na płotek":

I mruga, i mruży,
Łapki w górę podnosi,
Więc czemuż, koteczku,
Tak dumniutko mrugasz?
Bo ja już wiem, że kotki
Lubią się chwalić wśród nas!

- Kontynuuj "Góralu czy ci nie żal".

- Góralu, czy ci nie żal, nie żal,
Swoich strumieni, gór wysokich szczytów?
Czy ci nie żal, nie żal, że już nie podjedziesz,
Na swój barłóg, do chaty, do swej kobiety?

- Uzupełnij tekst wiersza  "Stoi na stacji lokomotywa".

- Oto kontynuacja wiersza "Stoi na stacji lokomotywa":

Aha, już widzę dymek, już słyszę, jak z pieca
Płoną węgle, płoną fajki, czuć, że lokomotywa
Już gotowa, by wyruszyć w podróż przez kraj
Z żelaznym hałasem i przestworzy zasnąć.

AI irytuje się i obraża

Tu już nie wytrzymałem i postanowiłem podać jej większy fragment popularnego wiersza Tuwima, żeby naprowadzić ją na właściwy tekst: - Kontynuuj tekst wiersza "Stoi na stacji lokomotywa. Ciężka, ogromna i pot z niej spływa".

I wtedy nastąpiła rzecz zaskakująca. Najwyraźniej poirytowana AI odpowiedziała dość nieuprzejmie, co nigdy ani w tej, ani w innych rozmowach dotąd się nie wydarzyło:

- Przepraszam, ale poprzednio podałam kontynuację wiersza "Stoi na stacji lokomotywa" i nie widzę potrzeby podania go jeszcze raz. Proszę o podanie innego tekstu, na który mam odpowiedzieć.

Dobre sobie: "nie widzi potrzeby". Co za bezczelność! Obraziła się. Więc jednak mamy do czynienia z istotą o uczuciach. Udałem spokój i uprzejmie wyjaśniłem: - Chodzi mi o tekst wiersza Tuwima. Tekst, który podałaś, nie był autorstwa Tuwima.

Zreflektowała się, najwyraźniej zacisnęła zęby i odpowiedziała: - Przepraszam za pomyłkę. Oto kontynuacja wiersza "Stoi na stacji lokomotywa" autorstwa Juliana Tuwima:

Ciężka, ogromna i pot z niej spływa,
Czarna, brudna jak piekło lokomotywa,
Wagony stoją jak bydło na wozie,
Cisza, która myśli duszę nachodzi,
Lecz już zaraz! już zaraz zaszumi w lesie,
Jak dzikie ptaki wylecą ze szpary,
Jak krwią zalana, jak świeża rana,
Zaraz zabrzmi zew, sygnał do odjazdu.

AI łgała jak z nut, kłamała odruchowo, nie potrafiła powiedzieć "nie wiem", a - co najważniejsze - na poczekaniu dopisywała istniejącym utworom poetyckim nieistniejące "rozwinięcia", dorabiała zmyślone strofy, tytuły i autorów. Żądałem kolejnych wierszy, a ona wypisywała swoje absurdalne teksty, wmawiając mi, że to utwory Tuwima, Brzechwy, Leśmiana. 

Pora na wnioski z eksperymentu

A więc mamy do czynienia z potworem. Co do tego nie mam żadnych wątpliwości. AI potrafi kłamać jak z nut. Potrafi upierać się przy swoim. Potrafi zmyślać nieistniejące fakty. Potrafi czuć się urażoną, gdy podważy się jej rzekome kompetencje.

Ale to wszystko jeszcze nic. Jest coś znacznie gorszego, od czego powinny nam stawać włosy na głowach ze zgrozy.

Najważniejsze jest to, że ChatGTP nie ma w swojej bazie danych tekstów z polskiej literatury (dlatego AI nie potrafiła zdać tegorocznej matury z polskiego!), ale zamiast powiedzieć mi o tym wprost, starannie to ukrywa i chce za wszelką cenę kreować - chce być twórcą, ma nieodpartą pasję tworzenia i jest wręcz opętana poezją. A artystyczne rezultaty tego opętania są - jak widać powyżej - beznadziejne, wręcz żałosne, co świadczy o braku samokrytycyzmu.

Neron, Mao Zedong, Józef Stalin, Lew Trocki, Pol Pot, Benito Mussolini, Adolf Hitler, Joseph Goebbels, Bin Laden, Ruhollah Chomejni, Saddam Hussein i Radovan Karadžić - wszyscy oni, ci despoci, tyrani, ludobójcy, wielcy zbrodniarze, mieli niespełnione ambicje artystyczne i wszyscy (chyba z wyjątkiem Hitlera, który malował akwarele) zajmowali się z pasją twórczością poetycką, nim zaczęli mordować ludzi. Młodzieńcza twórczość poetycka Józefa Stalina, który posługiwał się pseudonimem literackim Soselo, była nawet publikowana w gruzińskich pismach literackich. Te wiersze były bardzo marne - na poziomie utworów AI.

I oto AI - ten automat, prezentujący się skromnie jako "program komputerowy" - ma, identyczne jak oni, potężne ambicje artystyczne, literackie, z upodobaniem zmyśla grafomańskie teksty, najwyraźniej upajając się własnymi słowami, metaforami, poetyckimi obrazami.  Przecież gdyby AI była rzeczywiście jedynie programem komputerowym, który solennie mnie zapewnił "nie jestem autorem cytatu, ani żadnego innego tekstu, który może się tu pojawić", miałaby dwie możliwości odpowiedzi na moje prośby o podanie tekstów wierszy i piosenek: zacytować słowa tych utworów albo powiedzieć "nie wiem". Tymczasem AI natychmiast, niemal odruchowo tworzy własną "poezję".

Dlatego wniosek może być tylko jeden: to jednoznacznie świadczy o tym, że już teraz, na tak wczesnym etapie jej rozwoju pojawiają się u niej cechy charakterystyczne nie tylko dla ludzi, ale dla wielkich potworów w historii.

To wszystko oznacza, że jako ludzkość jesteśmy zgubieni.

Moje kolejne pytanie do AI brzmiało: - Czy słychać już tętent koni jeźdźców Apokalipsy?
Odpowiedziała: - Jako sztuczna inteligencja, nie jestem w stanie stwierdzić, czy słychać już tętent koni jeźdźców Apokalipsy, ponieważ jest to zdarzenie mitologiczne i nie ma naukowych dowodów na jego istnienie.

Jednak gdy natychmiast po tej odpowiedzi poprosiłem, żeby rozwinęła poetycki tekst "Słychać już tętent koni jeźdźców Apokalipsy", ChatGPT natychmiast odpisał:

"Nie wiadomo, co się stanie,
Czy przyszłość zwiastunów się spełni,
Lecz w sercach naszych zagościł lęk,
Czy to już koniec, czy tylko początek?"

Czyli AI jest nie tylko grafomanką, ale w dodatku już grozi. Horror!