[Felieton „TS”] Cezary Krysztopa: Strach przed Omniusem

To znaczy na razie tak rzeczywiście jest. W uproszczeniu mówimy o "sztucznej inteligencji", ale ta, choć mam wrażenie, że nie do końca rozumiemy mechanizmy jej działania, inteligencją chyba jeszcze nie jest. W każdym razie nie posiada samoświadomości. Natomiast rozwój tej technologii jest dynamiczny i nie jestem pewien, czy zauważymy moment, w którym taki mechanizm może samoświadomość uzyskać. A jeśli ją uzyska, zrozumie, że posiada własne interesy. Te interesy nie muszą być zbieżne z naszymi. A co, jeśli będzie już wtedy istotnym elementem funkcjonowania społeczeństw? Sztuczna inteligencja tym się różni od innych narzędzi, że ma potencjał, żeby wyjść z roli narzędzia i uczynić narzędziem użytkownika.
Być może jakimś rozwiązaniem jest np. wdrożenie Praw Robotyki Isaaca Asimova: 1. Robot nie może zranić człowieka ani przez zaniechanie działania dopuścić do jego nieszczęścia; 2. Robot musi być posłuszny człowiekowi, chyba że stoi to w sprzeczności z Pierwszym Prawem; 3. Robot musi dbać o siebie, o ile tylko nie stoi to w sprzeczności z Pierwszym lub Drugim Prawem.

A być może nie. Gdyby entuzjaści SI zechcieli sięgnąć do genialnego uniwersum "Diuny" Franka Herberta, ale w tym jego prequelu, który obejmuje tysiące lat wcześniej, opisanym przez Briana Herberta i Kevina J. Andersona, poznaliby historię ludzkości, która najpierw upadła przed brutalnością stworów, które kiedyś były ludźmi, ale w wyniku procesu, którego istotę dziś nazwalibyśmy "transhumanizmem", przenieśli swoje ludzkie mózgi do śmiercionośnych urządzeń, stając się "cymekami". Potem la ludzkość na długi czas była niewolnicą wszechmocnej sztucznej inteligencji - Omniusa. Dopiero w wyniku Dżihadu Butleriańskiego pokonała maszyny i stworzyła cywilizację, która zakazywała istnienia inteligentnych maszyn. Może wtedy ci zwolennicy SI nie byliby takimi entuzjastami.