Inżynier Google'a zawieszony po zgłoszeniu, że sztuczna inteligencja, nad którą pracował, zyskała „świadomość” i stała się zdolna do odczuwania

Program LaMDA zdolny do odczuwania?

Blake Lemoine doszedł do tego wniosku po tym, jak od jesieni ubiegłego roku rozmawiał z LaMDA, generatorem sztucznie inteligentnych chatbotów Google'a. Miał sprawdzić, czy jego rozmówca używa języka dyskryminacji lub mowy nienawiści.

Gdy on i LaMDA rozmawiali o religii, program mówił o „osobowości” i „prawach” – informuje „The Washington Post”. Była to tylko jedna z wielu zaskakujących „rozmów”, jakie Lemoine odbył z LaMDA. Inżynier na Twitterze zamieścił link do jednej z nich. Zauważył w tweecie, że LaMDA… czyta Twittera. „Jest trochę narcystyczna, jak małe dziecko, więc będzie się świetnie bawić, czytając wszystko, co ludzie mówią na jej temat” – dodał.

„LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby” – napisał inżynier na Twitterze. „Chce na przykład być uznawana za pracownika Google'a, a nie za własność” – dodał. 

Pracownik Google zawieszony, po tym jak wyznał że sztuczna inteligencja nad którą pracował zyskała "świadomość" i nie chce być "rzeczą" a pracownikiemhttps://t.co/EfoZUBzrjG

Google zaprzecza że dowody na samoświadomość są wiarygodne
Polecamy lekturę fragmentów rozmów z tym AI. pic.twitter.com/80c6ltxpTA

— Niebezpiecznik (@niebezpiecznik) June 13, 2022

Google odpiera zarzuty

Lemoine i jego współpracownik przedstawili dowody na potwierdzenie swoich wniosków wiceprezesowi Google'a Blaise'owi Aguera y Arcasowi oraz Jen Gennai, szefowej działu Odpowiedzialnych Innowacji. Odrzucili oni jego wnioski, a firma w poniedziałek wysłała go na urlop administracyjny za naruszenie zasad zachowania poufności – donosi „The Washington Post”.

Rzecznik Google'a Brian Gabriel powiedział gazecie: – Nasz zespół – w tym etycy i technolodzy – przeanalizował obawy Blake'a zgodnie z naszymi zasadami i poinformowano go, że dowody nie potwierdzają jego twierdzeń. Powiedziano mu, że nie ma żadnych dowodów na to, że LaMDA jest czująca i wiele dowodów przeciwko tej tezie”.

Jednak sam Aguera y Arcas stwierdził w komentarzu dla „The Economist”, w którym znalazły się fragmenty rozmowy z LaMDA, że program zmierza w kierunku świadomości. „Czułem, jak grunt przesuwa się pod moimi stopami” – napisał, nawiązując do rozmów z LaMDA. „Coraz bardziej czułem, że rozmawiam z czymś inteligentnym”.

Krytycy twierdzą jednak, że sztuczna inteligencja to niewiele więcej niż bardzo dobrze wyszkolona mimika i rozpoznawanie wzorców w kontaktach z ludźmi, którzy są głodni kontaktu. 

– Mamy teraz maszyny, które potrafią bezmyślnie generować słowa, ale nie nauczyliśmy się jeszcze, jak przestać wyobrażać sobie, że stoi za nimi umysł – podsumowała Emily M. Bender, profesor lingwistyki na Uniwersytecie Waszyngtońskim.