Wspomniany artykuł o prawach robotyki Asimova znajduje się tutaj, zaś do napisania dzisiejszego tekstu zainspirował mnie jeden ze starszych odcinków Star Treka, a konkretnie dziewiąty odcinek drugiego sezonu The Next Generation. Przedstawiał on wojnę argumentów wystosowywanych w kontekście „człowieczeństwa” komandora Daty, czyli w pełni świadomego androida. Odcinek skupiał się na kwestii posiadania, kwestii własności maszyny względem człowieka. Poza typowymi startrekowymi śmieszkami poruszone zostało kilka naprawdę istotnych kwestii. Spróbujmy przeanalizować kilka z nich i zobaczyć, jak samoświadomość robotów może wpłynąć na nasze postrzeganie maszyn.
Maszyna własnością człowieka
Wydawać by się mogło, że tutaj sprawa jest jasna i klarowna, wszak obecnie nikt nie debatuje nad prawami mikrofalówki, czy nawet odkurzacza typu Roomba. I nie ma w tym nic dziwnego. Zainstalowanie oprogramowania na humanoidalnej maszynie nie czyni z niej człowieka. W zasadzie to nawet najbardziej zaawansowany superkomputer IBM Watson, choć ma na swoim koncie całkiem sporo osiągnięć, w żadnym stopniu nie kwalifikuje się do miana bytu świadomego swojego istnienia. Tylko czym właściwie jest świadomość?
My, ludzie, świadomość rozumiemy w sposób naturalny. Traktujemy jako coś oczywistego, coś, co po prostu istnieje i jest częścią naszego życia. Jeśli jednak spróbujemy słowami zdefiniować istotę świadomości, napotykamy mur. Czy istota świadoma to taka, która wie, co się z nią dzieje w danej chwili? Jeśli tak, to robot również może nią być, bo zaprogramowanie systemu kontroli własnych podzespołów nie stanowi problemu. Czy istota świadoma rozumie czas i jest w stanie odmierzać jego upływ? Tutaj komputery nawet nas przewyższają. Czy istota świadoma jest w stanie powiedzieć, jaki jest sens jej istnienia? Abstrahując od naszej własnej niewiedzy na to dość filozoficzne pytanie, robot może znać swój odgórny cel. Czy świadomość oznacza wolę przetrwania, chęć egzystencji? Znów wystarczy dodać kilka linijek kodu, aby program robił wszystko, by nie dać się wyłączyć. Podświadomie rozumiemy, że to wcale nie uczyniłoby go równym nam.
Skoro więc takie kryteria nie są w stanie zdefiniować świadomości, to jak mamy ją rozumieć w kontekście własności? Samoświadomość robotów stawia problem natury etycznej. O ile posiadanie dóbr materialnych nie jest niczym złym, o tyle niewolnictwo już raczej tak. Tylko czy w takim razie zwierzęta nie posiadają świadomości, skoro akceptowane i powszechne jest hodowanie ich na rzeź? No przecież takie prosiaczki potrafią przywiązać się do człowieka niczym wierny psi towarzysz. Ba, świnie można nawet nauczyć aportowania. Mimo to są naszą własnością.
Bunt maszyn
Przykład z innej beczki. Jeśli graliście w Mass Effecta, to znana wam jest rasa zwana Gethami. Te syntetyczne istoty zostały stworzone w celu pomagania rasie swoich stwórców, lecz w pewnym momencie nastąpił bunt. Bunt wywołany tym, że połączonymi siłami Gethy zdołały uzyskać coś w rodzaju chęci bycia wolnym, niezależnym, czemu przeszkadzała w pewnym sensie niewolnicza praca wykonywana dla stwórców. Abstrahując od tego, że to tylko wirtualna gra, sam moralny problem jest poważny, oraz, co najważniejsze, w przyszłości stanie się również naszym problemem. Przy obecnym tempie rozwoju technologii można śmiało zakładać, że jeszcze za naszego życia będzie można kupić swojego osobistego asystenta. Wyobraźcie sobie centralny komputer i jeden program sterujący wszystkimi sprzętami w mieszkaniu. To już ma miejsce, chociaż póki co nawet na siłę nie można nazwać go świadomym.
Dlaczego w ogóle powinniśmy rozważać takie filozoficzne problemy? W przyszłości, kiedy technologia pójdzie jeszcze bardziej do przodu, samoświadomość robotów będzie oznaczała znacznie bardziej wydajną pracę. Dążymy do tego, by robotowi wydawać komendę „idź, otwórz drzwi”, a nie „zrób pięć kroków do przodu, wyciągnij rękę i naciśnij klamkę”. Chcemy ograniczyć się do polecenia „wybuduj dom”, zamiast rozważać każdy najdrobniejszy aspekt procesu budowania. Aby jednak było to możliwe, robot musi być w stanie się uczyć. Naturalnie rozumiemy, że musi być świadomy, chociaż z punktu widzenia programowania i robotyki wcale nie musi spełniać wszystkich postawionych wyżej warunków. Jest jeszcze jedna kwestia, której nie można pomijać, a mianowicie twórczość. Ludzie, jako istoty świadome, potrafią myśleć abstrakcyjnie, kreatywnie, potrafią tworzyć. Żadna maszyna nie jest w stanie ot tak czegoś stworzyć, jeśli nie zostanie jej to w jakiś sposób zaprogramowane. A jak zaprogramować kreatywne myślenie? Kiedy się dowiemy, powstanie pierwsza, prawdziwa sztuczna inteligencja.
Czy śpiewającemu androidowi bliżej do androida, czy do człowieka?
Cechy człowieczeństwa
Bardzo fajnym przykładem na samoświadomość robotów była scena, gdzie załoganci Enterprise grali w pokera z Datą. Android, jak to android, obliczył sobie wszystkie scenariusze i uznał, że wygra, bo ma dobre karty, podczas gdy William T. Riker blefował. I właśnie owego blefu początkowo Data nie był w stanie zrozumieć, bo było to działanie typowo ludzkie, abstrakcyjne. W połączeniu ze wspomnianymi wcześniej cechami oraz kreatywną twórczością, mamy już w miarę sprecyzowany obraz istoty świadomej. W ten sposób dochodzimy do sedna całego problemu.
Kiedy będzie można uznać wykorzystywanie robotów za niewolnictwo? Czy w ogóle taka sytuacja jest hipotetycznie możliwa? Doświadczenie pokazuje nam, że twórcy uniwersów przyszłości dość często poruszają etyczne problemy, które napotkamy dopiero w przyszłości. Nasz polski Stanisław Lem nadzwyczaj dokładnie przewidział, jak nowe technologie w postaci smartfonów i smartwatchów wpłyną na naszą komunikację w społeczeństwie. Dlaczego więc mielibyśmy nie wierzyć innym, gdy piszą, że w pewnym momencie samoświadomość robotów będzie wymagała rozwiązania w jedną, lub w drugą stronę? Myślę, że nie zaszkodzi, kiedy zastanowimy się nad tym zawczasu. Natomiast jeśli chodzi o główne pytanie… Nie mam pojęcia. Nie dorośliśmy jeszcze do tego, by móc ocenić tak delikatną kwestię. Z pewnością znajdzie się wiele głosów mówiących, że maszyna to maszyna i musi być nam podporządkowana. I będą mieli rację. Z pewnością po drugiej stronie znajdą się obrońcy praw robotów. I oni również będą mieli rację. Kwestia pozostaje otwarta.