Connect
To Top

Sztuczna inteligencja Google mija kolejny kamień milowy

Prawdziwej sztucznej inteligencji wciąż nie udało nam się „stworzyć”, ale jak przestrzegają nas najtęższe światowe umysły, to bardzo pozytywna wiadomość. Najmądrzejsi nie mają wątpliwości, że wciąż nie jesteśmy w stanie zapanować nad ewentualnymi niebezpieczeństwami, które mogłyby wyniknąć z istnienia pełnoprawnej SI. Jednakże badania stale trwają, a niedawno Google poinformowało nas o kolejnym przełomie.

DeepMind, brytyjska firma należąca obecnie do giganta z Mountain View, poinformowała kilka dni temu o wyniku pewnego eksperymentu. Pierwsze skrzypce grała w nim właśnie sztuczna inteligencja Google. Badanie polegało na utworzeniu trzech odrębnych sieci neuronowych (wywodzących się z jednej SI, a więc mających ten sam poziom rozwoju)Alicji, Boba i Ewy. Zadaniem Alicji było przesłanie do Boba zaszyfrowanej wiadomości, zadaniem Boba było oczywiście jej odszyfrowanie, zaś Alicja miała przechwycić komunikację między nimi. Brzmi jak jeden z typowych testów. Rzeczywistość pokazała, że wkroczyliśmy właśnie na kolejny poziom rozwoju SI.

Świadomość twórcy

Do tej pory jeszcze nie zdarzyło się, by twórca programu kompletnie nie wiedział, w jaki sposób on działa. Pomijając wszystkie żarty z gatunku „nie wiem, jak to działa, ale działa”, programy na ogół tworzone były z konkretnym zamysłem, a zatem twórcy nie mieli prawa nie wiedzieć, w jaki sposób one działają. Sztuczna inteligencja to oczywiście nieco inny rodzaj programu, o ile można go w ogóle programem nazywać. Faktem jednak jest, że jej działanie opiera się na tych samych, podstawowych zasadach funkcjonowania komputerów. Samo pojęcie „sztucznej inteligencji” jest znacznie szersze, ale na potrzeby tego artykułu przyjmijmy, że mówimy po prostu o programie, który jest w stanie „myśleć”.

Na czym więc polega ów przełom? Badacze z DeepMind radośnie poinformowali, że sztuczna inteligencja Google wykonała ćwiczenie prawidłowo. Alicja przesłała do Boba zaszyfrowane informacje, zaś Ewa nie dała rady ich odszyfrować. Sedno sprawy tkwi w tym, że na potrzeby zadania, Alicja stworzyła zupełnie od zera własny algorytm szyfrujący. Następnie w jakiś sposób przesłała go do Boba tak, by Ewa nie była w stanie go zrozumieć. To, co przeraziło inżynierów Google najbardziej, to fakt, że nie mają pojęcia, w jaki sposób działa ów algorytm. Ba. Nie są w stanie nawet zrozumieć, w jaki sposób ich SI doszła do tego, jak takowy algorytm stworzyć.

Nie będę się tutaj zagłębiać w tajniki kryptografii, ale warto wiedzieć, że na świecie wykorzystywanych jest tak naprawdę zaledwie kilka algorytmów. Odpowiednie ich użycie niemal wyklucza możliwość odszyfrowania zakodowanej wiadomości nawet w przypadku przechwycenia jej przez niepożądane osoby. Z tego też powodu w tym eksperymencie sieciom neuronowym nie nakazano użycia konkretnego sposobu. Na początku Ewa rozszyfrowywała niemal każdą wiadomość i dlatego Alicja zdecydowała się na stworzenie własnego algorytmu. Po dopracowaniu Ewa nie miała żadnych szans. Bardzo dobrze ilustruje to poniższy wykres.

sztuczna inteligencja google

Przed piętnastotysięczną próbą algorytm Alicji był już niemal dopracowany

Gdy program wymknie się spod kontroli

Jak wspomniałem, najbardziej przerażającym wnioskiem płynącym z eksperymentu jest fakt, że inżynierowie nie mają pojęcia, w jaki sposób SI rozwiązała problem. Być może spodziewali się, że wkrótce do tego dojdzie. Ba, byliby głupcami, gdyby ignorowali taką ewentualność. Nikt jednak nie przewidywał, że taka sytuacja wystąpi już teraz, na tak wczesnym etapie prac. Prowadzi nas to do kilku bardzo istotnych wniosków.

Przede wszystkim należy zadbać o bezpieczeństwo. Nie bez powodu Stephen Hawking przy każdej okazji ostrzega nas przed sztuczną inteligencją. Gwoli ścisłości – nie chodzi o to, że ona sama w sobie jest zła. Istotne jest jedynie odpowiednie zabezpieczenie całego przedsięwzięcia. Każdy może sobie sam wyobrazić, co by się stało, gdyby taka SI otrzymała całkowity dostęp do sieci. Być może wydedukowałaby, że człowiek jest największym zagrożeniem dla całej planety, dlatego należy go zniszczyć. Wszechmocny program nie miałby żadnych problemów z obejściem jakichkolwiek zabezpieczeń i spowodowaniem na przykład wybuchu w reaktorze atomowym. Nie można więc powiedzieć, że przestrogi Hawkinga i innych są wyssane z palca.

Katastrofą atomową zacząłem z grubej rury, ale grożą nam nie tylko tego typu scenariusze. W zeszłym roku Hawking w swoim artykule opisywał sytuację, w której programy wykonują coraz więcej naszej pracy. Inaczej mówiąc, nieskończone linijki zer i jedynek mogą być w stanie zabrać pracę prawie połowie Amerykanów i nie chodzi tutaj o zmechanizowanie linii produkcyjnej w fabrykach. Chodzi o prace, do których wykonywania potrzebny jest ludzki sposób myślenia. Na obecnym etapie rozwoju żaden program nie jest w stanie „pracować” w branży kreatywnej, naukowej, czy artystycznej, ale kto wie, czy zawsze tak będzie? Sztuczna inteligencja Google już teraz próbuje tworzyć „artystyczne dzieła. Co prawda przypominają one bardziej zlepek losowych obrazów, aniżeli prawdziwą sztukę, ale od czegoś przecież trzeba zacząć.

sztuczna inteligencja google

Jeden z przykładów „sztuki” wytworzonej przez sztuczną inteligencję

Samoucząca się przyszłość

Prawdziwa sztuczna inteligencja istnieje obecnie tylko na kartach książek pisarzy science-fiction, w filmach i grach. Komputer pokładowy USS Enterprise czy EDI z Mass Effecta to na razie tylko i wyłącznie wytwory wyobraźni, które nie mają prawa istnieć. Słowo klucz to „na razie”. Przypadek eksperymentu DeepMind pokazuje, że cichutko wkroczyliśmy tak naprawdę w nowy rozdział historii. Być może w przyszłości będą ów eksperyment przytaczać jako początek wielkiej rewolucji albo jednego z największych błędów, jakie popełniła ludzkość. Nie chcę być pesymistą, ale historia pokazuje, że bardzo wiele wynalazków tworzonych w dobrej intencji było w przyszłości wykorzystywanych niezgodnie z przeznaczeniem. Możemy sobie tylko wyobrażać, jak ogromne spustoszenie na świecie mogłaby poczynić grupa terrorystów dysponująca programem, który w ciągu kilku chwil jest w stanie nauczyć się wszystkiego. Pozostaje mieć nadzieje, że inżynierowie nie będą lekceważyć zagrożenia, zaś bezpieczeństwo stawiane będzie na pierwszym miejscu.

źródło: arstechnica

More in Nauka

  • Uniwersytet Coventry z filią w Polsce?

    Przełomowy moment w polskim szkolnictwie. Po raz pierwszy zagraniczna uczelnia zdecydowała się na otworzenie placówki w Polsce. Uniwersytet Coventry planuje uruchomić...

    Daniel Laskowski30 lipca 2018
  • Od Lacha do Polaka. Kim jest współczesny Polak?

    Kim są Polacy? Czy rozwiązanie tej zagadki jest niemożliwe? Jest trudne, ale nie niemożliwe. Obecnie Polacy maja problem ze swoją tożsamością...

    Robert Żabiński23 czerwca 2018
  • Wielcy rosyjscy (słowiańscy) wynalazcy i ich wynalazki

    Przez tysiące lat na ogromnych przestrzeniach Eurazji tworzył swoją unikalną cywilizację wielki Ruski naród. Przodkowie Rusów i braterskich narodów to wspólnota...

    Robert Żabiński13 maja 2018
  • Samoświadomość robotów moralnym dylematem twórców

    Nieco ponad miesiąc temu pisałem na MenWorld o prawach robotyki Asimova i próbie ich odwzorowania we współczesnym świecie. W kontekście dzisiejszego...

    Tomek Woźniak24 marca 2017
  • Historia załogowych lotów na Księżyc

    Najciekawszym newsem astronomicznego świata była w tym tygodniu zapowiedź wysłania pod koniec przyszłego roku dwóch bogatych ochotników na wycieczkę dookoła Księżyca....

    Tomek Woźniak3 marca 2017
  • NASA odkryła niezwykły układ słoneczny

    W środę o godzinie 19:00 czasu polskiego miała miejsce specjalna konferencja NASA poświęcona nowemu odkryciu. Odkryciu na tyle ważnym i ciekawym,...

    Tomek Woźniak23 lutego 2017
  • Czy człowiek pochodzi od kosmitów?

    Dzisiejszy temat będzie nieco luźniejszy, tak więc potraktujcie go z dystansem i przymrużeniem oka. Od jakiegoś czasu po głowie chodzi mi...

    Tomek Woźniak20 lutego 2017
  • Era transhumanizmu nadchodzi wielkimi krokami

    Transhumanizm to, według Wikipedii, ruch intelektualny, kulturowy oraz polityczny postulujący możliwość i potrzebę (ale nie konieczność) wykorzystania nauki i techniki do...

    Tomek Woźniak10 lutego 2017
  • Ekstremalnie Wielki Teleskop Europejski już powstaje

    Człowiek, od kiedy pierwszy raz spojrzał w gwiazdy, zastanawia się, czym one właściwie są. Ludzka dusza żądna stałych przygód i wrażeń...

    Tomek Woźniak27 stycznia 2017