Dron znajduje człowieka, uznaje go za cel i atakuje bez pytania operatora o zgodę. Brzmi jak scenariusz, do którego zostało nam jeszcze kilka dekad. Problem w tym, że techniczne elementy potrzebne do stworzenia takiego systemu już istnieją, a autonomiczna broń potrafi dziś samodzielnie wykrywać określone rodzaje celów i używać przeciwko nim siły. Na razie najbardziej znane zastosowania dotyczą przede wszystkim obrony przed rakietami, pociskami i innymi obiektami, a nie autonomicznego polowania na ludzi. António Guterres oraz Mirjana Spoljaric chcą jednak, aby państwa ustaliły prawnie wiążące ograniczenia zanim technologia wykona kolejny krok. Ich ostrzeżenie jest wyjątkowo mocne: świat znalazł się niebezpiecznie blisko sytuacji, w której maszyny autonomicznie zaczną wybierać ludzi jako cele.
Dron znajduje człowieka, uznaje go za cel i atakuje bez pytania operatora o zgodę. Brzmi jak scenariusz, do którego zostało nam jeszcze kilka dekad. Problem w tym, że techniczne elementy potrzebne do stworzenia takiego systemu już istnieją, a autonomiczna broń potrafi dziś samodzielnie wykrywać określone rodzaje celów i używać przeciwko nim siły. Na razie najbardziej znane zastosowania dotyczą przede wszystkim obrony przed rakietami, pociskami i innymi obiektami, a nie autonomicznego polowania na ludzi. António Guterres oraz Mirjana Spoljaric chcą jednak, aby państwa ustaliły prawnie wiążące ograniczenia zanim technologia wykona kolejny krok. Ich ostrzeżenie jest wyjątkowo mocne: świat znalazł się niebezpiecznie blisko sytuacji, w której maszyny autonomicznie zaczną wybierać ludzi jako cele.
Autonomiczna broń to nie po prostu dron z rakietą
Najpierw trzeba uporządkować pojęcia, bo łatwo wrzucić do jednego worka wszystko, co lata bez pilota. Klasyczny wojskowy dron może sam utrzymywać wysokość, lecieć po wyznaczonej trasie i wrócić do bazy, ale człowiek nadal obserwuje obraz z kamer, wybiera konkretny cel i zatwierdza atak. Sam fakt, że pilot siedzi tysiące kilometrów od maszyny, nie czyni więc takiego drona autonomiczną bronią.
Drugi poziom to systemy wykorzystujące AI do wspierania decyzji. Algorytm może analizować obraz satelitarny, nagrania z dronów albo ogromne bazy danych i wskazywać potencjalne cele. Ostateczna decyzja nadal należy jednak do człowieka. Międzynarodowy Komitet Czerwonego Krzyża traktuje takie systemy jako osobną kategorię i również ostrzega przed ryzykiem ślepego zaufania do rekomendacji algorytmu.
Dopiero dalej znajduje się autonomiczna broń. Po aktywacji taki system może wykorzystać sensory i oprogramowanie do znalezienia celu odpowiadającego wcześniej określonemu profilowi, a następnie użyć wobec niego siły bez kolejnego zatwierdzenia przez człowieka. Operator nie musi więc wiedzieć, jaki dokładnie obiekt zostanie zaatakowany, w którym miejscu ani w którym momencie.
I jeszcze jedna ważna rzecz: autonomiczna broń wcale nie musi wykorzystywać zaawansowanej sztucznej inteligencji. Prostsze systemy mogą działać na podstawie czujników, zaprogramowanych warunków i relatywnie klasycznego oprogramowania. AI tylko znacząco zwiększa zakres tego, co maszyna może rozpoznawać i jak skomplikowane środowisko może próbować interpretować.
Największa granica pojawia się wtedy, gdy celem staje się człowiek
Autonomia w uzbrojeniu nie jest całkowicie nowym zjawiskiem. Od lat istnieją systemy obronne zdolne automatycznie wykrywać i zwalczać nadlatujące pociski, rakiety czy inne zagrożenia. Mogą działać bardzo szybko, ponieważ w niektórych sytuacjach człowiek zwyczajnie nie zdążyłby przeanalizować zagrożenia i nacisnąć przycisku w odpowiednim momencie.
Takie zastosowanie jest jednak mocno ograniczone. System działa przez określony czas, na konkretnym obszarze i szuka dość precyzyjnie zdefiniowanego obiektu – na przykład nadlatującej rakiety. Zupełnie inaczej wygląda sytuacja, gdy autonomiczna broń zaczyna szukać człowieka.
Człowiek nie ma numeru seryjnego wypisanego na burcie jak czołg. Może być żołnierzem, cywilem, rannym, osobą poddającą się albo kimś, kto przypadkiem znalazł się w niewłaściwym miejscu. Ocena celu może wymagać zrozumienia zachowania, otoczenia i całej sytuacji. Dlatego właśnie zastosowanie autonomicznych systemów bezpośrednio przeciwko ludziom zostało określone jako granica, której zdaniem autorów apelu nie należy przekraczać.
Nie mamy armii robotów samodzielnie polujących na ludzi
Tutaj warto bardzo mocno zahamować, bo temat aż prosi się o stworzenie nagłówka sugerującego początek „Terminatora”. Nie ma publicznie potwierdzonych przykładów, w których współczesna w pełni autonomiczna broń byłaby powszechnie używana do samodzielnego wybierania ludzi jako celów i zabijania ich bez udziału człowieka. Znane działające systemy o wysokim stopniu autonomii obejmują między innymi rozwiązania obrony przeciwrakietowej.
Jednocześnie współczesne konflikty coraz mocniej wykorzystują drony, systemy rozpoznania, komputerową analizę danych oraz AI wspierającą proces podejmowania decyzji. Granica pomiędzy „maszyna pomaga znaleźć cel” a „maszyna sama decyduje, że to jest cel” robi się przez to znacznie ważniejsza niż kilka lat temu.
Autonomiczna broń nie pojawi się zapewne jednego dnia jako wielki przełom technologiczny. Bardziej prawdopodobne jest stopniowe oddawanie algorytmom kolejnych zadań. Najpierw nawigacji. Potem wykrywania obiektu. Później klasyfikacji. Śledzenia. Priorytetyzowania celu. A na samym końcu zostaje jedno pytanie: czy człowiek musi jeszcze nacisnąć „zatwierdź”? I właśnie o ten ostatni krok toczy się obecnie najważniejszy spór.
ONZ i Czerwony Krzyż chcą prawnie wiążących ograniczeń
Wspólny apel nie zakłada zakazu każdej broni wykorzystującej autonomię. Propozycja jest bardziej precyzyjna. Autonomiczna broń, której działania nie można wystarczająco przewidzieć i wyjaśnić, powinna zostać zakazana. Podobnie systemy zaprojektowane do autonomicznego stosowania siły bezpośrednio przeciwko ludziom. Pozostałe rozwiązania miałyby podlegać ścisłym ograniczeniom.
Można ograniczyć rodzaj celów wyłącznie do określonych obiektów wojskowych, czas działania systemu, obszar geograficzny, skalę użycia i sytuacje, w których wolno go uruchomić. Istotny ma pozostać również skuteczny nadzór człowieka oraz możliwość szybkiego przerwania działania maszyny.
Nie chodzi więc o zakazanie technologii zdolnej automatycznie zestrzelić rakietę lecącą w stronę okrętu. Chodzi o niedopuszczenie do sytuacji, w której system zostaje wysłany na duży obszar z poleceniem znalezienia ludzi odpowiadających określonemu profilowi i samodzielnego użycia wobec nich broni. To ogromna różnica.
Problemem może być również odpowiedzialność
Wyobraźmy sobie, że autonomiczna broń dokonuje błędnej identyfikacji i atakuje cywilów. Kto odpowiada? Dowódca, który zdecydował o użyciu systemu? Operator, który go uruchomił? Programista? Producent sensorów? Firma rozwijająca model AI? Państwo?
W klasycznym użyciu broni znacznie łatwiej odtworzyć łańcuch decyzji. Ktoś rozpoznaje cel, ktoś wydaje rozkaz, ktoś używa broni. Gdy decyzja zostaje częściowo przeniesiona do oprogramowania reagującego na dane z otoczenia, ustalenie odpowiedzialności może stać się znacznie trudniejsze. To właśnie ryzyko rozmycia odpowiedzialności zostało wskazane jako jeden z argumentów za stworzeniem bardziej szczegółowych międzynarodowych zasad.
I tutaj pojawia się fundamentalny problem etyczny. Maszyny nie można wsadzić do więzienia. Algorytm nie czuje odpowiedzialności. Nie rozumie ciężaru decyzji o odebraniu życia. Może jedynie wykonać proces, do którego został zaprojektowany.
Prawo od ponad dekady próbuje dogonić technologię
Dyskusje o autonomicznych systemach uzbrojenia nie zaczęły się w tym tygodniu. Temat jest formalnie omawiany w ramach Konwencji o niektórych broniach konwencjonalnych od ponad dekady, a grupa ekspertów pracuje nad możliwymi zasadami dotyczącymi systemów LAWS – Lethal Autonomous Weapon Systems.
W tym roku sytuacja ma być szczególnie ważna. Kolejna sesja grupy ekspertów odbędzie się w Genewie od 31 sierpnia do 4 września 2026 roku. Następnie między 16 a 20 listopada zaplanowano siódmą konferencję przeglądową konwencji CCW. To właśnie listopadowe spotkanie zostało wskazane jako najlepsza okazja do rozpoczęcia negocjacji nad prawnie wiążącym instrumentem. Problem w tym, że państwa nie są zgodne co do tego, jak daleko powinny sięgać nowe przepisy.
Nie wszystkie państwa chcą nowego traktatu
Spór nie wygląda tak, że jedna strona popiera autonomiczne zabijanie ludzi, a druga próbuje je zatrzymać. Różnica dotyczy także tego, czy potrzebne jest nowe prawo.
Część państw argumentuje, że istniejące międzynarodowe prawo humanitarne już obowiązuje niezależnie od rodzaju użytej technologii. Broń musi być stosowana zgodnie z zasadami rozróżniania celów wojskowych od cywilnych, proporcjonalności i podejmowania środków ostrożności. Z tego punktu widzenia tworzenie kolejnego traktatu może nie być konieczne.
Inni uważają, że autonomiczna broń tworzy tak specyficzne problemy z przewidywalnością, ludzkim nadzorem i odpowiedzialnością, że ogólne reguły nie wystarczają. Stany Zjednoczone i Rosja należą do państw sceptycznych wobec nowych wiążących ram prawnych, podczas gdy rośnie grupa państw i organizacji domagających się konkretnych zakazów i ograniczeń.
To między innymi dlatego rozmowy trwają tak długo. W ramach CCW kluczowe decyzje wymagają konsensusu, a interesy największych mocarstw wojskowych są bardzo różne.
Najważniejszym przyciskiem może pozostać „tak”
Dyskusja o sztucznej inteligencji zazwyczaj obraca się dziś wokół modeli językowych, utraty miejsc pracy, deepfake’ów czy tego, czy AI kiedyś przewyższy człowieka intelektualnie. Autonomiczna broń pokazuje bardziej namacalną granicę. Nie musimy czekać na superinteligencję. Nie potrzebujemy maszyny posiadającej świadomość. System nie musi nawet „rozumieć”, że atakuje człowieka. Wystarczy, że kamera, radar lub inny sensor dostarczy dane, oprogramowanie uzna wykryty obiekt za zgodny z profilem celu, a system sam uruchomi broń. Technicznie może to być tylko ciąg obliczeń. Dla człowieka znajdującego się po drugiej stronie jest to decyzja o życiu i śmierci.
Dlatego prawdopodobnie najważniejszym pytaniem w rozwoju wojskowej AI nie będzie to, ile decyzji potrafimy oddać maszynie. Będzie nim to, której decyzji nie powinniśmy oddać nigdy. I właśnie tutaj ONZ oraz Czerwony Krzyż chcą postawić granicę: autonomiczna broń może pomagać chronić ludzi, wykrywać zagrożenia czy reagować na nadlatujące pociski, ale maszyna nie powinna sama dostawać ostatniego słowa w kwestii tego, którego człowieka zaatakować.
Nasuwa mi się pytanie do Was, czytelników. Czy decyzja o użyciu śmiercionośnej siły powinna zawsze wymagać zatwierdzenia przez człowieka, niezależnie od tego, jak skuteczne stanie się AI?
Źródła artykułu
Główne źródło: wspólny apel sekretarza generalnego ONZ António Guterresa i prezes Międzynarodowego Komitetu Czerwonego Krzyża Mirjany Spoljaric z 25 sierpnia 2026 roku. Pełny apel ONZ i ICRC
Potwierdzenie i kontekst aktualnych negocjacji: Reuters – UN and Red Cross call for urgent rules on autonomous weapons
Źródło zdjęć: Depositphotos.
Sprawdź również nasze publikacje z działu polityka.
