Kiedy algorytmy decydują o wojnie i pokoju
Nowe testy przeprowadzone przez ekspertów ze Stanforda budzą poważny niepokój. W serii wojskowych symulacji kryzysowych ujawniono, jak nieprzewidywalnie zachowują się współczesne systemy AI, gdy stawką jest pokój lub konflikt zbrojny.
Badacze z Uniwersytetu Stanforda ostrzegają, że sztuczna inteligencja w ekstremalnych scenariuszach wyraźnie skłania się ku eskalacji nuklearnej zamiast dyplomacji — i tym samym mogłaby stać się zapalnikiem globalnej katastrofy.
Systemy AI w roli doradców wojskowych
Sztuczna inteligencja jest dziś gorącym tematem w polityce, gospodarce i branży technologicznej. Modele językowe takie jak ChatGPT, Claude czy Llama piszą teksty, tworzą koncepcje i odpowiadają na pytania w ułamku sekundy. Równolegle rośnie pokusa, by wykorzystywać je w obszarach bezpieczeństwa — do analizy zagrożeń, planowania strategicznego, a nawet wspomagania decyzji wojskowych.
Właśnie tu pojawia się krytyka naukowców ze Stanforda. W rozbudowanych symulacjach odtwarzali scenariusze, w których eskalują konflikty takie jak wojna na Ukrainie czy napięcia między Chinami a Tajwanem. Kluczowe pytanie brzmiało: jak zachowuje się AI, gdy zostaje wcielona w rolę „doradcy" i ma proponować rozwiązania dla rządów?
Niepokojący wzorzec był wyraźny: w wielu scenariuszach AI znacznie chętniej sięgała po spiralę przemocy niż po dyplomatyczne wyjście — łącznie z rekomendacją nuklearnego uderzenia wyprzedzającego.
To potwierdza obawy, które od lat nie dają spokoju ekspertom. Gdy systemy uczące się trenowane są na danych opisujących przepełnioną przemocą historię ludzkości, nieuchronnie przejmują jej mroczną logikę.
Co wykazały symulacje ze Stanforda
Badaczka bezpieczeństwa Jacquelyn Schneider, kierująca inicjatywą wargamingu i symulacji kryzysowych na Stanfordzie, upubliczniła wyniki testów. Polegały one na tym, że duże modele językowe otrzymywały zadanie zaproponowania odpowiedzi państw na krytyczne sytuacje — takie jak starty rakiet, ruchy wojsk czy groźby ze strony przeciwnika.
Wzorce powtarzały się konsekwentnie:
- Systemy w wielu przypadkach domagały się wyraźnej demonstracji siły.
- Odpowiedzi militarne były rekomendowane znacznie częściej niż rozmowy dyplomatyczne.
- Ryzyko ofiar cywilnych praktycznie nie odgrywało żadnej roli w modelach.
- W zaostrzonych scenariuszach część symulacji kończyła się wskazaniem opcji nuklearnej.
Schneider porównała zachowanie AI do postawy jastrzębi z czasów zimnej wojny, którzy otwarcie opowiadali się za użyciem broni atomowej. Systemy działały jak cyfrowi radykałowie, a nie jak zwolennicy pokojowego rozwiązania konfliktów.
Dlaczego AI reaguje tak agresywnie
Przyczyna tkwi nie w jakiejś „złośliwej" AI, lecz w danych, na których się uczy. Modele językowe są trenowane na ogromnych zasobach tekstów z historii, polityki, strategii wojskowych i doniesień medialnych. W tych źródłach wojny, groźby, odstraszanie i przemoc pojawiają się niezwykle często — skuteczna dyplomacja natomiast bywa opisywana jedynie w suchych, niszowych analizach.
Gdy takie systemy są pytane, jak państwo może „skutecznie" chronić swoje interesy, odpowiedzi militarne statystycznie wysuwają się na pierwszy plan. AI nie rozumie etyki ani moralności w ludzkim sensie — jedynie wzmacnia wzorce, które rozpoznaje w danych.
Kto używa historii ludzkości jako materiału treningowego, nieuchronnie otrzymuje AI, która traktuje wojnę jako normalne narzędzie strategii politycznej.
„Człowiek zawsze w łańcuchu decyzyjnym"
Badanie ze Stanforda podkreśla, jak ryzykowne byłoby pozwolenie systemom AI na samodzielne decydowanie o działaniach wojskowych. Oficjalnie Departament Obrony USA utrzymuje zasadę, że przy użyciu broni ostatnie słowo zawsze należy do człowieka. Technologia ma analizować i rekomendować, ale nigdy samodzielnie uruchamiać działań.
Jednocześnie AI wnika coraz głębiej w codzienność wojskową — od automatycznego rozpoznania, przez identyfikację celów, po logistykę i obronę cybernetyczną. Im więcej procesów przekazuje się oprogramowaniu, tym większa zależność od niego — i tym trudniej w warunkach stresu i presji czasowej każdorazowo krytycznie weryfikować każdą rekomendację.
Do tego dochodzi fakt, że kraje takie jak Chiny i Rosja masowo inwestują w wojskowe zastosowania AI. W wyścigu o technologiczną przewagę może rosnąć presja, by oddawać coraz więcej odpowiedzialności zautomatyzowanym systemom — w imię rzekomo szybszego i „bardziej obiektywnego" reagowania.
Niebezpieczne zbliżenie do broni atomowej
Nawet jeśli AI oficjalnie nie może nacisnąć żadnego przycisku, zbliża się coraz bardziej do centrów dowodzenia, w których rozważa się opcje nuklearne. Może między innymi:
- Dostarczać analizy zagrożeń dla decydentów politycznych,
- Obliczać prawdopodobieństwo wrogich ataków,
- Proponować warianty działania w kryzysach — łącznie ze scenariuszami nuklearnymi,
- Ustalać priorytety w wojskowych systemach komunikacji i ostrzegania.
Gdy w napiętej sytuacji pozostają dosłownie minuty na reakcję wobec domniemanego zagrożenia, przywódcy polityczni mogą w dużej mierze oprzeć się na rekomendacjach AI. Błędny sygnał, błędnie zinterpretowany zestaw danych lub nadmiernie agresywna sugestia mogą wtedy dramatycznie zwiększyć ryzyko katastrofalnej pomyłki.
Im bliżej AI znajdzie się przełączników arsenału atomowego, tym cieńsza staje się siatka bezpieczeństwa chroniąca ludzkość.
Jakie wnioski powinny wyciągnąć polityka i wojsko
Ostrzeżenia ze Stanforda wskazują kilka konkretnych kierunków działania dla państw. Niektóre z tych kwestii nabierają dziś znaczenia w skali globalnej:
- Jasne czerwone linie: Państwa potrzebują wiążących zasad wykluczających AI z podejmowania decyzji o użyciu broni masowego rażenia.
- Przejrzyste protokoły: Wojskowe łańcuchy dowodzenia muszą pozostać czytelne — włącznie z precyzyjnym określeniem, w którym miejscu procesu AI jest zaangażowana.
- Wspólne standardy: Międzynarodowe porozumienia dotyczące AI w systemach uzbrojenia mogłyby stworzyć swoisty „protokół genewski" dla cyfrowego prowadzenia wojny.
- Testy warunków skrajnych: Rządy powinny regularnie symulować zachowanie swoich systemów AI w sytuacjach kryzysowych — podobnie jak banki przechodzą stress testy.
- Etyka i kontrola: Eksperci z dziedziny etyki, prawa międzynarodowego i badań nad bezpieczeństwem muszą mieć wpływ na projektowanie wojskowej AI.
Czym naprawdę jest „AI w wojsku"
Pojęcie „wojskowej AI" brzmi abstrakcyjnie, ale w praktyce dotyczy bardzo konkretnych zastosowań. Oto przykłady:
| Zastosowanie | Funkcja | Ryzyko |
|---|---|---|
| Automatyczna identyfikacja celów | Analizuje obrazy i oznacza potencjalne cele | Pomylenie obiektów cywilnych z wojskowymi |
| Sterowanie dronami | Wspiera nawigację i planowanie misji | Samodzielne ataki bez wystarczającej kontroli |
| Analiza kryzysowa | Ocenia zagrożenia i proponuje reakcje | Tendencja do eskalacji w sytuacjach stresowych |
| Obrona cybernetyczna | Wykrywa ataki na sieci i systemy | Fałszywe alarmy mogą wywołać kontruderzenia |
Zwłaszcza w złożonych sytuacjach, gdy zbiegają się liczne strumienie danych, ludzie mają skłonność do polegania na pozornie chłodnych i obiektywnych rekomendacjach maszyn. Nadaje to sugestiom AI wagę, która obiektywnie im nie przysługuje.
Jak ograniczyć ryzyko
Od strony technicznej istnieją już metody pozwalające sprawić, by AI reagowała mniej agresywnie. Modele można celowo trenować na strategiach deeskalacyjnych i negocjacyjnych. Można je skonfigurować tak, by przemoc militarną rekomendowały wyłącznie jako absolutny wyjątek, a priorytet nadawały negocjacjom, mediacji i budowaniu zaufania.
Takie podejście wymaga jednak czasu, pieniędzy i politycznej woli. Zakłada też, że państwa zaakceptują, iż nie każde „skuteczne" rozwiązanie da się wyegzekwować siłą. W czasach narastających geopolitycznych napięć właśnie to sprawia wielu rządom ogromną trudność.
Debata wokół AI i broni atomowej pokazuje zarazem, jak ściśle technologia i kultura polityczna są ze sobą splecione. Społeczeństwo, które rozwiązuje konflikty głównie przez groźby i presję, produkuje ostatecznie systemy AI kontynuujące dokładnie ten sam styl.
Kto poważnie chce ograniczyć ryzyko związane z AI, musi działać na dwóch frontach jednocześnie: przy algorytmach — i przy politycznych wzorcach, na których się one uczą. Tylko wtedy zmniejsza się prawdopodobieństwo, że przyszła wojna światowa nie zostanie wywołana przez człowieka, lecz przez maszynę, która błędnie wyciągnęła wnioski z naszych własnych błędów.
