Abban a legtöbb szaktekintély megegyezik, hogy a mesterséges intelligencia és a drónrajok alkalmazása jelentik a modern hadviselés jövőjét. Sőt, jórészt a jelenét is. Azzal viszont nem szokott számolni a műszaki szempontból többnyire teljesen műveletlen politikai vezetőréteg, hogy ezek a technológiák még távolról sem tökéletesek – és a beléjük vetett vakhit károsabb lehet még a mellőzésüknél is. Ezt boncolgatja a The Insider elemzése.

(Képünk illusztráció)

Egyre több ország építi be a mesterséges intelligenciát katonai rendszereibe. A technológiát nagy adatmennyiségek elemzésére és célpontok kiválasztására, logisztikára és a hírszerzésre, valamint a döntéshozatal támogatására használják. A hadsereg számára mesterséges intelligencia-rendszereket fejlesztő cégek szerint az MI terjedése a védelmi szférában elkerülhetetlen. Azonban az intelligens technológia hadszíntéren való megjelenésének következményeit maguk a katonai vezetők határozzák meg – a beszállítók, a rendszerek és a feladatok kiválasztásán keresztül. Az emberek azonban hajlamosak túlbecsülni az új technológiák képességeit. Ebben az esetben ez globális feszültségek növekedéséhez és a rendszerhibák által okozott kritikus tévedésekhez vezethet. Ezen viszont segíthet a katonai MI-rendszerek fejlesztése során végzett felügyelet, valamint a katonák és parancsnokaik kiképzése a rendszerek reakcióinak kritikus értékelésére – írja Jacquelyn Schneider, a Hoover Wargaming and Crisis Simulation Initiative (Hoover Institution) igazgatója és a Stanford Center for International Security and Cooperation munkatársa.

Úgy tűnik, az MI elkerülhetetlenül bevonul a hadviselésbe Médiaértesülések szerint Izrael a Gospel és a Lavender nevű mesterséges intelligencia eszközöket használta hatalmas mennyiségű hírszerzési adat átvizsgálására és célpontlisták összeállítására a legutóbbi háborúban. Eközben az Egyesült Államok beépíti a mesterséges intelligenciát a logisztikába és a hírszerzésbe, beleértve a Palantir Maven nevű rendszerét is, amely mesterséges intelligenciát használ az űrben keringő műholdak megfigyelésére, drónok irányítására és a parancsnokok döntéshozatalának támogatására. A jövőbeli felhasználási területek között szerepel a drónrajok irányítása és akár a modern harctereken folyó műveletek mesterséges intelligenciával történő irányítása is.

A mesterséges intelligencia már nem a háború jövője, sokkal inkább a jelene. Ma már minden modern konfliktus szerves részét képezi. A mesterséges intelligencia platformokat fejlesztő vállalatok minden bizonnyal elkerülhetetlennek tartják az iparág növekedését. Ahogy a Palantir, az amerikai Védelmi Minisztérium egyik vezető mesterséges intelligencia-szolgáltatója kijelentette: „A kérdés nem az, hogy építenek-e mesterséges intelligenciával működő fegyvereket, hanem az, hogy ki építi őket és milyen célra.”*

*A kijelentés nagyon is jellemző úgy a Palantirra, mint vezetőjének, Peter Thielnek a mentalitására, nekem azért lenne még néhány kérdésem, úgymint: milyen képességeik lesznek ezeknek az MI-knek, milyen működési feltételeik, mennyire lesznek hatékonyak, miféle képzést kapnak és így tovább. Mert azért a Gizike nem gőzeke. De ezt az elemzés is taglalja.

Pete Hegseth amerikai védelmi miniszter és a Claude LLM fejlesztője, az Anthropic jelenleg olyan tárgyalásokon vesznek részt, amelyek széles körű következményekkel járnak majd. A hadseregek döntései – arról, hogy mely fejlesztőket alkalmaznak, milyen algoritmusokra támaszkodnak, és hogyan integrálják a rendszereket a katonai állomány számára – fogják meghatározni, hogy az MI több vagy kevesebb instabilitást eredményez-e. A mesterséges intelligencia jelentős előnyöket teremthet a harctéren, elősegítheti a logisztikát és a mozgósítást, valamint javíthatja a riasztórendszereket. Emellett hozzájárulhat ahhoz, hogy a háborúk célzottabbá váljanak, és csökkentheti az olyan érzelmek által okozott veszélyeket, mint a félelem, a harag vagy akár a fáradtság, amelyek mind a fegyveres konfliktusokra vonatkozó jogszabályok megsértéséhez vezethetnek. Röviden: a hadseregek és a mesterséges intelligencia fejlesztői által ma meghozott döntések fogják meghatározni, hogy az államok a mesterséges intelligencia képességeit a visszatartás és a stabilitás érdekében fogják-e felhasználni, vagy a technológia végül háborúhoz fogja-e vezetni az alkalmazó államokat.

Bizalom és túlzott önbizalom – technológia és háború

Az új technológiák talán legnagyobb veszélye az, hogy olyan mélyrehatóan megváltoztatják az erőviszonyokat, hogy az őket alkalmazó államok vagy úgy vélik, maximális előnybe kerültek, vagy annyira sebezhetőnek érzik magukat, hogy kénytelenek támadni. Bár a technológiák ritkán hoznak olyan azonnali, tartós előnyt, amely alapvetően megváltoztatná, ki tud területeket elfoglalni, megtartani és ki nem, a technológia kínálta lehetőségek csábítása pusztító erejű lehet.

A bizalom, és a túlzott önbizalom azzal kapcsolatban, hogy egy új technológia mire képes a harctéren, növelheti annak valószínűségét, hogy a különböző államok megelőző csapásokat indítsanak, támadó hadjáratokat folytassanak, vagy ne számoljanak azzal, hogy a technológia hogyan hibázhat. Valóban, a kiberbiztonsági sebezhetőségekről és a konfliktusokról végzett kutatások azt mutatják, hogy a hadijátékokban (harci szimulációkban) résztvevő szereplők által a támadó kiberképességek rendszeres túlbecsülése nagyobb eséllyel vezetett a nukleáris arzenálok elleni megelőző csapásokhoz.

A technológia által kiváltott túlzott magabiztosság – amikor arról kell dönteni, érdemes-e támadást indítani – bizonyos pszichológiai körülmények között még tovább fokozódik. A Dunning-Kruger effektus például azt a jelenséget írja le, amelynek során a kevésbé képzett vagy tehetséges egyének hajlamosak túlbecsülni képességeiket. Nem tudják, mit nem tudnak, ami miatt túlzott magabiztossággal vágnak bele olyan feladatokba, amelyekben alig rendelkeznek szaktudással. Ahogy az említett szerzők kifejtik:

„Azok az emberek, akik nem jártasak ezeken a területeken, kettős terhet viselnek: nemcsak téves következtetésekre jutnak és szerencsétlen döntéseket hoznak, hanem alkalmatlanságuk megfosztja őket attól a metakognitív képességtől, hogy ezt felismerjék.”*

*Ez az élet minden területén megfigyelhető. A mai társadalmak egy kellemetlenül népe rétege hiszi azt – éspedig minél kevesebbet ért az informatikához, annál inkább hiszi! – hogy az MI egy orákulum, „mindent tud”, hiszen „mindent megtanítottak neki”, esetleg „mindent lát az interneten”. Aztán amikor belefut az első hibába vagy hallucinációba, azt vagy elfogadja szentírásnak, bármit is mondjon a józan ész, vagy ráfogja a Gonosz Ellenség aknamunkájára – így tett például tegnap és ma Bayer Zsolt, aki két részes beszélgetést közölt a Magyar Nemzetben az MI-vel, valószínűleg abban a hitben, hogy műfajt teremtett, mert nem tudta, miszerint ezt a játékot már minden tollforgató eljátszotta az elmúlt pár évben. Viszont ezekben az írásaiban a Dunning-Kruger effektus összes jelét megtaláljuk – nem néhányat, hanem az összeset.

Igen, az ember hajlamos túlbecsülni az új technológiák képességeit: a XIX. században például komoly tudósok tárgyalták rangos folyóiratokban a gőzgép segítségével megvalósított repülés, sőt, Holdba repülés lehetőségét. Aztán ezt később elfelejtették.

Ez a tendencia, miszerint a technológia képességeit túlbecsülik, akkor is előtérbe kerülhet, amikor a döntéshozók olyan helyzetekkel szembesülnek, amelyekre nincs egyszerű megoldás, valamint akkor is, amikor a technológia látszólag támogatja azokat a döntéseket, amelyeket ők már eleve meg akartak hozni. Például a korábban említett kiberháborús szimulációban a játékosok reménytelen helyzetbe kerültek: a nukleáris konfliktus szélére sodródtak anélkül, hogy egyértelmű megoldásuk lett volna a feszültség enyhítésére vagy az ellenség legyőzésére. Amikor új kiberképességet kaptak az ellenség nukleáris parancsnokságának, irányításának és kommunikációjának megtámadására, a játékosok hajlandóak voltak félretenni a technológia realizálhatóságát illető kételyeiket.

Annak ellenére, hogy a szimuláció tájékoztatta a játékosokat arról, miszerint nem világos, milyen hatókörűek és mennyi ideig tartanak a kibertámadás hatásai, a játékosok elhessegették maguktól a bizonytalanságot, és a technológiára támaszkodtak abban a reményben, hogy kijutnak a bonyolult helyzetből. Ez a jelenség a legerőteljesebben azoknál a játékosoknál mutatkozott meg, akiknek korlátozott ismereteik vagy képzettségük volt a nukleáris stratégiák terén. A tapasztalatok szerint a korlátozott nukleáris szakértelemmel rendelkezők nagyobb hajlandóságot mutattak a kibertámadás alkalmazására és az ellenséges nukleáris arzenálok elleni támadásokra.*

*Vannak vak lovak és vannak bátor lovak: ugyanez érvényes a politikusokra és a hadvezérekre is.

Az MI-buborék: túlságosan bízunk az MI-ben?

Az MI túlzott önbizalmat kelt? Újabb kutatások szerint ez lehetséges. Fiatal tanárokkal és tapasztalatlan befektetőkkel végzett kísérletek arra utalnak, hogy a Dunning-Kruger effektus különösen erőteljesen érvényesül az MI esetében. Továbbá sok MI-ügynököt kifejezetten úgy terveztek, hogy bizalmat keltsen a felhasználókban, ami oda vezet, hogy az MI-ügynökök alábecsülik saját ajánlásaik pontatlanságát, és szándékosan elrejtik ezt a pontatlanságot a felhasználók elől. Ez túlzott magabiztosságú MI-modellekhez és ügynökökhöz vezet, amelyek aztán végtelen önbizalommal mutatják be az információikat olyan felhasználóknak, akik – tapasztalataik, meggyőződéseik vagy személyiségük alapján – már eleve hajlamosak lehetnek arra, hogy nagyobb bizalmat tápláljanak a technológia iránt, mint amennyit kellene.

Ez a technológia erejébe vetett bizalom aggasztó, mert az MI terén elért rendkívüli fejlődés ellenére alapvető aggályok merülnek fel a meglévő rendszerek biztonságával és megbízhatóságával kapcsolatban. Kutatások kimutatták, hogy maga az MI is túl magabiztos lehet bizonytalanság esetén – amikor egy Go-partiba helyezték, az MI-ügynök kockázatos támadó lépéseket hajtott végre, amelyek néha katasztrofális következményekkel jártak. Továbbá az MI-ügynökökkel játszott háborús szimulációk (összehasonlítva az emberi játékosokkal) nemcsak az eszkaláció mintázatát mutatták, hanem a modellek törékenységét és a hallucinációra való hajlamát is.

Az MI laboratóriumi és konfliktusmentes környezetekben tapasztalható korlátai veszélyes sebezhetőségekké válnak a háborúban, amikor a modelleket, a képzési adatokat és a felhasználókat megtámadják, manipulálják és megtévesztik. Az MI-vel való kommunikációban tapasztalatlan felhasználók olyan helyzetbe kerülhetnek, ahol kizárólag az MI-eszközökben bízhatnak, amelyekre a háborúban támaszkodnak. Ha a felhasználó mindent elhisz, amit a gép mond, az túlzott magabiztossághoz, balesetekhez és akaratlan harci helyzetekhez vezethet. Másrészt viszont, ha semmiben sem bízik, a hadsereg tehetetlen lesz, reakcióképtelen, mivel nem tudja, mit hihet el az MI-eszközöknek.

Ez különösen veszélyes a fiatal katonák számára – akik tapasztalatlanok a harci helyzetekben, hajlamosak a Dunning-Kruger effektusra, és kevésbé valószínű, hogy szembeszállnak az MI hibáival a bonyolult katonai rendszerekben. Hasonlóképpen, a jelentős katonai tapasztalatokkal nem rendelkező döntéshozók is sebezhetőek lesznek a Dunning-Kruger effektussal szemben, és ezért nagyobb bizalmat fektethetnek az MI értékeléseibe, amelyek optimista elképzeléseket sugallnak a győzelem megszerzéséről. A Dunning-Kruger effektus alkalmazhatósága ezeknek a fontos csoportoknak az esetében rámutat arra, hogy még a legveszélyesebb és legerőszakosabb fegyverkezési döntésekbe – mint például a nukleáris fegyverek bevetésének választása – történő „emberi ellenőrzés” beépítése esetén is előfordulhat, hogy a fiatal rakétasiló-kezelők vagy a gyakorlatlan főparancsnokok nem értik meg kellőképpen az MI bizonytalanságát.

Túlzott magabiztosság – a technika és az autokrata rendszerek

Ez az MI iránti túlzott magabiztosság bizonyos típusú rendszerekben nagyobb valószínűséggel fordul elő, mint másokban? És hogyan nyilvánulhat ez meg a harctéren? A politikai rendszertípusok katonai eredményességre gyakorolt hatását vizsgáló kutatások megállapítják, hogy az autoriter rendszerek kevésbé bíznak a hadseregükben, és ezért kevésbé képzett haderőt építenek ki. Ennek számos oka van, de a jelenség nagy része a bizalomra (illetve annak hiányára) vezethető vissza, és arra, hogy a katonai vezetők hűsége iránt fellépő szkepticizmus miatt az autoriter rendszerek a legfelső szinten koncentrálják az irányítást, ami rontja a haderő rugalmasságát és alkalmazkodóképességét.

Az autoriter rezsimek hajlama arra, hogy ne bízzanak katonai vezetőikben, jelentős következményekkel jár az MI szempontjából. Ha egy politikai vezető nem hiszi, hogy beosztottjai teljesítik az utasításait, nagyobb valószínűséggel fog hűséges MI-ügynököket alkalmazni az emberek helyett. Ezek az MI-ügynökök, amelyeket a rezsim támogatására és szolgálatára terveztek, valószínűleg felerősítik a talpnyaló tendenciákat, és alátámasztják az autoriter vezetők által kívánt intézkedéseket. Továbbá a rezsimek kifejleszthetnek olyan MI-ügynököket is, amelyeket a rezsim céljainak optimalizálására terveztek, etikai aggályok nélkül, kiküszöbölve az emberi érzelmeket, mint az empátia, az undor vagy a borzalom, és ezáltal eltávolítva az erőszak alkalmazását korlátozó legfontosabb tényezők egy részét.*

*Ha van mélyen emberi hiba, az pont ez: a zsarnok tehát nem bízik a szolgáiban, nem bízik a darabontjaiban sem, de bízik magában, ezért MI segítségével növeli tulajdon képességeit, hogy aztán végül sokkal nagyobbat tévedhessen, mint segédeszközök nélkül. Azonban már korábbi, kisebb tévedéseit sem látja, azokat elfedi a szintén automatizált talpnyalás.

Az MI legnagyobb veszélyforrása – az ember

Sok más technológiához hasonlóan az MI veszélye is alapvetően emberi eredetűek: ott követhetjük el a hibát, amikor a gépeket a legsötétebb hajlamaink eszközeként használjuk és fejlesztjük. Az első világháború borzalmai után a tudósok megpróbálták megérteni, hogyan tudhatta egy értelmetlen háború több millió ember életét kioltani. Az egyik korai magyarázat a technológiára hivatkozott: a vasút, a távíró és a gőz olyan fegyverarzenálokat hozott létre, amelyek szükségessé tették azt a háborút, amelyet senki sem akart. Azonban annak ellenére, hogy a felelősséget a gépekre akarták hárítani, az emberek voltak azok, akik döntöttek a fegyverarzenálok létrehozásáról. Nagy emberek, mint például Vilmos császár, komolyan hitték, hogy ezeket a technológiákat felhasználva megnyerhetik a háborút, amelynek következményeit jelentősen alábecsülték.

Ma is az emberek fogják eldönteni, hogyan építjük fel a mesterséges intelligencia arzenáljait, hogyan használjuk azokat a háborúban, és milyen szerepet játszanak a legfontosabb döntésekben – beleértve a nukleáris háború megkezdéséről szóló döntést is. Ha az állami, politikai és katonai vezetőket tájékoztatjuk a technológia korlátairól, és a felhasználókat arra tanítjuk, hogy kritikus szemmel tekintsék az MI-t, csökken a túlzott magabiztosság veszélye, míg a fejlesztés során a biztonság prioritásként kezelése csökkenti a véletlen meghibásodások lehetőségét. Az emberi cselekvőképesség és a műszaki fejlődés elkerülhetetlensége együttesen úgy irányíthatja a technológia bevezetését, hogy az a háborúban biztonságosan integrálódjon.

Zárszóként csak annyit mondanék: legyen bármilyen tökéletes is a mesterséges intelligencia, a végső szó az emberé.

A jelenlegi állapotokat nézve viszont úgy találom, hogy a mostani politikai és katonai vezetőknek mesterséges intelligenciát adni a kezébe olyan bölcs dolog, mintha egy gorillának adnánk kézigránátot. Inkább előbb fogja megtalálni a biztosítószeget, mint utóbb.

Szele Tamás