Forgókínpad

Forgókínpad

Infokalipszis

2018. szeptember 22. - Szele Tamás

Kedves gyerekek, tegnap és tegnapelőtt a gyakorlatban tanulmányoztuk az álhíreket, a nekik kedvező időjárásnak és csillagállásnak köszönhetően, ma még korán van ahhoz, hogy a réten kergessük őket hálóval, tartunk szépen egy elméleti foglalkozást. Mondjuk hiába tartjuk, mert egyik fületeken be, a másikon ki, fél óra múlva elfelejtitek, de mégis, hátha megragad valami.

Á, úgysem fog.

Azért csak lássunk neki.

Tehát, tegyük fel azt az alapkérdést, ami minden olyan olvasóban felmerült már, aki nem hisz el mindent a világon, amit elé tesznek: végül is mire jók az álhírek?

infocalypse-675x418.jpg

Kedves gyerekek, az álhírek szimbióták, szoros közösségben élnek az anyagi haszonnal, a hírnévvel, a hiszékenységgel, a politikával, ha kell és nagyon súlyos károkat okoznak az emberi szervezetben. Konkrétan életképtelenné teszik. Az emberi társadalom jó bonyolult valami, ahol minden mindennel összefügg, és arra épül, hogy tagjai legalább minimális logika szerint viselkednek, ok-okozati alapon, megkülönböztetik a hasznosat a haszontalantól, prioritási rendszerük van, egyszóval felnőttek. Rájuk lehet bízni a felmerülő feladatokat. Megoldják, legalábbis többnyire.

Ezt az oksági rendszert fertőzi meg az álhír, magának az oknak a meghamisításával. Hiszen nyilvánvaló, hogy ha például éhes vagyok és tele a hűtő, akkor eszem. Ámde ha az álhír azt mondja, hogy a hűtött étel daganatos megbetegedéseket okoz, akkor nem eszem. De továbbra is üres a gyomrom, tehát lemegyek a sarki pizzáshoz, és ott zabálok. Ki járt jól? Én azt hiszem, hogy jól jártam, hiszen nem betegedek meg, azonban igazából a pizzás nyert az üzleten. És ha nagyon mélyen elhiszem az álhír-maszlagot, akkor egyrészt kidobom a hűtőmet (tehát rosszul jár a környezet) másrészt mindig a pizzásnál fogok enni, ő tehát nagyon jól jár. Életem végéig nála fogok költeni, ott hagyok egy vagyont. Kivéve, ha valami miatt bezár. Mert akkor én járok az eddiginél is rosszabbul, hiszen éhen halok.

És ehhez az egészhez csak egy ügyesen megfogalmazott és terített álhír kell. Ha meg nem csak én hiszem el ezt, hanem százezrek és milliók, akkor a pizzás gennyesre keresi magát.

Na, akkor tegyünk a pizzás helyére egy tetszőleges politikai pártot, a pizza helyére egy tetszőleges ideológiát. Jé, de ismerős... ezt hívjuk propagandának. Ne tedd ezt vagy azt, ne is kacérkodj a gondolattal, mert jönnek a pomogácsok, ellenben válaszd a pizzát, és minden rendben lesz, míg a pizzéria nyitva van. Tehát neked nem csak az az érdeked, hogy dolgozz, mivel pénzbe kerül a pizza, hanem arról is gondoskodni kell, hogy maga a vendéglő be ne zárjon, ha számlagondjai vannak, kifizeted, ha koszos, felsepred... Közben az alapállítást, vagyis hogy a hűtött étel rákot okoz, senki sem vizsgálja, aki mégis, arra ráfogják, hogy a pomogácsok ügynöke.

Ez idáig rendben van, de miért hisszük mi el ezt a tételt? Azért, mert 1. rengeteg, bár névtelen forrás sulykolja, 2. állítólag népszerű emberek mondják, 3. ezek a források és ezek az emberek általában úgy gondolkodnak, mint mi, azt szeretik és azt utálják, amit becses személyünk, így aztán könnyen egyetértünk velük. Hogy aztán esetleg az illetők soha nem beszéltek erről és a források hazudnak?

Azt mi már nem fogjuk elhinni.

Ugyanis eddigre már elhittük az alaptételt, és az emberi természet olyan, hogy utálja beismerni, ha hülye és hiszékeny volt. Ha orbitális baromságokat állítunk, amikben nyilvánvalóan nincs igazunk, azt is úgy hívjuk, hogy „volt egy vita a kérdésben”. Dehogy volt az vita, hülyék voltunk, csak ezt nem ismerjük be.

Mármost, nem is azzal van a baj, ha a pizzás megfizeti a sarki kocka srácot, egy kis plusz forgalom reményében. Azzal van a baj, ha a kamuhírt mindenki elhiszi, és eszerint kezd élni. Amit egy kis plusz pénz vagy hatalom reményében terjesztettek el, sok hazugság árán, az egyszer csak önálló életre kel, túllép alkotóján és átveszi a hatalmat. Mindenhol pizzériát kell nyitni, egész nap előttük állnak sorban, egyebet nem mernek enni az emberek. Ilyenkor már nem az álhír kitalálója vagy terjesztője irányít, hanem már maga a hazugság szabadult el és kelt életre.

Mármost, ha ráadásul a hűtőgépgyár megunja a dolgot, és elkezdi hasonló módszerekkel terjeszteni, miszerint nem a hűtött étel a rákkeltő, hanem maga a pizza, pár héten belül nyakunkon a polgárháború, lelkes pizzapártiak fogják ölni a sarkokon a fridzsideristákat, hűtéstechnikusok vezetnek dandárokat a kemenceépítők ellen.

Szóval, még egy ilyen kis hülyeségből is lehet nagyon nagy baj, hát még, ha politikai ügyekben alkalmazzák az álhíreket.

Az izraeli Aviv Ovadya professzor, aki most a MIT (Massachusetts Institute of Technology) egyik vezetője, két évvel ezelőtt megjósolta az álhír-válságot, amiben most vergődik a világ (nem, nem csak mi, hol van Orbán Ráhel és a kismama meséje az amerikai választások befolyásolását célzó orosz informatikai diverziótól? A fasorban sincs...) de most rosszabb a véleménye: információs apokalipszist jósol.

Tétele szerint azok a technológiák, amelyek felhasználhatók a valóság megismerésére, használhatóak a torzítására is. Persze: ha feltétel nélkül hiszünk nekik és valaki meghamisítja őket. Ráadásul gyorsabban fejlődnek, mint a saját, emberi, megértéshez, ellenőrzéshez vagy enyhítéshez való képességünk. A tét nagyon magas, és a lehetséges következmények sokkal katasztrofálisabbak, mint egyes választásokon a külföldi beavatkozás - az alapvető civilizációs intézmények aláásása vagy felszámolása, az infokalipszis következhet belőlük. Igen, hiszen már egy hazugság is mérhetetlen károkat okozhat, ha elszabadul – és naponta több millió álhír szabadul el! Aviv Ovadya és csapata mindenesetre dolgozik az informatikai világvége forgatókönyvein, no, nem azért, hogy előidézzék, hanem ellenkezőleg, azért, hogy elkerüljük a legrosszabbat.

Mik ezek a pokoli technológiák, amik előidézhetik az infokalipszist? Vegyük csak azokat, amik már készen állnak és mindenki megszerezheti őket.

  •  A deepfake, amivel aránylag limitált szaktudással és hardveres háttérrel bárki arcát belemontírozhatjuk bármilyen videóba.

  • A mesterséges intelligencia vezérelte beszédszintetizátor, ami képes bárki hangját tökéletesen utánozni.

  • A Stanford Egyetemen olyan szoftvert fejlesztettek, amivel valós időben lehet egy videón egy ember mimikáját és szájmozgását tetszőlegesen átalakítani.

  • Az Nvidia algoritmusa pedig pár száz forráskép alapján bárkiről olyan hiperrealisztikus fotót generál, tetszőleges arckifejezéssel, hogy ő maga se mondja meg, hogy hamisítvány.

Innentől kezdve nincs hiteles kép, hiteles videó: ha most törne ki a vietnami háború, az amerikai kormány röhögve letagadhatná a My Lay-i mészárlást, arra hivatkozva, hogy hamis a felvétel. A teljes tömegkommunikáció a hitelét veszti, és jön a nagyon nagy baj: a hitelesség szerepét átveszi a hit. Vagy a hihetőség, eladhatóság: ha valami elég szép, színes és népszerű, senkit sem fog zavarni, ha nem igaz, úgy is elhiszik majd. Kit zavarnak a tények?

Egy reményünk azért lehet: ezeket az eszközöket mind-mind mesterséges intelligenciák vezérlik. És ezeknek a fejlesztése megakadni látszik: kezd kiderülni, hogy az MI-t alkotó neurális hálók képességei mégsem korlátlanok, kezdik elérni a határaikat. A mindennapi életben millió hasznuk lesz, de ezek sem tökéletesek, szóval könnyen meglehet, hogy a teljes álhír-rendszer koordinálatlan marad. És a Szingularitástól sem kell tartani: MI-vel szuperintelligenciát épp annyira nem lehet létrehozni, mint ahogy nem lehetséges gőzgéppel a holdba repülni. Pedig a XIX. században azt is egész komolyan tárgyalták, hiszen – lám, az emberi természet! - mindent gőz hajtott, mindenhol gőzgépeket láttak, hátha jó lesz erre is.

Nem volt jó. Ahogy a számítástechnika és a mesterséges intelligencia sem jó mindenre, csak sok mindenre.

Azért, gyerekek, egész ügyes kis káoszt fogunk tudni kavarni, ha meg nem jön az eszetek, és továbbra is minden marhaságot elhisztek, amit elétek tolnak – ennek a világméretű folyamatnak csak hangyányi mellékterméke a most Magyarországon tomboló Orbán Ráhel-botrány, volt már korábban is ilyen, lesz is még, ennél rosszabb is! - tehát, ha mindent elhisztek, legalább vásároljatok fel tartalékokat, mert a hiszékenység most a világvégét hozza a nyakunkra, de igen hamar.

Na, véget ért az elméleti foglalkozás, kisütött a Napocska, mehettek a rétre álhíreket fogdosni a kis hálótokkal.

Szépeket, színeseket.

Csak meg ne egyétek őket, mert mérgezőek.

Tudjátok, mi lesz, ha megeszitek?

Infokalipszis.

Most.

De legkésőbb holnapután.

 

Szele Tamás

süti beállítások módosítása