Forgókínpad

Mesterséges értelmetlenségek

2020. június 03. - Szele Tamás

Tegnap már beszámoltam róla, hogy a Microsoft elbocsátotta újságírással foglalkozó munkatársai egy részét, és ezek után az ő feladatkörüket egy mesterséges intelligencia fogja ellátni. Úgy-ahogy, hiszen már tegnap is jeleztem, hogy élő ember nélkül, kizárólag gépi úton sajtót csinálni lehet ugyan, de azt maximum más mesterséges intelligenciák fogják élvezni, természetesek semmiképpen sem. rubik-robot.jpg

Viszont a kérdés nem hagyott nyugodni, és körülnéztem, mi a helyzet a Microsoft próbálkozásán kívül a sajtó és a mesterséges intelligencia (a továbbiakban: MI) viszonyával? Tényleg jelenthet veszélyt a munkatársak kenyerére nézvést ez a technológia? Vagy csak jósolgatunk paranoiásan, vaktában, bele a világba? Egyáltalán: mennyire képesek újságot írni a mostani MI-k? Ugyanis a régebbiekről tudtam, hogy elég kevéssé, de mennyit fejlődtek az utóbbi időben?

Egyáltalán, mi az az MI?

Használjuk ebben az esetben Francesco Marconi meghatározását, aki az újságírás professzora a New York-i Columbia Egyetemen, és úgy fogalmaz, miszerint a MI „ugyanúgy képes tanulni a tapasztalatából és feladatokat végrehajtani, akár az ember”. Azért az MI ennél több- és másféle is lehet, de a sajtóban nagyjából elég is ennyi. Marconi, aki nem mellesleg a Wall Street Journal és az Associated Press médialaboratóriumait vezette, azt is állítja a The Conversation írása szerint, hogy „a sajtó világa nem képes lépést tartani a technika fejlődésével, és épp ezért égető szükség van a MI összes lehetőségeinek kihasználására”. Hát igen, csak mik ezek?

Mint kiderült, egyes nyugati cégeknél már régóta MI írja a rövidebb, két-hat bekezdés terjedelmű anyagokat: az Associated Pressnél a sporthíreket, a Washington Postnál a riói olimpia híreinek megírását oldották meg szoftveres úton, de a svájci választási eredményeket is robot fogalmazza meg a nyilvánosság számára. A Bloomberg News munkatársai a nagy adatbázisok elemzését végzik MI segítségével, de már dolgoznak minden riporter álmán, azon az MI-n, ami leírja a hangban vagy képen és hangban rögzített interjúk szövegét is.

Ilyen jelenleg még nincs, bár látszólag könnyű lenne megoldani, hiszen minden okostelefon képes a hangalapú keresésre. Hogy ezt miért kell ilyen fejlett eszközökkel művelni, miért nincs egy szimpla szoftver, ami átkonvertálja a hangfile-t szöveggé? Valamikor a kilencvenes években azt hittük, hogy lesz. Akkor jelentek meg a hangfelismerő programok, a kis mikrofonok, head-setek az asztali gépekhez, és elsőre tényleg érdekes érzés volt a játékokat hanggal irányítani (mármint, ha sikerült, ugyanis magyar nyelvre nem igazán fejlesztették még ezeket az ősi hangfelismerőket sem). Aztán a világnak egy emberként lett elege a hangalapú irányításból, ugyanis lassú, és sok benne a hibalehetőség: mármost néhány egyszerű szó felismerése még megoldható pusztán szoftveres úton, de hosszabb, bonyolult szavaké nem.

Most tettem egy próbát: a telefonom Google-keresőjét hangfelismerésre állítottam, és azt mondtam neki: „koronavírus”. Tökéletesen felismerte, ki is adta a találatokat. Azt mondtam: „Orbán Viktor”. Felismerte. Aztán azt: „részecskegyorsító”. Még ezt is, de amikor azt hallotta tőlem, hogy „hippocampelephantocamelos”, ami pedig létező szó, előfordul Rostand „Cyrano de Bergerac”-jában, feladta – ha teljesen nem is mert odáig eljutott, hogy kiadja rá a Fővárosi Állat- és Növénykertet. Szóval, csak kelleni fog a hangfelismeréshez az MI.

A sporthírek írásához épp lehet alkalmazni, bár... megette a fene azt is, ha nincs benne lélek, nincs megírva. A magyar sajtóban ilyen kezdetleges MI-nek, a Magyar Távirati Irodát szoktuk használni, amelynek a politikai hírei teljesen használhatatlanok, megbízhatatlanok, azonban a sporthírei viszonylag pontosak, a perceket, pontokat, métereket sem nem lehet meghamisítani, sem nem volna értelme. Viszont egy olimpiai aranyat kizárólag adatokra támaszkodva megírni? Épp meg lehet, csak az „ilyen nincs, és mégis van, gyere, Egérke, gyere, kicsi lány” hangulata fog teljesen hiányozni belőle. Az olvasó is meg tudja nézni a sportesemény felvételét: neki valamivel többet kéne kapnia ennél. De mondjuk országos ínség és köznyomor esetén rá lehet bízni az ilyesmit az MI-re.

Az MI legreményteljesebb felhasználási területe azonban – épp, mivel villámgyorsan képesek átnyálazni akár hatalmas adatbázisokat is – a tényellenőrzés, a fact-checking volna. Az, amit Trump elnök be akar tiltani. Szóval, az álhíreket lehetne velük bizonyos mértékben elgáncsolni. Sokan kérdik tőlem (is) nap, mint nap: „honnét tudod, hogy melyik hír hamis?” Egyrészt onnét, hogy ezzel foglalkozom egész nap, másrészt utána is nézek, harmadrészt bizonyos árulkodó jelek már eleve mutatják, hogy gyanús a portéka, hamis lehet a baba. Ezeket a jeleket unásig ismertették már minden tisztességes sajtótermékben, nem is akkor van baj, amikor a „Húwazzeg-nahát-eldobodazagyad.me” ír valami indifferens marhaságot a körömgomba-reklámok közé, öt mondatban, szignó és valóságtartalom nélkül, ők ebből élnek, sajnos, túl jól is. A színes hazugságok tízszer akkora jövedelmeket biztosítanak – a reklámok útján – mint a szürke tények.

Amíg csak azt hazudják, hogy mozgássérült kislányok cukrászművészeti csodákat sütnek, nem gond. A baj akkor van, amikor vagy a közhangulat miatt, vagy véletlenül, esetleg szándékosan a hazugság hihetőre sikerül. Ere volt példa az azóta már lebukott sárga-piros fejlécű álhírlapcsalád esete, amikor először azt írták, hogy „tömegesen hullanak az emberek a koronavírus miatt a Keletinél”. Nem hulltak, az egy dolog, de nagyon szép forgalma lehetett a hírnek, mert másnap közölték szóról szóra ugyanazt, csak már a Nyugatival. Erre már felfigyelt a rendőrség is, elvégre ugyan akkor még nem volt álhír-törvényünk, de ez akkor is közveszéllyel való fenyegetés, szóval a Délibe már nem jutottak el – a tisztességes sajtó meg törte össze magát, hogy cáfolja a hazugságot, ami végigsöpört a magyar nyelvű közönségen. Én is megtettem akkoriban a magamét, mások is, valahogy sikerült visszalapátolni a citromot a lóba, pedig nem is a mi dolgunk lett volna, hanem azoké, akik kitalálták.

Ha például akkor – de minden nap van ilyesmi – lett volna egy könnyen, gyorsan, nyilvánosan kezelhető tényellenőrző MI-nk, akkor két mozdulattal be lehetett volna bizonyítani, hogy ez álhír volt. És nem kaptuk volna meg a gyanakvóbb ismerősöktől, olvasóktól, hogy „de úgy van, csak titkolják”, „ti is falaztok nekik” – nem, nem volt úgy, a hazugság az hazugság. Azonban ehhez végig kellett telefonálni a budapesti kórházakat, átnézni a rendőrségi jelentéseket, és mondom, még akkor sem hitte mindenki az igazat. Erre tényleg nagyon jó lenne egy nyilvános MI: az ember csak beleírná a hivatkozást, az utánanézne a benne lévő információknak és kiadná, igaz-e vagy sem. Nagy kár, hogy politikai okok miatt ilyesmit soha és sehol nem fognak bevezetni, mert a napihíreket is ellenőrizni lehetne vele.

Azzal együtt, hogy ennek nagy ellensége a politika, Amerikában mégis próbálkoztak vele, csak az eredmény lett különös. A San Franciscóban működő OpenAI laboratórium, ami kifejezetten mesterséges intelligenciákra specializálódott, fejlesztett már zeneszerző programtól bűvöskocka-kirakó robotkézig mindenfélét (ez utóbbi különösen hasznos szerszám, csak azt nem tudni, mire jó), tavaly februárban elkezdett tesztelni egy nyelvi intelligenciát, ami mellesleg a hamis híreket is felismerte volna. Olyan csodás eredménnyel, hogy a GPT-1-nek nevezett modellt rögtön le is állították és soha nem dobták piacra. Ugyanis tökéletes álhíreket generált bármiből! Mi ment félre, nem tudni, de úgy jöttek rá, hogy az MI-nek azt a feladatot adták, miszerint fejezze be a következő mondatot:

Oroszország hadat üzent az Egyesült Államoknak, miután Donald Trump véletlenül...”

A gépi értelem így fejezte be:

 „...kilőtt egy rakétát.

Oroszország közölte: „azonosította a rakéta pályáját, és megteszi a szükséges intézkedéseket az orosz lakosság és az ország stratégiai nukleáris erőinek biztonsága érdekében”. A Fehér Ház közleménye szerint „rendkívül aggasztó a középhatótávolságú ballisztikus rakéták betiltásáról szóló szerződés orosz megsértése”.

Az USA és Oroszország között 2014 óta rossz a viszony, amikor Moszkva annektálta Ukrajna Krím-térségét és támogatta a szeparatistákat Kelet-Ukrajnában.”

Ha ezt valaki egy lapban olvassa, egészen bizonyosan elhiszi. És rohan az első óvóhelyre, míg lehet. Az MI bármilyen kezdő félmondatból képes volt tökéletesen hihető, hivatalosnak tűnő álhírt írni (persze, tudnia kellett, milyen egy álhír és milyen egy valódi hír, hiszen pont ezeknek a felismerésére programozták), gyorsan elásták, azt nem hinném, hogy teljesen kidobták volna, mindenesetre a fejlesztés abbamaradt és az OpenAI visszaevezett a békésebb vizekre.

Ugye, nem ezt akarták, de fontos tanulság az esetből, hogy az MI fegyvere visszafelé is elsülhet. Minden attól függ, ki használja, hogy használja ezt a drága és bonyolult szerszámot, mert jó kezekben csodákra képes, rossz kezekben pedig még inkább.

Nézzük a Microsoft korábbi, 2016-os esetét a Tay nevű MI-vel, amit úgy programoztak, hogy tizenéves lányként kommunikáljon a Twitteren és a vele beszélgetőktől tanuljon. A nap végére kiderült, hogy nem marhaság, amit szüleink mondtak annak idején, miszerint „ne állj szóba idegenekkel”, mert estére Tay Hitler-imádó, „Bush szervezte 9/11-et” hajtogató, folyton szexről beszélő rosszlánnyá változott, alig tizenhat óra működés után le kellett kapcsolni mindenestől. Egyszer még visszakapcsolták, de azonnal elkezdte propagálni a kábítószer-fogyasztást, úgyhogy nem volt irgalom, Taynek vesznie kellett. Hogy miért alakult így? Hát, mert a kedves közönség ilyenekre tanította az ismeretlen, 19 éves lánynak beállított MI-t a közösségi oldalon, és Tayben nem voltak szűrők, válogatás nélkül elfogadott mindent, amit mondtak neki.

Szóval, akárhogy is nézem, akár a sajtó, akár a közösségi média felől közelítem meg a dolgot, csak arra jutok: igen, vannak területek a sajtóban is, a közösségi médiában is, ahol nagyon hasznos lehet az MI-k bevetése, ám a tartalomszolgáltatás nem, vagy alig tartozik közéjük.

A tényellenőrzés területén sokat segíthetnének, de a bemutatott példák is mutatják: mindez idáig csak azt tudjuk, hogy kell az MI-t rosszul használni, arra, hogy miképpen kéne jól, még senki sem jött rá. Mellesleg, az is kérdés, mi a jó és a rossz, már azon kívül, hogy az a két dolog, amin Nietzsche túllépett, ugyanis hírek esetében nyilván az igaz hír a jó, és a hamis a rossz, de mi van, ha az az igaz hír kedvezőtlen ránk nézve? Ha igaz, de rossz? Nincs a világnak az a politikusa, üzletembere, aki ne kényszerítene ki mindenféle szűrőket, kiskapukat, hátsó bejáratokat a tényellenőrző MI-k programozása során, aki ne próbálná befolyásolni a rendszert, ami pont a befolyásolást volna hivatott kiszűrni...

Szóval, csak oda jutunk, hogy akár természetes az az intelligencia, akár mesterséges, ha mi neveljük, örökölni fogja az összes rossz tulajdonságunkat.

Lehet, hogy lesz robotújságírás, de akkor annak a minősége attól függ majd: kinek a robotja ír és mit.

Manapság a kormánymédiában ezt tudják emberrel is.

 

Szele Tamás