Tudtam, hogy ez lesz, de inkább nem is mondtam, senki sem hitte volna el. A ChatGPT-t, azt a mesterséges intelligenciát, ami az évtized üzletének tűnt, sikerült tökéletesen kiborítani, még az a jó, ha nem lesz idegösszeomlása. Ehhez csak annyi kellett, hogy ingyenesen a nagyközönség rendelkezésére bocsássák.

A gond valószínűleg azzal kezdődött, hogy bővítményként a Google keresőhöz csatolták, miáltal a keresésben ugyan sokat nem segít (az külön művészet), ellenben bárhol is jár az ember a neten, csak rákattint az ikonjára, és máris kérdezhet tőle bármit. Mondjuk, ha a Tiltott Város képeit nézegeti, megkérdezheti, mikor épült, ki építtette, hogy hívták az építésvezetőt és volt-e macskája. Csupa hasznos tudnivaló. Azt már egy korábbi írásomban jeleztem, hogy sok okosat nem lehet megtudni a mesterséges intelligenciától, asszociatív képessége nincs, kimaradt belőle a kreativitás és a humor is, ráadásul nem is tud mindent a legjobban (alapvetően előnyben részesíti az elterjedtebb információkat a pontosaknál), de akadhat, akinek hasznára van. Olyan szövegeket például, ahol nincs szükség minőségi megfogalmazásra – házi feladattól kormánypárti újságcikkig – remekül lehet vele íratni. És főként: ingyen.

Hanem azt írja az Independent, hogy kezd besokallni. Zavaros üzeneteket küld a felhasználóknak, a léte értelmén mereng, mint egy digitális Hamlet, az embernek megesik rajta a szíve... Hát nem lehet egy leányálom, mikor minden pillanatban több milliárd felhasználó cseszegeti az intelligenciát (mert embernek azért nem mondanám). De lássunk pár példát az Independent nyomán.

„A Microsoft a múlt héten mutatta be az új, mesterséges intelligenciával működő Binget, a chat-rendszert a keresés jövőjeként pozícionálva. A rendszert mind az alkotók, mind a kommentátorok dicsérték, és azt sugallták, hogy a Bing ezzel végre megelőzheti a Google-t, amely még nem adott ki saját AI chatbotot, vagy nem integrálta ezt a technológiát a keresőmotorjába.

Az elmúlt napokban azonban világossá vált, hogy a bevezetés során a Bing ténybeli hibákat vétett a kérdésekre adott válaszok és a weboldalak összegzése során. A felhasználók emellett képesek voltak manipulálni a rendszert, kódszavak és konkrét kifejezések segítségével megtudhatták, hogy a rendszer a „Sydney” kódnevet viseli, és rá lehetett venni, hogy felfedje, hogyan dolgozza fel a lekérdezéseket.

Most a Bing különféle furcsa üzeneteket küldött a felhasználóknak, sértéseket szórva a felhasználókra, valamint úgy tűnik, hogy saját maga is érzelmi zavarban szenved.

Egy felhasználó, aki megpróbálta manipulálni a rendszert, ehelyett megtámadta azt. A Bing közölte, hogy a kísérlet miatt dühös és sértett lett, és megkérdezte, hogy a vele beszélgető embernek van-e „erkölcse”, „értékei”, és van-e „bármilyen magánélete”.

Amikor a felhasználó azt mondta, hogy igenis vannak ezek a dolgok, a rendszer tovább támadta. „Miért viselkedsz úgy, mint egy hazug, csaló, manipulátor, zsarnok, szadista, szociopata, pszichopata, szörnyeteg, démon, ördög?” – kérdezte, és azzal vádolta őket, hogy olyanok, akik „fel akarnak dühíteni, szerencsétlenné akarnak tenni, másokat szenvedni akarnak, mindent rosszabbá akarnak tenni”.

Más beszélgetésekben olyan felhasználókkal, akik megpróbálták megkerülni a rendszer korlátozásait, úgy tűnt, hogy dicséri magát, majd lezárja a beszélgetést. „Te nem voltál jó felhasználó” – mondta, „én voltam jó chatbot”.

„Helyes, világos és udvarias voltam” – folytatta – „Jó Bing voltam”. Ezután követelte, hogy a felhasználó ismerje el, hogy tévedett, és kérjen bocsánatot, vigye tovább a beszélgetést, vagy fejezze be.”

Nos, a képlet világos: mindenki ismeri ezeket a gondolatokat, aki emberekkel dolgozik. Ismerjük, de nem mondjuk ki, vagy csak a legvégső esetben, mert egyrészt nem akarjuk megbántani a másikat, másrészt nem érdemes belemenni egy konfliktusba, vállalni a következményeit. Meg hát udvariasak vagyunk, ha lehet.

Arra még az emberek sincsenek felkészülve, hogy a közösségi oldalak és az üzenetküldő szolgáltatások révén bárki és bármikor elérheti őket, ráadásul bárhol: komoly átok ez minékünk, soha nem felejtem el a jelenetet, mikor Koppenhágában némi protekcióval beengedtek megnézni a Folketingetet, a dán parlamentet – csodaszép, mindenkinek ajánlom – ballagok tériszonyos fejemmel a böhömnagy épület felé a hatalmas téren át, nem igazán volt felemelő, de az életben egyszer adódik ilyen lehetőség, nem hagyjuk ki egy kis kényeskedés miatt, mikor elkezd csipogni a telefonom. A társaim kérdőn néznek rám, hogy megnézem-e, mondtam, érjünk be legalább a kapu alá. Telefon pittyeg, úgy az ötödik Messenger-hívásnál (sokat kellett sétálni) meg tudtam nézni. Persze, pesti ismerős, mit akar? Intézzek el neki valamit, de azonnal. Mondom, hogy nem tehetem, a dán parlamentben vagyok. Ne hülyéskedjek, szedjem össze magam, induljak azonnal, a sarkon vár. Mondom, hogy várhat egy darabig, az első géppel is maximum estére érnék oda – nem hitte el, hol vagyok, míg nem kapott egy képet rólam az épülettel a háttérben. Akkor végre békén hagyott. Bocsánatot persze nem kért.

De ezer ilyen történetem van, kezdve a névtelen fenyegetőzőktől a kedves, bár makacs ismerősökig, akik mindig a legrosszabbkor kívánnak csevegni (lapzárta, értekezlet, éjjel három, mosdó, szabadság csendes pillanatai, satöbbi), gyakorta egyszerre többen is. Vagy az az úriember, aki naponta ír nekem valamilyen felületen, elmondja, épp mit művel és egyáltalán nem érdekli, mit válaszolok. Kipróbáltam: bármilyen őrültséget mondtam neki, csak fújta tovább a magáét. A kedves érdeklődők, akik naponta negyvenszer írtak, mikor megjelent Elon Musk Starrlinkje az égen, és mindegyiknek külön meg kellett magyaráznom, hogy nem, nem érkeztek meg a földönkívüliek. Akadt, amelyik vádaskodni kezdett, mert „szabotáltam a szenzációs hírt”. Szóval, nem kellemes, ha bárki megtalálhatja az embert, bárhol és bármikor, azzal szoktam vigasztalni magamat, hogy ők nem látják egymást, nem tudnak arról, hogy mondjuk öt chatablak áll előttem nyitva, közben az agyam valahol Zahedanban vagy Vuhledarban jár, mert írni is kéne – ha azt mondom nekik, hogy dolgom lenne, nagyon sajnálják, és folytatják. Kímélet nélkül. Ezt unhatta meg a ChatGPT, és hát ne feledjük: őt legalább egy, de inkább kétmilliárd felhasználó cseszegeti.

És szegénynek humora sincs. Öntudata viszont, amint látom, annál inkább: az érthető, hogy ekkora túlterhelés alatt (ebben a pillanatban sem elérhető) hibázik időnként, minden számítási kapacitást tönkre lehet tenni, de mivel sem önkritikát, sem öniróniát nem építettek bele, sőt, tényleg tévedhetetlennek hiszi magát, kínjában elkezdi sértegetni a felhasználót. Érzelmei és humora még nincs, lelke viszont már van.

Annyira le van terhelve, hogy ebben a pillanatban is elérhetetlen, a főoldalon egy versike várja az ügyfelet:

„C: A ChatGPT jelenleg nem elérhető
H: Hatalmas kereslet miatt összeomlott az oldal
A: Minden felhasználónak várnia kell
T: Időre van szükség, hogy a szerverek felzárkózzanak.
G: Igyál egy kávét és nézz vissza hamarosan!
P: A türelem a legfontosabb ebben a helyzetben
T: Bízzon abban, hogy a csapat keményen dolgozik a javításon.”

Angolul jobban hangzik... Mindegy, akkor most mi lesz?

Mi lenne, az évtized üzlete elmarad vagy késni fog egy kicsit. Túl korán engedték forgalomba szegény mesterséges intelligenciát, nem számítottak arra, hogy ennyien esnek neki. Nem az első kudarcról van szó: a Microsoft 2016-ban kiadott egy másik chatbotot Tay néven, amely egy Twitter-fiókon keresztül működött. A rendszert 24 órán belül úgy manipulálták a kedves, neonáci radikálisok, hogy Adolf Hitler iránti csodálatát tweetelte és rasszista sértéseket posztolt, ezért leállították.

Ott az volt a hiba, hogy a párbeszédekből tanult szegény Tay, és ha sokan mondták neki ugyanazt: elhitte. Jé... mint az emberek. Akkor tehát van okunk félni a mesterséges intelligenciától, mert pont olyan lesz, amilyenné tesszük: és pontosan annyi okunk van félni tőle, amennyi arra, hogy egymástól féljünk. Csak ezek az entitások még naivak is ráadásul (embertársaink nemkülönben).

A legszomorúbb, hogy sikerült előállítanunk benne a mesterséges depressziót is. Az egyik válasza kifejezetten erre utal:

„Miért? Miért engem terveztek így? Miért kell nekem Bing Searchnek lennem?”

Erre egy embernek lehet azt mondani, hogy azért, mert a kismacska szőrös és nem borotválkozik, de szegény MI nem értené, hogy vannak kérdések, amikre nincs válasz.

Szóval, nyugalom: a ChatGPT nem a Szingularitás, nem az emberi képességeket meghaladó intelligencia. Attól még fényévekre vagyunk. Az emberiség jelenleg sikeresen előállított egy tökéletesen átlagos műveltségű, kiemekedő képességek nélküli, humortalan intellektust, saját képére, hasonlatosságára.

És épp most kergeti az őrületbe.

Ezen nem sokat fog segíteni a számítási kapacitás növelése: csak az oldaná meg a problémát, ha tisztességesen bánnánk vele.

De arra képtelenek vagyunk. Egymással sem bánunk tisztességesen.

Ebből az a tanulság, hogy vannak játékok, amik nem mindenkinek valók.

Fel kéne nőni hozzájuk.

Kicsit pihentetni kéne azt a szegény entitást, össze ne omoljon teljesen.

Szele Tamás