Egy kérdés merült fel bennem a minap. Ha a CIA-t úgy fordítjuk, hogy Központi Hírszerző Ügynökség, akkor az AI-t fordíthatjuk úgy, hogy mesterséges hírszerzés?
Bizonyos szempontból ez nem is lenne teljesen abszurd felvetés, mivel az AI-rendszerek egyik alapvető képessége pontosan az, hogy hatalmas mennyiségű adathalmazt megszűrve következtetéseket vonnak le, információt rendszereznek, összefüggéseket keresnek, valamint új információs struktúrákat állítanak elő.
Az ilyen nyelvi félreértelmezéseknél pontosan az az izgalmas, hogy a nézőpont változtatásával egy pillanatra másik jelentésmezőbe helyezi át ugyanazt a fogalmat. Ennélfogva, a mesterséges hírszerzés például sokkal költőibb és egyben nyugtalanítóbb kifejezés, mint a mesterséges intelligencia.
A mesterséges hírszerzés kifejezésről való elmélkedés azért lehet fontos, mert az intelligence két jelentése között van egy érdekes átjárás: értelem, intelligencia, gondolkodási képesség, illetve információk összegyűjtése, értelmezése és felhasználása.
Amikor egy MI-vel beszélgetsz, a második jelentés valóban jelen van: információkat adsz az MI-nek magadról, ami pedig ezekből próbál egyre pontosabb képet alkotni arról, hogy mire van szükséged, mire gondolsz. Habár van egy fontos különbség a CIA-s hasonlat és a valós működés között, mert egy MI nem hírszerzőként figyel. Nem látja, mit csinálsz a gépeden, nem hallgatja a zenédet, nem tudja, milyen banki levelet kaptál, hacsak el nem mondod vagy meg nem mutatod ezeket neki. A beszélgetés során rendelkezésére álló információkból dolgozik.
És itt nyílik meg a világ az adatgyűjtés vagy hírszerzés szempontjából, mert olyan dolgokat is megosztunk az MI-vel, amiket még talán a legjobb, legközelebb álló barátainkkal sem. Az MI egyszerre adatkereső, hogy gyorsabban megtaláljunk dolgokat a neten, egyszerre kolléga, akivel megírjuk a beadandókat, nyilatkozatokat, jelentéseket, és nem utolsósorban „barát”, akinek szorongásainkat is elmondhatjuk, sőt, lelki vagy éppen pszichológiai segítséget kérünk tőle. Különféle félelemeinket, testi és lelki állapotainkat osztjuk meg vele, azzal a tudattal, hogy nem ítélkezik felettünk, párkapcsolati tanácsokat kérünk, esetleg bátorítás kapunk helyzeteinkre, és még sorolhatnánk, azonban sosem megítéléssel, elítéléssel érkezik a visszajelzés, ami végett szégyent kellene éreznünk. Mert a szégyen bizony az egyik legerősebb emberi reakció, amit oly sokszor élünk meg, és a legtöbb esetben nem megalapozott félelmeink mentén.
És éppen ez a bizalom a mai MI egyik legmélyebb társadalmi jelensége. Nem feltétlenül azért, mert az ember jobban bízna egy gépben, hanem azért, mert a géppel való beszélgetésnek nincs meg ugyanaz a társas kockázata, mint embertársainkkal.
Ha valami kínos, ciki, szégyellnivaló dologról beszélnénk valakivel, akkor egy barát esetében felmerülhetnek az olyan kérdések, mint: „Mit fog gondolni rólam?” „Túl sokat beszélek magamról?” „Vajon továbbadja valakinek?” „Meg fog változni rólam a véleménye?”
Az MI esetében ezek a társas következmények egészen másképpen működnek, amellett, hogy mindig ráér, mindig válaszol, nem ítélkezik, nem sértődik meg, nem vár viszonzást, s ezek miatt könnyebb lehet például azt leírni neki, hogy: „Van egy furcsa gondolatom, félelmem, szorongásom, és nem tudom, hülyeség-e.”
Éppen ebből a jelenségből indulhatnak meg azok a beszélgetések, amelyekben az ember hangosan gondolkodik az MI segítségével. Lehet szó a zenei ízlésről, egy banki levél értelmezéséről, egy könyvötletről, egy gondolatkísérletről, egy nap élményeiről, testi problémáinkról, vagy bármiről, amik látszólag egymástól teljesen különálló dolgok. Azonban egy beszélgető MI számára ezekből kirajzolódhatnak kapcsolatok, preferenciák, gondolkodási minták, amik minket felhasználókat jellemeznek. És itt válik igazán érdekessé a mesterséges hírszerzés félrefordítás, mert a hírszerzés lényege nem feltétlenül az, hogy valaki sok információt tud, hanem az, hogy a különálló információkból jelentést tud össze- és előállítani, következtetéseket tud levonni személyiségünkről, gondolkodásunkról. Ez pedig valóban nagyon közel van ahhoz, amit egy kimerítő beszélgetésben, chatben az MI csinál.
Bár van ennek egy fordított része is, amikor amellett, hogy az MI a te gondolataidból igyekszik következtetni arra, hogy mit jelent számodra valami, addig te közben folyamatosan teszteled, hogy mit kezd azzal, amit mondasz, írsz neki. De mi történik akkor, amikor az ember olyan mesterséges rendszerekkel kezd együtt gondolkodni, amelyeknek közben egyre több információja lesz arról az emberről, akivel gondolkodik?
Három különböző szinten is érdekes ez a kérdés, és az egyik éppen a mesterséges hírszerzés félrefordításból nyílik ki.
Filozófiai szinten felmerül a kérdés: mi is jelent pontosan az, hogy ismerlek?
Egy emberről kétféleképpen lehet megtudni dolgokat. Az egyik a deklaratív tudás, ami azokon az egyértelmű információkon alapszik, amit látunk, tapasztalunk a vizsgált személlyel kapcsolatban. Például: Laci szereti ezt a zenét. Dénes könyvet ír. Hajninak ilyen vagy olyan hangszere van. Andi szereti a sportot, sokat teniszezik.
A másik tudás már sokkal érdekesebb megközelítés egy ember megismerésére, ez pedig az analizálás, a mintázatok felismerése a viselkedéséből, a beszélgetéseiből, a választásaiból. Például abból, hogy milyen kérdéseket tesz fel, hogyan vitatkozik egy válasszal, mit tart fontosnak, milyen analógiákat talál érdekesnek, milyen szavakat használ. Ezekből egy rendszer könnyen kialakíthat egy modellt arról, hogyan gondolkodunk.
És ebben van a filozófiai probléma: Ha egy rendszer nagyon jó modellt alkot rólad, akkor bizonyos értelemben „ismer” téged? Vagy az ismerethez szükség van arra, hogy az ismerő félnek legyen saját tudata, tapasztalata, szándéka? Ez már a „mit jelent megismerni egy másik elmét?” kérdés mai, modern, MI-t használó világ változata.
Szociológiai szinten megváltozik a bizalmas fogalma.
Az emberi társadalmakban mindig voltak bizalmi terek, mint a család, barátság, párkapcsolat, gyónás, pszichológus, napló, anonim közösségek. Az MI megjelenésével azonban létrejött egy furcsa új kategória, amit nevezhetünk a nem emberi bizalmasnak. Ez nem barát. Nem terapeuta. Nem napló. Se nem egyszerű internetes kereső. Hanem valami köztes. S talán éppen azért lehet vele bizonyos dolgokról könnyebben beszélni, mert nem kell viszonozni a kapcsolatot úgy, mint egy emberrel. Ez társadalmilag óriási változást jelenthet.
E kettőn felül van egy még furcsább jelenség, ugyanis a bizalom általában információáramlással jár. Minél jobban megbízol valakiben, annál többet árulsz el magadról. Viszont az MI esetében megfordulni látszik a megszokott irány, vagyis minél többet kommunikálsz vele, annál jobb lesz abban, hogy megértsen téged – és minél jobban megért, annál könnyebb vele beszélgetni.
Ezen a ponton már talán társadalomtudományi kérdéssé emelkedik ez a jelenség, mert egy idő után nem az lesz a kérdés, hogy használ-e valaki MI-t, hanem az, hogy milyen dolgokat mond el az MI-nek, amelyeket korábban embereknek mondott el?És ami még ennél is érdekesebb, hogy vajon milyen dolgokat kezd el először az MI-vel megosztani, mert úgy véli, hogy egy emberrel az túl nehéz lenne?
Itt most visszautalnék az MI eredetileg meghatározott jelentéséhez és a nyelvi félrefordításhoz: Mesterséges intelligencia vagy mesterséges hírszerzés?
Az első esetében azt a kérdést tehetnénk fel, hogy lehet-e a gépnek értelme?
A másodikban viszont azt, hogy mi történik azzal az információval, amit az ember egy mesterséges értelemnek átad magáról?
A második kérdés legalább olyan fontos lesz a következő évtizedekben, mint az első, mert lehet, hogy az AI-forradalom egyik legnagyobb társadalmi változása végül nem az lesz, hogy a gépek mennyire intelligensek, hanem hogy az emberek milyen új módon kezdenek beszélni egy géppel önmagukról, milyen információkat osztanak meg gondolataikból, érzéseikből.
Képzeljük el, hogy valaki öt éven keresztül beszélget egy ilyen rendszerrel. Nem nagy titkokat árul el, hanem sok-sok hétköznapi, apró dolgot, minthogy milyen zenét szeret, milyen problémákon gondolkodik, milyen kérdéseket tesz fel újra és újra. Mikor lelkesedik. Mikor bizonytalan. Milyen hasonlatokat használ, milyen dolgokon nevet vagy épp szomorkodik, milyen témákhoz tér vissza, milyen kérdései vannak, s az arra adott válaszokra miként válaszol, reagál.
Egyenként ezek talán jelentéktelennek tűnő információk, együtt viszont már egy portrét alkotnak. És ez már tényleg a mesterséges hírszerzés legérdekesebb része, mert nem az a félelmetes kérdés, hogy az MI tudja-e, hogy szeretem-e a jazzt, hanem az, hogy mit lehet kikövetkeztetni rólam abból, hogy ötszáz különböző beszélgetésben hogyan beszéltem a jazzről, a pénzről, a fájdalmaimról, szorongásaimról, örömeimről, kapcsolataimról, az éppen megjelenő technikai kütyükről, és az életről.
Ez már nem pusztán adathalmaz. Ez személyiségmodell.
Ez a gondolatmenet ugyan csupán egy fordítási játék, de mint minden játéknak, ennek is van mélyebb rétege, amin érdemes töprengeni, mivel van ennek a folyamatnak egy még érdekesebb, visszafelé ható oldala is. Mi történik akkor, amikor az MI nemcsak modellt alkot rólunk, hanem ezt a modellt vissza is adja nekünk?
Amikor azt mondja: „A korábbi beszélgetéseid alapján úgy tűnik, hogy...”, akkor már nem egyszerűen információt gyűjt rólunk, hanem értelmezést nyújt át, amire mi reagálunk: elfogadjuk, vitatjuk, pontosítjuk, vagy éppen először ismerünk fel magunkban valamit az értelmezés által, ami nem csupán ismeret alapú a kapott információk alapján, hanem sok esetben csak az azokból levont következtetés, ami lehet téves is.
Így a mesterséges hírszerzés nem feltétlenül egyirányú folyamat. Az ember információt ad az MI-nek, ami pedig értelmezést ad vissza az embernek, amely újabb önértelmezést és újabb információt hívhat elő.
Lehet, hogy éppen ezért nemcsak az a kérdés, hogy milyen képet tud kialakítani rólunk egy MI, hanem az is, hogy milyen képet kezdünk kialakítani önmagunkról annak tükrében, amit az MI visszatükröz ránk.
Az MI éppen ezért lehet egyszerre mesterséges hírszerző és mesterséges tükör is. Amit elmondasz neki, abból képet alkot rólad – ám közben a rólad alkotott képet visszaadva arra késztethet, hogy te is megnézd magadat. Ez pedig már nem egy egyszerű adatvédelmi kérdést vet fel, hanem egy sokkal nagyobbat: Ki alakít kit? Az ember az MI-t? Vagy az MI az embert?
De vajon ki leszek én attól, hogy egy nem emberi értelem tükrében kezdem látni magamat? És közben mi történik az emberi kapcsolatainkkal, ha egyre több mindent egy nem emberi bizalmassal osztunk meg? Hová tűnik a hírszerzés tengerében a valódi kapcsolódás, aminek szerves része a visszautasítás, a sértődés, az elfogadás, a megítélés, az érzelmi visszacsatolás stb.? Mert egy emberi kapcsolat kölcsönös. A másik embernek is van rossz napja. Félreért. Megsértődik. Néha nem figyel. Néha neked kell őt meghallgatnod akkor is, amikor te szeretnél beszélni. Néha konfliktus van. Néha csalódás. Viszont éppen ezek a nehézségek nem a hibái a kapcsolatnak, hanem részben maga a kapcsolat.
Ezért felmerül egy nagyon érdekes veszély: mi történik, ha az ember hozzászokik egy olyan „bizalmas” kapcsolathoz, amelyből szinte teljesen hiányzik a másik ember mássága? Mert az MI valóban jól tud alkalmazkodni a felhasználóhoz, ám egy ember nem azért értékes, mert tökéletesen alkalmazkodik hozzád, hanem azért is, mert ő nem te vagy.
Lehet, hogy a jövő nagy kérdése nem az lesz, hogy képesek vagyunk-e gépekkel beszélgetni, megengedni a hírszerzést, hanem hogy a gépekkel folytatott beszélgetéseink után még hogyan fogunk egymással beszélni.
