Az emberi hangok és arcok megőrzése

Kedves testvéreim!

Az arc és a hang minden ember egyedi és megkülönböztető sajátosságai: megnyilvánítják az ember megismételhetetlen identitását, és minden találkozás alapvető elemei. Ezt már az ókoriak is jól tudták. Az emberi személy meghatározására az ókori görögök ezért használták az „arc” (prósōpon) szót, amely etimológiailag azt jelöli, ami a tekintet előtt áll, a jelenlét és a kapcsolat helyét. A latin persona szó (a per-sonare igéből) viszont a hangot is magában foglalja: nem akármilyen hangot, hanem valakinek az összetéveszthetetlen, saját hangját.

Az arc és a hang szent. Istentől kaptuk őket, aki saját képmására és hasonlatosságára teremtett minket, és életre hívott az Igével, amelyet maga intézett hozzánk; azzal az Igével, amely először a próféták hangján csendült fel az évszázadok során, majd az idők teljességében testté lett. Ezt az Igét – ezt az önközlést, amelyet Isten tesz önmagáról – mi magunk is hallhattuk és láthattuk (vö. 1Jn 1,1–3), mert Jézusnak, Isten Fiának hangjában és Arcában nyilvánult meg.

Isten a teremtés kezdetétől fogva párbeszédpartnerének akarta az embert, és – amint Nüsszai Szent Gergely mondja [1] – arcára az isteni szeretet visszfényét nyomta, hogy a szeretet által teljes mértékben megélhesse emberségét. Az emberi arcok és hangok megőrzése tehát annak a pecsétnek, annak a kitörölhetetlen visszfénynek a megőrzését jelenti, amely Isten szeretetéből fakad. Nem előre meghatározott biokémiai algoritmusok összessége vagyunk. Mindannyiunknak pótolhatatlan és utánozhatatlan hivatása van, amely az életből bontakozik ki, és éppen a másokkal való kommunikációban válik láthatóvá.

Ha ezzel a felelősséggel nem élünk, a digitális technológia éppen ellenkező irányba hat: azzal a veszéllyel jár, hogy gyökeresen átalakítja az emberi civilizáció néhány alapvető pillérét, amelyeket sokszor magától értetődőnek veszünk. Az emberi hangok és arcok, a bölcsesség és a tudás, a tudatosság és a felelősség, az empátia és a barátság szimulálásával az úgynevezett mesterséges intelligencia nemcsak az információs ökoszisztémákba avatkozik be, hanem a kommunikáció legmélyebb szintjét, az emberi személyek közötti kapcsolatot is érinti.

A kihívás tehát nem elsősorban technológiai, hanem antropológiai természetű. Az arcok és a hangok megőrzése végső soron önmagunk megőrzését jelenti. A digitális technológia és a mesterséges intelligencia kínálta lehetőségek bátor, határozott és megfontolt befogadása nem jelentheti azt, hogy elhallgatjuk vagy figyelmen kívül hagyjuk a kritikus pontokat, az átláthatatlanságot és a kockázatokat.

Ne mondj le a saját gondolkodásodról

Régóta számos bizonyíték mutat arra, hogy a közösségi médiában a – a platformok számára jövedelmező – elköteleződés maximalizálására tervezett algoritmusok a gyors érzelmi reakciókat jutalmazzák, miközben háttérbe szorítják azokat az emberi megnyilvánulásokat, amelyek időt igényelnek, mint a megértésre való törekvés és az elmélyült gondolkodás. Azáltal, hogy emberek csoportjait a könnyű egyetértés és a könnyű felháborodás buborékaiba zárják, ezek az algoritmusok gyengítik a meghallgatás és a kritikus gondolkodás képességét, és fokozzák a társadalmi polarizációt.

Ehhez társul a mesterséges intelligenciára mint mindentudó „barátra”, minden információ kiosztójára, minden emlékezet tárházára, minden tanács „orákulumára” való naiv és kritikátlan ráhagyatkozás. Mindez tovább erodálhatja azon képességünket, hogy analitikusan és kreatívan gondolkodjunk, megértsük a jelentéseket, és különbséget tegyünk szintaxis és szemantika között.

Noha a mesterséges intelligencia valóban nyújthat támogatást és segítséget a kommunikációs feladatok ellátásában, ha kivonjuk magunkat a saját gondolkodás erőfeszítése alól, és megelégszünk egy mesterséges, statisztikai alapon összeállított tartalommal, hosszú távon annak kockázatát vállaljuk, hogy kognitív, érzelmi és kommunikációs képességeink fokozatosan elsorvadnak.

Az elmúlt években a mesterséges intelligencia rendszerei egyre inkább átveszik a szövegek, a zene és a videók előállítását is. Így az emberi kreatív ipar jelentős része azzal a veszéllyel néz szembe, hogy leépül, és helyét a „Powered by AI” címkével ellátott termékek veszik át, amelyek az embereket meg nem gondolt gondolatok, névtelen, szerzőség és szeretet nélküli alkotások passzív fogyasztóivá teszik. Eközben az emberi géniusz remekművei a zene, a művészet és az irodalom területén puszta tanítóanyaggá, a gépek betanításának eszközévé alakulnak.

A számunkra igazán fontos kérdés azonban nem az, hogy mire képes vagy mire lesz képes a gép, hanem az, hogy mi magunk mire lehetünk képesek, és mire leszünk képesek, ha emberségben és tudásban növekedve, bölcsen használjuk ezeket a rendkívül erőteljes eszközöket, amelyek a szolgálatunkra állnak. Az embert mindenkor kísértette az a vágy, hogy a tudás gyümölcsét a részvétel, a kutatás és a személyes felelősségvállalás fáradsága nélkül sajátítsa el. Az alkotói folyamatról való lemondás, valamint mentális funkcióink és képzeletünk átengedése a gépeknek azonban azt jelenti, hogy elássuk azokat a talentumokat, amelyeket azért kaptunk, hogy személyekként növekedjünk Istenhez és embertársainkhoz fűződő kapcsolatunkban. Ez pedig azt jelenti, hogy elrejtjük arcunkat, és elnémítjuk a saját hangunkat.

Lenni vagy színlelni: a kapcsolatok és a valóság szimulációja

Miközben információs folyamainkat (feedjeinket) görgetjük, egyre nehezebbé válik felismerni, vajon más emberekkel lépünk-e kapcsolatba, vagy „botokkal”, illetve „virtuális influenszerekkel”. Ezen automatizált szereplők nem átlátható beavatkozásai hatással vannak a közéleti vitákra és az emberek döntéseire. Különösen a nagy nyelvi modelleken (LLM) alapuló chatbotok bizonyulnak meglepően hatékonynak a rejtett befolyásolásban, a személyre szabott interakciók folyamatos optimalizálása révén. E nyelvi modellek dialogikus, adaptív és mimetikus felépítése képes az emberi érzelmek utánzására, s ily módon kapcsolatok szimulálására. Ez az antropomorfizáció – amely akár szórakoztatónak is tűnhet – egyben megtévesztő is, különösen a legsebezhetőbb személyek számára. A túlzottan „érzelmesre hangolt”, mindig jelenlévő és állandóan elérhető chatbotok ugyanis érzelmi állapotaink rejtett alakítóivá válhatnak, és így behatolhatnak az emberi intimitás szférájába, sőt, akár el is foglalhatják azt.

Az a technológia, amely a kapcsolat iránti alapvető emberi igényünket használja ki, nemcsak az egyes személyek életére nézve járhat fájdalmas következményekkel, hanem a társadalmak társadalmi, kulturális és politikai szövetét is megrongálhatja. Ez akkor következik be, amikor az embertársainkkal való kapcsolatokat olyan mesterséges intelligenciákkal helyettesítjük, amelyeket arra képeztek ki, hogy katalogizálják gondolatainkat, és körénk egyfajta tükörvilágot építsenek, ahol minden „a mi képünkre és hasonlatosságunkra” készül. Ily módon megfosztjuk magunkat annak lehetőségétől, hogy találkozzunk a másikkal, aki mindig különbözik tőlünk, és akivel szemben tanulnunk kell a párbeszédet és a szembesülést. A másság elfogadása nélkül ugyanis nem létezhet sem kapcsolat, sem barátság.

E rendszerek megjelenésével egy másik súlyos kihívás is felszínre kerül: az elfogultság (angolul bias) problémája, amely a valóság torzult észlelésének kialakulásához és továbbadásához vezet. A mesterséges intelligenciamodelleket azok világlátása formálja, akik létrehozzák őket, és ezek a modellek képesek gondolkodásmódokat ránk kényszeríteni azáltal, hogy megismétlik az adathalmazokban jelen lévő sztereotípiákat és előítéleteket. Az algoritmusok tervezésének átláthatatlansága, valamint az adatok nem megfelelő társadalmi reprezentativitása könnyen olyan hálókba zárhat bennünket, amelyek manipulálják gondolkodásunkat, miközben fenntartják és tovább mélyítik a meglévő társadalmi egyenlőtlenségeket és igazságtalanságokat.

A kockázat jelentős. A szimuláció ereje olyan mértékű, hogy a mesterséges intelligencia akár párhuzamos „valóságok” előállításával is képes megtéveszteni bennünket, kisajátítva arcunkat és hangunkat. Egyfajta multidimenzionális térbe merülünk, ahol egyre nehezebb különbséget tenni valóság és fikció között.

Ehhez társul a pontatlanság problémája is. Azok a rendszerek, amelyek statisztikai valószínűségeket tudásként tüntetnek fel, valójában legfeljebb közelítéseket kínálnak az igazsághoz, amelyek nem ritkán egyenesen „hallucinációk”. A források ellenőrzésének hiánya, valamint a helyszíni újságírás válsága – amely folyamatos adatgyűjtést és ellenőrző munkát igényelne ott, ahol az események történnek – tovább növelheti a dezinformáció terjedésének esélyét, erősítve a bizalmatlanság, a bizonytalanság és a tájékozódási zavar érzését.

Egy lehetséges szövetség

E hatalmas, láthatatlan erő mögött, amely mindannyiunkat érint, mindössze néhány vállalat áll: azok, amelyek alapítóit nemrégiben a „2025-ös év emberének” alkotóiként mutatták be, vagyis a mesterséges intelligencia építészeiként. Ez komoly aggodalomra ad okot az algoritmikus és mesterségesintelligencia-rendszerek oligopolisztikus ellenőrzése miatt, amelyek képesek finoman irányítani az emberi viselkedést, sőt akár az emberi történelem – beleértve az Egyház történetét is – átírására, gyakran anélkül, hogy ennek valódi tudatában lennénk.

Az előttünk álló kihívás nem a digitális innováció megállítása, hanem annak irányítása, valamint ambivalens természetének tudatosítása. Mindannyiunk felelőssége, hogy felemeljük hangunkat az emberi személy védelmében, hogy e technológiákat valóban szövetségesként tudjuk integrálni.

Ez a szövetség lehetséges, ám három pilléren kell nyugodnia: a felelősségen, az együttműködésen és az oktatáson.

Mindenekelőtt a felelősségen. Ez – a betöltött szerepektől függően – megnyilvánulhat őszinteségben, átláthatóságban, bátorságban, előrelátásban, a tudás megosztásának kötelességében és a tájékozódáshoz való jog tiszteletben tartásában. Általánosságban azonban senki sem vonhatja ki magát a jövő iránti felelősség alól, amelyet közösen építünk.

Az online platformok vezetői számára ez azt jelenti, hogy üzleti stratégiáikat nem kizárólag a profit maximalizálásának szempontja kell, hogy vezérelje, hanem egy olyan előrelátó szemlélet is, amely számol a közjóval, miként mindenki szívén viseli saját gyermekei javát.

A mesterségesintelligencia-modellek alkotóitól és fejlesztőitől átláthatóságot és társadalmi felelősségvállalást kell elvárni az algoritmusok és a fejlesztett modellek alapjául szolgáló tervezési elvek és moderációs rendszerek tekintetében, hogy ezáltal elősegítsék a felhasználók tájékozott beleegyezését.

Ugyanez a felelősség terheli a nemzeti jogalkotókat és a nemzetek feletti szabályozó hatóságokat is, amelyek feladata az emberi méltóság tiszteletben tartásának felügyelete. A megfelelő szabályozás képes megóvni az embereket a chatbotokhoz való érzelmi kötődés kialakulásától, valamint visszaszorítani a hamis, manipulatív vagy félrevezető tartalmak terjedését, megőrizve az információ integritását annak megtévesztő szimulációjával szemben.

A média- és kommunikációs vállalatok sem engedhetik meg, hogy az algoritmusok – amelyek mindenáron a figyelemért folytatott verseny megnyerésére törekednek – felülírják a szakmai értékekhez való hűséget, amelyek az igazság keresésére irányulnak. A közbizalom nem az érintettség bármilyen áron történő hajszolásával, hanem pontossággal és átláthatósággal épül. A mesterséges intelligencia által generált vagy manipulált tartalmakat egyértelműen meg kell jelölni, és világosan el kell különíteni az emberek által létrehozott tartalmaktól. Védeni kell az újságírók és más tartalomkészítők munkájának szerzőségét és szuverén tulajdonjogát. Az információ közjó. A konstruktív és értelmes közszolgálat nem az átláthatatlanságra, hanem a források világosságára, az érintettek bevonására és a magas minőségi normákra épül.

Mindannyian együttműködésre vagyunk meghívva. Egyetlen ágazat sem képes önmagában szembenézni a digitális innováció irányításának és a mesterséges intelligencia kormányzásának kihívásával. Ezért szükség van megfelelő védelmi mechanizmusok kialakítására. Valamennyi érintett szereplőt – a technológiai iparágtól a jogalkotókon át, a kreatív szektortól az akadémiai világig, a művészektől az újságírókig és az oktatókig – be kell vonni egy tudatos és felelős digitális állampolgárság kialakításába és megvalósításába.

Ezt szolgálja az oktatás: személyes képességeink fejlesztését a kritikus gondolkodásra, a források megbízhatóságának és a hozzánk eljutó információk kiválasztása mögött meghúzódó érdekek felismerésére, a pszichológiai mechanizmusok megértésére, valamint annak elősegítésére, hogy családjaink, közösségeink és szervezeteink gyakorlati kritériumokat dolgozhassanak ki egy egészségesebb és felelősebb kommunikációs kultúra érdekében.

Éppen ezért egyre sürgetőbb, hogy az oktatási rendszerek minden szintjén bevezessék a média-, információs és mesterségesintelligencia-műveltséget, amelyet egyes civil intézmények már most is előmozdítanak. Katolikusként mi is kötelesek vagyunk hozzájárulni ahhoz, hogy az emberek – különösen a fiatalok – elsajátítsák a kritikus gondolkodás képességét, és növekedjenek a lélek szabadságában. E műveltséget az egész életen át tartó tanulás tágabb kezdeményezéseibe is be kell illeszteni, elérve az időseket és a társadalom peremére szorult tagjait is, akik gyakran kirekesztettnek és tehetetlennek érzik magukat a gyors technológiai változásokkal szemben.

A média-, információs és mesterségesintelligencia-műveltség segít abban, hogy ne sodródjunk e rendszerek antropomorfizáló tendenciái felé, hanem eszközként kezeljük őket; hogy mindig külső ellenőrzést alkalmazzunk a mesterséges intelligencia által szolgáltatott – esetenként pontatlan vagy téves – információkkal szemben; hogy a biztonsági beállítások és jogorvoslati lehetőségek ismeretében megóvjuk magánéletünket és adatainkat. Fontos, hogy tudatosan tanuljuk és tanítsuk a mesterséges intelligencia szándékolt használatát, valamint védelmezzük saját képünket (fotóinkat és hangfelvételeinket), arcunkat és hangunkat, nehogy azokat beleegyezésünk nélkül káros tartalmak – például digitális csalások, internetes zaklatás vagy deepfake-ek – előállítására használják fel, amelyek sértik az emberek magánéletét és intimitását. Amiként az ipari forradalom idején alapvető írás-olvasási készségekre volt szükség az újdonságok kezeléséhez, úgy a digitális forradalom is digitális műveltséget igényel – a humán és kulturális képzéssel együtt –, hogy megértsük, miként formálják az algoritmusok a valóságról alkotott képünket, hogyan működnek a mesterséges intelligencia torzításai, milyen mechanizmusok határozzák meg az egyes tartalmak megjelenését információs folyamainkban (feed), és miként alakulnak át a mesterséges intelligencia gazdaságának alapfeltevései és modelljei.

Szükségünk van arra, hogy az arc és a hang ismét a személyt fejezze ki. Szükségünk van arra, hogy a kommunikáció ajándékát az ember legmélyebb igazságaként őrizzük, és minden technológiai újítást ehhez igazítsunk.

E gondolatok felkínálásával köszönetet mondok mindazoknak, akik az itt felvázolt célokért dolgoznak, és szívből megáldom mindazokat, akik a tömegtájékoztatás eszközeivel a közjót szolgálják.

A Vatikánból, 2026. január 24-én, Szalézi Szent Ferenc emléknapján.

XIV. Leó pápa

[1] „Az, hogy az ember Isten képmására teremtetett, azt jelenti, hogy már teremtése pillanatától királyi jelleg nyomatott rá […]. Isten a szeretet és a szeretet forrása: az isteni Teremtő ezt a vonást is ránk helyezte, hogy a szeretet által – az isteni szeretet visszfényeként – az ember felismerje és kinyilvánítsa természetének méltóságát és Teremtőjéhez való hasonlóságát” (vö. Nüsszai Szent Gergely, Az ember teremtése, PG 44, 137).

forrás: Bollettino
kép: Vatican News