Ma délelőtt a Vatikáni Apostoli Palotában XIV. Leó pápa audiencián fogadta a Pápai Életvédő Akadémia és a Future of Life Institute által szervezett találkozó résztvevőit: „A mesterséges intelligencia jövője: párbeszéd a Vatikán és a tudományos világ között az intelligens technológiák fejlődéséről és alkalmazásairól”.

Az alábbiakban közzétesszük a pápa beszédét, amelyet a találkozó résztvevőihez intézett:

Az Atya, a Fiú és a Szentlélek nevében.
Békesség veletek!

Szeretettel köszöntöm mindannyiótokat, és köszönöm a mai jelenléteteket. Számos országból érkeztetek, és magatokkal hoztátok a kérdések és elképzelések gazdag sokféleségét. Ugyanakkor úgy vélem, mindannyian osztjátok azt a bizonyos nyugtalanságot, amelyet a mesterséges intelligencia fejlődése kelt. Tisztában vagyunk azzal, hogy merre kellene haladnunk, de mégsem teszünk eleget az előrehaladás érdekében. Hálás vagyok nektek, hogy megosztottátok aggodalmaitokat, valamint a jövőre vonatkozó ötleteiteket és javaslataitokat. Ezek a transzdiszciplináris megközelítés első gyümölcsei, amelyre egyre nagyobb szükség van, ha szembenézni akarunk korunk nagy kihívásainak összetettségével.

A találkozót szervező Pápai Életvédő Akadémia mélyen tudatában van azoknak a kihívásoknak, amelyek mindenütt felmerülnek, ahol az emberi méltóságot fenyegetés éri. Ezzel kapcsolatban Ferenc pápa a G7-csoport vezetői előtt tartott beszédében a mesterséges intelligenciát „egyszerre lenyűgöző és félelmetes eszköznek” nevezte, és kijelentette, hogy a gépre bízni annak eldöntését, hogy elvegyenek-e egy emberi életet, olyan dolog, amit soha nem szabad megengedni. (vö. Beszéd a G7 mesterséges intelligenciáról szóló ülésén, 2024. június 14.). Ezek a szavak ma aktuálisabbak, mint valaha. A Magnifica humanitas kezdetű enciklikámban igyekeztem ezeket a kérdéseket mélyebben is megvizsgálni. Ma öt megfontolást szeretnék különösen is elétek tárni.

Először is: a mesterséges intelligencia jövője nem előre elrendeltetett. Mivel ember által kifejlesztett technológiáról van szó, annak jövője a mi döntéseinktől függ. Ezért felelősségünk, hogy irányítsuk, alakítsuk, és amikor szükséges, elutasítsuk alkalmazását (vö. 97., 104. pont). A döntő kérdés tehát nem egyszerűen az, hogy „mit képes megtenni a mesterséges intelligencia?”, hanem az: „mire kellene szolgálnia?”. Azokat, akik a fejlesztésére pusztán egy megnyerendő versenyként tekintenek, az a veszély fenyegeti, hogy kizárólag a célvonalra összpontosítanak, megfeledkezve azokról, akiket lemaradni hagynak. Egy megbízható, az emberi személyt szolgáló rendszer értékesebb, mint egy rendkívül nagy teljesítményű rendszer, amelynek következményeit nem lehet megfelelően előre látni vagy ellenőrizni.

Másodszor: a gépek eszközök, nem pedig személyek. „Az úgynevezett mesterséges intelligenciák nem élnek át tapasztalatot, nincs testük, nem élik meg az örömöt és a fájdalmat, nem érnek be a kapcsolatokban, és nem ismerik belülről, mit jelent a szeretet, a munka, a barátság, a felelősség” (99. pont). Ma egyesek azt javasolják, hogy adjanak jogokat ezeknek a rendszereknek, sőt ruházzák fel őket jogi személyiséggel. Egy ilyen megközelítés azzal a veszéllyel jár, hogy elhomályosítja az emberi felelősséget, és a károsultakat egy arctalan entitással hagyja magukra.

Harmadszor: bizonyos döntéseket soha nem szabad delegálni. Amikor egy személyt felvesznek a gyanúsak listájára vagy bekerül egy határellenőrzési adatbázisba, fennáll annak a veszélye, hogy puszta adattá redukálják. Az emberi életet, a szabadságot és az erő alkalmazását érintő döntéseknek mindig hatékony, megalapozott és felelősségteljes emberi ellenőrzés alatt kell maradniuk (vö. 198–200. pont). Ebből az okból kifolyólag a mesterséges intelligenciát „lefegyverzett” állapotban kell tartani (110. pont), és arra buzdítom a novemberben Genfben találkozó államokat, hogy tegyenek konkrét lépéseket a halálos autonóm fegyverek betiltása érdekében.

Negyedszer: az intelligens technológiáknak a közjót kell szolgálniuk. „Az igazságosság manapság az innováció előnyeihez – a gyógyításhoz, a tudáshoz, az eszközökhöz és a lehetőségekhez – való hozzáférésen keresztül is megvalósul” (161. pont). Valójában soha nem válhatnak öncélúvá, és nem szolgálhatják kizárólag néhány kiváltságos érdekét. Fejlesztésüknek inkább elő kell mozdítania a szolidaritást és a részvételt a globális közösség különböző szintjein, biztosítva, hogy a haladás gyümölcseit méltányosan osszák meg, különösen azokkal, akiknek a legnagyobb szükségük van rá. (vö. 71–72. pont).

Végül szeretnék rávilágítani egy olyan kihívásra, amely talán a legsürgetőbb mind közül. Már ismerjük azokat az etikai alapelveket, amelyeknek a mesterséges intelligencia fejlesztését irányítaniuk kellene. Amire jelenleg szükségünk van, azok olyan intézmények, amelyek képesek ezen elveket a gyakorlatba átültetni – különösen olyan hatékony nemzetközi intézmények, amelyek meg tudják védeni a globális közjót (vö. 64. pont). Ez közös normákat, független felügyeletet és egyértelmű elszámoltathatósági mechanizmusokat követel meg, hogy a mesterséges intelligencia fejlesztésével és alkalmazásával kapcsolatos döntéseket meg lehessen vizsgálni, szükség esetén vitatni lehessen, és az okozott károkra megfelelő jogorvoslatot lehessen biztosítani (vö. 105., 107. pont).

Kedves barátaim! E gondolatokkal ismét köszönetet mondok nektek az e területen nyújtott értékes hozzájárulásotokért, és arra bátorítalak benneteket, hogy tartsatok ki elkötelezettségetekben: a párbeszéd és a közjóért vállalt közös felelősség szellemében együttműködve. Imáimmal kísérlek benneteket, és mindannyiótokra szívből adom áldásomat. Köszönöm!

forrás: Bollettino
kép: Vatican Media