ANTIQUA ET NOVA
Nota sobre la relación entre la inteligencia artificial y la inteligencia humana
Fuente: Vatican News
Las advertencias del Papa sobre la Inteligencia Artificial en los últimos años forman el esquema de Antiqua et Nova, la nota sobre la relación entre inteligencia artificial e inteligencia humana fruto de la reflexión mutua entre el Dicasterio para la Doctrina de la Fe y el Dicasterio para la Cultura y la Educación. Un documento dirigido a quienes están llamados a educar y transmitir la fe, pero también a quienes comparten la necesidad de un desarrollo científico y tecnológico «al servicio de la persona y del bien común» [5].
En 117 parágrafos, Antiqua et Nova pone de relieve los retos y las oportunidades del desarrollo de la Inteligencia Artificial (IA) en los ámbitos de la educación, la economía, el trabajo, la salud, las relaciones y la guerra. En este último ámbito, por ejemplo, el potencial de la IA podría aumentar los recursos bélicos «mucho más allá del alcance del control humano», acelerando «una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos» [99].
1. [Antiqua et nova] Con antigua y nueva sabiduría (cf. Mt 13,52) estamos llamados a considerar los cotidianos desafíos y oportunidades propuestos por el saber científico y tecnológico, en particular los del reciente desarrollo de la inteligencia artificial (IA). La tradición cristiana considera que el don de la inteligencia es un aspecto esencial de la creación de los seres humanos «a imagen de Dios» (Gen 1,27). A partir de una visión integral de la persona y de la valoración de la llamada a «cultivar» y «custodiar» la tierra (cf. Gen 2,15), la Iglesia subraya que ese don debería encontrar su expresión a través de un uso responsable de la racionalidad y de la capacidad técnica al servicio del mundo creado.
2. La Iglesia promueve los progresos en la ciencia, en la tecnología, en las artes y en toda empresa humana, viéndolos como parte de la «colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible»[1]. Como afirma el Sirácida, Dios «quien da la ciencia a los humanos, para que lo glorifiquen por sus maravillas» (Sir 38,6). Las habilidades y la creatividad del ser humano provienen de Él y, si se usan rectamente, a Él rinden gloria, en cuanto reflejo de Su sabiduría y bondad. Por lo tanto, cuando nos preguntamos qué significa “ser humanos”, no podemos excluir también la consideración de nuestras capacidades científicas y tecnológicas.
3. Es al interno de esta perspectiva que la presente Nota afronta las cuestiones antropológicas y éticas planteadas por la IA, cuestiones que son particularmente relevantes en cuanto que uno de los objetivos de esta tecnología es el de imitar la inteligencia humana que la ha diseñado. Por ejemplo, a diferencia de otras muchas creaciones humanas, la IA puede ser entrenada en producciones del ingenio humano y por tanto generar nuevos “artefactos” con un nivel de velocidad y habilidad que, con frecuencia, igualan o superan las capacidades humanas, como generar textos o imágenes que resultan indistinguibles de las composiciones humanas, suscitando, por tanto, preocupación por su posible influjo en la creciente crisis de verdad en el debate público. Además, como tal tecnología está diseñada para aprender y adoptar determinadas decisiones de forma autónoma, adecuándose a nuevas situaciones y aportando soluciones no previstas por sus programadores, se derivan problemas sustanciales de responsabilidad ética y de seguridad, con repercusiones más amplias para toda la sociedad. Esta nueva situación lleva a la humanidad a cuestionarse su identidad y su papel en el mundo.
4. Con todo, existe un amplio consenso en que la IA marca una nueva y significativa fase en la relación de la humanidad con la tecnología, situándose en el centro de lo que el Papa Francisco ha descrito como un «cambio de época»[2]. Su influencia se hace sentir a nivel global en una amplia gama de sectores, incluidas las relaciones personales, la educación, el trabajo, el arte, la sanidad, el derecho, la guerra y las relaciones internacionales. Puesto que la IA sigue avanzando rápidamente hacia cotas aún mayores, es de importancia decisiva considerar sus implicaciones antropológicas y éticas. Esto implica no sólo mitigar los riesgos y prevenir los daños, sino también garantizar que sus aplicaciones se dirijan a promover el progreso humano y el bien común.
5. Para contribuir positivamente a un discernimiento sobre la IA, en respuesta a la invitación de Papa Francisco a una renovada «sabiduría del corazón»[3], la Iglesia ofrece su experiencia a través de las reflexiones de la presente Nota que se concentran sobre el ámbito antropológico y ético. Empeñada en un papel activo al interno del debate general sobre estos temas, exhorta a cuantos tienen el encargo de transmitir la fe (padres, enseñantes, pastores y obispos) a dedicarse con cuidado y atención a esta cuestión urgente. Si bien está dirigido especialmente a ellos, el presente documento está pensado para ser accesible a un público más amplio, es decir, a aquellos que comparten la exigencia de un desarrollo científico y tecnológico que esté al servicio de la persona y del bien común[4].
6. Con tal propósito, se intenta sobre todo distinguir el concepto de “inteligencia” en referencia a la IA y al ser humano. En un primer momento, se considera la perspectiva cristiana sobre la inteligencia humana, ofreciendo un marco general de reflexión fundado sobre la tradición filosófica y teológica de la Iglesia. A continuación, se proponen algunas líneas de acción, con el objetivo de asegurar que el desarrollo y el uso de la IA respeten la dignidad humana y promuevan el desarrollo integral de la persona y de la sociedad.
II. ¿Qué es la Inteligencia Artificial?
7. El concepto de inteligencia en la IA ha evolucionado en el tiempo, recogiendo en sí mismo una multiplicidad de ideas provenientes de varias disciplinas. Si bien tiene raíces que se remontan a algunos siglos atrás, un momento importante de este desarrollo se produjo en el año 1956, cuando el informático estadounidense John McCarthy organizó un congreso veraniego en la Universidad de Dartmouth para afrontar el problema de la «Inteligencia Artificial», definido como «hacer una máquina capaz de mostrar un comportamiento que se calificaría de inteligente si fuera un ser humano quien lo produjera»[5]. El congreso lanzó un programa de investigación destinado a utilizar máquinas para realizar tareas típicamente asociadas al intelecto humano y al comportamiento inteligente.
8. Desde entonces, la investigación en este sector ha progresado rápidamente, llevando al desarrollo de sistemas complejos capaces de llevar a cabo tareas muy sofisticadas[6]. Estos sistemas de la llamada “IA débil” (narrow AI) están, generalmente, diseñados para desarrollar tareas limitadas y específicas, como traducir de una lengua a otra, prever la evolución de una tormenta, clasificar imágenes, ofrecer respuestas a preguntas, o generar imágenes a petición del usuario. Si bien en el campo de estudios de la IA se encuentra todavía una variedad de definiciones de “inteligencia”, la mayor parte de los sistemas contemporáneos, en particular aquellos que usan el aprendizaje automático, se basa sobre inferencias estadísticas más que sobre deducciones lógicas. Analizando grandes conjuntos de datos con el objetivo de identificar patrones, la IA puede “predecir”[7] los efectos y proponer nuevas vías de investigación, imitando así ciertos procesos cognitivos típicos de la capacidad humana de resolución de problemas. Tal logro ha sido posible gracias a los progresos de la tecnología informática (como las redes neuronales, el aprendizaje automático no supervisado y los algoritmos evolutivos) junto con las innovaciones en equipamiento (como los procesadores especializados). Estas tecnologías permiten a los sistemas de IA de responder a diferentes tipos de estímulos procedentes de los seres humanos, de adaptarse a nuevas situaciones e incluso ofrecer soluciones novedosas no previstas por los programadores originales[8].
9. Debido a estos rápidos avances, muchos trabajos que antes se realizaban exclusivamente por personas se confían ahora a la IA. Estos sistemas pueden complementar o incluso sustituir las capacidades humanas en muchos ámbitos, sobre todo en tareas especializadas como el análisis de datos, el reconocimiento de imágenes y el diagnóstico médico. Si bien cada aplicación de la IA “débil” se adapta para una tarea específica, muchos investigadores esperan llegar a la llamada “Inteligencia Artificial General” (Artificial General Intelligence, AGI), es decir a un único sistema, el cual, operando en todos los ámbitos cognitivos, sería capaz de realizar cualquier tarea al alcance de la mente humana. Algunos sostienen que una tal IA podría un día alcanzar el estado de “superinteligencia”, sobrepasando la capacidad intelectual humana, o contribuir a la “superlongevidad” gracias a los progresos de las biotecnologías. Otros temen que estas posibilidades, por hipotéticas que sean, eclipsen un día a la propia persona humana, mientras que otros acogen con satisfacción esta posible transformación[9].
10. Subyacente a estas y otras muchas opiniones sobre el tema, existe una presunción implícita de que la palabra “inteligencia” debe utilizarse del mismo modo para referirse tanto a la inteligencia humana como a la IA. Sin embargo, esto no parece reflejar el alcance real del concepto. En lo que respecta al ser humano, la inteligencia es de hecho una facultad relativa a la persona en su conjunto, mientras que, en el contexto de la IA, se entiende en un sentido funcional, asumiendo a menudo que las actividades características de la mente humana pueden descomponerse en pasos digitalizados, de modo que incluso las máquinas puedan replicarlas[10].
11. Esta perspectiva funcional queda ejemplificada en el Test de Turing, por el cual una maquina debe ser considerada “inteligente” si una persona no es capaz de distinguir su comportamiento de otro ser humano[11]. En particular, en este contexto, la palabra “comportamiento” se refiere a tareas intelectuales específicas, mientras que no tiene en cuenta la experiencia humana en toda su amplitud, que comprende tanto las capacidades de abstracción y las emociones, la creatividad, el sentido estético, moral y religioso, abrazando toda la variedad de manifestaciones de las que es capaz la mente humana. De ahí que, en el caso de la IA, la “inteligencia” de un sistema se evalúe, metodológica pero también reduccionistamente, en función de su capacidad para producir respuestas adecuadas, es decir, las que se asocian a la razón humana, independientemente de la forma en que se generen dichas respuestas.
12. Sus características avanzadas confieren a la IA capacidades sofisticadas para llevar a cabo tareas, pero no la de pensar[12]. Esta distinción tiene una importancia decisiva, porque el modo como se define la “inteligencia” va, inevitablemente, a determinar la comprensión de la relación entre el pensamiento humano y dicha tecnología[13]. Para darse cuenta de ello, hay que recordar que la riqueza de la tradición filosófica y de la teología cristiana ofrece una visión más profunda y completa de la inteligencia, que a su vez es central en la enseñanza de la Iglesia sobre la naturaleza, la dignidad y la vocación de la persona humana[14].
III. La inteligencia en la tradición filosófica y teológica
13. Desde los albores de la reflexión de la humanidad sobre sí misma, la mente ha jugado un papel central en la comprensión de lo que significa ser “humanos”. Aristóteles observaba que «todos los seres humanos por naturaleza tienden al saber»[15]. Este saber humano, con su capacidad de abstracción que capta la naturaleza y el sentido de las cosas, le distingue del mundo animal[16]. La naturaleza exacta de la inteligencia ha sido objeto de las investigaciones de filósofos, teólogos y psicólogos, los cuales han examinado también el modo como el ser humano comprende el mundo y forma parte de él, al tiempo que ocupa un lugar peculiar en él. A través de esta investigación, la tradición cristiana ha llegado a entender la persona como un ser hecho de cuerpo y alma, ambos profundamente conectados a este mundo y, sin embargo, llegando más allá de él[17].
14. En la tradición clásica, el concepto de inteligencia suele declinarse en los términos complementarios de “razón” (ratio) e “intelecto” (intellectus). No se trata de facultades separadas, sino, como explica Santo Tomás de Aquino, de dos modos de obrar de la misma inteligencia: «el término intelecto se deduce de la íntima penetración de la verdad; mientras razón deriva de la investigación y del proceso discursivo»[18]. Esta sintética descripción permite poner en evidencia las dos prerrogativas fundamentales y complementarias de la inteligencia humana: el intellectus se refiere a la intuición de la verdad, es decir, al captarla con los “ojos” de la mente, que precede y sustenta la misma argumentación, mientras la ratio se refiere al razonamiento real, es decir, al proceso discursivo y analítico que conduce al juicio. Juntos, intelecto y razón, constituyen las dos caras del único acto del intelligere, «operación del hombre en cuanto hombre»[19].
15. Presentar al ser humano como ser “racional” no significa reducirlo a un modo específico de pensamiento, sino reconocer que la capacidad de comprensión intelectual de la realidad conforma e impregna todas sus actividades[20], constituyendo también, ejercitada en el bien o en el mal, un aspecto intrínseco de la naturaleza humana. En este sentido, la «palabra “racional” engloba todas las capacidades del ser humano: tanto la cognitiva como la volitiva, amar, elegir, desear. El término “racional” incluye también todas las capacidades corporales íntimamente relacionadas con las anteriores»[21]. Una perspectiva tan amplia pone de relieve cómo en la persona humana, creada a “imagen de Dios”, la racionalidad se integra para elevar, modelar y transformar tanto su voluntad como sus actos[22].
16. El pensamiento cristiano considera las facultades intelectuales en el marco de una antropología integral que concibe el ser humano como un ser esencialmente encarnado. En la persona humana, espíritu y materia «no son dos naturalezas unidas, sino que su unión constituye una única naturaleza»[23]. En otras palabras, el alma no es la “parte” inmaterial de la persona encerrada en el cuerpo, así como este no es la envoltura exterior de un “núcleo” sutil e intangible, sino que es todo el ser humano el que es, al mismo tiempo, material y espiritual. Este modo de pensar refleja la enseñanza de la Sagrada Escritura, que considera la persona humana como un ser que vive sus relaciones con Dios y con los otros, de ahí su dimensión típicamente espiritual, dentro y a través de esta existencia corpórea[24]. El significado profundo de esta condición recibe más luz del misterio de la Encarnación, por el que Dios mismo asumió nuestra carne que «ha sido elevada también en nosotros a dignidad sin igual»[25].
17. Aunque profundamente arraigada en una existencia corpórea, la persona humana trasciende el mundo material a través de su alma, que «es como si estuviera en el horizonte de la eternidad y el tiempo»[26]. A ella pertenecen la capacidad de trascendencia del intelecto y la auto posesión del libre albedrío, por lo que el ser humano «participa de la luz de la inteligencia divina»[27]. A pesar de ello, el espíritu humano no pone en práctica su modo normal de conocimiento sin el cuerpo[28]. De este modo, las capacidades intelectuales del ser humano forman parte integrante de una antropología que reconoce que él es «unidad de alma y cuerpo»[29]. A continuación, se desarrollarán otros aspectos de esta visión.
18. Los seres humanos «por su propia naturaleza están ordenados a la comunión interpersonal»[30], teniendo la capacidad de conocerse recíprocamente, de donarse por amor y de entrar en comunión con los otros. Por tanto, la inteligencia humana no es una facultad aislada, al contrario, se ejercita en las relaciones, encontrando su plena expresión en el dialogo, en la colaboración y en la solidaridad. Aprendemos con los otros, aprendemos gracias a los otros.
19. La orientación relacional de la persona humana se fundamenta en última instancia, en la donación eterna de sí mismo del Dios Uno y Trino, cuyo amor se revela tanto en la creación como en la redención[31]. La persona está llamada «a participar, por el conocimiento y el amor, en la vida de Dios»[32].
20. Esta vocación a la comunión con Dios va necesariamente unida a una llamada a la comunión con los otros. El amor a Dios no puede separarse del amor al prójimo (cf. 1Jn 4,20; Mt 22,37-39). En virtud de la gracia de participar de la vida de Dios, los cristianos llegan a ser imitadores del don desbordante de Cristo (cf. 2Cor 9,8-11; Ef 5,1-2) siguiendo su mandamiento: «que os améis unos a otros; como yo os he amado, amaos también unos a otros» (Jn 13,34)[33]. El amor y el servicio, que se hacen eco de la íntima vida divina de auto-donación, trascienden el interés propio para responder más plenamente a la vocación humana (cf. 1Jn 2,9). Aún más sublime que saber tantas cosas es el compromiso de cuidarnos los unos a los otros: «conociera todos los secretos y todo el saber […] pero no tengo amor, no sería nada» (1Cor 13, 2).
21. La inteligencia humana es, en definitiva, un «don de Dios otorgado para captar la verdad»[34]. En la doble acepción de intellectus–ratio, permite a la persona acceder a aquellas realidades que van más allá de la mera experiencia sensorial o de la utilidad, ya que «el deseo de verdad pertenece a la naturaleza misma del hombre. El interrogarse sobre el porqué de las cosas es inherente a su razón»[35]. Yendo más allá de los datos empíricos, la inteligencia humana «tiene capacidad para alcanzar la realidad inteligible con verdadera certeza»[36]. Incluso cuando la realidad se conozca sólo parcialmente, «el deseo de la verdad mueve […] a la razón a ir siempre más allá; queda incluso como abrumada al constatar que su capacidad es siempre mayor que lo que alcanza»[37]. Aunque la Verdad en sí misma excede los límites del intelecto humano, éste se siente sin embargo irresistiblemente atraído hacia ella[38] e impulsado por esta atracción, el ser humano se ve llevado a buscar «una verdad más profunda»[39].
22. Esta tensión innata a la búsqueda de la verdad se manifiesta de una manera especial en las capacidades típicamente humanas de comprensión semántica y de producción creativa[40], a través de las cuales esta búsqueda se desarrolla «de modo apropiado a la dignidad de la persona humana y a su naturaleza social»[41]. Asimismo, una orientación estable hacia la verdad es esencial para que la caridad sea auténtica y universal[42].
23. La búsqueda de la verdad alcanza su máxima expresión en la apertura a aquellas realidades que trascienden el mundo físico y creado. En Dios todas las verdades obtienen su sentido más elevado y original[43]. Confiar en Dios es «un momento de elección fundamental, en la cual está implicada toda la persona»[44]. De este modo, la persona se convierte en plenitud en aquello que está llamada a ser: «inteligencia y voluntad desarrollan al máximo su naturaleza espiritual para permitir que el sujeto cumpla un acto en el cual la libertad personal se vive de modo pleno»[45].
24. La fe cristiana considera la creación un acto libre del Dios Uno y Trino, el cual, como explica san Buenaventura, crea «no para hacer crecer la propia gloria, sino para manifestarla y para comunicarla»[46]. Puesto que Dios crea según su Sabiduría (cf. Sab 9,9; Jer 10,12), el mundo creado esta empapado de un orden intrínseco que refleja su diseño (cf. Gen 1; Dn 2,21-22; Is 45,18; Sal 74,12-17; 104)[47], dentro del cual Él ha llamado a los seres humanos a asumir un papel peculiar: cultivar y hacerse cargo del mundo[48].
25. Plasmado por el divino Artesano, el ser humano vive su identidad de ser una imagen de Dios «custodiando» y «cultivando» (cf. Gen 2,15) la creación, ejercitando su inteligencia y su pericia para ayudarla y desarrollarla según el plan del Padre[49]. En esto, la inteligencia humana refleja la Inteligencia divina que creó todas las cosas (cf. Gen 1-2; Jn 1)[50], continuamente la sostiene y la guía a su fin último en Él[51]. Además, el ser humano está llamado a desarrollar sus capacidades en ciencia y en técnica porque en ellas Dios es glorificado (cf. Sir 38,6). Por lo tanto, en una relación adecuada con la creación, por un lado, los seres humanos emplean su inteligencia y habilidad para cooperar con Dios en guiar la creación hacia el propósito al que Él la ha llamado[52], mientras que, por otra parte, el mismo mundo, como observa san Buenaventura, ayuda a la mente humana a «ascender gradualmente, como por los distintos escalones de una escalera, hasta el sumo principio que es Dios»[53].
Una comprensión integral de la inteligencia humana
26. En este contexto, la inteligencia humana se muestra más claramente como una facultad que es parte integrante del modo en el que toda la persona se involucra en la realidad. Un auténtico involucrarse implica abarcar la totalidad del ser: espiritual, cognitivo, corporal y relacional.
27. Este interés al afrontar la realidad se manifiesta de varios modos, en cuanto que cada persona, en su unicidad multiforme[54], busca comprender el mundo, se relaciona con los otros, resuelve problemas, expresa su creatividad y busca el bienestar integral a través de la sinergia de las diferentes dimensiones de la inteligencia[55]. Esto implica capacidades lógicas y lingüísticas, pero también puede incluir otras formas de interactuar con la realidad. Pensemos en el trabajo del artesano, que «debe ser capaz de discernir en la materia inerte una forma particular que los demás no pueden reconocer»[56] y sacarla a la luz a través de su intuición y experiencia. Los pueblos indígenas, que viven cerca de la tierra, suelen tener un profundo sentido de la naturaleza y sus ciclos[57]. Del mismo modo, el amigo que sabe encontrar la palabra adecuada o la persona que sabe gestionar bien las relaciones humanas ejemplifican una inteligencia que es «producto de la reflexión, del diálogo y del encuentro generoso entre las personas»[58]. Como observa el Papa Francisco, «en el tiempo de la inteligencia artificial no podemos olvidar que para salvar lo humano hacen falta la poesía y el amor»[59].
28. En el corazón de la visión cristiana de la inteligencia está la integración de la verdad en la vida moral y espiritual de la persona, orientando sus acciones a la luz de la bondad y la verdad de Dios. Según el plan de Dios, la inteligencia entendida en sentido pleno incluye también la posibilidad de gustar de aquello que es verdadero, bueno y bello, por lo que se puede afirmar, con la palabras del poeta francés del siglo XX Paul Claudel, que «la inteligencia es nada sin deleite»[60]. Incluso Dante Alighieri, cuando alcanza el cielo más alto en el Paraíso, puede atestiguar que el culmen de este placer intelectual se encuentra en la «luz intelectual, plena de amor; / amor de verdadero bien, lleno de dicha; / dicha que trasciende toda dulzura»[61].
29. Una correcta concepción de la inteligencia humana, por tanto, no puede reducirse a la mera adquisición de hechos o a la capacidad de realizar determinadas tareas específicas; sino que implica la apertura de la persona a las cuestiones ultimas de la vida y refleja una orientación hacia lo Verdadero y lo Bueno[62]. Expresión en la persona de la imagen divina, la inteligencia es capaz de acceder a la totalidad del ser, es decir, de considerar la existencia en su integridad que no se agota en lo mensurable, captando así el sentido de lo que ha llegado a comprender. Para los creyentes, esta capacidad implica, de manera especial, la posibilidad de crecer en el conocimiento de los misterios de Dios a través de la profundización racional de las verdades reveladas (intellectus fidei)[63]. La verdadera intelligentia está moldeada por el amor divino, que «ha sido derramado en nuestros corazones por el Espíritu Santo» (Rm 5,5). De esto se deduce que la inteligencia humana posee una dimensión contemplativa esencial, es decir, una apertura desinteresada a lo que es Verdadero, Bueno y Bello, más allá de cualquier utilidad particular.
30. A la luz de cuanto se ha dicho, las diferencias entre la inteligencia humana y los actuales sistemas de IA parecen evidentes. Si bien, se trata de una extraordinaria conquista tecnológica capaz de imitar algunas acciones asociadas a la racionalidad, la IA obra solamente realizando tareas, alcanzando objetivos o tomando decisiones basadas sobre datos cuantitativos y sobre la lógica computacional. Con su potencia analítica, por ejemplo, destaca en la integración de datos procedentes de diversos campos, en la construcción de sistemas complejos y el fomento de vínculos interdisciplinarios. De este modo, podría facilitar la colaboración entre expertos para resolver problemas cuya complejidad es tal que «no se pueden abordar desde una sola mirada o desde un solo tipo de intereses»[64].
31. Sin embargo, aunque la IA procesa y simula ciertas expresiones de la inteligencia, permanece fundamentalmente confinada en un ámbito lógico-matemático, que le impone ciertas limitaciones inherentes. Mientras que la inteligencia humana se desarrolla continuamente de forma orgánica en el transcurso del crecimiento físico y psicológico de una persona y es moldeada por una miríada de experiencias vividas en el cuerpo, la IA carece de la capacidad de evolucionar en este sentido. Aunque los sistemas avanzados pueden “aprender” mediante procesos como el aprendizaje automático, este tipo de formación es esencialmente diferente del desarrollo de crecimiento de la inteligencia humana, ya que está moldeada por sus experiencias corporales: estímulos sensoriales, respuestas emocionales, interacciones sociales y el contexto único que caracteriza cada momento. Estos elementos configuran y modelan el individuo en su propia historia personal. En cambio, la IA, al carecer de cuerpo físico, se basa en el razonamiento computacional y el aprendizaje a partir de vastos conjuntos de datos que comprenden experiencias y conocimientos recogidos, en cualquier caso, por los seres humanos.
32. Por consiguiente, aunque la IA puede simular algunos aspectos del razonamiento humano y realizar ciertas tareas con increíble rapidez y eficacia, sus capacidades computacionales representan sólo una fracción de las posibilidades más amplias de la mente humana. Por ejemplo, actualmente no puede reproducir el discernimiento moral ni la capacidad de establecer relaciones auténticas. Además, la inteligencia de una persona forma parte de una historia personal de formación intelectual y moral, que configura fundamentalmente la perspectiva de la persona individual, implicando las dimensiones físicas, emocionales, sociales, morales y espirituales de su vida. Dado que la IA no puede ofrecer esta amplitud de comprensión, los enfoques basados únicamente en esta tecnología, o que la asumen como la principal forma de interpretar el mundo, pueden conducir a «perder el sentido de la totalidad, de las relaciones que existen entre las cosas, del horizonte amplio»[65].
33. La inteligencia humana no consiste, principalmente, en realizar tareas funcionales, sino en comprender e implicarse activamente en la realidad en todos sus aspectos, y también es capaz de sorprendentes intuiciones. Dado que la IA no posee la riqueza de la corporeidad, la relacionalidad y la apertura del corazón humano a la verdad y al bien, sus capacidades, aunque parezcan infinitas, son incomparables con las capacidades humanas de captar la realidad. Se puede aprender tanto de una enfermedad, como de un abrazo de reconciliación e incluso de una simple puesta de sol. Tantas cosas que experimentamos como seres humanos nos abren nuevos horizontes y nos ofrecen la posibilidad de alcanzar una nueva sabiduría. Ningún dispositivo, que sólo funciona con datos, puede estar a la altura de estas y otras tantas experiencias presentes en nuestras vidas.
34. Establecer una equivalencia demasiado fuerte entre la inteligencia humana y la IA conlleva el riesgo de sucumbir a una visión funcionalista, según la cual las personas son evaluadas en función de las tareas que pueden realizar. Sin embargo, el valor de una persona no depende de la posesión de capacidades singulares, logros cognitivos y tecnológicos o éxito individual, sino de su dignidad intrínseca basada en haber sido creada a imagen de Dios[66]. Por lo tanto, dicha dignidad permanece intacta más allá de toda circunstancia, incluso en aquellos que son incapaces de ejercer sus capacidades, ya sea un feto, una persona en estado de inconsciencia o un anciano que sufre[67]. Ella está en la base de la tradición de los derechos humanos – y específicamente de aquellos que hoy son denominados los “neuroderechos” – que «constituyen un punto de convergencia importante para la búsqueda de un terreno común»[68] y que, por tanto, puede servir de guía ética fundamental en los debates sobre el desarrollo y el uso responsables de la IA.
35. A la luz de esto, como observa el Papa Francisco, «el uso mismo de la palabra “inteligencia”» en referencia a la IA «es engañoso»[69] y corre el riesgo de descuidar lo más valioso de la persona humana. Desde esta perspectiva, la IA no debe verse como una forma artificial de la inteligencia, sino como uno de sus productos[70].
IV. El papel de la ética para guiar el desarrollo y el uso de la IA
36. Partiendo de estas consideraciones, cabe preguntarse cómo puede entenderse la IA dentro del designio de Dios. La actividad técnico-científica no tiene un carácter neutro, siendo una empresa humana que pone en cuestión las dimensiones humanísticas y culturales del ingenio humano[71].
37. Vista como fruto de las potencialidades inscritas en la inteligencia humana[72], la investigación científica y el desarrollo de habilidades técnicas forman parte de la «colaboración del hombre y de la mujer con Dios en el perfeccionamiento de la creación visible»[73]. Al mismo tiempo, todos los logros científicos y tecnológicos son, en última instancia, dones de Dios[74]. Por lo tanto, los seres humanos deben emplear siempre sus talentos con vistas al fin superior para el que Él se los ha concedido[75].
38. Podemos reconocer con gratitud como la tecnología ha «remediado innumerables males que dañaban y limitaban al ser humano»[76], y no podemos sino alegrarnos de ello. Sin embargo, no todas las innovaciones tecnológicas representan en sí mismas un auténtico progreso[77]. Por ello, la Iglesia se opone especialmente a aquellas aplicaciones que atentan contra la santidad de la vida o la dignidad de la persona[78]. Como cualquier otra empresa humana, el desarrollo tecnológico debe estar al servicio del individuo y contribuir a los esfuerzos para lograr «más justicia, mayor fraternidad y un más humano planteamiento en los problemas sociales», que «vale más que los progresos técnicos»[79]. La preocupación por las implicaciones éticas del desarrollo tecnológico es compartida no sólo en el seno de la Iglesia, sino también por científicos, estudiosos de la tecnología y asociaciones profesionales, que reclaman cada vez más una reflexión ética para orientar ese progreso de manera responsable.
39. Para responder a estos desafíos, hay que llamar la atención sobre la importancia de la responsabilidad moral basada en la dignidad y la vocación de la persona. Este principio es válido también para las cuestiones relativas a la IA. En este ámbito, la dimensión ética es primordial, ya que son las personas las que diseñan los sistemas y determinan para qué se utilizan[80]. Entre una máquina y un ser humano, sólo este último es verdaderamente un agente moral, es decir, un sujeto moralmente responsable que ejerce su libertad en sus decisiones y acepta las consecuencias de las mismas[81]; sólo el ser humano está en relación con la verdad y el bien, guiado por la conciencia moral que le llama a «amar y practicar el bien y que debe evitar el mal»[82], certificando «la autoridad de la verdad con referencia al Bien supremo por el cual la persona humana se siente atraída»[83]; sólo el ser humano puede ser lo suficientemente consciente de sí mismo como para escuchar y seguir la voz de la conciencia, discerniendo con prudencia y buscando el bien posible en cada situación[84]. En realidad, esto también pertenece al ejercicio de la inteligencia por parte de la persona.
40. Como cualquier producto del ingenio humano, la IA también puede orientarse hacia fines positivos o negativos[85]. Cuando se utiliza de manera que respete la dignidad humana y promueva el bienestar de los individuos y las comunidades, puede contribuir favorablemente a la vocación humana. Sin embargo, como en todas las esferas en las que los seres humanos están llamados a tomar decisiones, la sombra del mal también se extiende aquí. Allí donde la libertad humana permite la posibilidad de elegir lo que es malo, la valoración moral de esta tecnología depende de cómo sea orientada y empleada.
41. Ahora bien, no son sólo los fines, sino también los medios empleados para alcanzarlos los que son éticamente significativos; también son importantes la visión global y la comprensión de la persona integrada en tales sistemas. Los productos tecnológicos reflejan la visión del mundo de sus creadores, propietarios, usuarios y reguladores[86], y con su poder «modelan el mundo y comprometen a las conciencias en el ámbito de los valores»[87]. A nivel social, algunos avances tecnológicos también podrían reforzar relaciones y dinámicas de poder que no se ajustan a una visión correcta de la persona y la sociedad.
42. Por eso, tanto los fines como los medios utilizados en una determinada aplicación de la IA, así como la visión global que encarna, deben evaluarse para garantizar que respetan la dignidad humana y promueven el bien común[88]. De hecho, como ha dicho el Papa Francisco, la «dignidad intrínseca de todo hombre y mujer» debe ser «el criterio clave para evaluar las tecnologías emergentes, que revelan su positividad ética en la medida en que contribuyen a manifestar esa dignidad y a incrementar su expresión, en todos los niveles de la vida humana»[89], incluida la esfera social y económica. En este sentido, la inteligencia humana desempeña un papel crucial no solo en el diseño y en la producción de la tecnología, sino también a la hora de orientar su uso en función del bien auténtico de la persona[90]. La responsabilidad de ejercer sabiamente esta gestión corresponde a cada nivel de la sociedad, bajo la guía del principio de subsidiariedad y de los demás principios de la Doctrina Social de la Iglesia.
Una ayuda a la libertad humana y a las decisiones
43. El compromiso de garantizar que la IA defienda y promueva siempre el valor supremo de la dignidad de todo ser humano y la plenitud de su vocación es un criterio de discernimiento que afecta a desarrolladores, propietarios, operadores y reguladores, así como a los usuarios finales, y sigue siendo válido para cualquier empleo de la tecnología en todos los niveles de su uso.
44. Un análisis de las implicaciones de este principio, por tanto, podría comenzar tomando en consideración la importancia de la responsabilidad moral. Dado que una causalidad moral en sentido pleno sólo pertenece a los agentes personales, no a los artificiales, es de suma importancia poder identificar y definir quién es responsable de los procesos de IA, en particular de aquellos que incluyen posibilidades de aprendizaje, corrección y reprogramación. Si bien, por un lado, los métodos empíricos (bottom-up) y las redes neuronales muy profundas permiten a la IA resolver problemas complejos, por otro lado, dificultan la comprensión de los procesos que condujeron a tales soluciones. Esto complica la determinación de responsabilidades ya que, si una aplicación de IA produjera resultados no deseados, sería difícil determinar a qué persona atribuirlos. Para resolver este problema, hay que prestar atención a la naturaleza de los procesos de atribución de responsabilidad (accountability) en contextos complejos y altamente automatizados, en los que los resultados a menudo sólo son observables a medio o largo plazo. Por lo tanto, es importante que quienes tomen decisiones basándose en la IA se hagan responsables de ellas y que sea posible dar cuenta del uso de la IA en cada fase del proceso de toma de decisiones[91].
45. Además de determinar las responsabilidades, se deben establecer los fines que se asignan a los sistemas de IA. Aunque estos puedan utilizar mecanismos de aprendizaje autónomo no supervisado y a veces seguir caminos que no pueden reconstruirse, en última instancia persiguen objetivos que les han sido asignados por los humanos y se rigen por procesos establecidos por quienes los diseñaron y programaron. Esto representa un desafío, ya que, a medida que los modelos de IA son cada vez más capaces de aprendizaje independiente, puede reducirse de hecho la posibilidad de ejercer un control sobre ellos para garantizar que dichas aplicaciones estén al servicio de los fines humanos. Esto plantea el problema crítico de cómo garantizar que los sistemas de IA se ordenen para el bien de las personas y no contra ellas.
46. Si un uso ético de los sistemas de IA cuestiona, en primer lugar, a quienes los desarrollan, producen, gestionan y supervisan, también es compartida esta responsabilidad por los usuarios. En efecto, como observa el Papa Francisco, «lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas. El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir»[92]. Quien utiliza la IA para realizar un trabajo y sigue los resultados crea un contexto en el que él, en última instancia, es responsable del poder que ha delegado. Por lo tanto, en la medida en que la IA puede asistir a los seres humanos a tomar decisiones, los algoritmos que la guían deben ser fiables, seguros, lo suficientemente robustos como para manejar inconsistencias y transparentes en su funcionamiento para mitigar sesgos (bias) y efectos secundarios indeseados[93]. Los marcos normativos deben garantizar que todas las personas jurídicas puedan dar cuenta del uso de la IA y de todas sus consecuencias, con medidas adecuadas para salvaguardar la transparencia, la privacidad y la responsabilidad (accountability)[94]. Además, los usuarios deben tener cuidado de no depender excesivamente de la IA para sus decisiones, aumentando el ya alto grado de subordinación a la tecnología que caracteriza a la sociedad contemporánea.
47. La enseñanza moral y social de la Iglesia ayuda a proponer un uso de la IA que preserve la capacidad humana de acción. Las consideraciones relacionadas con la justicia, por ejemplo, deben abordar cuestiones como el fomento de dinámicas sociales justas, la defensa de la seguridad internacional y la promoción de la paz. Ejerciendo la prudencia, los individuos y las comunidades pueden discernir cómo utilizar la IA en beneficio de la humanidad, evitando al mismo tiempo aplicaciones que puedan menoscabar la dignidad humana o dañar el planeta. En este contexto, el concepto de “responsabilidad” debe entenderse no sólo en su sentido más estricto, sino «hacerse cargo del otro, y no solo […] dar cuenta de aquello que se ha hecho»[95].
48. Por lo tanto, la IA, como cualquier tecnología, puede formar parte de una respuesta consciente y responsable a la vocación de la humanidad al bien. Sin embargo, como ya se ha dicho, debe ser dirigida por la inteligencia humana para alinearse con esa vocación, garantizando el respeto a la dignidad de la persona. Reconociendo esta «eminente dignidad», el Concilio Vaticano II afirma que «el orden social […] y su progresivo desarrollo deben en todo momento subordinarse al bien de la persona»[96]. A la luz de esto, el uso de la IA, como ha dicho el Papa Francisco, debe venir acompañado «de una ética basada en una visión del bien común, una ética de libertad, responsabilidad y fraternidad, capaz de favorecer el pleno desarrollo de las personas en relación con los demás y con la creación»[97].
49. Dentro de esta perspectiva general, a continuación, algunas observaciones ilustrarán cómo los argumentos expuestos pueden contribuir a orientar en situaciones concretas, de acuerdo con la «sabiduría del corazón» propuesta por Papa Francisco[98]. Aun no siendo exhaustiva, esta propuesta se ofrece al servicio de un diálogo que busca identificar aquellas modalidades en las que la IA puede defender la dignidad humana y promover el bien común[99].
50. Como ha dicho el Papa Francisco «la dignidad intrínseca de cada persona y la fraternidad que nos vincula como miembros de una única familia humana, deben estar en la base del desarrollo de las nuevas tecnologías y servir como criterios indiscutibles para valorarlas antes de su uso»[100].
51. Considerada en esta óptica, la IA podría «introducir importantes innovaciones en la agricultura, la educación y la cultura, un mejoramiento del nivel de vida de enteras naciones y pueblos, el crecimiento de la fraternidad humana y de la amistad social», y por tanto ser «utilizada para promover el desarrollo humano integral»[101]. También podría ayudar a las organizaciones a identificar a las personas que se encuentran en estado de necesidad y a contrarrestar los casos de discriminación y marginación. De ésta y otras formas similares, la IA podría contribuir al desarrollo humano y al bien común[102].
52. Sin embargo, aunque la IA encierra muchas posibilidades para el bien, también puede obstaculizar o incluso oponerse al desarrollo humano y al bien común. El Papa Francisco ha observado que «los datos disponibles hasta ahora parezcan sugerir que las tecnologías digitales han servido para aumentar las desigualdades en el mundo. No sólo las diferencias de riqueza material, que son importantes, sino también las diferencias de acceso a la influencia política y social»[103]. En este sentido, la IA podría usarse para prolongar las situaciones de marginación y discriminación, para crear nuevas formas de pobreza, para agrandar la “brecha digital” y agravar las desigualdades sociales[104].
53. Además, el hecho de que, actualmente, la mayor parte del poder sobre las principales aplicaciones de la IA esté concentrado en manos de unas pocas y poderosas empresas plantea importantes problemas éticos. Para agravar este problema está también la naturaleza inherente de los sistemas de IA, en los que ningún individuo puede tener una supervisión completa de los vastos y complejos conjuntos de datos utilizados para el cálculo. Esta falta de una responsabilidad (accountability) bien definida produce el riesgo que la IA pueda ser manipulada para ganancias personales o empresariales, o para orientar la opinión pública hacia los intereses de un sector. Tales entidades, motivadas por sus propios intereses, poseen la capacidad de ejercer «formas de control tan sutiles como invasivas, creando mecanismos de manipulación de las conciencias y del proceso democrático»[105].
54. Además de esto, existe el riesgo de que la IA se utilice para promover lo que el Papa Francisco ha llamado «paradigma tecnocrático», que tiende a resolver todos los problemas del mundo sólo con medios tecnológicos[106]. Según este paradigma, la dignidad humana y la fraternidad, a menudo, se dejan de lado en nombre de la eficacia, «como si la realidad, el bien y la verdad brotaran espontáneamente del mismo poder tecnológico y económico»[107]. Por el contrario, la dignidad humana y el bien común nunca deben abandonarse en nombre de la eficacia[108], mediante «los desarrollos tecnológicos que no llevan a una mejora de la calidad de vida de toda la humanidad, sino que, por el contrario, agravan las desigualdades y los conflictos, no podrán ser considerados un verdadero progreso»[109]. Más bien, la IA debe ponerse «al servicio de otro tipo de progreso más sano, más humano, más social, más integral»[110].
55. Para alcanzar este objetivo es necesaria una reflexión más profunda sobre la relación entre autonomía y responsabilidad, ya que una mayor autonomía conlleva una mayor responsabilidad de cada persona en los diversos aspectos de la vida en común. Para los cristianos, el fundamento de esta responsabilidad es el reconocimiento de que toda capacidad humana, incluida la autonomía de la persona, procede de Dios y está destinada a ser puesta al servicio de los demás[111]. Por lo tanto, en lugar de perseguir únicamente objetivos económicos o tecnológicos, la IA debe utilizarse en favor del «bien común de toda la familia humana», es decir del conjunto «de condiciones de la vida social que hacen posible a las asociaciones y a cada uno de sus miembros el logro más pleno y más fácil de la propia perfección»[112].
La IA y las relaciones humanas
56. El Concilio Vaticano II afirma que el ser humano es por «su íntima naturaleza, un ser social, y no puede vivir ni desplegar sus cualidades sin relacionarse con los demás»[113]. Esta convicción subraya que la vida en sociedad pertenece a la naturaleza y a la vocación de la persona[114]. Como seres sociales, los seres humanos buscan relaciones que impliquen el intercambio recíproco y la búsqueda de la verdad, «unos exponen a otros la verdad que han encontrado o creen haber encontrado, para ayudarse mutuamente en la búsqueda de la verdad»[115].
57. Esta búsqueda, junto con otros aspectos de la comunicación humana, presupone el encuentro y intercambio mutuo entre personas que llevan dentro la impronta de las propias historias, de los propios pensamientos, convicciones y relaciones. Tampoco podemos olvidar que la inteligencia humana es una realidad múltiple, plural y compleja: individual y social; racional y afectiva; conceptual y simbólica. El Papa Francisco pone en evidencia esta dinámica, señalando como «podemos buscar juntos la verdad en el diálogo, en la conversación reposada o en la discusión apasionada. Es un camino perseverante, hecho también de silencios y de sufrimientos, capaz de recoger con paciencia la larga experiencia de las personas y de los pueblos. […] El problema es que un camino de fraternidad, local y universal, sólo puede ser recorrido por espíritus libres y dispuestos a encuentros reales»[116].
58. Es en este contexto, donde se pueden considerar los desafíos puestos por la IA a las relaciones. Al igual que otros medios tecnológicos, la IA tiene la capacidad de favorecer las conexiones dentro de la familia humana. Sin embargo, la IA también podría obstaculizar un verdadero encuentro con la realidad y, en definitiva, llevar a las personas a «una profunda y melancólica insatisfacción en las relaciones interpersonales, o un dañino aislamiento»[117]. Las auténticas relaciones humanas, por el contrario, requieren la riqueza humana de saber estar con los demás, compartiendo su dolor, sus exigencias y su alegría[118]. Dado que la inteligencia humana también se expresa y enriquece a través de formas interpersonales y encarnadas, los encuentros auténticos y espontáneos con los demás son indispensables para comprometerse con la realidad en su totalidad.
59. Porque «la verdadera sabiduría supone el encuentro con la realidad»[119], los progresos de la IA lanzan un desafío posterior: dado que es capaz de imitar con eficacia los trabajos de la inteligencia humana, ya no se puede dar por sentado si se está interactuando con un ser humano o con una máquina. Aunque la IA “generativa” es capaz de producir texto, voz, imágenes y otros output avanzados que suelen ser obra de seres humanos, hay que considerarla como lo que es: una herramienta, no una persona[120]. Esta distinción se ve a menudo oscurecida por el lenguaje utilizado por los profesionales, que tiende a antropomorfizar la IA y difumina así la línea que separa lo humano de lo artificial.
60. La antropomorfización de la IA plantea problemas particulares para el crecimiento de los niños, que pueden sentirse alentados a desarrollar patrones de interacción que entiendan las relaciones humanas de forma utilitaria, como es el caso de los chatbots. Tales enfoques corren el riesgo de inducir a los más jóvenes a percibir a los profesores como dispensadores de información y no como maestros que les guían y apoyan en su crecimiento intelectual y moral. Las relaciones auténticas, arraigadas en la empatía y en un compromiso leal con el bien del otro, son esenciales e insustituibles para fomentar el pleno desarrollo de la persona. Relaciones genuinas, enraizadas en la empatía y con un compromiso leal por el bien del otro, son esenciales e insustituibles para favorecer el pleno desarrollo de la persona.
61. En este contexto, es importante aclarar – aunque con frecuencia se recurre a una terminología antropomórfica – que ninguna aplicación de la IA es capaz de sentir de verdad empatía. Las emociones no se pueden reducir a expresiones faciales o frases generadas en respuesta a las peticiones del usuario; en cambio, las emociones se entienden en el modo como una persona, en su totalidad, se relaciona con el mundo y con su propia vida, con el cuerpo que juega un papel central. La empatía requiere la capacidad de escuchar, de reconocer la irreductible singularidad del otro, de acoger su alteridad y, también, de comprender el significado de sus silencios[121]. En contraste con la esfera de los juicios analíticos, donde predomina la IA, la verdadera empatía existe en la esfera relacional. Pone en tela de juicio la percepción y la apropiación de la experiencia del otro, al tiempo que mantiene la distinción de cada individuo[122]. Aunque la IA puede simular respuestas empáticas, los sistemas artificiales no pueden reproducir la naturaleza personal y relacional de la empatía genuina[123].
62. Por lo tanto, siempre se debería evitar representar, en modo equivocado, a la IA como una persona, y hacerlo con fines fraudulentos constituye una grave violación ética que podría erosionar la confianza social. Del mismo modo, utilizar la IA para engañar en otros contextos – como la educación o las relaciones humanas, incluida la esfera de la sexualidad –debe considerarse inmoral y requiere una cuidadosa vigilancia para prevenir posibles daños, mantener la transparencia y garantizar la dignidad de todos[124].
63. En un mundo siempre más individualista, algunos recurren a la IA en busca de relaciones humanas profundas, de simple compañía o incluso de relaciones afectivas. Sin embargo, aun reconociendo que los seres humanos están hechos para experimentar relaciones auténticas, hay que reiterar que la IA solo puede simularlas. Estas relaciones con otros seres humanos son parte integrante del modo como una persona humana crece hasta convertirse en lo que está destinada a ser. Por tanto, si la IA es usada para favorecer contactos genuinos entre las personas, puede contribuir positivamente a la plena realización de la persona; por el contrario, si en lugar de esas relaciones y de la vinculación con Dios se sustituyen las relaciones por los medios tecnológicos, corremos el riesgo de sustituir la auténtica relacionalidad por un simulacro sin vida (cf. Sal 160,20; Rm 1,22-23). En lugar de replegarnos en mundos artificiales, estamos llamados a implicarnos de manera seria y comprometida con la realidad, hasta el punto de identificarnos con los pobres y los que sufren, para consolar a quien está en el dolor y crear lazos de comunión con todos.
64. Dada su naturaleza transversal, la IA también encuentra una creciente aplicación en los sistemas económico-financieros. En la actualidad, las mayores inversiones m se observan, además de en el sector tecnológico, en los de la energía, las finanzas y los medios de comunicación, con especial referencia a las áreas de marketing y ventas, logística, innovación tecnológica, compliance y gestión de riesgos. De la aplicación en estos ámbitos emerge la naturaleza ambivalente de la IA, como fuente de enormes oportunidades pero también de profundos riesgos. Una primera crítica real se deriva de la posibilidad de que, debido a la concentración de la oferta en unas pocas empresas, sean éstas las únicas que se beneficien del valor creado por la IA y no las empresas en las que se utiliza.
65. Por otra parte, en el ámbito económico-financiero, hay aspectos más generales sobre los que la IA puede producir efectos que deben evaluarse cuidadosamente, vinculados sobre todo a la interacción entre la realidad concreta y el mundo digital. Un primer punto a considerar se refiere a la coexistencia de instituciones económicas y financieras que se presentan en un contexto determinado bajo formas diferentes y alternativas. Se trata de un factor a promover, ya que podría traer consigo beneficios en términos de apoyo a la economía real, favoreciendo su desarrollo y estabilidad, especialmente en tiempos de crisis. Sin embargo, hay que subrayar que las realidades digitales, al estar libres de limitaciones espaciales, tienden a ser más homogéneas e impersonales en comparación con una comunidad ligada a un lugar concreto y a una historia concreta, con una trayectoria común caracterizada por valores y esperanzas compartidos, pero también por desacuerdos y divergencias inevitables. Esta diversidad es un recurso innegable para la vida económica de una comunidad. Entregar la economía y las finanzas por completo en manos de la tecnología digital significaría reducir esta variedad y riqueza, de modo que muchas soluciones a los problemas económicos, accesibles a través de un diálogo natural entre las partes implicadas, podrían dejar de ser viables en un mundo dominado por procedimientos y proximidades sólo aparentes.
66. Otro ámbito en el que el impacto de la IA ya se deja sentir profundamente es el mundo del trabajo. Como en muchos otros ámbitos, está provocando transformaciones sustanciales en muchas profesiones con efectos diversos. Por un lado, la IA tiene el potencial de aumentar las competencias y la productividad, ofreciendo la posibilidad de crear puestos de trabajo, permitiendo a los trabajadores concentrarse en tareas más innovadoras y abriendo nuevos horizontes a la creatividad y la inventiva.
67. Sin embargo, mientras la IA promete impulsar la productividad haciéndose cargo de tareas ordinarias, a menudo los trabajadores se ven obligados a adaptarse a la velocidad y las exigencias de las máquinas, en lugar de que éstas últimas estén diseñadas para ayudar a quienes trabajan. Así, contrariamente a los beneficios anunciados de la IA, los enfoques actuales de la tecnología pueden, paradójicamente, desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas. La necesidad de seguir el ritmo de la tecnología puede erosionar el sentido de la propia capacidad de obrar de los trabajadores y ahogar las capacidades innovadoras que están llamados a aportar en su trabajo[125].
68. La IA está eliminando la necesidad de ciertas tareas que antes realizaban los seres humanos. Si se utiliza para sustituir a los trabajadores humanos en lugar de acompañarlos, existe «el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos»[126]. Además, a medida que la IA se hace más poderosa, también existe el peligro asociado de que el trabajo pierda su valor en el sistema económico. Esta es la consecuencia lógica del paradigma tecnocrático: el mundo de una humanidad supeditada a la eficacia, en el que, en última instancia, hay que recortar el coste de esa humanidad. En cambio, las vidas humanas son preciosas en sí mismas, más allá de su rendimiento económico. El Papa Francisco constata que, como consecuencia de este paradigma, hoy en día «no parece tener sentido invertir para que los lentos, débiles o menos dotados puedan abrirse camino en la vida»[127]. Y debemos concluir con él que «no podemos permitir que una herramienta tan poderosa e indispensable como la inteligencia artificial refuerce tal paradigma, sino que más bien debemos hacer de la inteligencia artificial un baluarte precisamente contra su expansión»[128].
69. Por esto, esta bien recordar siempre que «el orden real debe someterse al orden personal, y no al contrario»[129]. Por lo tanto, el trabajo humano debe estar no sólo al servicio del beneficio, sino «del hombre, del hombre integral, teniendo en cuanta sus necesidades materiales y sus exigencias intelectuales, morales, espirituales y religiosas»[130]. En este contexto, la Iglesia reconoce cómo el trabajo es «no sólo […] un modo de ganarse el pan», sino también «una dimensión irrenunciable de la vida social» y «un cauce para el crecimiento personal, para establecer relaciones sanas, para expresarse a sí mismo, para compartir dones, para sentirse corresponsable en el perfeccionamiento del mundo, y en definitiva para vivir como pueblo»[131].
70. Porque el trabajo es «parte del sentido de la vida en esta tierra, camino de maduración, de desarrollo humano y de realización personal», «no debe buscarse que el progreso tecnológico reemplace cada vez más el trabajo humano, con lo cual la humanidad se dañaría a sí misma»[132], más bien, hay que esforzarse por promoverla. Desde este punto de vista, la IA debe ayudar al juicio humano y no sustituirlo, del mismo modo que nunca debe degradar la creatividad ni reducir a los trabajadores a meros «engranajes de una máquina». Por tanto, «el respeto de la dignidad de los trabajadores y la importancia de la ocupación para el bienestar económico de las personas, las familias y las sociedades, la seguridad de los empleos y la equidad de los salarios deberían constituir una gran prioridad para la comunidad internacional, a medida que estas formas de tecnología se van introduciendo cada vez más en los lugares de trabajo»[133].
71. En cuanto partícipes de la obra sanadora de Dios, los operadores sanitarios tienen la vocación y la responsabilidad de ser «custodios y servidores de la vida humana»[134]. Por eso, la profesión sanitaria tiene una «intrínseca e imprescindible dimensión ética», tal y como reconoce el Juramento Hipocrático, que exige a los médicos y profesionales sanitarios que se comprometan a «respetar absolutamente la vida humana y su carácter sagrado»[135]. Este compromiso, con el ejemplo del Buen Samaritano, debe desarrollarse por hombres y mujeres «que no dejan que se erija una sociedad de exclusión, sino que se hacen prójimos y levantan y rehabilitan al caído, para que el bien sea común»[136].
72. Considerada en esta óptica, la IA parece tener un enorme potencial en diversas aplicaciones del ámbito médico, por ejemplo, para ayudar en la actividad diagnóstica de los profesionales sanitarios, facilitando la relación entre pacientes y personal médico, ofreciendo nuevos tratamientos y ampliando el acceso a una atención de calidad incluso para quienes sufren situaciones de aislamiento o de marginalidad. De este modo, la tecnología podría mejorar la «cercanía llena de compasión y de ternura»[137] del personal sanitario hacia los enfermos y los que sufren.
73. Sin embargo, si la IA se utilizara no para mejorar, sino para sustituir por completo la relación entre pacientes y profesionales sanitarios, dejando que los primeros interactuasen con una máquina en lugar de con un ser humano, se verificaría la reducción de una estructura relacional humana muy importante en un sistema centralizado, impersonal y desigual. En lugar de fomentar la solidaridad con los enfermos y los que sufren, estas aplicaciones de IA correrían el riesgo de agravar la soledad que suele acompañar a la enfermedad, sobre todo en el contexto de una cultura en la que «no se considera ya a las personas como un valor primario que hay que respetar y amparar»[138]. Un tal uso de estos sistemas no sería conforme con el respeto de la dignidad de la persona y la solidaridad con los que sufren.
74. La responsabilidad por el bienestar del paciente y las decisiones relacionadas que afectan a su vida constituyen el núcleo de la profesión sanitaria. Esta responsabilidad exige que el personal médico ejerza toda su capacidad e inteligencia para poner en práctica decisiones ponderadas y éticamente motivadas con respecto a las personas confiadas a su cuidado, respetando siempre la dignidad inviolable del paciente y el principio del consentimiento informado. En consecuencia, las decisiones relativas al tratamiento de los pacientes y la carga de responsabilidad asociada deben permanecer siempre en manos de las personas y nunca delegarse en la IA[139].
75. Además de esto, el uso de la IA para determinar quién debe recibir tratamiento, basándose principalmente en criterios económicos o de eficacia, es un caso especialmente problemático de “paradigma tecnocrático” que debe rechazarse[140]. De hecho, «optimizar los recursos significa usarlos de manera ética y solidaria y no penalizar a los más frágiles»[141]; por no mencionar que, en este ámbito, dichos instrumentos están expuestos «a formas de prejuicio y discriminación. Los errores sistémicos pueden multiplicarse fácilmente, produciendo no sólo injusticias en casos concretos sino también, por efecto dominó, auténticas formas de desigualdad social»[142].
76. Además, la integración de la IA en la atención sanitaria también plantea el riesgo de amplificar otras desigualdades ya existentes en el acceso a la atención. Dado que la atención sanitaria se centra cada vez más en la prevención y en los enfoques basados en el estilo de vida, puede darse el caso de que las soluciones impulsadas por la IA puedan involuntariamente favorecer a las poblaciones más acomodadas, que ya disfrutan de un mayor acceso a los recursos médicos y a una nutrición de calidad. Esta tendencia corre el riesgo de reforzar el modelo de una “medicina para ricos”, en la que las personas provistas de medios económicos se benefician de instrumentos avanzados de prevención y de información médica personalizada, mientras que a otros les cuesta acceder incluso a los servicios básicos. Por lo tanto, se necesitan marcos de gestión equitativos para garantizar que el uso de la IA en la atención sanitaria no agrave las desigualdades existentes, sino que esté al servicio del bien común.
77. Mantienen una plena actualidad las palabras del Concilio Vaticano II: «a verdadera educación se propone la formación de la persona humana en orden a su fin último y al bien de las varias sociedades, de las que el hombre es miembro»[143]. De ello se deduce que la educación«no es nunca un simple proceso de transmisión de conocimientos y de habilidades intelectuales, sino que pretende contribuir a la formación integral de la persona en sus diversas dimensiones (intelectual, cultural, espiritual…) incluyendo, por ejemplo, la vida comunitaria y las relaciones vividas en el seno de la comunidad académica»[144], en el respeto a la naturaleza y la dignidad de la persona humana.
78. Este enfoque implica un compromiso a formar la mente, pero siempre como parte del desarrollo integral de la persona: «Tenemos que romper ese imaginario sobre la educación, según el cual educar es llenar la cabeza de ideas. Así educamos autómatas, macrocéfalos, no personas. Educar es arriesgarse en la tensión entre la cabeza, el corazón y las manos»[145].
79. En el centro de este trabajo de formación de la persona humana integral está la relación indispensable entre maestro y alumno. Los profesores no se limitan a transmitir conocimientos, sino que son también modelos de las principales cualidades humanas e inspiradores de la alegría del descubrimiento[146]. Su presencia motiva a los alumnos tanto por los contenidos que imparten como por la atención que muestran hacia ellos. Este vínculo favorece la confianza, la comprensión recíproca y la capacidad de abordar la dignidad única y el potencial de cada individuo. En el alumno, esto puede generar un auténtico deseo de crecer. La presencia física del maestro crea una dinámica relacional que la IA no puede replicar, una dinámica que profundiza el compromiso y nutre el desarrollo integral del alumno.
80. En este contexto, la IA presenta tanto oportunidades como desafíos. Si se utiliza con prudencia, dentro de una auténtica relación entre maestro y alumno y ordenada a los auténticos fines de la educación, puede convertirse en un valioso recurso educativo, mejorando el acceso a la educación y ofreciendo un apoyo personalizado y un feedback inmediato por parte los alumnos. Estas ventajas podrían mejorar la experiencia de aprendizaje, sobre todo en los casos en que sea necesaria una atención especial individualizada o cuando los recursos educativos sean escasos.
81. Por otra parte, una tarea esencial de la educación es formar «el intelecto para razonar bien en todos las materias, para proyectarse hacia la verdad y aferrarla»[147], ayudando al «lenguaje de la cabeza» a crecer en armonía con el «lenguaje del corazón» y el «lenguaje de las manos»[148]. Esto es aún más vital en una época marcada por la tecnología, en la que «no se trata solamente de “usar” instrumentos de comunicación, sino de vivir en una cultura ampliamente digitalizada, que afecta de modo muy profundo la noción de tiempo y de espacio, la percepción de uno mismo, de los demás y del mundo, el modo de comunicar, de aprender, de informarse, de entrar en relación con los demás»[149]. Sin embargo, en lugar de promover «un intelecto culto» que «lleva consigo poder y gracia en cada trabajo y ocupación que emprende»[150], el uso extensivo de la IA en la educación podría provocar una creciente dependencia de los estudiantes con respecto a la tecnología, lo que bloquearía su capacidad para realizar determinadas actividades de forma autónoma y agravaría su dependencia de las pantallas[151].
82. Además, mientras que algunos sistemas de IA han sido pensados específicamente para ayudar a las personas a desarrollar sus propias capacidades de pensamiento crítico y de resolución de problemas, muchos otros programas se limitan a proporcionar respuestas en lugar de incitar a los estudiantes a encontrarlas por sí mismos o a escribir textos por sí mismos[152]. En lugar de entrenar a los jóvenes para acumular información y dar respuestas rápidas, la educación debería «promover libertades responsables, que opten en las encrucijadas con sentido e inteligencia»[153]. A partir de esto, «la educación en el uso de formas de inteligencia artificial debería centrarse sobre todo en promover el pensamiento crítico. Es necesario que los usuarios de todas las edades, pero sobre todo los jóvenes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades científicas están llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y éticos del desarrollo y el uso de la tecnología»[154].
83. Como recordaba san Juan Pablo II, «en el mundo de hoy, caracterizado por unos progresos tan rápidos en la ciencia y en la tecnología, las tareas de la Universidad Católica asumen una importancia y una urgencia cada vez mayores»[155]. En particular, se exhorta a las Universidades Católicas a hacerse presentes como grandes laboratorios de esperanza en esta encrucijada de la historia. En clave inter y transdisciplinar, ejerciten «con sabiduría y creatividad»[156], una investigación precisa sobre este fenómeno; contribuyendo a poner de manifiesto las potencialidades saludables en los diversos campos de la ciencia y de la realidad; guiándolos siempre hacia aplicaciones que sean éticamente cualificadas, claramente al servicio de la cohesión de nuestra sociedad y del bien común; alcanzando nuevas fronteras del diálogo entre la Fe y la Razón.
84. Además, se sabe que los actuales programas de IA pueden proporcionar información distorsionada o artefactual, lo que lleva a los estudiantes a basarse en contenidos inexactos. «De este modo, no sólo se corre el riesgo de legitimar la difusión de noticias falsas y robustecer la ventaja de una cultura dominante, sino de minar también el proceso educativo en ciernes (in nuce)»[157]. Con el tiempo, la distinción entre usos apropiados e inapropiados de dicha tecnología, tanto en la educación como en la investigación, podría ser más clara. Al mismo tiempo, un principio rector decisivo es que el uso de la IA debe ser siempre transparente y nunca ambiguo.
IA, desinformación, deepfake y abusos
85. La IA es también un apoyo para la dignidad de la persona humana cuando se utiliza como ayuda para comprender hechos complejos o como guía hacia recursos válidos en la búsqueda de la verdad[158].
86. Sin embargo, también existe el grave riesgo de que la IA genere contenidos manipulados e informaciones falsas que, al ser muy difícil de distinguir de los datos reales, pueden inducir fácilmente al engaño. Esto puede ocurrir accidentalmente, como en el caso de la “alucinación” de la IA, que se produce cuando un sistema generativo produce contenidos que parecen reflejar la realidad pero que no son verídicos. Aunque es difícil gestionar este fenómeno, ya que la generación de información que imita la producida por los humanos es una de las principales características de la IA, representa un desafío mantener bajo control estos riesgos. Las consecuencias de tales aberraciones e informaciones falsas pueden ser muy graves. Por ello, todos los que producen y utilizan la IA deben comprometerse con la veracidad y exactitud de las informaciones elaboradas por tales sistemas y difundidas al público.
87. Si, por un lado, la IA tiene el potencial latente de generar contenidos ficticios, por otro lado, existe el problema aún más preocupante de su uso intencionado para la manipulación. Esto puede ocurrir, por ejemplo, cuando un operador humano o una organización genera intencionadamente y difunde informaciones, como deepfakes de imágenes, de vídeos y de audio, para engañar o perjudicar. Un deepfake es una representación falsa de una persona que ha sido modificada o generada por un algoritmo de IA. El peligro que entrañan las deepfake es especialmente evidente cuando se utilizan para atacar o perjudicar a alguien: aunque las imágenes o los vídeos puedan ser artificiales en sí mismos, los daños que causan son reales, y dejan «profundas cicatrices en el corazón de quienes lo sufren», que se sienten «heridos en su dignidad humana»[159].
88. En general, al distorsionar «la relación con los demás y la realidad»[160], los productos audiovisuales falsificados generados por IA pueden socavar progresivamente los cimientos de la sociedad. Esto requiere una regulación cuidadosa, ya que la desinformación, especialmente a través de medios controlados o influenciados por la IA, puede propagarse involuntariamente, alimentando la polarización política y el descontento social. De hecho, cuando la sociedad se vuelve indiferente a la verdad, diversos grupos construyen sus propias versiones de los “hechos”, con lo que la «conexiones mutuas y las interdependencias»[161], que están en la base del vivir social, se debilitan. Porque las deepfake inducen a poner todo en duda y los contenidos falsos generados por la IA erosionan la confianza en lo que se ve y se oye, la polarización y el conflicto no harán sino crecer. Un engaño tan generalizado no es un problema secundario: golpea el corazón de la humanidad, demoliendo esa confianza fundamental sobre la que se construyen las sociedades.[162].
89. Combatir las falsificaciones alimentadas por la IA no es sólo trabajo de los expertos en la materia, sino que requiere los esfuerzos de todas las personas de buena voluntad. «Si la tecnología ha de estar al servicio de la dignidad humana y no perjudicarla, y si ha de promover la paz en lugar de la violencia, la comunidad humana debe ser proactiva a la hora de abordar estas tendencias respetando la dignidad humana y promover el bien»[163]. Quienes produzcan y compartan material generado por IA deben tener siempre cuidado de comprobar la veracidad de lo que difunden y, en cualquier caso, deberían «evitar compartir palabras e imágenes degradantes para el ser humano, y excluir por tanto lo que alimenta el odio y la intolerancia, envilece la belleza y la intimidad de la sexualidad humana, o lo que explota a los débiles e indefensos»[164]. Esto requiere una prudencia constante y un cuidadoso discernimiento por parte de cada usuario respecto a su actividad en las redes[165].
90. Los seres humanos son intrínsecamente relacionales, por lo que los datos que cada persona crea en el mundo digital pueden considerarse una expresión objetivada de esa naturaleza relacional. En efecto, los datos no se limitan a transmitir informaciones, sino que vehiculan también un conocimiento personal y relacional que, en un contexto cada vez más digitalizado, pueden convertirse en un poder sobre el individuo. Además, mientras que algunos tipos de datos pueden referirse a aspectos públicos de la vida de una persona, otros pueden llegar a tocar su intimidad, tal vez incluso su conciencia. En definitiva, la privacidad desempeña un papel fundamental a la hora de proteger los límites de la vida interior de las personas y garantizar su libertad para relacionarse, expresarse y tomar decisiones sin estar indebidamente controladas. Esta protección también está vinculada a la defensa de la libertad religiosa, ya que la vigilancia digital también puede utilizarse para ejercer un control sobre la vida de los creyentes y la expresión de su fe.
91. Conviene abordar la cuestión de la privacidad a partir de la preocupación por una legítima libertad y la inalienable dignidad de la persona más allá de toda circunstancia[166]. En este sentido, el Concilio Vaticano II incluyó el derecho «a la protección de la vida privada» entre los derechos fundamentales «para vivir una vida verdaderamente humana» que debería ser el mismo a todas las personas, en virtud de su «excelsa dignidad»[167]. La Iglesia, además, afirmó el derecho al respeto legítimo de la vida privada en el contexto del derecho de la persona a una buena reputación, a la defensa de su integridad física y mental y a no sufrir violaciones e intrusiones indebidas[168]: todos son elementos relacionados con el debido respeto a la dignidad intrínseca a la persona humana[169].
92. Los avances en la elaboración y el análisis de datos que posibilita la IA permiten detectar patrones en el comportamiento y el pensamiento de una persona incluso a partir de una cantidad mínima de informaciones, lo que hace aún más necesaria la privacidad de los datos como salvaguardia de la dignidad y la naturaleza relacional de la persona humana. Como observó el Papa Francisco, «mientras se desarrollan actitudes cerradas e intolerantes que nos clausuran ante los otros, se acortan o desaparecen las distancias hasta el punto de que deja de existir el derecho a la intimidad. Todo se convierte en una especie de espectáculo que puede ser espiado, vigilado, y la vida se expone a un control constante»[170].
93. Aunque puedan existir formas legítimas y correctas de utilizar la IA en conformidad con la dignidad humana y el bien común, no es justificable su uso con fines de control para la explotación, para restringir la libertad de las personas o para beneficiar a unos pocos a expensas de muchos. El riesgo de un exceso de vigilancia debe ser supervisado por organismos de control adecuados, con el fin de garantizar la transparencia y la responsabilidad pública. Los responsables de dicha vigilancia nunca deberían exceder su autoridad, que siempre debe estar a favor de la dignidad y la libertad de cada persona como base esencial de una sociedad justa y a medida del hombre.
94. De hecho, «el respeto fundamental por la dignidad humana postula rechazar que la singularidad de la persona sea identificada con un conjunto de datos»[171]. Esto se aplica especialmente a los usos de la IA relacionados con la evaluación de individuos o grupos sobre la base de su comportamiento, características o historial, una práctica conocida como “crédito social” (social scoring): «En los procesos de toma de decisiones sociales y económicas, debemos ser cautos a la hora de confiar juicios a algoritmos que procesan datos recogidos, a menudo subrepticiamente, sobre las personas y sus características y comportamientos pasados. Esos datos pueden estar contaminados por prejuicios sociales e ideas preconcebidas. Sobre todo, porque el comportamiento pasado de un individuo no debe utilizarse para negarle la oportunidad de cambiar, crecer y contribuir a la sociedad. No podemos permitir que los algoritmos limiten o condicionen el respeto a la dignidad humana, ni que excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza de cambio en el individuo»[172].
La IA y la protección de la casa común
95. La IA tiene numerosas y prometedoras aplicaciones para mejorar nuestra relación con la casa común que nos acoge, como la creación de modelos para la previsión de eventos climáticos extremos, proponer soluciones de ingeniería para reducir su impacto, la gestión de operaciones de socorro y la predicción de los movimientos de población[173]. Además, la IA puede apoyar la agricultura sostenible, optimizar el consumo de energía y proporcionar sistemas de alerta temprana para emergencias de salud pública. Todos estos avances podrían aumentar la capacidad de recuperación ante los desafíos relacionados con el clima y promover un desarrollo más sostenible.
96. Al mismo tiempo, los modelos actuales de IA y el sistema de hardware que los sustenta requieren grandes cantidades de energía y agua y contribuyen significativamente a las emisiones de CO2, además de consumir recursos de manera intensiva. Esta realidad queda a menudo oculta por la forma en que esta tecnología se presenta en el imaginario popular, donde palabras como “nube” (cloud)[174] puede dar la impresión de que los datos se almacenan y procesan en un dominio etéreo, separado del mundo físico. En cambio, la nube no es un dominio etéreo separado del mundo físico, sino que, como cualquier dispositivo informático, necesita máquinas, cables y energía. Lo mismo ocurre con la tecnología a la base de la IA. A medida que estos sistemas crecen en complejidad, especialmente los grandes modelos lingüísticos (Large Language Models, LLM), estos requieren conjuntos de datos cada vez mayores, mayor potencia computacional e imponentes infraestructuras de almacenamiento (storage) de datos. Teniendo en cuenta el elevado coste que estas tecnologías suponen para el medio ambiente, el desarrollo de soluciones sostenibles es vital para reducir su impacto en la “casa común”.
97. Por eso, como enseña el Papa Francisco, es importante «encontrar soluciones no sólo en la técnica sino en un cambio del ser humano»[175]. Además, una concepción correcta de la creación sabe reconocer que el valor de todas las cosas creadas no puede reducirse a la mera utilidad. Por tanto, una gestión plenamente humana de la tierra rechaza el antropocentrismo distorsionado del paradigma tecnocrático, que pretende «extraer todo lo posible» de la naturaleza[176], y del «mito del progreso», según el cual «los problemas ecológicos se resolverán simplemente con nuevas aplicaciones técnicas, sin consideraciones éticas ni cambios de fondo»[177]. Esta mentalidad debe dar paso a una visión más holística que respete el orden de la creación y promueva el bien integral de la persona humana, sin descuidar la salvaguardia de «nuestra casa común»[178].
98. El Concilio Vaticano II y el posterior magisterio pontificio han sostenido con vigor que la paz no es la mera ausencia de guerra y no se limita al mantenimiento de un equilibrio de poder entre adversarios. Por el contrario, en palabras de San Agustín, la paz es «la tranquilidad del orden»[179]. En efecto, la paz no puede alcanzarse sin la protección de los bienes de las personas, la libre comunicación, el respeto de la dignidad de las personas y de los pueblos y la práctica asidua de la fraternidad. La paz es obra de la justicia y efecto de la caridad y no puede alcanzarse sólo mediante la fuerza o la mera ausencia de guerra, sino que debe construirse ante todo mediante una diplomacia paciente, la promoción activa de la justicia, la solidaridad, el desarrollo humano integral y el respeto de la dignidad de todas las personas[180]. De este modo, nunca debe permitirse que los instrumentos destinados a mantener una cierta paz se utilicen con fines de injusticia, violencia u opresión, sino que deben estar siempre subordinados al «firme propósito de respetar a los demás hombres y pueblos, así como su dignidad, y el apasionado ejercicio de la fraternidad»[181].
99. Aunque las capacidades analíticas de la IA podrían utilizarse para ayudar a las naciones a buscar la paz y garantizar la seguridad, el «uso bélico de la inteligencia artificial» puede ser muy problemático. El Papa Francisco ha observado que «la posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepción menor de la devastación que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento aún más frío y distante a la inmensa tragedia de la guerra»[182]. Además, la facilidad con la que las armas, convertidas en autónomas, hacen más viable la guerra va en contra del principio mismo de la guerra como último recurso en casos de legítima defensa[183], aumentando los recursos bélicos mucho más allá del alcance del control humano y acelerando una carrera armamentística desestabilizadora con consecuencias devastadoras para los derechos humanos[184].
100. En particular, los sistemas de armas autónomas letales, capaces de identificar y atacar objetivos sin intervención humana directa, son «gran motivo de preocupación ética», porque carecen de «la exclusiva capacidad humana de juicio moral y de decisión ética»[185]. Por estos motivos, el Papa Francisco ha invitado con urgencia a repensar el desarrollo de tales armas para prohibir su uso, «empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano»[186].
101. Dado que la distancia entre maquinas capaces de matar con precisión de modo autónomo y otras capaces de destrucción masiva es corta, algunos investigadores que trabajan en el campo de la IA han expresado la preocupación que dicha tecnología represente un “riesgo existencial”, siendo ella capaz de actuar en modos que podrían amenazar la supervivencia de la humanidad o de regiones enteras. Esta posibilidad debe ser tomada seriamente en consideración, en línea con la constante preocupación por aquellas tecnologías que dan a la guerra «un poder destructivo fuera de control que afecta a muchos civiles inocentes»[187], incluidos los niños. En este contexto, resulta más que nunca urgente la llamada de Gaudium et spes a «examinar la guerra con mentalidad totalmente nueva»[188].
102. Al mismo tiempo, mientras los riesgos teóricos de la IA merecen atención, también existen peligros más urgentes e inmediatos en relación con la forma en que individuos con intenciones maliciosas podrían hacer uso de ellos[189]. La IA, como cualquier otro instrumento, es una extensión del poder de la humanidad, y aunque no podemos predecir todo lo que será capaz de lograr, por desgracia es bien sabido lo que los seres humanos son capaces de hacer. Las atrocidades ya cometidas a lo largo de la historia humana bastan para suscitar una profunda preocupación por los posibles abusos de la IA.
103. Como ha observado san Juan Pablo II, «la humanidad posee hoy instrumentos de potencia inaudita. Puede hacer de este mundo un jardín, o reducirlo a un cúmulo de escombros»[190]. En esta perspectiva, la Iglesia recuerda, con el Papa Francisco, que «la libertad humana puede hacer su aporte inteligente hacia una evolución positiva» u orientarse «en un camino de decadencia y de mutua destrucción»[191]. Para evitar que la humanidad se precipite en una espiral de autodestrucción[192], es necesario asumir una posición clara contra todas las aplicaciones de la tecnología que amenazan intrínsecamente la vida y la dignidad de la persona humana. Este compromiso requiere un discernimiento atento sobre el uso de la IA, en particular sobre las aplicaciones de defensa militar, para garantizar que siempre respeten la dignidad humana y estén al servicio del bien común. El desarrollo y el empleo de la IA en el armamento debería estar sujeto a los más altos niveles de control ético, velando que se respeten la dignidad humana y la sacralidad de la vida[193].
La IA y la relación de la humanidad con Dios
104. La tecnología ofrece medios eficaces para gestionar y desarrollar los recursos del planeta, aunque, en algunos casos, la humanidad cede cada vez más el control de estos recursos a las máquinas. Dentro de algunos círculos de científicos y futuristas, se respira un cierto optimismo sobre el potencial de la inteligencia artificial general (AGI), una forma hipotética de IA que podría alcanzar o superar a la inteligencia humana, capaz de lograr avances más allá de lo imaginable. Algunos especulan incluso con que la AGI sería capaz de alcanzar capacidades sobrehumanas. A medida que la sociedad se aleja del vínculo con lo trascendente, algunos sienten la tentación de recurrir a la IA en busca de sentido o de plenitud, deseos que sólo pueden encontrar su verdadera satisfacción en la comunión con Dios[194].
105. Sin embargo, la presunción de sustituir a Dios con una obra de las propias manos es idolatría, contra la que advierte la Sagrada Escritura (por ej. Ex 20,4; 32,1-5; 34,17). Además, la IA puede ser incluso más seductora que los ídolos tradicionales: de hecho, a diferencia de estos últimos, que «tienen boca, y no hablan, tienen ojos, y no ven, tienen orejas, y no oyen» (Sal 115,5-6), la IA puede “hablar”, o, al menos, dar la ilusión de hacerlo (cf. Ap 13,15). En cambio, hay que recordar que la IA no es más que un pálido reflejo de la humanidad, ya que ha sido producida por mentes humanas, entrenada a partir de material producido por seres humanos, predispuesta a estímulos humanos y sostenida por el trabajo humano. No puede tener muchas de las capacidades que son específicas de la vida humana, y también es falible. De ahí que al buscar en ella un “Otro” más grande con quien compartir la propia existencia y responsabilidad, la humanidad corre el riesgo de crear un sustituto de Dios. En definitiva, no es la IA quien es divinizada y adorada, sino el ser humano, para convertirse, de este modo, en esclavo de su propia obra[195].
106. Aunque puede ponerse al servicio de la humanidad y contribuir al bien común, la IA sigue siendo un producto de manos humanas, lo que conlleva «la destreza y la fantasía de un hombre» (Hch 17,29), al que nunca debe atribuirse un valor desproporcionado. Como afirma el libro de la Sabiduría: «los hizo un hombre, los modeló un ser de aliento prestado y ningún ser humano puede modelar un dios a su semejanza. Al ser mortal, sus manos impías producen un cadáver y vale más él que los objetos que adora, pues él tiene vida, mientras los otros jamás la tendrán» (Sab 15, 16-17).
107. Al contrario, «por su interioridad [el ser humano] transciende el universo entero; a esta profunda interioridad retorna cuando entra dentro de su corazón, donde Dios le aguarda, escrutador de los corazones, y donde él personalmente, bajo la mirada de Dios, decide su propio destino»[196]. Es en el corazón – recuerda el Papa Francisco – que cada persona descubre la «paradójica conexión entre la valoración del propio ser y la apertura a los otros, entre el encuentro tan personal consigo mismo y la donación de sí a los demás»[197]. Por eso, «únicamente el corazón es capaz de poner a las demás potencias y pasiones y a toda nuestra persona en actitud de reverencia y de obediencia amorosa al Señor»[198], que «nos ofrece tratarnos como un tú siempre y para siempre»[199].
108. Teniendo en cuenta todos los diversos desafíos que plantea el progreso tecnológico, el Papa Francisco ha señalado la necesidad de un desarrollo «en responsabilidad, valores, conciencia» proporcional al aumento de posibilidades que ofrece esta tecnología[200], reconociendo que «cuanto más se acrecienta el poder del hombre, más amplia es su responsabilidad»[201].
109. Por otra parte,«la cuestión esencial y fundamental» permanece siempre la de «si el hombre, en cuanto hombre, en el contexto de este progreso, se hace de veras mejor, es decir, más maduro espiritualmente, más consciente de la dignidad de su humanidad, más responsable, más abierto a los demás, particularmente a los más necesitados y a los más débiles, más disponible a dar y prestar ayuda a todos»[202].
110. Es decisivo, por consiguiente, saber valorar críticamente las distintas aplicaciones en los contextos particulares, con el fin de determinar si estas promueven, o no, la dignidad y la vocación humana, y el bien común. Como ocurre con muchas tecnologías, los efectos de las distintas aplicaciones de la IA no siempre son predecibles en su inicio. En la medida en que estas aplicaciones y su impacto social se hagan más evidentes, se deberá empezar a proporcionar una retroalimentación adecuada a todos los niveles de la sociedad, de acuerdo con el principio de subsidiariedad. Es importante que los usuarios individuales, las familias, la sociedad civil, las empresas, las instituciones, los gobiernos y las organizaciones internacionales, cada uno a su nivel de competencia, se comprometan en garantizar que el uso de la IA sea adecuado para el bien de todos.
111. Hoy en día, un desafío importante y una oportunidad para el bien común reside en considerar dicha tecnología dentro de un horizonte de inteligencia relacional, que hace hincapié en la interconexión de los individuos y de las comunidades y exalta la responsabilidad compartida para favorecer el bienestar integral del otro. El filósofo del siglo XX, Nikolaj Berdjaev, observó que las personas suelen culpar a las máquinas de los problemas individuales y sociales; sin embargo, «esto no hace más que humillar al hombre y no corresponde con su dignidad», porque «es algo indigno transferir la responsabilidad del hombre a una maquina»[203]. Solo la persona humana puede decirse moralmente responsable, y los desafíos de una sociedad tecnológica, en última instancia, se refieren a su espíritu. Por eso, para afrontar tales desafíos «requiere una revitalización de la sensibilidad espiritual»[204].
112. Otro punto a considerar es la llamada, provocada por la aparición de la IA en la escena mundial, a renovar la valoración de todo lo que es humano. Como observó el escritor católico francés Georges Bernanos hace muchos años, «el peligro no reside en la multiplicación de las máquinas, sino en el número cada vez mayor de hombres acostumbrados desde la infancia a no desear más que lo que las máquinas pueden proporcionarles»[205]. El reto es tan real hoy como entonces, ya que el rápido avance de la digitalización conlleva el riesgo del «reduccionismo digital», por el que las experiencias no cuantificables se dejan de lado y luego se olvidan, o se consideran irrelevantes porque no pueden calcularse en términos formales. La IA sólo debe utilizarse como una herramienta complementaria de la inteligencia humana y no sustituir su riqueza[206]. Cultivar aquellos aspectos de la vida humana que van más allá del cálculo es de crucial importancia para preservar una «auténtica humanidad», que «parece habitar en medio de la civilización tecnológica, casi imperceptiblemente, como la niebla que se filtra bajo la puerta cerrada»[207].
113. Hoy, la vasta extensión del conocimiento es accesible en formas que habrían maravillado a las generaciones pasadas; sin embargo, para impedir que los avances de la ciencia siguen siendo humana y espiritualmente estériles, hay que ir más allá de la mera acumulación de datos y aspirar a la verdadera sabiduría[208].
114. Esta sabiduría es el don que más necesita la humanidad para abordar los profundos interrogantes y desafíos éticos que plantea la IA: «Sólo dotándonos de una mirada espiritual, sólo recuperando una sabiduría del corazón, podremos leer e interpretar la novedad de nuestro tiempo»[209]. Esta «sabiduría del corazón» es «esa virtud que nos permite entrelazar el todo y las partes, las decisiones y sus consecuencias». La humanidad no puede «esperar esta sabiduría de las máquinas», en cuanto ella «se deja encontrar por quien la busca y se deja ver por quien la ama; se anticipa a quien la desea y va en busca de quien es digno de ella (cfr. Sab 6,12-16)»[210].
115. En un mundo marcado por la IA, necesitamos la gracia del Espíritu Santo, que «permite ver las cosas con los ojos de Dios, comprender los vínculos, las situaciones, los acontecimientos y descubrir su sentido»[211].
116. Porque «lo que mide la perfección de las personas es su grado de caridad, no la cantidad de datos y conocimientos que acumulen»[212], el modo como se utilice la IA «para incluir a los últimos, es decir, a los hermanos y las hermanas más débiles y necesitados, es la medida que revela nuestra humanidad»[213]. Esta sabiduría puede iluminar y guiar un uso de dicha tecnología centrado en el ser humano, que como tal puede ayudar a promover el bien común, a cuidar de la «casa común», a avanzar en la búsqueda de la verdad, apoyar el desarrollo humano integral, favorecer la solidaridad y la fraternidad humana, para luego conducir a la humanidad a su fin último: la comunión feliz y plena con Dios[214].
117. En la perspectiva de la sabiduría, los creyentes podrán actuar como agentes responsables capaces de utilizar esta tecnología para promover una visión auténtica de la persona humana y de la sociedad[215], a partir de una comprensión del progreso tecnológico como parte del plan de Dios para la creación: una actividad que la humanidad está llamada a ordenar hacia el Misterio Pascual de Jesucristo, en la constante búsqueda de la Verdad y del Bien.
El Sumo Pontífice Francisco, en la Audiencia concedida el día 14 de enero de 2025 a los suscritos Prefectos y Secretarios del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, ha aprobado la presente Nota y ha ordenado la publicación
Dado en Roma, ante las sedes del Dicasterio para la Doctrina de la Fe y del Dicasterio para la Cultura y la Educación, il 28 de enero de 2025, Memoria Litúrgica de santo Tomás de Aquino, Doctor de la Iglesia.
| Víctor Manuel Card. Fernández Prefecto |
José Card. Tolentino de Mendonça Prefecto |
| Mons. Armando Matteo Secretario para la Sección Doctrinal |
S.E. Mons. Paul Tighe Secretario para la Sección Cultura |
Ex Audientia Die 14.01.2025
Franciscus
Índice
II. ¿Qué es la Inteligencia Artificial?
III. La inteligencia en la tradición filosófica y teológica
IV. El papel de la ética para guiar el desarrollo y el uso de la IA
La IA y las relaciones humanas
IA, desinformación, deepfake y abusos
