Curia y la IA generativa

Por Kenneth Yong | Apoyo ITC Curia General

Ils doivent envisager qu’une grande responsabilité est la suite inséparable d’un grand pouvoir.

(Deben considerar que una gran responsabilidad es la consecuencia inseparable de un gran poder.)

Convención Nacional de Francia, 1793

Abril de 2024. En un acto celebrado en el Aula de la Congregación General de la Curia, se presentó a todos los que trabajan aquí, jesuitas y no jesuitas, el tema del momento en Tecnología de la Información (TI), la Inteligencia Artificial Generativa (en adelante abreviada como “IA generativa”). El énfasis se puso en el uso de la IA generativa en nuestro trabajo, con el P. Carlo Casalone, SJ, miembro de la Sección Científica de la Pontificia Academia para la Vida, hablando también sobre las implicaciones éticas y las responsabilidades de su uso.

En realidad, no era la primera vez que se hablaba aquí de la IA generativa, ya que el Consejo del P. General había abordado el tema a finales de 2023, por lo que la “noción” de IA generativa no era nueva para algunos. En realidad, prácticamente todo el mundo había oído hablar de la IA generativa, aunque tal vez no supieran cómo acceder a ella o utilizarla.

En cualquier caso, después del evento, la IA generativa estaba muy en el ambiente. Empecé a recibir preguntas del tipo: “¿Cómo puedo utilizar la IA generativa para hacer resúmenes de las cartas que recibo?”, o “¿Puedo utilizar la IA generativa para hacer una presentación en PowerPoint?”, o “¿Es seguro utilizar la IA generativa?”.

2024-05-10_wordls-comms_hands

Esta última pregunta es importante, ya que la confidencialidad y la seguridad de los datos es una de las principales preocupaciones de la Curia, probablemente la más importante en lo que respecta a las tecnologías de la información (TI). Para nosotros, proteger los datos que manejamos es primordial. De hecho, prácticamente todos los sistemas de asistencia IA generativa, ya sean de Microsoft, Google u OpenAI, por nombrar los tres grandes, requieren que los datos que se manejan se almacenen y manipulen en línea, con el riesgo asociado de que esos datos se vean amenazados.

Existen, por supuesto, otras consideraciones, por ejemplo, las implicaciones morales/éticas/de equidad del uso de la IA generativa, la transparencia y la responsabilidad de los proveedores de IA generativa, los prejuicios y la discriminación que podrían surgir de los modelos de IA, el impacto en el medio ambiente de las infraestructuras de IA, etc.

Sabiendo todo esto, quizá deberíamos preguntarnos de antemano: “¿Deberíamos siquiera utilizar la IA generativa para trabajar, especialmente en la Curia, donde se maneja a diario información sensible sobre personas, instituciones y acontecimientos?” Yo, por mi parte, creo que la IA generativa es una herramienta útil, extremadamente potente, pero no deja de ser ni más ni menos que eso, una herramienta. Como señaló el P. Casalone en su presentación, nosotros, como creadores, tenemos la responsabilidad última cuando utilizamos cualquier herramienta, tecnológica o de otro tipo, y esta responsabilidad se extiende obviamente al uso de la IA generativa.

El poder de la IA generativa, con sus vastos conjuntos de datos y su potencia informática bruta, tiene la capacidad de crear contenidos que reflejen la creatividad humana. Aun así, la IA generativa debe apoyar la toma de decisiones humana, no socavarla ni sustituirla, y no debe utilizarse cuando exista el temor de que pueda causar daños. Como dijo una vez un sabio (en la cita anterior): “Deben considerar que una gran responsabilidad es la consecuencia inseparable de un gran poder”.

Mensaje del Papa Francisco para la 58 Jornada Mundial de las Comunicaciones Sociales

Inteligencia artificial y sabiduría del corazón para una comunicación plenamente humana

Comparte este artículo:
Publicado por Communications Office - Editor in Curia Generalizia
Communications Office
El Servicio de Comunicaciones de la Curia General publica noticias de interés internacional sobre el gobierno central de la Compañía de Jesús y sobre los compromisos de los jesuitas y sus partenarios. También se encarga de las relaciones con los medios de comunicación.

Noticias relacionadas