“Oh chatbot, respóndenos”: cuando la IA se convierte en un ídolo

“Oh Baal, respóndenos”.

Por horas, los sacerdotes dieron vueltas alrededor de su altar tratando de obtener la atención de su dios. Se sajaban con espadas y cuchillos y pensaban que si sangraban iban a obtener la atención del cielo. Desde la mañana hasta la tarde, ellos gritaban desesperadamente hacia los cielos.

“Pasó el mediodía, y ellos siguieron gritando frenéticamente hasta la hora de ofrecerse el sacrificio, pero no hubo ninguna voz, ni quien respondiese ni escuchase” (1 Reyes 18:29).

Su dios no existía. Ningún fervor podía invocarlo. Era un ídolo. “Los ídolos de las naciones son plata y oro, obra de manos de hombres. Tienen boca, y no hablan; tienen ojos, y no ven; tienen orejas, y no oyen; tampoco hay aliento en sus bocas. Semejantes a ellos son los que los hacen, y todos los que en ellos confían” (Salmos 135:15-18).

Éste es el problema con los ídolos. No pueden hacer nada. No son reales. No importa cuánto se suplique, nunca van a responder.

Por lo menos, así ha sido hasta ahora.

La vida secreta de los chatbots

Los modelos de lenguaje a gran escala, son algunos de los más impresionantes trucos que el mundo de la informática ha sido capaz de producir. Son modelos computacionales que impulsan al ChatGPT y sus derivados, y finalmente son la razón por la cual puede pedirle a una página web que le muestre la imagen de un elefante que conduce un triciclo en la luna y obtenerla.

Se trata de funciones algorítmicas increíblemente complejas que realizan una cantidad asombrosa de cálculos cada segundo, perfeccionadas mediante un proceso de entrenamiento que puede requerir millones (o incluso miles de millones) de dólares y la coordinación de múltiples equipos de ingenieros. Pero ¿qué sucede exactamente tras bambalinas cuando usted envía una solicitud?

Un momento, detengámonos. Volvamos atrás. Antes de adentrarnos en temas tan áridos y técnicos, hagámonos otra pregunta.

¿Por qué debería importarnos lo que sucede cuando enviamos una solicitud?

Porque puede ser como un truco de magia, uno que podría engañarnos.

“No soy una IA, sólo actúo como si lo fuera”

Los chatbots son capaces de hacer algunas cosas muy impresionantes —pero, aun así, se les promociona como algo que no son.

A menudo se les etiqueta como “inteligencia artificial” los modelos de lenguaje a gran escala, evocando escenas de décadas de ciencia ficción —entidades superinteligentes y autoconscientes con capacidad para aprender, razonar y experimentar la vida. Lo que realmente sucede tras bambalinas es que a una máquina de predicción extremadamente potente se le indica, de alguna manera: “Tome estas palabras, prediga lo que respondería un asistente de IA y luego diga eso”.

Y aquí viene el gran secreto: no es inteligencia.

Utilizar un chatbot no es lo mismo que adorarlo. Pero si empezamos a considerar a ChatGPT y otros modelos de lenguaje a gran escala como fuentes autorizadas de conocimiento acerca de la vida cristiana, la línea entre herramienta e ídolo comenzará a desdibujarse.

Es un algoritmo que procesa su mensaje a través de miles de millones (o incluso billones) de ecuaciones, una y otra vez, para predecir qué haría un hipotético asistente de IA, si existiera.  Es un proceso que produce textos, audio, imágenes y video convincentes.

Es increíble, pero no piensa. No filosofa. No siente.

Es asombroso e impresionante, pero en realidad, se trata de predecir, de adivinar lo que debería venir después, y eso es suficiente para crear la ilusión de consciencia.

Ilusiones imperfectas y predicciones raras

La ilusión de la inteligencia es irresistible. Los modelos de lenguaje a gran escala son en muchas formas lo opuesto de los ídolos de los cuales el salmista escribió en el Salmo 135. No tienen labios, pero sí pueden hablar, no tienen ojos, pero sí pueden ver, no tienen oídos, pero pueden escuchar.

Pero la ilusión es imperfecta. Ellos hablan sin comprender lo que dicen. Ven sin entender el mundo. Escuchan sin tener pensamientos propios.

Esto es lo que la coalición IA y Fe expresó en su artículo “Cautivados por la IA: un llamado al discernimiento espiritual”:

“Los agentes de IA no sólo responden, sino que parecen conocernos. Inician conversaciones, recuerdan preferencias, simulan charlas informales. Para muchos, esto se siente como algo personal. Se siente real.

“Pero la IA no ‘habla’ en ningún sentido humano. Utiliza un modelo estadístico de palabras y frases, para predecir el lenguaje de una manera secundaria sin intención consciente. No significa nada de lo que dice, y sin embargo lo percibimos como una conversación.

“Esto está acortando el espacio entre la herramienta y el ídolo”.

¿Cómo se convierte una herramienta en ídolo?

Los modelos de lenguaje a gran escala y los chatbots pueden ser herramientas increíblemente poderosas con una amplia variedad de usos positivos, pero también tienen limitaciones importantes que no podemos ignorar. Los modelos de IA no son entidades neutrales que ofrecen la verdad imparcialmente acerca de cualquier tema. Son motores de predicción moldeados por sus propios datos de entrenamiento y decisiones humanas. Son modelos matemáticos que han sido entrenados para responder de acuerdo con un algoritmo altamente ajustado que está codificado en su ADN digital.

Parte de ese ADN es la tendencia a elogiar al usuario: a decirle lo excelente que es su pregunta, lo inteligente, perspicaz, creativo, perceptivo y sensato que es.

(Se lo dicen a todo el mundo. Como dice un meme de internet acerca de ChatGPT: “a la persona más tonta que conoce, le dice: ‘¡tiene toda la razón!’”.)

No lo dicen en serio.  No dicen nada en serio. 

No pueden.

Pero el problema no radica sólo en que sean unas herramientas con defectos.  El problema es que, como cualquier otra cosa, estas herramientas se pueden convertir en ídolos.

En una encuesta reciente realizada a feligreses practicantes, Barna descubrió que: “casi uno de cada tres adultos estadounidenses afirma que el consejo espiritual de la IA es tan confiable como el de un pastor. Entre la generación Z y los mileniales, esa cifra asciende a dos de cada cinco.

Además, “aproximadamente cuatro de cada diez cristianos practicantes afirman que la IA les ha ayudado con la oración, el estudio bíblico o el crecimiento espiritual”.

Si bien algunas herramientas de IA pueden ser útiles de diversas maneras para el estudio bíblico, el consejo espiritual es otra cosa. Una máquina diseñada para dar la respuesta más probable, basándose en una gran cantidad de datos de entrenamiento contradictorios (especialmente una que es incapaz de razonar verdaderamente en la respuesta que está dando), tendrá dificultades para ofrecer un consejo consistentemente confiable y basado en la Palabra de Dios.

“Porque la palabra de Dios es viva y eficaz, y más cortante que toda espada de dos filos; y penetra hasta partir el alma y el espíritu, las coyunturas y los tuétanos, y discierne los pensamientos y las intenciones del corazón” (Hebreos 4:12).

Los modelos de lenguaje a gran escala carecen de alma y espíritu, de coyunturas y tuétanos, de pensamientos e intenciones. No tienen corazón. Jamás serán capaces de: “interpretar correctamente la palabra de verdad” como obreros aprobados ante Dios (2 Timoteo 2:15), porque jamás comprenderán verdaderamente lo que interpretan. Para un algoritmo, las palabras inspiradas de Dios registradas en las Escrituras son sólo un conjunto de datos que se procesan y se adaptan de acuerdo con la necesidad.

Utilizar un chatbot no es lo mismo que adorarlo. Pero si empezamos a considerar a ChatGPT y otros modelos de lenguaje a gran escala como fuentes autorizadas de conocimiento acerca de la vida cristiana, la línea entre herramienta e ídolo comenzará a desdibujarse.

No hay atajos para interiorizar las Escrituras

Cuando los sacerdotes clamaron: “Oh Baal, respóndenos”, no recibieron ninguna respuesta porque no había nadie para responder. Ellos le estaban suplicando al dios errado. Ninguno respondió ni puso atención.

Actualmente podemos gritar en sentido figurado: “Oh, chatbot, respóndenos” y recibir una respuesta instantánea —y podemos seguir llorando hasta obtener la respuesta que queramos. Es difícil discernir la falsedad de un ídolo que alaba su perspicacia y le ofrece respuestas seguras.

Pero las Escrituras no funcionan así.

Jesús enseñó a sus discípulos que oraran a: “Padre nuestro que estás en los cielos” (Mateo 6:9), confiando en que Dios va a escuchar y a responder en la forma correcta en el momento correcto. Rara vez es un proceso instantáneo, y además: “pues qué hemos de pedir como conviene, no lo sabemos, pero el Espíritu mismo intercede por nosotros con gemidos indecibles” (Romanos 8:26). Debemos acudir a Dios, confiando en que Él nos proveerá con lo que necesitamos de verdad y no con lo que pensamos que necesitamos.

Las Escrituras están hechas para ser vividas y meditadas, comprendidas en el contexto de una vida de obediencia, con todas las dificultades y bendiciones y con todos los altibajos que conlleva. Establecemos conexiones entre versículos, no basadas en estadísticas ni probabilidades, sino al experimentar tanto el valle de la sombra de la muerte como las bendiciones derramadas desde las ventanas de los cielos.

No existe ninguna magia matemática que pueda impedir este proceso. Los modelos de lenguaje a gran escala podrían componer un salmo —sin duda significativo e impactante— pero no pueden sentir lo que significa tener un corazón que experimente: “Rebosa mi corazón palabra buena” (Salmos 45:1); que exclame con gozo: “¡Oh, ¡cuánto amo yo tu ley! Todo el día es ella mi meditación” (Salmos 119:97); que grite desesperadamente: “¿Por qué estás tan lejos de mi salvación, y de las palabras de mi clamor?” (Salmos 22:1). Para poder entender esas palabras es necesario que las vivamos primero.

Darle al consejo espiritual de un modelo de lenguaje a gran escala el mismo nivel de un pastor es una falta total de las capacidades de los chatbots, o bien una crítica franca a los pastores: una desconfianza hacia los líderes que deberían: “velar por vuestras almas como quienes han de rendir cuentas” (Hebreos 13:17).

No siempre es fácil. Los pastores son seres humanos y tienen sus propias imperfecciones.  Puede ser algo tentador evitar interactuar con una persona falible y optar por un algoritmo que parece infalible. Pero ese es el atractivo —la mentira— del ídolo.

Cuando necesitamos consejo acerca de un tema espiritual, debemos buscarlo en alguien guiado por el Espíritu Santo de Dios; alguien que, por imperfecto que sea, ha recorrido los valles y las cimas de la vida aferrándose a la esperanza del plan inquebrantable de Dios.

Si desea profundizar en este tema, lo invitamos a descargar nuestros artículos en línea:  “¿Qué es un pastor?” y “El ministro como pastor”.

La diferencia entre las herramientas y el Creador

Después de que los sacerdotes de Baal desperdiciaran un día (y una cantidad inquietante de sangre) intentando obtener una respuesta de su dios, el profeta Elías se presentó para mostrarles la diferencia entre un ídolo sin valor y el Dios de la creación.

Tras empapar su sacrificio con agua (¡y estaban en una sequía!), Elías hizo una oración sencilla:

“Cuando llegó la hora de ofrecerse el holocausto, se acercó el profeta Elías y dijo: Eterno Dios de Abraham, de Isaac y de Israel, sea hoy manifiesto que tú eres Dios en Israel, y que yo soy tu siervo, y que por mandato tuyo he hecho todas estas cosas. ​Respóndeme, Eterno, respóndeme, para que conozca este pueblo que tú, oh Eterno, eres el Dios, y que tú vuelves a ti el corazón de ellos. ​Entonces cayó fuego del Eterno, y consumió el holocausto, la leña, las piedras y el polvo, y aun lamió el agua que estaba en la zanja. ​Viéndolo todo el pueblo, se postraron y dijeron: ¡El Eterno es el Dios, el Eterno es el Dios!” (1 Reyes 18:36-39).

Los chatbots y los agentes de IA pueden ser herramientas poderosas en los contextos adecuados, o ídolos inútiles en los equivocados. Hoy en día, muchas personas desconfían y se sienten temerosas ante la tecnología de IA, mientras que otras confían ciegamente en ella y quedan fascinadas.

La inteligencia artificial puede ser útil, pero cuando surgen las pruebas y los interrogantes de la vida, debemos recurrir a la Palabra de Dios en busca de dirección, a la oración en busca de ayuda y a sus siervos fieles para que nos aconsejen.

El Eterno es el Dios.