El humano y la máquina parlante
Y, sin embargo, ¡habla! Eso es lo que Galileo podría haber dicho a los inquisidores de la inteligencia artificial, rápidos en criticar su falta de sentido común, sus alucinaciones y su molesta tendencia a recurrir a datos ajenos para dar cuerpo a su discurso. Aceptémoslo: a pesar de sus limitaciones, los modelos de IA generativa defendidos por ChatGPT representan un gran paso adelante en la historia de la IA. Y este hito no es, ante todo, tecnológico: por primera vez, nos encontramos ante una instancia capaz de producir un discurso verdaderamente coherente y plausible, sin estar dotada de inteligencia. Y hay que reconocerlo: es confuso, porque asociamos espontáneamente el lenguaje a la inteligencia. “Pensamos en un lenguaje”, solemos decir, y los padres esperan con esperanza y aprensión las primeras palabras de sus hijos, que los incorporarán a la gran familia de los humanos. En consecuencia, tenemos una desafortunada tendencia a antropomorfizar esta tecnología. Probablemente sea un eco de nuestra costumbre de proyectar nuestra humanidad en cualquier artefacto, desde los peluches de nuestra infancia. Y la IA generativa se presta tan bien a ello que, aunque nos advierte constantemente de su identidad como mera máquina, millones de nuestros contemporáneos intentan pillarla en falta, le piden consejo o incluso le plantean preguntas existenciales.
Protectores del hogar
Es cierto que ChatGPT no es la primera máquina parlante: a pesar de tener muy poco que decirse, Alexa y Google Home se han hecho un hueco en nuestra vida cotidiana, y su historia proyecta la IA generativa a la luz de la experiencia de la vida real. Preguntamos a estos altavoces repletos de IA por el tiempo, o les pedimos que realicen servicios menores como apuntar la lista de la compra o recordarnos una cita. De hecho, más que un interlocutor, estos altavoces conectados se han convertido poco a poco en los protectores de nuestros hogares. Son como los lares, las deidades domésticas que antaño se sentaban entronizadas en el atrio de las villas romanas. En aquella época, se hacían agujeros en las paredes para que la estatuilla vigilara las salidas. En resumen, el primer sistema de videovigilancia. Pero había que creer. Y, en la tradición hebrea, muchos se burlaban, junto con los salmistas, de esos falsos dioses que “tienen boca y no hablan, oídos y no oyen”. Sin embargo, si le pides a Alexa una pizza sin pepperoni, treinta minutos después la tendrás. Conectados a la domótica y a nuestros imprescindibles teléfonos móviles, estos dispositivos se han convertido en algo central. Tanto es así que esta tecnología digital, que poco a poco va tejiendo un capullo protector a nuestro alrededor, está creando una dependencia mucho más formidable que la adicción a las pantallas.De hecho, ejerce un tipo de control sobre nuestras vidas que, en mi opinión, está muy infravalorado. En Occidente, vemos el control como fruto de la coacción, de ahí las numerosas distopías por las que Hollywood es famoso. También olvidamos que otras culturas lo ven a través del prisma del juego del Go: un cerco gradual, sin dar un golpe. Así es el control que la tecnología ejerce sobre nuestras vidas: discreto y cómodo, pero muy real. Pero si ya no podemos prescindir de ella, ¿esta tecnología -de la que la IA es la cúspide- sigue estando a nuestro servicio o se ha convertido en nuestro amo? La cuestión es a la vez práctica y simbólica. Al consultar ChatGPT como si de un oráculo se tratara, quizá nos estemos entregando al tipo de pensamiento mágico que nuestras sociedades científicas y racionales tratan en vano de erradicar. Un tufillo a chamanismo que nos acompaña desde los albores de la humanidad. Casi invariable. Hay quien critica a los diseñadores de las IA generativas por darles voz. ¿No deberían haberlas convertido en simples generadores de texto, con los que no habríamos podido conversar? Si, en un gesto prometeico, han robado la IA a los conocedores para compartirla con todos los humanos, no la han convertido en un tótem o un fetiche. Recordemos la historia del becerro de oro. Esta pieza de sabiduría cuenta cómo, cuando Moisés fue a hablar largo y tendido con Dios, el pueblo se asustó y mandó hacer una estatua para protegerse. Sin embargo, no fueron los orfebres quienes la convirtieron en ídolo, sino el pueblo quien la invistió de poder divino. La responsabilidad está, pues, en nuestras manos: ¿nos dejaremos dominar cómodamente por algoritmos que velan por todos nuestros deseos? ¿Delegaremos nuestras decisiones cotidianas en un asistente virtual, con el pretexto de concentrarnos en lo esencial? ¿O querremos mantener intacta nuestra agentividad y ejercitar constantemente nuestra capacidad de elección? Lo que está en juego es nada menos que nuestra capacidad de mantener el control, e incluso, en última instancia, nuestro lugar en la cima de la cadena alimentaria, nuestro estatus de especie dominante. No es necesario que la máquina tome conscientemente las riendas de nuestras vidas y nos sustituya. Si la IA puede hablar, también puede componer música y producir imágenes de una calidad asombrosa. “Si tienes una profesión creativa, nunca tendrás que competir con la inteligencia artificial”, oíamos no hace mucho. ¡Y tanto! Más allá del lenguaje y la creatividad, ¿en qué consiste el famoso “toque humano”? Abogados, periodistas, contables, diseñadores gráficos y músicos podrían sumarse fácilmente a la huelga de actores y guionistas que actualmente paraliza Hollywood, ya que todos son susceptibles de soportar el peso de esta gran sustitución. Pero lo que está en juego no es tanto el empleo -cuya destrucción y creación no pueden predecirse con certeza en un proceso schumpeteriano- como el riesgo de obsolescencia programada, aunque involuntaria, de la especie humana.
La cuestión principal
Sin embargo, creo que es importante poner estos acontecimientos en perspectiva con nuestra historia reciente, y recordar el entusiasmo que produjo la llegada de la fotografía. Ya no hacía falta un pintor, y era posible hacerse un retrato en cuestión de horas. Ante este desafío a su virtual monopolio de la representación de la realidad, la pintura tuvo que reinventarse. La eflorescencia de los movimientos pictóricos del siglo XX quizá no sea ajena a este desafío. La fotografía también se ha establecido como una forma de arte por derecho propio. Puede que Sócrates se opusiera al uso de la escritura, pero es un hecho que la humanidad siempre sale victoriosa de las revoluciones epistemológicas que desencadena, y que nunca somos más fuertes que cuando se nos desafía.
A condición de que nos organicemos para hacerlo. Y éste es quizá el principal reto al que nos enfrentamos, ante una tecnología tan poderosa como extendida. La democratización va de la mano de la proliferación. Fuera de los laboratorios, la IA está ahora, al menos en parte, en manos del público. Por desgracia, la experiencia de las redes sociales nos ha mostrado sin rodeos que, si bien no podemos sino alegrarnos de que todo el mundo pueda expresarse públicamente, no todo el mundo utiliza este poder con la misma benevolencia o el mismo discernimiento. . Es seguro que lo mismo ocurrirá con la IA generativa. Sin mencionar WormGPT, el chatbot diseñado para ayudar a los delincuentes, ni los muchos usos ya descubiertos por hackers ingeniosos, podemos mencionar los pocos intentos de IA generativa desregulada. Es posible, por ejemplo, preguntarles sin filtro cómo deshacerse de un cadáver o envenenar discretamente a los hijos del vecino. ¡La precisión y la creatividad de las respuestas pondrían a Hitchcock en la jubilación!
Esto explica la necesidad que sienten los diseñadores de ChatGPT de dotar a su creación de marcos, que se revisan periódicamente a medida que el público consigue burlarlos. Incluso el modelo LLaMA 2, que el grupo Meta ofrece en modo “abierto”, no es totalmente de código abierto y conserva sus restricciones internas, destinadas a limitar los usos indebidos.
Y, sin embargo, parte de las críticas que se hacen a estos algoritmos provienen del secreto celosamente guardado de su parametrización. Creo que este velo de secreto no sólo pretende dificultar la elusión de estas salvaguardas, sino también evitar que las empresas digitales sean atacadas por todos los flancos para forzar o impedir tal o cual comportamiento. Algunos las considerarían demasiado complacientes o restrictivas. Como siempre, la informatización de un proceso implica su objetivización: no podemos basarnos en un enfoque caso por caso; es 0 o 1. Y para llegar a un consenso sobre la parametrización, tendríamos que ponernos de acuerdo sobre los valores subyacentes. Estamos muy lejos de eso y, a falta de acuerdo, las empresas quedan abandonadas a su suerte. Es una situación insatisfactoria, que sólo puede cambiar mediante un amplio debate social. Obligarnos a ponernos de acuerdo sobre el contenido de nuestro lenguaje es quizá la mayor contribución de la máquina parlante. Eric Salobir
Fr. Eric Salobir, OP
Presidente del Comité Ejecutivo de la Human Technology Foundation
Fundador, OPTIC
Eric Salobir es fraile dominico y Presidente del Comité Ejecutivo de la Human Technology Foundation, además de fundador de OPTIC, una red internacional de investigación y acción que sitúa a las personas en el centro del desarrollo tecnológico. La OPTIC reúne a varios miles de investigadores, empresarios y desarrolladores tecnológicos.
