En una reciente entrevista con el sociólogo Fernando Peirone acerca de su libro más reciente El fin de la escritura, el investigador reflexionaba acerca del impacto que está teniendo en la cultura letrada el creciente uso emoticones, gifs y videos. Peirone considera que estamos ante una revolución similar a la ocurrida hace 70.000 años cuando pasamos del lenguaje gestual a la irrupción de la palabra. Este cambio no fue menor ya que hemos construido una cultura basándonos en el lenguaje.

Ahora, la palabra está abriendo nuevas posibilidades de desarrollo para la inteligencia artificial (IA). Más específicamente, se la empieza a vincular en el desarrollo de conciencia por parte de este avance tecnológico, un tema que cosecha opiniones a favor y en contra. Este es un claro ejemplo de que, más allá de lo innegable de sus aportes, la IA empieza a generar sus propias realidades y complejidades. Por un lado resuelve, pero también abre un panorama, bastante incierto, sobre cuestiones que le son propias y cómo éstas impactarán en nuestras vidas.

¿Qué es el lenguaje?
El lenguaje verbal es una de las tres maneras en que experimentamos el mundo, junto con nuestra biología y las interpretaciones que hacemos de la realidad.

Distintas vertientes muestran que el lenguaje es mucho más que la mera transmisión de información o descripción del mundo. Por citar solo algunos pocos ejemplos: Jacques Lacan propone al lenguaje como estructurador del sujeto, John Austin que el lenguaje es acción, John Searle profundiza lo propuesto por Austin y desarrolla la teoría de los actos de habla. Lera Boroditsky investiga cómo el lenguaje modela el cerebro y la manera en que nuestra forma de ver el mundo es afectada por el idioma que hablamos.

También tenemos a los ya históricos neurobiólogos y filósofos Humberto Maturana y Francisco Varela quienes sostenían que a través del lenguaje creamos realidades ya que mediante las palabras moldeamos nuestra percepción del mundo, trayendo nuevas realidades a la mano.

Solo un pequeñísimo universo de los enfoques y trabajos tanto históricos como actuales desarrollados por grandes pensadores e investigadores que sirven como ejemplo de lo que el lenguaje representa.

Lenguaje e IA
Por un lado, la incorporación del lenguaje ha simplificado nuestra interacción con la IA. Con unas pocas líneas de texto, hoy podemos pedirles a distintas aplicaciones que nos respondan preguntas, armen resúmenes de distintas temáticas y generen fotos o videos entre otras múltiples tareas. Esto es la base de la inteligencia artificial generativa, un área en constante investigación dadas las ambigüedades del lenguaje humano que la IA aún debe aprender a manejar.

Los mencionados son ejemplos de cómo, en la actualidad, hemos pasado de una situación de uso de lenguajes de programación al uso de lenguajes de creación. En otras palabras, hasta la aparición de la IA necesitábamos de distintos tipos de lenguajes complejos para lograr que un programa ejecutara una tarea determinada. Hoy, y gracias al desarrollo de la IA, podemos lograr que un programa ejecute una determinada tarea usando lenguaje humano. Con nuestras propias instrucciones, si bien deben ser claras (los populares prompts), estamos obteniendo resultados hasta ahora inimaginables, sobre todo para quienes no manejamos lenguajes de programación.

Por otro, la incorporación del lenguaje a la programación de la IA estaría relacionada con la descripción que la psicoanalista Violaine Fua Púppulo, autora del libro Una ¿mente? artificial, hace respecto de que las máquinas han empezado a mostrar reacciones más típicas de una persona. Negación a repetir un pedido ya hecho, mentiras o alucinaciones entran en este tipo de reacciones humanas. Fua Púppolo indica que todos estos eventos “extraños” comenzaron a ocurrir luego de que se empezara a incorporar el lenguaje humano en la programación.

Y así llegamos a la pregunta del momento: ¿puede la IA desarrollar conciencia sobre sí misma?

Otras visiones
Una IA más ¿humana?
En 1950, Alan Turing, el padre de la informática, publica un artículo en la revista Mind preguntándose si las máquinas pueden pensar. Turing advertía que no habría que construir una IA por imitación con los humanos ya que podrían aparecer actitudes presentes en ellos. En esa línea se mueve el razonamiento de la psicoanalista y magister en Comunicación Estratégica Miriam Caravallo.

“Sentimos como amenaza la posibilidad de la humanización de los robots (IA). Por el momento no me parece que haya más que una computadora sofisticada que es siempre cargada por humanos, con la ideología que rige la humanidad, mayoritariamente patriarcal. Entonces, desde allí no va a haber innovación vincular, tanto la IA como los robots responderán desde esa situación”, destaca la psicoanalista.

Respecto a tener máquinas “humanas”, Caravallo considera que “hasta donde conozco, estas máquinas no tienen posibilidad de humanizarse porque no tienen ni van a tener inconsciente, me refiero a un aparato psíquico singular. El ser humano tiene el privilegio de ser el único ser de la naturaleza que cuenta con un aparato psíquico desarrollado que lo diferencia de los otros seres vivos”. Al referirse a este punto, Caravallo destaca que “cuando hablamos de aparato psíquico hablamos de una composición compleja de tres instancias: consciente, preconsciente e inconsciente, en una dinámica permanente de relación intrapsi y sus transformaciones en concordancia. Esta dinámica se conforma de imágenes, emociones y sensaciones, singulares y enigmáticas que vienen del interior y desde el afuera, desde lo pulsional y lo familiar, desde lo macro y micro cultural. Esto no podría ser creado por un chip”.

Lenguaje y conciencia
María Fernanda Fignoni, psicóloga, magister en Psicoanalisis y profesora de Lingüística y Discursividad Social (Facultad de Psicología, Universidad Nacional de Rosario), aporta otra visión respecto del impacto del lenguaje sobre el desarrollo de conciencia en la IA.

¿La IA puede desarrollar conciencia?
Lo que nos anuncia la tecnología es que este robot conversacional, este GPT (Generative Pre-trained Transformer), está entrenado con una carga previa de inmensidad de datos y con un diseño interior de su arquitectura que le permite la combinatoria de esos datos. Esto significa que tiene la posibilidad de crear contenidos, es decir que no sólo percibe, sino que percibe, comprende, razona y crea respuestas. Esto da un poco de escozor, pero tenemos que ir entendiendo que es la idea de haber creado la primera tecnología que es capaz de tomar decisiones.

¿Qué rol juega el lenguaje en la programación de la IA?
Como menciona la psicoanalista Fua Púppolo, en un inicio la inteligencia artificial estaba programada con un algoritmo matemático. Desde esta perspectiva, el lenguaje del que estamos hablando es un lenguaje que ella señala como el de Yann LeCun. Este es un lenguaje muy pobre porque es pensar en una función lingüística, diría yo como superficial, que tiene que ver con la codificación y la decodificación, simplemente con el hecho de la transmisión de información. Desde esta perspectiva, se les hace a los signos lingüísticos un tratamiento numérico. Es decir, es pensar al lenguaje con el mismo procedimiento del álgebra.

¿Podría el lenguaje tener mayor peso en el desarrollo de conciencia de la IA?
Fua Púppolo señala que este algoritmo, ya no está basado estrictamente en la matemática sino que también está cargado en relación al lenguaje, con lo cual uno puede suponer que también va acompañado de sus reglas de funcionamiento. Por eso ciertamente, y vuelvo al principio con esto, asusta un poco la idea de esta libertad de la máquina, libertad del robot, una libertad creciente en la capacidad combinatoria y de la creación de respuestas. Con lo cual, desde ya pienso que el lenguaje está incidiendo en la posibilidad de que la IA desarrolle conciencia. No me cabe la menor duda porque la conciencia simplemente es un sistema de percepción y sin duda esto lo cumple. Además, cuando uno por ejemplo juega con el chat GPT podés mantener una conversación, le podés señalar errores, se disculpa de sus equívocos. Te responde que eso ya lo pregunté o lo reitera y cuando lo reitera incluso lo dice de otro modo, es decir que conoce el juego de la variación.

¿Se hará necesaria algún tipo de regulación?
Esto asusta porque parece una película de ciencia ficción, cuando uno deja volar la fantasía y es como que evoca El planeta de los simios. Entonces, uno hace futurología y dice “llegará un momento en el cual los humanos estemos sometidos a las máquinas”. Hay ahí un ejercicio del poder y está planteado en términos de dominación. Está planteado el temor en relación a que en algún momento las máquinas cobren tal independencia que no las podamos regular, lo cual también nos lleva, como pasó con la ciencia desde la perspectiva, por ejemplo, de la genética, a todo lo que es la bioética. Tendremos que pensar desde ya en una tecnoética que seguramente ya está puesta en acción, pero ¿cuáles son los límites del manejo de esta independencia de la máquina y cómo se lo regula?

Entonces, la IA, ¿puede desarrollar una conciencia?
A nivel de conciencia yo creo que sí y te diría que eso ya está, no es que puede suceder. Creo que ya está desarrollada. ¿Qué es lo que nos pone, de alguna manera, al resguardo? ¿Qué es lo que nos garantiza la diferencia entre lo humano y la máquina? ¿Cómo poder identificar qué es una máquina y qué es un humano? En cierto modo, el alivio que yo encuentro es el hecho de que nosotros no sólo somos seres de conciencia, no sólo es el planteo de los registros cognitivos, esto que trabaja tanto la psicología cognitiva y acá acompaño a Fua Púppolo en el sentido de lo que el psicoanálisis plantea. El lenguaje es mucho más que un medio de comunicación, es mucho más que una transmisión y una percepción. Hay toda una dimensión inconsciente que es el rasgo más humano que nos protege.

¿Podés profundizar sobre esa dimensión inconsciente?
Esa dimensión inconsciente es la que genera la posibilidad de los equívocos, de los lapsos, de los malos entendidos, de las ambigüedades, de generar justamente dificultades en la comunicación. Pero, además, el inconsciente es como un reservorio de angustias, culpas, deseos, pasiones. La relación que nosotros tenemos con el lenguaje humano tiene que ver con el uso creador de ese lenguaje y una combinatoria infinita. Si en algún momento las neurociencias logran estudiar el funcionamiento del sistema nervioso y detectar cómo un humano produce sus emociones, no sólo sus conocimientos y sus pensamientos, si logra detectar cómo se produce la angustia, neuroquímicamente hablando, para citar uno de los afectos más nobles y más verdaderos, entonces supongo que ahí sí vamos a estar bastante complicados.

¿Cómo creés que puede evolucionar el rol del ser humano en un mundo con IA?
Confío en que, justamente, todos estos aspectos que antes nombraba, tan característicos del ser humano, no tienen que ver con la química que se traslada, que circula eléctricamente entre axones y dendritas y sinapsis y demás. Creo que más allá del cerebro, existe el alma humana que no tiene que ver con estos mecanismos, con estos diseños electroquímicos, con este modo de los cálculos. Creo que las máquinas, y espero que sea así, si van a generar conciencia, si van a generar, y lo hacen, respuestas propias, tengo la expectativa que no van a poder nunca tener alma.

¿Lo que vendrá?
Por debajo de los debates entre académicos y empresarios acerca de una IA consciente, existe una tensión de difícil resolución sino imposible: el deseo de construir una inteligencia artificial que sea autónoma pero controlable. Autonomía y control son dos palabras de coexistencia imposible al intentar aplicarlas a una descripción de la IA.

Saliendo de la ciencia ficción, en una declaración por demás interesante el físico Stephen Hawking indicaba en 2015 que la IA sería muy buena en conseguir sus objetivos y que si los mismos no estaban alineados con los de la humanidad estaríamos en problemas. Viniendo de un científico de tal calibre es lógico pensar que nunca está de más ejercer un continuo y sano escepticismo a medida que analizamos los avances e impactos de la IA en nuestro mundo.

 

Claudio Pairoba es bioquímico, farmacéutico y doctor por la Universidad Nacional de Rosario. Máster en Análisis de Medios de Comunicación y Especialista en Comunicación Ambiental. Miembro de la Escuela de Comunicación Estratégica de Rosario y la Red Argentina de Periodismo Científico. Acreditado con la American Association for the Advancement of Science (Science) y la revista Nature. 



Sitios de interés
Un nuevo lenguaje que llegó para quedarse
https://planetciencia.blogspot.com/2025/02/un-nuevo-lenguaje-que-llego-para.html

Maturana alumbrando un mundo
https://riobelbo.com/2021/05/10/maturana-iluminando-un-mundo/

Psicoanálisis y cibernética, o la naturaleza del lenguaje. Clase 23 Seminario 2. Jacques Lacan
https://experiencialacaniana.wordpress.com/2020/02/19/psicoanalisis-y-cibernetica-o-la-naturaleza-del-lenguaje-clase-23-seminario-2-jacques-lacan/

De la estructura del lenguaje en Jacques Lacan
https://www.acheronta.org/acheronta28/becerra.htm

La biologia del conocer y la práctica del coaching profesional
https://www.jclucas.com.ar/blog/biologia-del-conocer-y-coaching

El lenguaje moldea al cerebro y la forma en que pensamos”, asegura una experta en lengua y neurociencia
https://www.infobae.com/america/tendencias-america/2022/03/27/el-lenguaje-moldea-al-cerebro-y-la-forma-en-que-pensamos-asegura-una-experta-en-lengua-y-neurociencia/

De los lenguajes de programación a los lenguajes de creación a través de la IA
https://cuatroochenta.com/de-los-lenguajes-de-programacion-a-los-lenguajes-de-creacion-a-traves-de-la-ia/

Cómo el Lenguaje Natural Transforma la Inteligencia Artificial
https://foqum.io/blog/como-el-lenguaje-natural-transforma-la-inteligencia-artificial/

Están dadas las condiciones para que una máquina pueda hablar sobre sí misma
https://www.pagina12.com.ar/787288-estan-dadas-las-condiciones-para-que-una-maquina-pueda-habla?fbclid=PAY2xjawG72hJleHRuA2FlbQIxMQABpjfRPPtV_T5tpOBhTU8ABU1KrTfvWaslaruNvbVSzz7f6EzkbyDzLGPShg_aem_auROrwRDOAMjLryLho9rgg

IA: la construcción del lenguaje y sus consecuencias
https://www.lanacion.com.ar/opinion/ia-la-construccion-del-lenguaje-y-sus-consecuencias-nid24072024/

Alan Turing, el padre de la inteligencia artificial
https://www.cultura.gob.ar/alan-turing-el-padre-de-la-inteligencia-artificial-9162/

IA y sesgo de género: un problema a resolver
https://telefonicatech.com/blog/ia-sesgo-de-genero

Breves Consideraciones sobre el Estado de la Regulación de la Inteligencia Artificial en Argentina
https://wsclegal.com/es/regulacion-de-la-inteligencia-artificial-en-argentina/

Objetivos alineados
https://planetciencia.blogspot.com/2018/04/objetivos-alineados.html