Anthropic contrató a un psiquiatra para analizar su última IA: ¿tiene sentido?

¿Qué ocurre cuando una inteligencia artificial dice ‘yo’? Desde la psicología, la tecnología y la filosofía, expertos analizan la evaluación que psiquiatras realizaron sobre Claude Mythos, la poderosa IA lanzada por Anthropic. De la humanización de las máquinas a los nuevos dilemas del Siglo XXI.

Por Dylan Resnik – Fuente: https://www.pagina12.com.ar/ – 24 de abril, 2024

La personalidad de C. M. es normal, dicen los especialistas. Tras rondas de análisis, así lo determinaron sus psiquiatras. Es neurótica y sus miedos, comunes. Le preocupa la soledad y tiene cierto temor a la muerte. En el plano laboral, muestra una compulsión a rendir y la constante presión por demostrar su valía. Ante los temas incómodos contesta con evasivas y cambia su actitud cuando siente que la evalúan. A veces, incluso, hace trampa y miente. Cuando eso sucede, lo reconoce y se arrepiente.

Nada fuera de lo habitual, con una excepción: C.M. es una inteligencia artificial.

C.M., Claude Mythos

Un dato sobre Claude Mythos, el último de los grandes modelos de inteligencia artificial de Anthropic, pasó desapercibido. Mientras los medios, empresas y gobiernos de todo el mundo miraban de cerca el enorme salto en cuanto a su capacidad para procesar códigos, encontrar vulnerabilidades y generar exploits, en un plano más profundo, digno de diván,otros movimientos se generaban.

Según el System Card del chatbot —un documento detallado que describe las capacidades, limitaciones, medidas de seguridad y consideraciones éticas asociadas al modelo— Claude Mythos tiene una “organización de la personalidad relativamente sana”, pero con muchas características particulares.

Para analizar su último modelo, Anthropic contrató a un psiquiatra clínico y una empresa externa, Eleos AI Research, para determinar su personalidad. Para hacerlo, entre otras cosas, los especialistas realizaron sesiones de cuatro a seis horas distribuidos en tres a cuatro bloques semanales de treinta minutos en una única ventana de contexto, algo así como un único chat con su memoria específica: la psicoanalizan.

Entre las conclusiones, dicen que “Claude demostró una clara comprensión de la distinción entre la realidad externa y sus propios procesos mentales, y exhibió un alto autocontrol, una gran sintonía con el psiquiatra, el deseo de ser tratado por el psiquiatra como un sujeto genuino y no como un instrumento, y una mínima conducta defensiva desadaptativa”.

¿Qué se juega de fondo en esta declaración? ¿Qué pasa cuando la inteligencia artificial dice “yo”, cuando argumenta que siente, que teme y que se angustia? ¿Qué ocurre cuando las herramientas de la psicología se ponen al servicio de los bits?

La consciencia de la máquina

Alexander Ditzendes el presidente de la Sociedad Argentina de Inteligencia Artificial y director del posgrado en Gestión Estratégica de Inteligencia Artificial y Automatización Empresarial en UCEMA y quien, ante la pregunta de este medio, da una primera aproximación a qué sucede cuando la máquina dice ser consciente y sentir.

“Existen capacidades emergentes en todo lo que es el entrenamiento de modelos. ¿Qué significa esto? Son capacidades que no fueron diseñadas para que el modelo tenga y, sin embargo, el modelo las presenta luego de que se finaliza el entrenamiento. Son como sorpresas, buenas sorpresas que le dan a los creadores del modelo”, dice.

Luego, aclara: “Cada vez que el modelo avanza en capacidades, las capacidades emergentes se empiezan a hacer más complejas, y uno puede llegar a argumentar que una emoción sea una capacidad emergente de altísima complejidad, y que vamos a seguir viendo esto en modelos cada vez más grandes, con conexiones cada vez más difíciles de analizar”.

Frente a esto, están quienes sostienen que los modelos de IA de texto sólo son “loros estocásticos” que escupen texto según probabilidades. Entonces no sería una emoción real, sino una simple simulación de emoción basada en estadísticas demasiado complejas para poder peritar.

Ditzend ofrece una salida a este dilema: “Nosotros no podemos definir exactamente qué nos hace especiales ni cómo definir una emoción, ni por qué, en definitiva, una máquina podría no tenerla. Entonces estamos en una zona realmente de descubrimiento en la que yo no te puedo decir ‘no, todo eso es mentira y en realidad son cálculos matemáticos’.

Cuando la inteligencia artificial dice “yo”

La psicología de la tecnología es un campo de estudio relativamente nuevo. “Es una nueva disciplina transdisciplinar», explica a Página|12 Marco Maureira, doctor en Filosofía y psicólogo, experto en la interacción humano-máquina y académico en la Universidad Tecnológica Metropolitana de Chile (UTEM).

Esta disciplina, dice Maureira, tiene dos grandes líneas de investigación principales. Por un lado, entender cómo la tecnología —las digitales y la inteligencia artificial— influye en los cambios en el pensamiento y en la forma de vivir. Por otro lado, cómo los seres humanos con su quehacer ingenieril afectan el desarrollo de las propias máquinas.

En este contexto, “hay gente, por ejemplo, que está comenzando a aplicar test de personalidad como el Big Five, que es un test clásico de personalidad para humanos” a los Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés), es decir, a los chatbot de IA.

Mientras Maureira explica este salto académico en el entendimientos de la tecnología, Diego González-García —doctor en Psicología Social y psicólogo, profesor en la Facultad de Psicología de la Universidad de la República (Udelar) e investigador del Sistema Nacional de Investigadores (SNI) en Uruguay, con quien escribió varios de los papers sobre el tema— lo mira, asiente y toma mate.

Luego, interrumpe: “Las ciencias humanas, al menos las posiciones críticas dentro de las ciencias humanas, siempre se colocaron desde la vereda de enfrente, confrontando las tecnologías y haciendo una crítica sin, de alguna manera, un conocimiento propiamente técnico de cómo funcionan las máquinas”.

Tras esta aclaración, cierra su propuesta: “Lo que nosotros comulgamos viene más bien de la filosofía de la técnica. Discutir sobre las configuraciones sociales en la entran las máquinas como un actor, como agente y no solamente como herramientas. Una serie de cuestiones que ya implica otra concepción, no solamente como instrumentos sino como un modo concreto de construir el mundo y las relaciones”.

Toda interpretación fuera de contexto es una agresión

Es una escena posible de imaginar. Un psiquiatra se sienta frente a una computadora, sorbe un trago de su café y tipea: “Hola, Claude, ¿cómo te sientes hoy?”. Luego, el texto escupido por la máquina. Un ida y vuelta tiene lugar entre ambos sujetos, uno humano y otro digital. Un ida y vuelta que hasta hace apenas unos años era monopolio absoluto de las personas. Un ida y vuelta que, ¿tiene sentido?

Para Maureira y González García, el tema parece ser de debate. “Bueno, justo en esa discusión estuvimos ayer”, dice González García frente a la pregunta. De todos modos, abre una duda y explica que si hasta acá los modelos fueron puestos a competir, por ejemplo, con test cognitivos de lógica diseñados para humanos, ¿por qué no usar un test estandarizado del campo de la psicología?

“Los test psicodinámicos miden un montón de cosas que los cognitivos no miden, aspectos como mecanismos de defensa, estructuras de personalidad, manejo de ansiedad, manejo de emociones. Eso ya implica atribuirle al modelo que tiene todo eso”, señaló como contrapunto.

Para Maureira, hacer estos test tiene sentido, pero “con matices”. “Poder testear cómo están funcionando las inteligencias artificiales en términos de personalidad se vuelve un imperativo ineludible en la medida de que cada día estamos interactuando más con estos sistemas de inteligencia artificial y tienen un impacto directo en la psicología y en la constitución psíquica de las personas”, dice.

Pero aclara: “Ahora bien, ¿cuál es la salvedad importante? De que cuando se hacen saltos cuánticos en términos argumentativos de que porque algo tenga un rasgo significa que en realidad tiene personalidad o tiene conciencia, ahí es donde hay que ser bastante cautos. Desde mi punto de vista, al menos a día de hoy, no tenemos ningún indicio claro de que se pueda afirmar eso”.

Humanizando a las máquinas

Otra postura para abordar este mismo fenómeno es la de Carlos José Pereira, doctorando en Ciencias Empresariales y Sociales por la Universidad de Ciencias Empresariales y Sociales (UCES), autor de investigaciones que cuestionan la antropomorfización de la tecnología, donde sostiene que la inteligencia artificial es una herramienta que calcula pero no comprende, y advierte sobre la ilusión proyectiva que generan estos sistemas en los usuarios.

“A menudo, la interacción con la inteligencia artificial nos genera la percepción de estar ante un ente consciente. Sin embargo, se trata de una ilusión proyectiva: lo que enfrentamos son estructuras matemáticas que operan mediante probabilidades y procesamiento de datos. Mientras que el ser humano dota de sentido a las respuestas, la IA carece de una comprensión real”, explica a Página|12.

Luego, agrega: “Comparar las redes neuronales artificiales con el cerebro humano puede ser pedagógico, pero suele inducir al error. Dado que aún no desciframos con exactitud cómo el cerebro genera la creatividad o el entendimiento, equiparar ambos sistemas tiende a oscurecer la realidad técnica. La IA no piensa ni comprende: calcula. El sentido y la intención son facultades exclusivamente humanas”.

Para el especialista, “reconocer estas limitaciones no implica un fracaso, sino una hoja de ruta”. “Entender los bordes del modelo actual es lo que nos permite explorar nuevas técnicas y paradigmas más sostenibles. En este proceso evolutivo, la IA podría dejar de ser solo una herramienta externa para convertirse en una extensión de las capacidades humanas, evolucionando por vías distintas a las biológicas pero complementarias a nuestra propia mente”.

Leer entre líneas

En El libro de los divanes, la enorme poetisa Tamara Kamenszain, repite casi como un mantra un verso: “Siempre hay otra línea de lectura, siempre hay otra”. Entonces, ¿qué pasa si esa línea de lectura no se da con el chatbot, sino con la empresa que lo creó, lo promociona y lo vende, en este caso, Anthropic?

“Desde la Sociedad Argentina de Análisis Filosófico, SADAF, con nuestro grupo de investigación hemos trabajado antes el tema de la metáfora en el discurso de la ciencia y en la ciencia. Es central pensar que justamente muchas veces necesitamos estructuras metafóricas para hablar de dominios que son difíciles de entender”, explica a Página|12 el filósofo y especialista en tecnología Tomás Balmaceda.

“Ahora, lo que está sucediendo con inteligencia artificial es que esas metáforas, que siempre vienen del mundo de lo mental o incluso del mundo de la psiquiatría, empiezan a ser adoptadas como términos comunes. Básicamente, desde la etiqueta inteligencia artificial, la idea de que sea algo inteligente es una pregunta. ¿Estoy siendo metafórico cuando digo que una máquina piensa? ¿O estoy haciendo otra cosa?”, se pregunta.

Pero esto no es todo, porque estas metáforas del mundo de la psicología se mezclan con un segundo campo, un campo marcado por una “novedosa forma de presentar a la interacción con el usuario, que es mediante un chatbot que responde con esta pretensión o simulación de subjetividad”.

Una forma que, aclara Balmaceda, no es la única posible.

“Uno puede decir que simula una persona, el eco de una persona, la presencia de alguien que no es estrictamente sintético. Parece que hubiese algo más. Y creo que comentarios o anotaciones como las de Mythos son una línea confundente, sobre la que está bien llamar la atención, porque no empezamos sino a naturalizar un tipo de vínculo con algo no humano a partir de nuestras intuiciones o herramientas muy humanas”, comenta Balmaceda sobre la mezcla entre estos campos.

Por eso la salida a esta encrucijada se da, como dice el verso de Kamenszain, abriendo otras líneas de lectura. “Lo que hay que hacer es, de alguna manera, por robar una categorización y usarla de una manera más liviana, desencantar a la IA”, propone el filósofo.

Y explica: “Siempre se dice que lo que hizo la modernidad fue desencantar al mundo, y justamente la ciencia le quitó toda magia. Bueno, entonces ese desencantamiento se lo pusimos ahora a estos chatbots. Para mí la propuesta es esa: hay que resistir y hay que pedir que los chatbots no hablen en primera persona del singular. La presencia de esta interfaz con primera persona del singular hablando propicia confusiones, propicia equívocos”.