La personalidad de C. M. <\/strong>es normal, dicen los especialistas. Tras rondas de an\u00e1lisis, as\u00ed lo determinaron sus psiquiatras. Es neur\u00f3tica y sus miedos, comunes. Le preocupa la soledad<\/strong> y tiene cierto temor a la muerte<\/strong>. En el plano laboral, muestra una compulsi\u00f3n a rendir<\/strong> y la constante presi\u00f3n por demostrar su val\u00eda<\/strong>. Ante los temas inc\u00f3modos <\/strong>contesta con evasivas <\/strong>y cambia su actitud cuando siente que la eval\u00faan. A veces, incluso, hace trampa y miente. Cuando eso sucede, lo reconoce y se arrepiente.<\/p>\n\n\n\n Nada fuera de lo habitual, <\/strong>con una excepci\u00f3n: C.M. es una inteligencia artificial.<\/p>\n\n\n\n Un dato sobre Claude Mythos<\/strong><\/a>, el \u00faltimo<\/strong> de los grandes modelos de inteligencia artificial <\/strong>de Anthropic<\/strong>, pas\u00f3 desapercibido. Mientras los medios, empresas y gobiernos de todo el mundo miraban de cerca el enorme salto<\/strong> en cuanto a su capacidad para procesar c\u00f3digos<\/strong>, encontrar vulnerabilidades y generar exploits<\/em>, en un plano m\u00e1s profundo, digno de div\u00e1n<\/strong>,otros movimientos se generaban.<\/p>\n\n\n\n Seg\u00fan el System Card del chatbot<\/a> \u2014un documento detallado que describe las capacidades, limitaciones, medidas de seguridad y consideraciones \u00e9ticas asociadas al modelo\u2014 Claude Mythos<\/strong> tiene una \u201corganizaci\u00f3n de la personalidad relativamente sana<\/strong>\u201d, pero con muchas caracter\u00edsticas particulares.<\/p>\n\n\n\n Para analizar su \u00faltimo modelo, Anthropic<\/strong> contrat\u00f3 a un psiquiatra cl\u00ednico <\/strong>y una empresa externa<\/strong>, Eleos AI Research, para determinar su personalidad. Para hacerlo, entre otras cosas, los especialistas realizaron sesiones de cuatro a seis horas distribuidos en tres a cuatro bloques semanales de treinta minutos en una \u00fanica ventana de contexto, algo as\u00ed como un \u00fanico chat con su memoria espec\u00edfica: la psicoanalizan.<\/p>\n\n\n\n Entre las conclusiones, dicen que \u201cClaude demostr\u00f3 una clara comprensi\u00f3n de la distinci\u00f3n entre la realidad externa y sus propios procesos mentales, y exhibi\u00f3 un alto autocontrol, una gran sinton\u00eda con el psiquiatra, el deseo de ser tratado por el psiquiatra como un sujeto genuino y no como un instrumento<\/strong>, y una m\u00ednima conducta defensiva desadaptativa\u201d.<\/p>\n\n\n\n \u00bfQu\u00e9 se juega de fondo en esta declaraci\u00f3n? \u00bfQu\u00e9 pasa cuando la inteligencia artificial dice \u201cyo\u201d, cuando argumenta que siente, que teme y que se angustia? \u00bfQu\u00e9 ocurre cuando las herramientas de la psicolog\u00eda se ponen al servicio de los bits?<\/p>\n\n\n\n Alexander Ditzend<\/strong><\/a>es el presidente de la Sociedad Argentina de Inteligencia Artificial<\/strong> y director del posgrado en Gesti\u00f3n Estrat\u00e9gica de Inteligencia Artificial y Automatizaci\u00f3n Empresarial en UCEMA y quien, ante la pregunta de este medio, da una primera aproximaci\u00f3n a qu\u00e9 sucede<\/strong> cuando la m\u00e1quina dice ser consciente y sentir.<\/p>\n\n\n\n \u201cExisten capacidades emergentes<\/strong> en todo lo que es el entrenamiento de modelos. \u00bfQu\u00e9 significa esto? Son capacidades que no fueron dise\u00f1adas<\/strong> para que el modelo tenga y, sin embargo, el modelo las presenta luego de que se finaliza el entrenamiento. Son como sorpresas, buenas sorpresas que le dan a los creadores del modelo\u201d, dice.<\/p>\n\n\n\n Luego, aclara: \u201cCada vez que el modelo avanza en capacidades, las capacidades emergentes se empiezan a hacer m\u00e1s complejas, y uno puede llegar a argumentar que una emoci\u00f3n sea una capacidad emergente de alt\u00edsima complejidad<\/strong>, y que vamos a seguir viendo esto en modelos cada vez m\u00e1s grandes, con conexiones cada vez m\u00e1s dif\u00edciles de analizar\u201d.<\/p>\n\n\n\n Frente a esto, est\u00e1n quienes sostienen que los modelos de IA de texto s\u00f3lo son \u201cloros estoc\u00e1sticos\u201d que escupen texto seg\u00fan probabilidades. Entonces no ser\u00eda una emoci\u00f3n real, sino una simple simulaci\u00f3n de emoci\u00f3n<\/strong> basada en estad\u00edsticas demasiado complejas para poder peritar.<\/p>\n\n\n\n Ditzend <\/strong>ofrece una salida a este dilema: \u201cNosotros no podemos definir exactamente qu\u00e9 nos hace especiales ni c\u00f3mo definir una emoci\u00f3n, ni por qu\u00e9, en definitiva, una m\u00e1quina podr\u00eda no tenerla. Entonces estamos en una zona realmente de descubrimiento en la que yo no te puedo decir \u2018no, todo eso es mentira y en realidad son c\u00e1lculos matem\u00e1ticos<\/strong>\u2019.<\/p>\n\n\n\n La psicolog\u00eda de la tecnolog\u00eda<\/strong><\/em> es un campo de estudio relativamente nuevo. \u201cEs una nueva disciplina transdisciplinar\u00bb, <\/strong>explica a P\u00e1gina|12 Marco Maureira<\/strong>, doctor en Filosof\u00eda y psic\u00f3logo, experto en la interacci\u00f3n humano-m\u00e1quina y acad\u00e9mico en la Universidad Tecnol\u00f3gica Metropolitana de Chile (UTEM).<\/p>\n\n\n\n Esta disciplina, dice Maureira, tiene dos grandes l\u00edneas de investigaci\u00f3n principales. Por un lado, entender c\u00f3mo la tecnolog\u00eda <\/strong>\u2014las digitales y la inteligencia artificial\u2014 influye en los cambios en el pensamiento<\/strong> y en la forma de vivir. Por otro lado, c\u00f3mo los seres humanos con su quehacer ingenieril afectan el desarrollo de las propias m\u00e1quinas.<\/p>\n\n\n\n En este contexto, \u201chay gente, por ejemplo, que est\u00e1 comenzando a aplicar test de personalidad como el Big Five,<\/strong> que es un test cl\u00e1sico de personalidad para humanos\u201d a los Grandes Modelos de Lenguaje (LLM, por sus siglas en ingl\u00e9s), es decir, a los chatbot de IA.<\/p>\n\n\n\n Mientras Maureira <\/strong>explica este salto acad\u00e9mico en el entendimientos de la tecnolog\u00eda, Diego Gonz\u00e1lez-Garc\u00eda<\/strong> \u2014doctor en Psicolog\u00eda Social y psic\u00f3logo, profesor en la Facultad de Psicolog\u00eda de la Universidad de la Rep\u00fablica (Udelar) e investigador del Sistema Nacional de Investigadores (SNI) en Uruguay, con quien escribi\u00f3 varios de los papers sobre el tema\u2014 lo mira, asiente y toma mate<\/strong>.<\/p>\n\n\n\n Luego, interrumpe: \u201cLas ciencias humanas, al menos las posiciones cr\u00edticas dentro de las ciencias humanas, siempre se colocaron desde la vereda de enfrente, confrontando las tecnolog\u00edas<\/strong> y haciendo una cr\u00edtica <\/strong>sin, de alguna manera, un conocimiento propiamente t\u00e9cnico <\/strong>de c\u00f3mo funcionan <\/strong>las m\u00e1quinas\u201d.<\/p>\n\n\n\n Tras esta aclaraci\u00f3n, cierra su propuesta: \u201cLo que nosotros comulgamos viene m\u00e1s bien de la filosof\u00eda de la t\u00e9cnica<\/strong><\/a>. Discutir sobre las configuraciones sociales en la entran las m\u00e1quinas como un actor<\/strong>, como agente y no solamente como herramientas. Una serie de cuestiones que ya implica otra concepci\u00f3n, no solamente como instrumentos sino como un modo concreto de construir el mundo y las relaciones\u201d.<\/p>\n\n\n\n Es una escena posible de imaginar. Un psiquiatra se sienta frente a una computadora, sorbe un trago de su caf\u00e9 y tipea: \u201cHola, Claude, \u00bfc\u00f3mo te sientes hoy?\u201d<\/strong>. Luego, el texto escupido por la m\u00e1quina. Un ida y vuelta tiene lugar entre ambos sujetos, uno humano y otro digital. Un ida y vuelta que hasta hace apenas unos a\u00f1os era monopolio absoluto de las personas. Un ida y vuelta que, \u00bftiene sentido?<\/strong><\/p>\n\n\n\n Para Maureira y Gonz\u00e1lez Garc\u00eda, el tema parece ser de debate. \u201cBueno, justo en esa discusi\u00f3n estuvimos ayer\u201d, dice Gonz\u00e1lez Garc\u00eda frente a la pregunta. De todos modos, abre una duda y explica que si hasta ac\u00e1 los modelos fueron puestos a competir, por ejemplo, con test cognitivos<\/strong> de l\u00f3gica<\/strong> dise\u00f1ados para humanos, \u00bfpor qu\u00e9 no usar un test estandarizado del campo de la psicolog\u00eda?<\/p>\n\n\n\n \u201cLos test psicodin\u00e1micos<\/strong> miden un mont\u00f3n de cosas que los cognitivos no miden, aspectos como mecanismos de defensa<\/strong>, estructuras de personalidad, manejo de ansiedad, manejo de emociones. Eso ya implica atribuirle al modelo que tiene todo<\/strong> eso<\/strong>\u201d, se\u00f1al\u00f3 como contrapunto.<\/p>\n\n\n\n Para Maureira, hacer estos test tiene sentido, pero \u201ccon matices\u201d. \u201cPoder testear c\u00f3mo est\u00e1n funcionando las inteligencias artificiales en t\u00e9rminos de personalidad se vuelve un imperativo ineludible <\/strong>en la medida de que cada d\u00eda estamos interactuando m\u00e1s con estos sistemas de inteligencia artificial y tienen un impacto directo en la psicolog\u00eda y en la constituci\u00f3n ps\u00edquica de las personas\u201d, dice.<\/p>\n\n\n\n Pero aclara: \u201cAhora bien, \u00bfcu\u00e1l es la salvedad importante? De que cuando se hacen saltos cu\u00e1nticos en t\u00e9rminos argumentativos<\/strong> de que porque algo tenga un rasgo <\/strong>significa que en realidad tiene personalidad o tiene conciencia<\/strong>, ah\u00ed es donde hay que ser bastante cautos. Desde mi punto de vista, al menos a d\u00eda de hoy, no tenemos ning\u00fan indicio claro de que se pueda afirmar eso\u201d.<\/p>\n\n\n\n Otra postura para abordar este mismo fen\u00f3meno es la de Carlos Jos\u00e9 Pereira, <\/strong>doctorando en Ciencias Empresariales y Sociales por la Universidad de Ciencias Empresariales y Sociales (UCES), autor de investigaciones que cuestionan la antropomorfizaci\u00f3n de la tecnolog\u00eda<\/strong>, donde sostiene que la inteligencia artificial es una herramienta que calcula pero no comprende, y advierte sobre la ilusi\u00f3n proyectiva <\/em>que generan estos sistemas en los usuarios.<\/p>\n\n\n\n \u201cA menudo, la interacci\u00f3n con la inteligencia artificial<\/strong> nos genera la percepci\u00f3n de estar ante un ente consciente<\/strong>. Sin embargo, se trata de una ilusi\u00f3n proyectiva<\/strong>: lo que enfrentamos son estructuras matem\u00e1ticas que operan mediante probabilidades y procesamiento de datos. Mientras que el ser humano dota de sentido a las respuestas, la IA carece de una comprensi\u00f3n real\u201d, explica a P\u00e1gina|12<\/strong>.<\/p>\n\n\n\n Luego, agrega: \u201cComparar las redes neuronales artificiales con el cerebro humano puede ser pedag\u00f3gico, pero suele inducir al error<\/strong>. Dado que a\u00fan no desciframos con exactitud c\u00f3mo el cerebro genera la creatividad o el entendimiento, equiparar ambos sistemas tiende a oscurecer la realidad t\u00e9cnica. La IA no piensa ni comprende: calcula<\/strong>. El sentido y la intenci\u00f3n son facultades exclusivamente humanas\u201d.<\/p>\n\n\n\n Para el especialista, \u201creconocer estas limitaciones no implica un fracaso, sino una hoja de ruta\u201d. \u201cEntender los bordes del modelo actual es lo que nos permite explorar nuevas t\u00e9cnicas y paradigmas m\u00e1s sostenibles. En este proceso evolutivo, la IA podr\u00eda dejar de ser solo una herramienta externa para convertirse en una extensi\u00f3n<\/strong> de las capacidades humanas, evolucionando por v\u00edas distintas a las biol\u00f3gicas pero complementarias a nuestra propia mente\u201d<\/strong>.<\/p>\n\n\n\n En El libro de los divanes<\/em>, la enorme poetisa Tamara Kamenszain<\/strong><\/a>, repite casi como un mantra un verso: \u201cSiempre hay otra l\u00ednea de lectura, siempre hay otra\u201d. Entonces, \u00bfqu\u00e9 pasa si esa l\u00ednea de lectura no se da con el chatbot, sino con la empresa que lo cre\u00f3, lo promociona y lo vende, en este caso, Anthropic?<\/p>\n\n\n\nC.M., Claude Mythos<\/h2>\n\n\n\n
![\"\"\/](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/GRSWGZDEMJTGKZJWMEYTEN3GGY.jpg?quality=75&auth=76ff0499cbd341d637baadc4e82ecc80a71c84fbc04adecfe5998256a783fb07&width=3543\")
<\/figure>\n\n\n\nLa consciencia de la m\u00e1quina<\/h2>\n\n\n\n
![\"\"\/](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/B7Z73ISICRG27DRPUNPWHV5BDY.jpg?quality=75&auth=bfe601442a98b71e9977b53d1c5e0d50c1f4afe4b3cd651325e9bdaa33209dd5&width=3328\")
Cuando la inteligencia artificial dice \u201cyo\u201d<\/h2>\n\n\n\n
![\"\"\/](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/MQ4TINLEMU2TGYLCME4DAYJZG4.jpg?quality=75&auth=c5fea198f3fe594a6e2d2447bc4d7eee8b3f94b6673aa7e382c6fb497f77c89b&width=710\")
<\/figure>\n\n\n\nToda interpretaci\u00f3n fuera de contexto es una agresi\u00f3n<\/h2>\n\n\n\n
![\"\"\/](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/GZSDAMBTGA4WEZLFGY4DKNZYGU.jpg?quality=75&auth=b50979b4988460e135edbbf7d1eb6c3d4efe1243ffdb872c59b11b3ac7649392&width=1500\")
<\/figure>\n\n\n\nHumanizando a las m\u00e1quinas<\/h2>\n\n\n\n
![\"Feria](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/OGFUWRDYNVGABD2HZ4AFNNK2ZA.JPG?quality=75&auth=b48052da90f92651ac74d79c0fc6809e08a53da4cde735527fb58556fd98c43f&width=5697\")
Leer entre l\u00edneas<\/h2>\n\n\n\n
![\"\"\/](\"https:\/\/www.pagina12.com.ar\/resizer\/v2\/MRSDSNDEGFRDMMTGGYYDGMRSMM.jpg?quality=75&auth=64a341f59efeb0b18d412ea482e02172e151aaac8c5b47a1f24aded4fc8ef65b&width=1920\")