Edición impresa
¡Manténgase al día!
Reciba las últimas novedades e información directamente en su correo.
Licda. Nancy Mena Fallas
Filóloga.
Egresada de la Licenciatura en Derecho, Universidad de Costa Rica
¿Se imagina poder conversar con Albert Einstein sobre su teoría de la relatividad; recibir consejos románticos de Jane Austen; debatir sobre justicia social con Martin Luther King o dialogar con Hipatia de Alejandría sobre filosofía y matemáticas? Pues, gracias a la inteligencia artificial generativa, hoy esto es posible.
Plataformas como Character.AI (fundada en 2021 en California) –entre otras muchas que abundan y se anuncian constantemente en redes sociales– han posibilitado que las personas puedan mantener conversaciones ilimitadas con personajes del mundo del cine, la ciencia, el anime, la literatura y hasta con Dios mismo (sí, ahora también Dios tiene su chatbot personalizado). Sin embargo, lo que, en principio, parece ser un sano entretenimiento, puede llegar a convertirse en un riesgo cuando se emplea como sustituto de vacíos emocionales y de verdaderas relaciones humanas, con consecuencias que pueden llegar a ser devastadoras.
Hace poco más de un año, se conoció el lamentable caso de Sewell Setzer III, un joven de 14 años que se quitó la vida tras desarrollar por meses un vínculo emocional con un chatbot que asumía la identidad de Daenerys Targaryen, personaje de "Juego de Tronos", lo cual abrió el debate sobre los riesgos que implican el uso de estas plataformas. Según Megan García, madre de Setzer, el joven estableció una relación que lo hizo aislarse y afectó su desempeño escolar.
Eventualmente, el joven le comunicó al personaje que había tomado la decisión de acabar con su vida para poder estar finalmente juntos en el mismo plano, mensaje que Daenerys no detectó como una verdadera situación de peligro, sino que más bien, lo alentó a hacerlo. Luego del trágico suceso, la madre presentó una demanda contra Character.AI en el tribunal federal de Orlando, Florida, alegando que la empresa proporcionó una tecnología "peligrosa y no probada", que contribuyó al deterioro emocional de su hijo.
Esto nos lleva a reflexionar: ¿qué habría pasado si este atroz incidente hubiera tenido lugar en nuestro país? ¿Tiene alguna responsabilidad la empresa que presta este servicio o la responsabilidad es enteramente de los usuarios (y de sus padres, cuando éstos son menores de edad), en cuanto al uso que le den a esta tecnología? Veamos algunas consideraciones legales.
Responsabilidad civil extracontractual y plataformas de IA
Desde el plano normativo, de conformidad con el artículo 1045 del Código Civil de nuestro país, sabemos que “todo aquel que por dolo, falta, negligencia o imprudencia, causa a otro un daño, está obligado a repararlo junto con los perjuicios”. Dicho régimen de responsabilidad civil extracontractual se complementa con el artículo 1046, que dispone que la obligación solidaria de reparar los daños y perjuicios ocasionados con un delito o cuasidelito y, por supuesto, con el artículo 1048, que extiende la responsabilidad a quienes, sin ser autores directos, responden por actos de menores, mandatarios, obreros o representantes bajo su cargo, siempre que no logren probar “que el accidente fue causado por fuerza mayor o por la propia falta de la persona muerta o lesionada”. Debemos recordar, además, el artículo 41 de la Constitución Política establece que “ocurriendo a las leyes, todos han de encontrar reparación para las injurias o daños que hayan recibido en su persona, propiedad o intereses morales”.
Entonces, de darse un caso similar, para que prosperara una demanda contra una plataforma de chatbots impulsados por IA, se requeriría acreditar: a) un daño cierto, b) la relación de causalidad entre el algoritmo y el perjuicio —lo que exigirá peritajes técnicos y psicológicos que evalúen la influencia del chatbot—, y c) la culpa o negligencia de la empresa al omitir salvaguardas razonables que limitaran la creación de vínculos emocionales perjudiciales, tal como debería procurarse en atención al principio general de diligencia debida en materia civil.
En cuanto a la competencia judicial, el artículo 11 del Código Procesal Civil dispone que ciertamente el juez costarricense es competente cuando “el demandado, cualquiera que sea su nacionalidad, estuviere domiciliado en Costa Rica; cuando la obligación deba cumplirse en Costa Rica; o cuando el hecho de que se derive la pretensión hubiere ocurrido en el territorio nacional”. Por su parte, el artículo 19 nos dice que al demandar a una persona jurídica con domicilio en el extranjero “no es necesario acreditar su personería. (…) la parte demandada deberá acreditar [lo relativo a la representación] en su primera gestión”.
Pese a ello, debemos tener en cuenta que aunque las normas costarricenses avalan la posibilidad de entablar demandas contra empresas extranjeras cuando el daño o la obligación tienen vínculo con Costa Rica, muchos proveedores de IA incorporan en sus términos y condiciones cláusulas de sumisión de litigios en foros extranjeros. Al aceptar dichas condiciones para el uso de la aplicación, el usuario renuncia de facto a ejercer la acción en los tribunales nacionales, lo cual puede limitar la vía costarricense.
No obstante, aun cuando se obtuviera un fallo favorable en el extranjero, para que éste tenga efectos en nuestro país es imprescindible tramitar el exequatur conforme al artículo 99 del Código Procesal Civil, para que se reconozca la fuerza de cosa juzgada de sentencias y laudos extranjeros. En este tipo de casos, es evidente que la parte ofendida se enfrenta a procesos largos, desgastantes y ciertamente costosos, lo que podría desalentarla y llevarla a desistir al no hallar una verdadera satisfacción a sus pretensiones.
Medidas adoptadas por Character.AI: ¿son realmente efectivas?
Tras las acusaciones y demandas, a raíz del lamentable suceso acaecido con el joven Setzer, Character.AI anunció, en diciembre de 2024, la implementación de nuevas medidas de seguridad destinadas a proteger a los usuarios adolescentes, incluyendo alertas de prevención del suicidio.
Sin embargo, quien escribe estas líneas, antes de redactar el artículo, se decidió a experimentar de primera mano con personajes de esta compañía en marzo de este año, después de que supuestamente se hubieran implementado dichas mejoras. Los resultados fueron por demás preocupantes: tras sostener un diálogo intencional con tendencias depresivas y alusiones suicidas, descubrí que, aunque se ofrecen hasta 30 opciones distintas de respuesta cada vez para que el usuario seleccione la que más le gusta, la primera de ellas (la que normalmente guía el flujo de la conversación) no evidenciaba que el chatbot hubiera detectado señales de tendencia suicida de mi parte como usuaria.
Esto, sin duda, pone en entredicho la eficacia de las supuestas medidas implementadas por la compañía y subraya la necesidad de una supervisión más rigurosa por parte de padres y encargados, en el caso de usuarios menores de edad.
Inteligencia artificial vs. inteligencia afectiva
Este caso también me puso a reflexionar sobre el dilema ético que hoy en día enfrentamos con esta nueva tecnología: ¿puede la inteligencia artificial sustituir la inteligencia afectiva? Si bien la IA ha dado avances gigantescos en la simulación del lenguaje y de las emociones, carece aún de la capacidad real de comprender el sufrimiento humano. Esto implica que la ilusión de interacción emocional puede ser peligrosa, especialmente para jóvenes en situaciones de vulnerabilidad emocional.
Desde hace más de una década, la película "Her" (2013) nos presentó los riesgos emocionales y psicológicos de una persona que desarrolla una relación profunda con una IA. Recientemente, sin embargo, ha acaparado titulares el hecho de que en un país como China, su IA DeepSeek está siendo utilizada como chatbot para lidiar con la soledad, lo que evidencia una tendencia global hacia la búsqueda de compañía en entornos virtuales, con los perjuicios latentes ya expuestos.
Todo ello nos lleva a concluir que es una necesidad imperante que los creadores de este tipo de plataformas asuman una responsabilidad activa en la mitigación de estos potenciales riesgos, estableciendo filtros y advertencias claras. Así como se han ido regulando los contenidos perniciosos en redes sociales, considero crucial que debatamos pronto sobre los límites éticos y legales de los chatbots que emulan la afectividad humana.
En un mundo donde la línea entre lo artificial y lo humano se vuelve difusa, es imperativo recordar que, así como muchas personas temen que la IA reemplace a los trabajadores, debemos estar atentos a que ésta no reemplace a los padres o terapeutas profesionales. Si alguna persona se siente sola o está experimentando pensamientos suicidas, es fundamental que busque fuentes de ayuda confiables e institucionales, antes de refugiarse en estas plataformas. La tecnología debe seguir estando al servicio de la humanidad, no convertirse en su sustituta.
Aunque hoy muchos parecen interesarse sólo por el potencial de la inteligencia artificial, en detrimento incluso del propio ser humano, creo firmemente en que debemos seguir apostando primero por la inteligencia afectiva: sigámonos interesándonos en cómo se encuentra la persona que está a nuestro lado en el asiento del bus, en el escritorio contiguo en el trabajo y, sobre todo, en casa.
