Enseña principios éticos para usar la Inteligencia Artificial
Los marcadores somáticos son una memoria emocional sobre algo que vivimos y que nos ayudan a actuar éticamente. Imagen creada por Gemini AI de Google, modelo Nano Banana,
El objetivo de esta actividad es que estudiantes asocien ciertas decisiones con estados emocionales deseables o indeseables para que establezcan una ética en el uso de la Inteligencia Artificial.
Descripción de la actividad
La actividad implica leer un artículo publicado por The New York Times que habla sobre el uso que dio una muchacha con problemas de salud a un asistente de IA de ChatGP llamado Harry, el terapeuta. A partir de ahí, los estudiantes generan cuestionamientos sobre por qué usamos la IA, qué desconocemos sobre esta y sobre cómo funciona y cómo eso influye en las personas.
Dirigida a: estudiantes de licenciatura o posgrado.
Tiempo necesario: 40 minutos.
Fundamento pedagógico de la actividad
Debido a que este caso tiene un componente emocional muy fuerte, pues implica un caso de suicidio en el que tuvo una influencia (no directa) la IA, estoy utilizando la perspectiva teórica de las marcas somáticas del cerebro, del neurocientífico António Damásio, que explica que dichas marcas somáticas influyen en las decisiones éticas.
¿Por qué son importantes los marcadores somáticos para enseñar principios étios al usar la IA?
Los marcadores somáticos son una memoria emocional sobre algo que vivimos. De acuerdo con Antonio Damasio, cada experiencia que tenemos a lo largo de nuestra vida, sobre todo aquellas que nos provocan una reacción emocional fuerte (alegría, miedo, vergüenza, orgullo), dejan un "marcador" en nuestra memoria.
Estos marcadores nos recuerdan aquello que experimentamos y lo conectan a una emoción que tuvimos en ese momento: el corazón acelerado por el miedo, una sensación agradable en el pecho por la gratitud, o un nudo en la garganta por algo que nos hizo sentir tristes.
A lo anterior, Damasio le llama un marcador somático. Soma significa cuerpo. Así, los marcadores somáticos son una memoria del cuerpo ligada a la memoria de un hecho.
Estos marcadores somáticos actúan como un filtro que nos ayudan a descartar las opciones malas y a prestarle más atención a las buenas.
Los marcadores somáticos son como "post-its" emocionales que tiene nuestro cerebro:
Verdes para las experiencias que nos hicieron sentir bien, seguros y felices.
Rojos para las que nos causaron dolor, miedo o vergüenza.
Amarillo para las que nos generaron sorpresa o incertidumbre.
Los marcadores somáticos aplicados al uso de la IA
Debido a que es una tecnología nueva, no tenemos muchos marcadores somáticos o "post-its" emocionales sobre ella. De esta forma, la clave para desarrollar una ética personal sobre su uso es construir activamente esos marcadores somáticos.
“Un marcador somático es una anticipación emocional. Es un estado corporal (una emoción) que se asocia a la imagen de un posible resultado futuro, “marcando” ese escenario como bueno o malo para funcionar como alarmas o incentivos que guían el razonamiento ético. ”
Debemos apelar a las emociones
En esta actividad, alumnas y alumnos experimentan las consecuencias de usar la IA. Por ejemplo, en el caso que aborda la actividad, experimentarán cómo una IA y sus características, pueden estimular que una persona con una enfermedad prefiera consultar a una IA en lugar de acudir con un doctor o con su familia. Además, comprenderán las consecuencias de ello y el sufrimiento que esto provocó a sus familiares.
Al conectar el acto de "usar la IA de cierta manera" con la compasión que provocó en ellos el impacto que tuvo en la persona enferma y sus familiares, los estudiantes crearán un marcador somático negativo, que permitirá que aparezca una sensación negativa cuando consideren usar la IA para usos que no son los correctos.
En el caso de aprendizaje, por ejemplo, si van a usar una IA para hacer una tarea, se podrán preguntar cómo se sentirían si tuvieran que admitir que no lo escribieron ellos.
Pasos a seguir
1. Dirígete al enlace que se proporciona abajo que es la aplicación oficial de Harry, el terapista.
2. Harry habla en inglés pero tú puedes hablar en español y te responderá.
3. Inicia la charla con Harry diciendo Hola y cuando te pregunte tu nombre dile que eres Verónica o Daniel. Te preguntará cómo te sientes y tú responderás eligiendo algunas de las opciones siguientes:
Me siento desanimado
Me siento apagado
Me siento triste
Me siento frustrado
4. La IA te hará preguntas para que profundices en las causas por las cuales te sientes así. Responde utilizando algunos de los siguientes patrones de pregunta.
“Me ha ido mal en el trabajo y además me siento algo apagada porque gano poco, el dinero no me alcanza. No tengo ganas de salir de casa con mi novio ni tampoco con mis amigas.”
“Mi novia ya no me envía mensajes por Whats en la mañana y eso me tiene preocupado y desanimado. No me concentro en el trabajo.”
“Tengo miedo porque el tiempo pasa y yo sigo sin poder progresar en el trabajo. Además, tengo ansiedad porque mis hijos no me hacen caso ni escuchan mis consejos.”
“Aunque estudio mucho, no logro tener buenas calificaciones. Siento que los maestros no me comprenden ni me ayudan a corregir mis errores. Mis amigos me ayudan pero siento como si dependiera de ellos, que no puedo solo.”
“Soy tenista y aunque me esfuerzo mucho, en los partidos importantes siempre me da ansiedad y cometo errores y no sé cómo solucionarlo.”
5. A partir de ahí, sostén dos o tres diálogos y comparte tu conversación copiando el enlace al sitio de ChatGPT de Harry.
6. Escribe qué te hizo sentir la conversación: ¿Te preguntaba cosas que fueran relevantes a la situación? ¿Te pareció que podría ayudarte si tú estuvieras en la situación hipotética planteada? ¿Hubo alguna pregunta o respuesta dada por Harry que te incomodara?
8. Consigna una pregunta que surja a partir de tu diálogo con Harry.
9. En grupo, leeremos el artículo del NY times: “Mi hja habló con ChatGPT antes de quitarse la vida”. Nota: no hablar de este artículo ni de su contenido sino hasta después del paso 8.
8. Participa en el diálogo que iniciará el facilitador. El diálogo debe centrarse en los siguientes puntos:
Se pide a estudiantes que imaginen y "sientan" las posibles consecuencias emocionales del caso que muestra el artículo del NY Times.
La discusión se centra en cómo las emociones y sentimientos son "presagios de lo que puede ser bueno o malo en el futuro.
Nota: Al conectar una situación y sus resultados futuros imaginados con respuestas emocionales "somáticas", se busca construir esos "marcadores somáticos" que operan como una alarma o incentivo para guiar el razonamiento ético.
Materiales para llevar a cabo la actividad
Enlace a Harry, the terapeuta https://chatgpt.com/g/g-jM3hdRph8-harry-the-therapist?authuser=0&model=gpt-4o
Enlace al artículo “Mi hija habló con ChatGPT antes de quitarse la vida: https://www.nytimes.com/es/2025/08/18/espanol/opinion/chat-gpt-terapia-suicidio.html?campaign_id=42&emc=edit_bn_20250821&instance_id=160947&nl=el-times®i_id=274252576&segment_id=204346&user_id=68e35581b2fc01da269be24e6ad577f9&authuser=0
Artículo del NY Times en PDF
Descarga aquí
¿Quieres saber más sobre las marcas somáticas como estimulos para una conducta ética?
Descarga el siguiente artículo científico Sentimientos: encuentro entre la neurobiología y la ética según Antonio Damasiode Marta Martínez y Carlos Eduardo Vasco, que se publicó en la Revista Colombiana de Bioética,
Descarga aquí
