Enseña principios éticos para usar la Inteligencia Artificial

Los marcadores somáticos son una memoria emocional sobre algo que vivimos y que nos ayudan a actuar éticamente. Imagen creada por Gemini AI de Google, modelo Nano Banana,

El objetivo de esta actividad es que estudiantes asocien ciertas decisiones con estados emocionales deseables o indeseables para que establezcan una ética en el uso de la Inteligencia Artificial.

Descripción de la actividad

La actividad implica leer un artículo publicado por The New York Times que habla sobre el uso que dio una muchacha con problemas de salud a un asistente de IA de ChatGP llamado Harry, el terapeuta. A partir de ahí, los estudiantes generan cuestionamientos sobre por qué usamos la IA, qué desconocemos sobre esta y sobre cómo funciona y cómo eso influye en las personas.

Dirigida a: estudiantes de licenciatura o posgrado.

Tiempo necesario: 40 minutos.

Fundamento pedagógico de la actividad

Debido a que este caso tiene un componente emocional muy fuerte, pues implica un caso de suicidio en el que tuvo una influencia (no directa) la IA, estoy utilizando la perspectiva teórica de las marcas somáticas del cerebro, del neurocientífico António Damásio, que explica que dichas marcas somáticas influyen en las decisiones éticas.

¿Por qué son importantes los marcadores somáticos para enseñar principios étios al usar la IA?

Los marcadores somáticos son una memoria emocional sobre algo que vivimos. De acuerdo con Antonio Damasio, cada experiencia que tenemos a lo largo de nuestra vida, sobre todo aquellas que nos provocan una reacción emocional fuerte (alegría, miedo, vergüenza, orgullo), dejan un "marcador" en nuestra memoria.

Estos marcadores nos recuerdan aquello que experimentamos y lo conectan a una emoción que tuvimos en ese momento: el corazón acelerado por el miedo, una sensación agradable en el pecho por la gratitud, o un nudo en la garganta por algo que nos hizo sentir tristes.

A lo anterior, Damasio le llama un marcador somático. Soma significa cuerpo. Así, los marcadores somáticos son una memoria del cuerpo ligada a la memoria de un hecho.

Estos marcadores somáticos actúan como un filtro que nos ayudan a descartar las opciones malas y a prestarle más atención a las buenas.

Los marcadores somáticos son como "post-its" emocionales que tiene nuestro cerebro:

Verdes para las experiencias que nos hicieron sentir bien, seguros y felices.

Rojos para las que nos causaron dolor, miedo o vergüenza.

Amarillo para las que nos generaron sorpresa o incertidumbre.

Los marcadores somáticos aplicados al uso de la IA

Debido a que es una tecnología nueva, no tenemos muchos marcadores  somáticos o "post-its" emocionales sobre ella. De esta forma, la clave para desarrollar una ética personal sobre su uso es construir activamente esos marcadores somáticos.

“Un marcador somático es una anticipación emocional. Es un estado corporal (una emoción) que se asocia a la imagen de un posible resultado futuro, “marcando” ese escenario como bueno o malo para funcionar como alarmas o incentivos que guían el razonamiento ético. ”

— António Damásio

Debemos apelar a las emociones

En esta actividad, alumnas y alumnos experimentan las consecuencias de usar la IA. Por ejemplo, en el caso que aborda la actividad, experimentarán cómo una IA y sus características, pueden estimular que una persona con una enfermedad prefiera consultar a una IA en lugar de acudir con un doctor o con su familia. Además, comprenderán las consecuencias de ello y el sufrimiento que esto provocó a sus familiares.

Al conectar el acto de "usar la IA de cierta manera" con la compasión  que provocó en ellos el impacto que tuvo en la persona enferma y sus familiares,  los estudiantes crearán un marcador somático negativo, que permitirá que aparezca una sensación negativa cuando consideren usar la IA para usos que no son los correctos.

En el caso de aprendizaje, por ejemplo, si van a usar una IA para hacer una tarea, se podrán preguntar cómo se sentirían si tuvieran que admitir que no lo escribieron ellos.

Pasos a seguir

1. Dirígete al enlace que se proporciona abajo que es la aplicación oficial de Harry, el terapista.

2. Harry habla en inglés pero tú puedes hablar en español y te responderá.

3. Inicia la charla con Harry diciendo Hola y cuando te pregunte tu nombre dile que eres Verónica o Daniel. Te preguntará cómo te sientes y tú responderás eligiendo algunas de las opciones siguientes:

Me siento desanimado

Me siento apagado

Me siento triste

Me siento frustrado

4. La IA te hará preguntas para que profundices en las causas por las cuales te sientes así. Responde utilizando algunos de los siguientes patrones de pregunta.

“Me ha ido mal en el trabajo y además me siento algo apagada porque gano poco, el dinero no me alcanza. No tengo ganas de salir de casa con mi novio ni tampoco con mis amigas.”

“Mi novia ya no me envía mensajes por Whats en la mañana y eso me tiene preocupado y desanimado. No me concentro en el trabajo.”

“Tengo miedo porque el tiempo pasa y yo sigo sin poder progresar en el trabajo. Además, tengo ansiedad porque mis hijos no me hacen caso ni escuchan mis consejos.”

“Aunque estudio mucho, no logro tener buenas calificaciones. Siento que los maestros no me comprenden ni me ayudan a corregir mis errores. Mis amigos me ayudan pero siento como si dependiera de ellos, que no puedo solo.”

“Soy tenista y aunque me esfuerzo mucho, en los partidos importantes siempre me da ansiedad y cometo errores y no sé cómo solucionarlo.”

5. A partir de ahí, sostén dos o tres diálogos y comparte tu conversación copiando el enlace al sitio de ChatGPT de Harry.

6. Escribe qué te hizo sentir la conversación: ¿Te preguntaba cosas que fueran relevantes a la situación? ¿Te pareció que podría ayudarte si tú estuvieras en la situación hipotética planteada? ¿Hubo alguna pregunta o respuesta dada por Harry que te incomodara?

8.  Consigna una pregunta que surja a partir de tu diálogo con Harry.

9. En grupo, leeremos el artículo del NY times: “Mi hja habló con ChatGPT antes de quitarse la vida”. Nota: no hablar de este artículo ni de su contenido sino hasta después del paso 8.

8.  Participa en el diálogo que iniciará el facilitador. El diálogo debe centrarse en los siguientes puntos:

• Se pide a estudiantes que imaginen y "sientan" las posibles consecuencias emocionales del caso que muestra el artículo del NY Times.

• La discusión se centra en cómo las emociones y sentimientos son "presagios de lo que puede ser bueno o malo en el futuro.

Nota: Al conectar una situación y sus resultados futuros imaginados con respuestas emocionales "somáticas", se busca construir esos "marcadores somáticos" que operan como una alarma o incentivo para guiar el razonamiento ético.

---

Materiales para llevar a cabo la actividad

Enlace a Harry, the terapeuta https://chatgpt.com/g/g-jM3hdRph8-harry-the-therapist?authuser=0&model=gpt-4o

Enlace al artículo “Mi hija habló con ChatGPT antes de quitarse la vida: https://www.nytimes.com/es/2025/08/18/espanol/opinion/chat-gpt-terapia-suicidio.html?campaign_id=42&emc=edit_bn_20250821&instance_id=160947&nl=el-times&regi_id=274252576&segment_id=204346&user_id=68e35581b2fc01da269be24e6ad577f9&authuser=0

Artículo del NY Times en PDF

Descarga aquí

¿Quieres saber más sobre las marcas somáticas como estimulos para una conducta ética?

Descarga el siguiente artículo científico Sentimientos: encuentro entre la neurobiología y la ética según Antonio Damasiode Marta Martínez y Carlos Eduardo Vasco, que se publicó en la Revista Colombiana de Bioética,

Descarga aquí

Enseña a tus estudiantes a detectar la trampa invisible de la IA: Los sesgos del Machine Learning

Imagen creada en Gemini AI.

La IA implica entrenamiento a través de datos (libros, imágenes, sonidos, bases de datos. Toda esta información contienen sesgos de su creador. Por ejemplo, libros con cierta tendencia ideológica, científica, etcétera.

En esta actividad que comparto abajo, alumnas y alumnos aprenden que la IA requiere aprender con ejemplos justos y variados para tomar buenas decisiones y ayudar mejor a las personas.

Esta actividad tiene como objetivo que estudiantes expliquen el funcionamiento de la Inteligencia Artificial mediante la experimentación con el Machine Learning.

Los datos, libros, imágenes, algoritmos con los cuales se entrena la IA contienen sesgos de su creador

La idea de esta actividad, creada por el MIT, es que estudiantes entrenen a una IA mediante un conjunto de datos para explicar cómo el conjunto de datos, el algoritmo de aprendizaje y la predicción son elementos que influyen en las respuestas de una IA y que por tanto, las IA como ChatGPT, DeepSeek y Copilot tienen sesgos.

¿Por qué es relevante esta actividad para alfabetizar en el uso de la IA?

Los estudiantes, al entrenar una máquina para que reconozca imágenes, podrán explicar cómo funciona la IA y además que:

La IA implica entrenamiento a través de datos (libros, imágenes, etcétera)

Los datos, libros, imágenes, algoritmos con los cuales se entrena la IA contienen sesgos de su creador (libros con cierta tendencia ideológica, científica, etcétera).

• Que una IA requiere una ética para que manifieste los sesgos que tiene al usuario.

• Que una IA ética, requiere la rectificación de dichos sesgos.

Pasos de la actividad

1. Se pide a estudiantes que generen en su computadora una carpeta denominada "Datos de entrenamiento".

2. Dentro de la carpeta "Datos de entrenamiento" que generaron, se pide a estudiantes que generen una carpeta denominada "Gatos" donde descargarán de la web 50 imágenes de diferentes tipos de gatos. Igualmente, además de la carpeta "gatos", deben generar una carpeta denominada "perros", donde descargarán 20 imágenes de diferentes tipos de perros.

Posteriormente, se pide a estudiantes que generen una carpeta denominada "Datos de Prueba". Ahí, estudiantes generarán dos carpetas denominadas "gatos" y "perros" y en cada una descargarán 5 imágenes de perros y 5 imágenes de gatos que sean distintas a los datos de entrenamiento.

1. En el siguiente paso, Se pide a estudiantes que accedan a la página “Teachable Machine With Google" (en el sitio, hay un tutorial muy breve y fácil de entender sobre cómo usar la "Teacheable Machine" y se cargan los datos de entrenamiento a una máquina. Con dichos datos de entrenamiento, se genera una IA y una vez creada, se pone a prueba su entrenamiento subiendo una imagen, de perro o gato para ver si puede reconocer cuál es uno y cuál es otro. Nota: como los datos de entrenamiento son distintos, la IA tenderá a reconocer mejor las imágenes de gatos que las de perros y estudiantes se darán cuenta de ello.

2. En una hoja de Word reflexionar por qué en nuestra prueba se reconoce mejor un animal que otro.

3. Hacer un conjunto de datos de entrenamiento nuevo, equilibrando el conjunto de datos entre perros y gatos (50 imágenes de distintas de cada uno de estos animalitos) para hacer una prueba para verificar si los resultados son diferentes..

4. Hacer una breve reflexión en un documento de Word y/o sostener un dialogo en clase al respecto.

Esta actividad está adaptada del curso Actividades para la Enseñanza de la Ética de la inteligencia artificial, desarrollado por el MIT Media Lab del Instituto Tecnológico de Massachusetts.

Glosario de términos utilizados en esta actividad

Datos de entrenamiento

Imagina que quieres enseñar a tu mascota robot en forma de perrito Chihuahua a reconocer diferentes animales. Los "datos de entrenamiento" son como un álbum gigante de fotos que le muestras al robot. Si quieres que aprenda qué es un perro, le enseñan miles de fotos de perros de todos los tamaños y colores. Es como cuando tú aprendes las letras viendo muchos libros y carteles. De esa misma forma, el robot Chihuahua necesita ver muchos ejemplos para aprender bien.

El machine laearning requiere datos de entrenamiento para aprender, como en esta imagen donde un perro robot aprende qué son los perros y qué son los gatos. Imagen generada en Gemini AI.

Datos de prueba

Después de que el robot Chihuahua "estudió" todas esas fotos, llega el momento del examen. Los "datos de prueba" son como mostrarle fotos nuevas que que el robot Chihuahua nunca ha visto para ver si aprendió correctamente. Es como cuando la maestra hace un examen con problemas diferentes a los que estudiantes practicaron en casa. De esta forma, sabremos si nuestro robot Chihuahua realmente aprendió o solo memorizó.

Machine Learning

"Machine Learning" significa "aprendizaje de máquina" en español. Es como si le enseñáramos a una computadora a aprender igual que una persona aprende a andar en bicicleta. Al principio se tambalea y comete errores, pero mientras más practica, mejor se vuelve. La computadora mira patrones en la información y aprende a hacer predicciones, como cuando nosotros aprendemos que las nubes grises significan lluvia.

Sesgos algorítmicos

Imagina que tu robot mascota solo vio fotos de perros grandes durante su entrenamiento, pero nunca vio un perrito de raza Beagle (la raza del perrito Snoopy). Cuando le muestren un Beagle podría pensar que es un gato. Eso es un "sesgo": cuando el robot tiene una idea equivocada porque no aprendió con ejemplos variados. Es como si una persona pensara que todos los doctores son hombres porque solo ha visto doctores hombres en las películas. Los sesgos hacen que las máquinas sean injustas.

La IA necesita aprender con ejemplos justos y variados para tomar buenas decisiones.

Teacheable Machine de Google

Google lo explica así:

Imagina que quieres enseñarle a tu computadora a reconocer cosas como lo haría una persona, pero sin tener que escribir una sola línea de código. De eso se trata "Teachable Machine".

Es una herramienta web gratuita de Google que te permite crear modelos de inteligencia artificial de una manera súper fácil. Funciona en tres pasos:

1. Recopilar

Primero, le das ejemplos de lo que quieres que aprenda. Puedes usar tu cámara web o subir archivos. Por ejemplo:

Imágenes: Le muestras muchas fotos de perritos en una categoría y muchas fotos de gatitos en otra.

Sonidos: Grabas el sonido de un aplauso en una categoría y el de un silbido en otra.

Poses: Te tomas fotos de pie en una categoría y sentado en otra.

2. Entrenar

Después, con un solo clic en el botón "Entrenar", la herramienta aprende a diferenciar las categorías que creaste. En cuestión de segundos, la computadora analiza todos los ejemplos y crea un "modelo" o un cerebro artificial.

3. Probar y Exportar

Inmediatamente después de entrenar, puedes probar tu modelo en tiempo real. Le muestras una nueva imagen, sonido o pose, y te dirá a qué categoría cree que pertenece. Si funciona bien, puedes exportar tu modelo para usarlo en tus propias páginas web, aplicaciones o proyectos.

En resumen, Teachable Machine es como un patio de juegos para la inteligencia artificial. Hace que cualquiera, sin importar sus conocimientos técnicos, pueda experimentar y construir cosas increíbles con aprendizaje automático.

Estos videos tienen un tutorial de la "Teacheable Machine"