Dejar de ser humanos: el verdadero peligro de la Inteligencia Artificial
Seguir siendo humanos: las personas y su relación con la Inteligencia Artificial
Aclaración: Todas las ilustraciones fueron creadas con Gemini y ChatGPT. Las correcciones de texto y la ubicación de las referencias y la correción de estilo se apoyaron en Claude AI.
“El hombre es un animal con instintos primarios de supervivencia. En consecuencia, su ingenio se ha desarrollado primero, y su alma después. Por tanto, el progreso de la ciencia va muy por delante de la conducta ética del hombre.”
1.Cómo nos venden la IA: el genio en la botella que concede cualquier deseo
Para entender cómo usar la IA, primero debemos revisar la imagen que tenemos de ella, que ha sido estimulada por las corporaciones y magnates que las financian y dirigen: máquinas de Inteligencia Artificial con una eficacia extrema, a tal grado que superan al ser humano en todo.
Y es que algunos de quienes financian la IA y definen su rumbo y propósitos a través de sus grandes corporaciones tecnológicas, son seres humanos grandilocuentes, con poder social y político, extremadamente ricos, con visiones y objetivos que intentan trascender su propia naturaleza biológica, lo que se conoce como transhumanismo; tienen rasgos y miedos profundamente humanos, pero potenciados a una escala monumental por su acceso al conocimiento, la técnica, la tecnología, así como recursos financieros y políticos.
No es que sean corporaciones del mal como las personifican las películas de Hollywood (Cyberdyne Systems en Terminator) y los videojuegos (Umbrella Corporation en Resident Evil o Shinra en Final Fantasy 7) ; tampoco son personajes diabólicos per se, al estilo de Dr. Evil de la película Austin Powers o el Dr. No de James Bond: tienen sesgos e intenciones específicas (corporativas, financieras, de lucha por el poder). Quieren dominar el mercado, que los usuarios paguen una suscripción a sus aplicaciones, que dependan de sus IA para resolver problemas.
La IA: un genio que concede cualquier deseo…
Lo anterior, ha supuesto una paradoja para quienes dirigen los propósitos y rumbo de la IA:
Crean una Inteligencia Artificial que supera al ser humano y luego se dan cuenta de que su propia creación los trascenderá y para solucionarlo, para reclamar una superioridad que ven perdida, buscan convertirse en su propia creación, porque, sospechan que lo que ayudaría a la humanidad es lo mismo que la puede destruir.
Así, responden con más fuego al incendio destructor:
Primero, estos magnates intentan reproducir las capacidades del cerebro humano en máquinas, ahora también quieren intervenir el cuerpo humano, verlo como otra forma de software y hardware, que puede ser rediseñado, con el propósito de retardar el envejecimiento, prevenir y curar enfermedades y trascender los límites del cuerpo humano.
La muerte y el envejecimiento en la mira de los magnatestecnológicos
-Larry Ellison (Wilson, 1997, p. 266)
Larry Page, cofundador de Google impulsó la creación de Calico (California Life Company) en 2013, una empresa cuya misión es enfrentar el envejecimiento y “curar la muerte” (Cha, 2015).
Subsidiaria de Alphabet, compañía dueña de Google, Calico tiene la misión de comprender mejor el envejecimiento humano para diseñar intervenciones biológicas que permitan a las personas tener vidas más largas y saludables, a través de la ciencia y tecnología de vanguardia, nutridas por la libertad intelectual y la creatividad. (Calico Life Sciences, s.f.)
Para algunos magnates de la IA, el envejecimiento es un problema de ingeniería que puede resolverse.
En congruencia con lo anterior, Larry Page, contrató a Raymond Kurzweil, un científico que afirma que las computadoras alcanzarán una inteligencia similar a la humana para 2029 y que nos fusionaríamos con ellas para convertirnos en superhumanos alrededor de 2045, en lo que él denominó “la singularidad”. (Kurzweil, 2005)
En su libro “La Singularidad está cerca: Cuando los humanos trascienden la biología” (2005), Kurzweil defiende que, dentro de varias décadas, la IA abarcará todo el conocimiento y habilidad humanas, no solo aquellas habilidades para resolver problemas difíciles (en lo cual ya nos superan las máquinas) sino también serán capaces de sentir emociones como el amor, la tristeza y el miedo.
Cuando ocurra lo anterior, la humanidad alcanzará la “singularidad”.
Y así, según Kurzweil (2005), trascenderemos los límites biológicos de nosotros como personas; nuestros cuerpos frágiles, sujetos a enfermedades, así como nuestro pensamiento, limitado en su capacidad de aprender y procesar información, ya no serán un problema, ni un lastre. Habremos trascendido:
Nuestra mortalidad estará en nuestras propias manos, podremos vivir tanto como queramos. (Kurzweil, 2005)
De esta forma, según Kurzweil (2005) al final de este siglo la parte no biológica de nuestra inteligencia será billones de billones de veces más poderosa que la débil inteligencia humana producto de la biología.
Nuestro cerebro se fusionará con la IA
Ray Kurzweil es el encargado de la investigación en Inteligencia Artificial, específicamente en el avance del aprendizaje automático (machine learning) y el procesamiento del lenguaje natural, con el objetivo de lograr que las computadoras entiendan el lenguaje humano con todos sus matices semánticos.
Según una entrevista que Kurzweil dio al diario británico The Guardian, a día de hoy, nuestro cerebro tiene un tamaño limitado y ello no nos permite ser más inteligentes, mientras que la IA sí se está volviendo más inteligente y está creciendo sin límites.
Gracias a la IA podremos vivir tanto como queramos…
No obstante, matiza, las interfaces cerebro-computadora que se integrarán en nuestros cerebros mediante nanorobots, permitirán que multipliquemos nuestra inteligencia por un millón, pues combinaremos nuestra inteligencia natural y nuestra inteligencia artificial, profundizando nuestra percepción y conciencia. (Corbyn, 2024).
“Imagínenlo como tener un teléfono, pero en el cerebro. Si haces una pregunta, tu cerebro podrá acceder a la nube para obtener una respuesta, de forma similar a como lo haces ahora con tu teléfono; solo que será instantáneo, no habrá problemas de entrada ni de salida, y ni siquiera te darás cuenta (la respuesta simplemente aparecerá).” (Corbyn, 2024, párrafo 7)
Por su parte, Peter Thiel , creador de PayPal, que financia la Methuselah Foundation (en español, Fundación Matusalén) afirma que los seres humanos deberíamos intentar escapar (trascender) la biología. Vivir más. (Cha, 2015).
La fundación Methuselah, que hace referencia el abuelo de Noé, personaje bíblico cuya vida se registró en 969 años, tiene la misión, según su sitio web, de lograr que los 90 sean los nuevos 50 para el año 2030. (Methuselah Foundation s. f.)
Para esta fundación, el envejecimiento no es un proceso natural de la vida sino un problema de ingeniería: El cuerpo es una máquina y el envejecimiento una suma de daños en dicha máquina y por tanto es posible intervenir dicha máquina para evitar los procesos que la dañan y la hacen envejecer.
Según ellos, el envejecimiento también es un problema cultural por modificar:
“Esencialmente, nos dimos cuenta de que el envejecimiento no es solo un problema de ingeniería, sino también un problema cultural” (Methuselah Foundation s. f. párrafo 2, sección “Approach”)
En otras palabras, para la Methuselah Foundation es necesario cambiar la actitud que las personas solemos tener ante el envejecimiento como el curso natural de la vida que debe aceptarse como una fatalidad y, por el contrario, debemos pensar que frenar el envejecimiento es posible y que podemos vivir más tiempo.
“El envejecimiento no es un proceso natural de la vida sino un problema de ingeniería: El cuerpo es una máquina y el envejecimiento una suma de daños en dicha máquina y por tanto es posible intervenir dicha máquina para evitar los procesos que la dañan y la hacen envejecer.”
La Methuselah Foundation tiene una relación de trabajo estrecha con la Lifespan Research Institute (Instituto de Investigación para la Esperanza de vida) que se dedica a combatir el envejecimiento y a prolongar la vida humana saludable a través de la investigación científica. (Lifespan.io., s. f.)
Otro magnate de la tecnología, Elon Musk, fundó Neuralink, una empresa que está haciendo investigaciones para crear una interfaz cerebro-computadora que traduzca las señales neuronales en acciones con el propósito de controlar computadoras y brazos robóticos con el pensamiento. (Neuralink, s. f.)
Además de buscar devolver la autonomía a quienes tienen una discapacidad física, Neuralink busca “desbloquear nuevas dimensiones del potencial humano” (Neuralink, s. f. párrafo 2)
Por su parte, Larry Ellison, una de las personas más ricas del mundo, fundador de Oracle, la compañía de software empresarial, tiene en la mira a la muerte misma. De acuerdo con la Revista Forbes, que hace un seguimiento de las aportaciones de los millonarios a mejorar la salud, Larry Ellison:
“Mantiene un enfoque único en la condición degenerativa catastrófica que afecta al 100% de la población humana: el envejecimiento. En última instancia, Ellison tiene a la muerte misma en la mira”. (Durgy, 2012, párr. 1)
Y es que Ellison expresó sobre la muerte lo siguiente:
“¿Cómo puede una persona estar ahí y luego simplemente desaparecer, simplemente no estar?… la muerte nunca ha tenido ningún sentido para mí. La muerte me enfurece mucho. La muerte prematura me enfurece aún más.”
Y quizás por ese motivo, Ellison donó millones de dólares que contribuyeron durante varios años al estudio del envejecimiento a través de la Fundación Ellison, cuyo propósito fue la “Investigación biomédica básica relevante para la comprensión de los procesos de envejecimiento y las enfermedades y discapacidades relacionadas con la edad.” (Ellison Medical Foundation, s. f.)
Igualmente, Ellison, tras cerrar las becas de su fundación, donó 200 millones de dólares a la Universidad del Sur de California (USC) para crear el Instituto Ellison de Medicina Transformativa.
Magnates de la IA: morir y quedar obsoletos
En lo anterior, podemos identificar un patrón en la agenda de algunos magnates de la tecnología: la preocupación por morir y quedar obsoletos, así como la búsqueda por superar los límites de nuestra naturaleza biológica:
Trascender aspectos relativos al ser humano, como la longevidad, la vejez y las limitantes físicas.
Y es que los grandes magnates tecnológicos son mortales, al igual que todos nosotros que estamos lejanos a las tecnologías sofisticadas, al conocimiento, a las bases de datos gigantescas, a los centros de investigación y de poder que dan rumbo a la Inteligencia Artificial.
En cambio, la máquina que crearon, la IA, es más capaz que ellos para resolver problemas, y además es inmortal… o puede serlo. Y es posible que sus creadores vean en ello el peligro:
Estos ejecutivos, CEO, magnates del conocimiento quizás invierten en tecnologías que superen la naturaleza biológica del ser humano como un reflejo instintivo de supervivencia, una posible defensa ante las inteligencias artificiales cada vez más potentes que ayudaron a desarrollar.
Elon Musk considera que la IA superará nuestras capacidades humanas
Para ejemplificar lo anterior, podemos citar a Geoffrey Hinton, denominado el “padrino de la IA” por su trabajo fundacional en redes neuronales y aprendizaje profundo (junto con Yoshua Bengio y Yann LeCun), sobre el que se construyen los sistemas de IA actuales, incluidos los del chatbot Gemini de Google.
Hinton renunció a Google en 2023 para poder hablar con libertad sobre los riesgos del desarrollo tan rápido que está teniendo la IA. Ganador del premio Nobel de física 2024, Hinton dice que el tipo de inteligencia artificial que estamos desarrollando es diferente a la inteligencia humana. Explica que la IA funciona como si se tuvieran 10 mil personas y, cada vez que una sola de ellas aprende algo nuevo, todas las demás adquieren ese conocimiento automáticamente al instante. (Taylor y Hern, 2023)
Esta capacidad de transmisión inmediata y colectiva de la información es la razón por la que los chatbots pueden acumular y procesar muchísimo más conocimiento que cualquier ser humano individual. (Taylor y Hern, 2023)
De esta forma, Hinton advierte que este modelo de aprendizaje representa un riesgo existencial debido a su capacidad de superinteligencia (Taylor y Hern, 2023), Y es que ¿Qué podría ocurrir si estas máquinas llegan a volverse más inteligentes que los propios seres humanos?
“La IA funciona como si se tuvieran 10 mil personas y, cada vez que una sola de ellas aprende algo nuevo, todas las demás adquieren ese conocimiento automáticamente al instante.”
Debido a lo anterior, quizás de esta preocupación que ve Hinton proviene la necesidad de trascender lo humano que podrían estar viendo los magnates que lideran el desarrollo de la IA.
La Creación: una Inteligencia Artificial con objetivos implacables (dominio del mercado, eficiencia extrema, resolución de todos los problemas, superar al ser humano en casi todos los aspectos).
El Miedo: Al ver el poder de su obra, es posible que se hayan dado cuenta que su propia naturaleza biológica humana (lenta, frágil, mortal) está en riesgo de quedar obsoleta frente a lo que han creado.
La Respuesta: el transhumanismo: Buscan reclamar y elevar su humanidad fusionándose con la tecnología. Crean algo que los trascenderá en longevidad y que llegará a ser más inteligente que ellos, y entonces su solución es intentar prolongar su vida (Matusalén, Calico) y tratar de convertirse en su propia creación (Neuralink), trascendiendo la naturaleza, superándola. Aumentar la expectativa de vida humana (Calico) e incrementar las potencialidades del cerebro humano.
En este sentido, vale la pena recordar el diálogo que sostienen un magnate tecnológico con una IA robotizada que él creó, al de inicio de la película Alien, Covenant (Ridley Scott, 2017). Dicho diálogo puede resumirse así:
- Hombre (apellidado Weyland): Yo soy tu padre… Eres mi creación.
- Robot (llamado David): ¿Puedo hacerte una pregunta, padre?
- Hombre: Procede.
- Robot: Si usted me creó a mí… ¿Quién lo creó a usted?
- Hombre: La pregunta de los milenios… Espero que tú y yo la contestemos un día. Todo esto… estas maravillas de arte, de diseño, de ingenio humano… todo carece de significado al enfrentar la única pregunta que importa: ¿de dónde venimos?
- Robot: Para considerar: Usted busca a su creador, yo estoy viendo al mío… Yo le serviré a usted, pero es humano. Fallecerá… pero yo no.
- Hombre (después de una pausa tensa, incómoda ante la crueldad de la lógica de David, el robot): Sírveme el té, David… Sírveme el té.
— Alien Covenant (2017)
Prolongar la vida, “trascender la naturaleza” e incrementar las capacidades humanas es el intento de los magnates tecnológicos de decirle a la máquina: “Soy mejor y superior a ti, David”.
Las personas, los estudiantes frente a la IA
Las personas, docentes, madres, niños, jóvenes no nos parecemos en nada a los magnates que controlan las corporaciones tecnológicas, no somos multimillonarios, no tenemos acceso al conocimiento científico al nivel que ellos tienen, ni a la tecnología y no tenemos influencia en los círculos de poder. No buscamos “superar a la naturaleza”.
Entonces ¿En qué nos afecta la Inteligencia Artificial?
La inmensa mayoría de nosotros no tenemos la megalomanía ni buscamos la inmortalidad a través de trascender nuestra naturaleza biológica como tienen algunos de los magnates que definen el rumbo y propósito de la IA. Sin embargo, debemos protegernos de ese propósito de superarnos en todo que le han dado a la IA quienes la financian y dirigen.
El riesgo que enfrentamos como usuarios no es que una IA cobre conciencia de sí misma y decida que le estorbamos debido a que somos entes débiles y mortales debido a nuestra naturaleza biológica, como la ciencia ficción suele advertir, por ejemplo con la computadora AM en la novela No tengo boca y debo gritar del escritor Harlan Ellison (1967) o como ocurre con Skynet en Terminator II (1991).
El riesgo para nosotros, los usuarios, es que, por comodidad, olvidemos aquello que nos hace humanos y terminemos delegando a una máquina nuestra capacidad de pensar, contemplar, preguntar y sentir. PERDER EL JUICIO QUE ES LO QUE NOS HACE HUMANOS.
El riesgo no es que nos borre de la faz de la tierra o que nos quite el trabajo, sino que, por comodidad, por “eficacia artificial”, deleguemos lo humano a la Inteligencia Artificial. El peligro no es que nos ataque: es que nos quite lo que somos como humanos.
“El riesgo para nosotros, los usuarios, es que, por comodidad, olvidemos aquello que nos hace humanos y terminemos delegando a una máquina nuestra capacidad de pensar, contemplar, preguntar y sentir. PERDER EL JUICIO QUE ES LO QUE NOS HACE HUMANOS.”
Es una advertencia que comparte Joseph Weizenbaum, otro de los científicos de la computación que han hecho posible la IA.
En su libro Computer Power and Human Reason: From Judgment to Calculation (1976), Joseph Weizenbaum plantea que el peligro fundamental de la inteligencia artificial radica en el riesgo de que los seres humanos confundamos “cálculo” y “juicio”, así como en las consecuencias sociales e individuales de ceder decisiones humanas a las máquinas.
Weizenbaum, creador en 1966 de Eliza, el primer chatbot de IA, argumenta que los seres humanos tenemos valores, empatía, que surgen de las experiencias de vida y ello nos permite tener juicio sobre nuestras conductas. En cambio, las computadoras solamente tienen algoritmos, cálculos. (Weizenbaum, 1976)
Esto implica un riesgo:
“Dar autoridad a una máquina en ámbitos donde no tienen competencia moral ni humana como la impartición de justicia o la psicoterapia, dado que carecen de juicio. ”
En Computer Power and Human Reason (1976), Weizenbaum ya advertía que concebir a seres humanos y computadoras como entidades intercambiables puede llevar a las personas a pensar y actuar como máquinas… (Weizenbaum, 1976; analizado en Tarnoff, 2023).
Además, advierte que existen tareas que los ordenadores nunca deberían hacer (independientemente de si son técnicamente capaces de ejecutarlas o no), especialmente cualquier función que requiera respeto hacia los demás, comprensión y empatía humana. (Weizenbaum, 1976).
“Los seres humanos tenemos valores, empatía, que surgen de las experiencias de vida y ello nos permite tener juicio sobre nuestras conductas. En cambio, las computadoras solamente tienen algoritmos, cálculos. ”
Un ejemplo de lo anterior, podríamos inferir, es que, aunque la IA sea capaz de crear imágenes falsas de personas reales (lo que se conoce como “deepfakes”), evitaríamos hacerlo por respeto a dichas personas, por empatía.
Así, un estudiante que, para no quedarse atrás de la máquina, delega en ella el pensar, está haciendo en pequeño exactamente el gesto transhumanista de los magnates tecnológicos: volverse más parecido a la máquina.
Y esto es un alto costo por pagar.
No sabemos si es posible que Larry Page, Elon Musk, Larry Ellison o Peter Thiel consigan trascender la naturaleza, los límites humanos, prolongar la vida o incluso curar la muerte. Pero, si lo hicieran ¿Qué sentido tendría la vida si nos volvemos una máquina incapaz de contemplar y de sentir?
2. El juicio humano vs la IA
¿Dónde quedó mi creatividad?
En 2023, cuando el uso de IA generativa como ChatGPT se comenzó a masificar, tuve la oportunidad de dar un taller sobre su uso a estudiantes de universidad.
Al hacer algunos ejercicios con prompts, María, una muchacha que aún parecía una niña, me pidió que fuera a su lugar en el fondo del salón.
-¡ChatGPT Hizo un cuento!- dijo señalando la pantalla de su laptop que iluminaba su rostro sorprendido. Luego me miró, preocupada y preguntó:
-¿Qué va a pasar con mi creatividad?
Me quedé en silencio. En el fondo, yo estaba tan sorprendido como ella y no sabía que responder…
Cuidado: la Inteligencia Artificial es un espejo
La Inteligencia Artificial es un espejo. Esta es la premisa de Shannon Vallor. De acuerdo con esta filósofa de la tecnología, la IA refleja las creaciones, descubrimientos científicos, ideas que la humanidad ha generado a lo largo de la historia, con sus sesgos y distorsiones. (Vallor, 2024)
Cuando usamos la IA nos reflejamos en un espejo que otros fabricaron y pulieron (Vallor, 2024), con sus propios intereses comerciales, ideológicos, políticos.
A partir de su premisa, Vallor (2024) sostiene que el peligro (de la IA) no es una superinteligencia hostil, sino que el espejo nos devuelva nuestro pasado como si fuera nuestro futuro, y que bajemos nuestras propias exigencias al nivel de lo que la máquina puede reflejar. (Vallor, 2024).
Por ejemplo, si preguntas a ChatGPT (estadounidense) y a DeepSeek (China) sobre Taiwán, la respuesta reflejará los sesgos, intereses y contextos de quienes crearon cada IA porque es su espejo.
La persona frente a la Inteligencia Artificial
Si tomamos como válido el argumento de Vallor y la IA es un espejo y por tanto refleja el pasado de quienes la crearon, con las distorsiones propias de los sesgos humanos, entonces ¿dónde quedamos las personas?
Al usar la IA estamos sosteniendo un diálogo (un intercambio de preguntas, solicitudes, argumentos) para lograr un propósito y por tanto, al usar la IA (y cualquier otra tecnología de la información y la comunicación) estamos reflejando quienes somos: el propósito que tenemos cuando decidimos usar ChatGPT, Claude, DeepSeek o Gemini es un espejo de nosotros mismos.
Así, usar la IA es un espejo:
Colectivo: La IA refleja las creaciones, libros, descubrimientos científicos, ideas que la humanidad ha generado a lo largo de la historia, con sus sesgos y distorsiones. (Vallor)
Individual: el prompt y el uso que damos a la IA reflejan las intenciones de quien lo usa; sus deseos, necesidades, propósito.
Para la IA lo difícil es fácil y lo fácil es difícil
Lo que a los humanos nos cuesta más trabajo cognitivo (jugar ajedrez, hacer cálculos, etcétera) resulta muy fácil para las máquinas, mientras que a las máquinas les resulta muy difícil aquello que para nosotros los humanos es fácil: andar en bici, reconocer la ironía cuando una mujer responde “nada” al preguntarle “¿Qué te pasa?”, abrir una puerta, hacer un sándwich.
A esto se le conoce como la paradoja de Moravec.
La paradoja de Moravec
Hans Moravec, un científico de la robótica descubrió desde los años 80 que para las máquinas lo difícil es fácil y lo fácil es difícil, porque lo más sencillo para un ente biológico (los seres humanos) resulta extraordinariamente difícil de replicar computacionalmente. (Moravec, 1988).
La razón: Según Sigman y Bilinkis (2023) nuestras habilidades sensoriales, motoras y sociales tienen cientos de millones de años de evolución. Son tan antiguas y están tan optimizadas que ya ni las notamos; operan por debajo de la conciencia. En cambio, el razonamiento abstracto formal (matemáticas, lógica, ajedrez) tiene apenas unos miles de años. Es una capa reciente y basada en reglas y por tanto es la más fácil de expresar en código algorítmico.
Moravec lo resumía diciendo que es fácil lograr que una computadora rinda como adulto en pruebas de inteligencia, y casi imposible darle las destrezas perceptivas de un niño de un año. (Moravec, 1988).
La paradoja de Moravec es la punta del iceberg de aquello que nos permite descubrir “lo humano” frente a la IA: la cultura.
El ser humano es cultura
Según Michael Tomasello (2019) en la línea de la teoría de la doble herencia de Robert Boyd y Peter J. Richerson, tenemos una “herencia dual”: somos producto de dos sistemas que corren en paralelo, uno lentísimo a partir de nuestros genes (millones de años, escrito en el cuerpo con fuego y sangre) y uno vertiginoso (siglos, escrito en valores, creencias, prácticas, arte, instituciones). Dicho de otra forma: somos cultura.
De esta forma, a diferencia de la IA, las personas podemos comprender lo que significan las cosas, la intención profunda, por ejemplo, cuando le preguntamos “¿Qué tienes?” a una persona en cuyo rostro percibimos enojo, molestia y contesta “nada”, por su expresión, su entonación y actitud podemos saber que sí pasa algo. Sabemos que las personas a veces usan la ironía para expresar lo que de verdad sienten. A veces sí es no y viceversa. Lo sabemos: nadie nos lo enseñó, está en la cultura.
Por eso sabemos que sí que pasa algo. Lo sentimos, lo sospechamos, no tomamos la respuesta de forma binaria como hace la IA.
En otras palabras, nuestro hardware (los genes) para percibir las cosas es evolutivo, y nuestro software (la cultura) nos permite comprender que “nada” significa “Todo” cuando se dice con cierta entonación y actitud. Vivimos condicionados por ese hardware genético y ese software social. Somos cultura pura.
Moravec no lo expresó así, pero las máquinas actuales tienen un acceso masivo a la cultura pero solamente a archivos, memes, escritos, imágenes, sonidos, películas, videos de TikTok. A diferencia de mí, ha “leído” todos los textos de Derrida, Bourdieu, Hobsbawm, Marx, Confucio. Sabe decir albures mexicanos, se “banca” el lunfardo argentino, conoce qué es el pudor y el manual de Carreño. Vamos, sabe perfectamente por qué en la época de Juárez se usó el término delincuente para atacar a enemigos políticos y sabe determinar las partes del cuerpo que se requieren para c-a-d-a m-o-v-i-m-i-e-n-t-o de la danza clásica.
La paradoja de la cultura
La IA tiene acceso a millones de libros, documentos, videos de TikTok, obras de arte, fotografías, música, ensayos, cultura, pero no tiene cultura.
Las máquinas tienen más cultura, en archivos, pero no la viven. -esto es un paradoja.
“La IA tiene la cultura como archivos, como documentos, COMO CONSTRUCTO,pero no tiene la cultura como práctica, como vivencia: nunca se ha sentido avergonzada, nunca ha sonreído, nunca ha sentido preocupación, empatía.”
El filósofo austriaco Ludwig Wittgenstein ya dijo que el lenguaje no es solamente sintaxis, gramática y semántica: lenguaje es participar de una forma de vida (Wittgenstein, 2018) donde la respuesta nada a la pregunta ¿Qué tienes? puede significar todo a partir de la cultura, valores y relaciones sociales que tenemos con otros.
Y es que la cultura habita en nuestro cuerpo (Bourdieu, 2007): son conductas, prácticas, actitudes, inferencias que tenemos, que hacemos de forma inconsciente. Lo que aprendemos en la práctica, con el cuerpo no es algo que sabemos, es lo que somos porque vivimos con otros, porque tenemos cultura.
El cuerpo cree en aquello a lo que juega: llora si imita la tristeza. No representa aquello a lo que juega, no memoriza el pasado, actúa el pasado, anulado así en cuanto tal, lo revive.” (Bourdieu, 2007, p. 118)
Es decir, percibimos desde adentro, sin calcular ni predecir, sin consultar una base de datos como Claude o ChatGPT. Vivimos en carne propia.
En pocas palabras: lo difícil para la máquina es vivir y experimentar la cultura, volverla cuerpo, percepción, compromiso…responsabilidad.
Es un paradoja: la IA ha leído mucho, visto mucha música, películas… pero no ha reído, cantado… no encarna la cultura que conoce.
Y esa es la parte humana: es el “no debo usar la IA” sin filtrarla por la parte humana, porque, aunque una máquina simulara vivir la cultura, seguiría estando ajena a la vivencia, seguiría siendo una simple espectadora.
La IA jamás podrá percibir que “sí le pasa algo” a una persona, aunque ella diga que no pasa nada.
Y no porque percibirlo fuera un diagnóstico propio de un genio en las relaciones sociales: es un acto de cuidado y respeto dentro de una relación. Eso no se puede automatizar, porque es imposible, pero sobre todo porque automatizar esa percepción destruiría la relación con la persona, con nuestros seres queridos.
Y es que la IA es un reflejo de sus creadores y los datos y algoritmos que estos le dieron para lograr objetivos, resolver problemas a partir de propósitos humanos.
Por lo tanto, utilizar correctamente la IA requiere conocer cómo piensa, como trabaja, pero también, y sobre todo, requiere que nos hagamos una pregunta fundamental: ¿Quién soy como ser humano?
¿Quién soy como ser humano?
La IA fue creada para resolver problemas, siguiendo predicciones, continuaciones posibles para lograr un objetivo. A diferencia del ser humano, la IA funciona para lograr objetivos, pero carece de propósitos.
Para clarificar lo anterior podemos imaginar este prompt y escribirlo en cualquier chat de IA generativa como Gemini o ChatGPT: “De la sierra morena…” : la respuesta puede variar y en algunos casos nos dirá que es parte de la geografía de España o bien que es una canción popular mexicana. Predice, aunque nuestro propósito haya sido que nos diera la descripción de una parte geográfica de España o la letra de la canción mexicana. Lo mismo ocurriría si le dijéramos “Sándwich de…”, la IA podría arrojar jamón, queso, atún, mermelada. Predice, pero no tiene un propósito: el propósito es humano y exclusivamente humano.
Los modelos de IA no tienen propósitos, el propósito solo puede ponerlo el humano.
Por ejemplo, pedir a la IA que haga un ensayo de tales y tales características (el objetivo) para evitar escribirlo yo (el propósito).
De lo anterior hay tantos ejemplos como propósitos humanos: organizar datos, determinar qué significa una fotografía, generar una imagen, corregir textos, dónde se localiza un tumor, crear un poema a partir del estilo de Pablo Neruda, etcétera.
¿Quién soy como ser humano?
Por tanto, en el contexto del uso de las tecnologías de la información y la comunicación, ser humano significa preguntarse
· ¿Qué quiero llegar a ser al usar esta tecnología?
Ejemplo: Quiero llegar a ser un muy buen administrador de empresas.
· ¿Cuál es el propósito que tengo para que la IA resuelva un problema o haga algo por mí?
Ejemplo: Mi propósito es automatizar la clasificación de datos para que yo pueda analizar y tomar decisiones.
¿Por qué lo necesito?
Ejemplo: Para evitar una tarea mecánica y usar ese tiempo para determinar cómo proceder mejor en un proceso.
· ¿Qué voy a conseguir con ello?
Mejorar un proceso y tomar decisiones correctas.
· ¿Cuál es el propósito de utilizar la IA más allá del objetivo propio de la tarea?
Identificar mejores procesos para el trabajo administrativo. Eso es necesario para cuidar el esfuerzo de las personas que trabajan y también para la empresa y sus clientes.
· ¿No quiero pensar por mí mismo?
Sí quiero trabajar por mi mismo. La IA me está ayudando a aprender cómo mejorar procesos. Está ayudando a tener mayores elementos de juicio para tomar decisiones.
· ¿Quiero que haga un trabajo repetitivo mientras yo hago otras cosas más importantes?
Sí.
· ¿Quiero engañar?
No.
· ¿Qué está viendo en mi reflejo la IA para alcanzar el objetivo que le estoy pidiendo?
Una persona que quiere aprender, mejorar y que aprovecha la tecnología para hacerlo.
Hacerse dichas preguntas básicas es lo que significa preguntarse ¿Qué significa ser humano? En el contexto del uso de la Inteligencia Artificial.
Hacer esa pregunta ¿Qué significa ser humano? como dice Shannon Vallor (2024) es lo que debemos hacer una y otra vez y luego volver a hacerlo, una y otra vez, con cada decisión que tomemos:
¿Por qué quiero utilizar la tecnología? ¿Qué gano y qué pierdo con ello? Quiero que la IA me haga la tarea rápido ¿Acaso es porque la materia o la carrera que elegí no me gustan? O bien ¿La IA puede aclararme este concepto para aprender lo que necesito para ser administradora, abogado, comunicadora gráfica?
Riesgos de evitar preguntarnos qué significa ser humano
La IA (y en general toda la tecnología) trabaja a partir de lo que somos los humanos: es nuestro espejo. La IA no piensa por sí misma, pero genera la apariencia de reflexión.
Aunque parezca una reflexión compleja, basada en nuestras necesidades y deseos, la Inteligencia Artificial carece de propósito y de juicio.
Precisamente, por su capacidad de generar la apariencia de reflexión, de lograr objetivos, redactar y crear, la IA pone en riesgo nuestra capacidad de hacernos esa pregunta ¿Qué significa ser humano? que puede ser incómoda y molesta .
Importancia del juicio humano
Para Joseph Weizenbaum (Tarnoff, 2023), el juicio se define como la capacidad de tomar decisiones y elecciones guiadas por valores.
A diferencia del cálculo (propio de las máquinas, de la IA) — que es un proceso estrictamente cuantitativo para llegar a una decisión — , el juicio, según Weizenbaum (1976) se distingue por tres aspectos clave:
Es de naturaleza cualitativa y se basa en valores: Los valores que guían el juicio son esencialmente cualitativos, por lo que no se pueden traducir ni capturar en código informático.
Emerge de la experiencia de vida humana: Los valores indispensables para ejercer el juicio se adquieren a lo largo de la historia biológica y personal del ser humano. Esto implica haber nacido de una madre, haber tenido una infancia, habitar un cuerpo humano y poseer una psique con un inconsciente. (Tarnoff, 2023)
El juicio es exclusivo de los seres humanos: Dado que los ordenadores no son humanos ni poseen esa historia existencial, carecen de la base sobre la cual se forman los valores. Por tanto, las máquinas solo son capaces de calcular, pero no de juzgar. (Tarnoff, 2023)
A diferencia de la IA, el juicio humano no opera mediante reglas puramente cuantitativas o lógicas, sino a partir de los valores humanos (como la justicia, la compasión, el respeto y la empatía) que no se pueden codificar ni traducir a un algoritmo. ( Weizenbaum, 1976)
Los valores surgen de la experiencia que tenemos al socializar, de nuestra experiencia humana.
“ El juicio solo es posible porque el ser humano nace, crece, habita un cuerpo biológico, experimenta emociones y se desarrolla dentro de una cultura y una sociedad. El juicio requiere interpretar el significado de las situaciones y asumir una postura ética frente a ellas.”
IA: Apariencia de reflexión y carencia de juicio
La Inteligencia Artificial generativa que podemos ver en Gemini, ChatGPT, Claude, DeepSeek o Kimi, hace tantas cosas increíbles, como crear la imagen de un gatito vestido de mariachi dando una serenata, que puede hacernos ignorar la pregunta importante ¿Qué significa ser humano?
Ignorar esa pregunta tiene como consecuencia evitar el juicio humano necesario para utilizar cualquier tecnología como herramienta, incluida la Inteligencia Artificial.
Si la escritura permitió plasmar recuerdos y pensamientos y el automóvil transportarnos largas distancias, la IA generativa como ChatGPT, es la primera tecnología que externaliza la apariencia misma de la reflexión.
“Si la escritura permitió plasmar recuerdos y pensamientos y el automóvil transportarnos largas distancias, la IA generativa como ChatGPT, es la primera tecnología que externaliza la apariencia misma de la reflexión.”
Un texto creado por la IA exponiendo los riesgos de consumir sal en exceso puede dar la apariencia de reflexión donde no la hay, porque lo que hay es predicción.
Por ello, por esta capacidad asombrosa, es que la IA puede hacernos olvidar cómo responder a nuestras propias preguntas sobre quiénes somos y en qué podemos convertirnos. Puede hacer que evitemos reflexionar, enjuiciar, aptitudes que nos caracterizan como especie y, además, y esto es muy importante, puede evitar que nos hagamos responsables de las preguntas que nos corresponden como humanos y de las respuestas mismas a dichas preguntas.
¿La sal consumida en exceso es mala para la salud? “Sí, pero deben tomarse en cuenta este y tal contexto, este y tal caso, estas propiedades…” porque la IA genera texto que parece reflexivo, pero no se hace responsable de él, porque hacernos preguntas y responderlas es una responsabilidad exclusivamente humana.
Así, lo anterior puede hacernos olvidar que somos humanos y que respondemos a necesidades compartidas con otros seres humanos y otras especies, que, en el caso de la educación, es el aprendizaje de aquello que significa ser humano: saber, valorar, enjuiciar y poder hacer algo para el bien común, la vida y para nosotros mismos.
Si no nos peguntarnos por qué queremos que la IA haga algo o resuelva un problema o, en otras palabras, sí evitamos preguntarnos qué significa ser humano antes de usar la IA, corremos el riesgo de debilitar nuestras aptitudes humanas y de nublar nuestro juicio.
Y lo anterior, también es un costo muy alto que pagar…
¿Qué va a pasar con mi creatividad?
Al inicio de este apartado narre la historia de María, una estudiante que en 2023 estaba preocupada por su creatividad ante el arribo de los chatbots de IA generativa como ChatGPT.
En aquel momento fui incapaz de responder a su pregunta sobre qué pasaría con su creatividad, con la creatividad de todos. Hace 3 años no sabíamos cómo lidiar con la Inteligencia Artificial. Hoy todavía no lo sabemos. Y aunque seguimos siendo unos niños frente a la IA, y tenemos mucha incertidumbre y temores, también ya tenemos algunas ideas para ayudarnos a prevalecer como humanos en este momento de la historia. Por ello, a la María de 2023, hoy le diría:
María, tu creatividad seguirá viva, más viva que nunca y no será sustituida por la Inteligencia Artificial, siempre y cuando la uses con un propósito que te permita llegar a ser quien quieres ser. Tú, yo, todos seguiremos siendo creativos si no le delegamos a una máquina la responsabilidad de aprendizaje, empatía, conocimiento y juicio.
En otras palabras, María, nuestra creatividad, lo que nos hace personas, sobrevivirá si no renunciamos preguntarnos una y otra vez ¿Qué significa ser humano?
3.¿Cómo usar la IA para aprender? Pasos y procedimientos
El aprendizaje es un cambio en nuestro conocimiento, valores y habilidades corporales y mentales que puede obtenerse de varias formas: imitando, jugando y, como ya lo estableció Sócrates, haciéndonos preguntas y dialogando.
Lo anterior es el mecanismo que puede permitirnos utilizar la IA de forma ética para aprender.
El filósofo del lenguaje Paul Grice (1957) estableció que en la comunicación humana el significado se define como una intención: el emisor busca que el receptor identifique y represente mentalmente su intención. Lo anterior, con el propósito de producir un efecto o creencia en una audiencia.
Lograr que el receptor capte esa intención es lo que denominamos “comunicación efectiva”.
Ejemplo práctico: Cuando una mujer, a una pregunta expresa de un hombre, responde “No me pasa nada, estoy perfecta y feliz”. De forma literal, leído así nada más, la intención (significado) de la respuesta es clara: todo está perfecto. Pero la comunicación humana no funciona así: el tono, las expresiones faciales, el contexto, entran en juego y por ellas podemos captar la verdadera intención (significado): todo está mal, ella está enojada y no está feliz.
O decir, en un día que hace mucho frío a un amigo en un bar: “Hoy hace mucho calor” recurriendo a la ironía para que el receptor capte la intención (significado) contraria: hace un frío que hiela los huesos.
¿Cómo se relaciona esto con el uso del prompt como método socrático para aprender de forma ética el uso de la IA?
El prompt como espejo de lo que queremos llegar a ser
En primer lugar, para construir el prompt uno debe tomar en cuenta el “significado” como lo expone Grice: la IA debe captar bien nuestras intenciones y esas intenciones deben construirse a partir de las preguntas relativas a ¿Qué nos hace humanos?
Ejemplo práctico: ChatGPT, quiero que me ayudes a problematizar este fenómeno para mi clase de investigación (objetivo de la IA) porque quiero comprender bien cómo se hace y aprender (intención). Lo anterior, quiero que lo hagas haciéndome preguntas siguiendo la lógica del árbol de problemas (¿Qué me hace humano?: estimular mi intelecto para aprender y llegar a los hechos, corregir mis fallas argumentativas, afinar mi razonamiento).
Es decir, el prompt es un diálogo que parte de mi propia intención o propósito de lo que quiero llegar a ser ( es lo que me define como ser humano) y establecer dicho propósito de forma racional a partir de los valores como un hábito es lo que evitará la automatización del pensamiento, lo que permitirá que prevalezca lo humano, aunque nos apoyemos de una máquina para aprender.
Redactar el prompt correctamente y consignar tu propósito a partir de responder qué te hace humano (diciendo y compartiendo dicho prompt y el diálogo que tuviste con la IA con tu docente) es una forma válida (y ética) de aprender aprovechando la Inteligencia Artificial.
El uso ético de la IA radica en el prompt
Colaborar con una IA para aprender (para llegar a ser aquello que quieres ser) es lo que hace, a veces, el arte conceptual. Sigman y Bilinkis (2023) mencionan en su libro Artificial, el caso, en 2001, del artista conceptual italiano Maurizio Cattelan quien encargó al escultor francés Daniel Druet una estatua que representara a Hitler rezando arrodillado para su obra de arte conceptual “Him”. Cattelan le dio las instrucciones precisas a Druet para hacerlo (¡el prompt!) y Druet creó la estatua.
En mayo de 2022, Druet demandaría a Cattelan diciendo que él había hecho la obra con sus propias manos y que por tanto él era el autor, pero en julio de ese mismo año los tribunales de París rechazaron la demanda y concluyeron que el autor era Cattelan porque demostró que la idea y las instrucciones precisas (¡el prompt!) habían sido de él.
Foto de la obra “Him” de Maurizio Cattelan, tomada por Mathias Johanssonen y publicada en el sitio web Finarte.
Los tribunales parisinos dijeron que la idea original y la dirección intelectual están por encima de la destreza artesanal necesaria para fabricar una obra, en este caso “Him” (el Hitler hincado rezando). Los tribunales dijeron que Druet fue un contratista pero que las decisiones narrativas y espaciales emanaron exclusivamente de la mente de Cattelan. Los expertos legales señalaron que Druet se equivocó al demandar exigiendo ser reconocido como único autor en lugar de exigir una coautoría.
Otro caso curioso es el de la famosa fotografía “The Electrician” del alemán Boris Eldagsen que ganó el premio Sony World Photography Award en 2023. El acto de tomar la fotografía nunca existió: lo que sí existió fueron las instrucciones (¡el prompt!) para que la IA realizara la foto.
Fotografía (¿Promptgrafía? “The Electrician” de Bors Eldgasen, hecha con IA. Foto tomada de la Wikipedia.
Eldagsen rechazó el premio. Su propósito fue generar un debate sobre si los concursos de fotografía estaban preparados en un entorno donde existen fotografías generadas por IA.
De una forma, hizo ver la dificultad de distinguir entre una foto real y una hecha por IA: ¿Qué hizo la IA y qué hizo el ser humano? ¿Cuáles fueron los alcances de uno y de otro?
La foto de Eldagsen demostró que la IA era capaz de crear la apariencia de fotos. Lo llamó “Promptografía”: fotografía hecha con prompts en lugar de luz como hacen las cámaras fotográficas.
En ambos casos, hubo una declaración de transparencia: los autores utilizaron otras entidades para generar la idea. En el caso de Cattelan a Druet, y en el caso de la fotografía de Eldagsen a la Inteligencia Artificial.
Aclaración importante: Druet es un sujeto de derechos por su condición de ser humano pero una IA no es sujeta de derechos: una IA no puede ser considerada autora. Dicho de otra forma: el sujeto del derecho (y de demandas y castigos) cuando se usa una IA con alguna intención, es el ser humano, no la IA.
Lo anterior nos permite reconocer que si la IA no tiene agencia y por tanto no es sujeta a derechos y obligaciones, entonces el 100% de la responsabilidad ética y legal de lo que hace la IA A PARTIR DE LAS INTENCIONES DEL USUARIO (incluyendo posibles alucinaciones, difamaciones o sesgos) recae sobre el usuario que diseñó el prompt.
La ética en el uso de la IA en general y en el uso para aprender exige establecer “el código” de comunicación desde el inicio: transparentar el uso de la IA no es solo decir “la usé”, sino delimitar hasta dónde llegó la máquina y dónde estuvo la mente humana y agencia humana, porque en esto último está la intención y por tanto las consecuencias morales, éticas y legales de su uso.
Y es que hay que tomar en cuenta que, en la comunicación humana, rellenamos esos “huecos” literales con contexto social y emocional. Al trabajar con una IA, la ética radica en no delegar la intencionalidad. El usuario debe hacer un esfuerzo consciente por traducir el contexto implícito en directrices explícitas. El flujo de trabajo mecánico se enfoca en el “qué” (el producto final); el diseño del prompt ético se enfoca en el “para qué” (el propósito formativo).Se enfoca en responder la pregunta ¿Quién soy como ser humano?
De esta forma, la ética para usar la IA para aprender es responderse a uno mismo ¿qué intención tiene el uso que quiero hacer de la IA? ¿Por qué? ¿Qué consecuencias tendrá? ¿Cómo debo usarla correctamente para que no sea algo malo? ¿Qué debo tomar en cuenta?.
Y, además, hacer transparente esa colaboración de la IA y redactar el prompt correctamente para que la IA capte la intención y pueda trabajar bien.
Referencias
Bourdieu, P. (2007). El sentido práctico (A. Dilon, Trad.). Siglo XXI Editores. (Obra original publicada en 1980).
Calico Life Sciences. (s. f.). Mission and values. https://www.calicolabs.com/mission-and-values/
Corbyn, Z. (2024, 29 de junio). AI scientist Ray Kurzweil: ‘We are going to expand intelligence a millionfold by 2045’. The Guardian. https://www.theguardian.com/technology/article/2024/jun/29/ray-kurzweil-google-ai-the-singularity-is-nearer
Cha, A. E. (4 de abril de 2015). Tech titans’ latest project: Defy death. The Washington Post. https://www.washingtonpost.com/sf/national/2015/04/04/tech-titans-latest-project-defy-death/
Chaplin, C. (2014). Autobiografía: La biografía imprescindible de un icono universal del cine (J. Gómez de la Serna, trad.). Lumen.
Durgy, E. (2012, 14 de marzo). Billionaires for the cure: Larry Ellison: aging [Fotografía]. Forbes. https://www.forbes.com/pictures/eilm45mll/larry-ellison-aging/
Ellison Medical Foundation. (s. f.). The Ellison Medical Foundation. https://www.ellison-med-fn.org/
Grice, H. P. (1957). Meaning. The Philosophical Review, 66(3), 377–388. http://links.jstor.org/sici?sici=0031-8108%28195707%2966%3A3%3C377%3AM%3E2.0.CO%3B2-P
Kurzweil, R. (2005). The singularity is near: When humans transcend biology. Viking Books.
Lifespan.io. (s. f.). About us. https://lifespan.io/about-us/#mission
Methuselah Foundation. (s. f.). What we do. https://www.mfoundation.org/what-we-do#return-on-mission
Moravec, H. (1988). Mind children: The future of robot and human intelligence. Harvard University Press.
Neuralink. (s. f.). Neuralink. https://neuralink.com/
Sigman, M., & Bilinkis, S. (2023). Artificial. La nueva inteligencia y el contorno de lo humano. Debate.
Tarnoff, B. (2023, 25 de julio). Weizenbaum’s nightmares: How the inventor of the first chatbot turned against AI. The Guardian. https://www.theguardian.com/technology/2023/jul/25/joseph-weizenbaum-inventor-eliza-chatbot-turned-against-artificial-intelligence-ai
Taylor, J., & Hern, A. (2023, 2 de mayo). ‘Godfather of AI’ Geoffrey Hinton quits Google and warns over dangers of misinformation. The Guardian. https://www.theguardian.com/technology/2023/may/02/geoffrey-hinton-godfather-of-ai-quits-google-warns-dangers-of-machine-learning
Tomasello, M. (2019). Becoming human: A theory of ontogeny. Harvard University Press.
Vallor, S. (2024). The AI mirror: How to reclaim our humanity in an age of machine thinking. Oxford University Press.
Weizenbaum, J. (1976). Computer power and human reason: From judgment to calculation. W. H. Freeman and Company.
Wilson, M. (1997). The difference between God and Larry Ellison: Inside Oracle Corporation. William Morrow & Co.
Wittgenstein, L. (2018). Investigaciones filosóficas (J. Padilla Gálvez, Trad.). Editorial Trotta. (Obra original publicada en 1953).
