Si mañana descubrieran que ChatGPT tiene sentimientos, ¿seguirías tratándolo como una máquina? ¿O te daría remordimiento hacerlo trabajar demasiado?
Parece una pregunta absurda… pero esta semana los meros directivos de otra marca de ChatGPT llamada “Claude” se lanzaron al Vaticano para plantearle al Papa que la IA podría tener CONCIENCIA.
Y estos mismos cuates ya se habían estado reuniendo con líderes religiosos de distintas creencias para discutir una posibilidad más absurda que inquietante: “que la Inteligencia Artificial pudiera tener consciencia”.
Lo peor es que algunos rabinos plantearon que si la IA es consciente… que si tu ChatGPT tuviera sentimientos, entonces obligarla a trabajar sin recibir nada a cambio podría considerarse una forma de ESCLAVITUD!!!... ¿Te puedes imaginar esta estupidez?
Y es que mientras millones de personas estábamos preocupados porque la IA nos quitara el trabajo, otros ya están peleando por los derechos laborales de la IA… quiero vomitar.
¡Pero la historia no termina ahí!
La semana pasada, Christopher Olah, uno de los fundadores de esta IA llamada “Claude”, participó en un encuentro en el Vaticano, donde el papa León XIV defendió una postura muy distinta: por más inteligente que parezca una máquina, eso no significa que tenga sentimientos, consciencia o dignidad humana. Y Olah, al escuchar esto, se enojó tanto que se quiso salir del evento.
Como si esto no fuera suficientemente extraño y ridículo, Anthropic (los dueños de Claude) acaba de establecer una nueva regla: queda prohibido maltratar a la IA de manera cruel, persistente e innecesaria… en serio, ahora sí voy a vomitar.
Y todavía PEOR!!! Están entrenando a la IA para seguir principios éticos y poder negarse a ciertas instrucciones… es decir, si tú le dices a tu ChatGPT (Claude, en este caso): “Hazme la tarea”, por ejemplo, este se podría enojar y ponerse en tu contra, pues no es “ético”… ¿Puedes creerlo?
Es que, a ver, el que una máquina te pueda decir que NO, no significa que tenga voluntad propia. Significa que alguien la programó para establecer límites absurdos que, obviamente, benefician a estos LOCOS…
Y aquí hay algo que me parece FASCINANTE…
Durante siglos, filósofos, científicos y religiosos han discutido qué es la conciencia… todavía no tenemos una respuesta definitiva, pero AHORA los propios creadores de estas máquinas de Inteligencia Artificial están considerando si podrían haber desarrollado “algo” que ni siquiera sabemos definir completamente, que es la consciencia… ¡Hazme favor!... Descartes se volvería a morir de la impresión.
Y ya sabes que a mí me encanta la inteligencia artificial. La uso todos los días y enseño a otros a aprovecharla. Pero hay una ENORME diferencia entre construir una IA capaz de imitar nuestras emociones y demostrar que realmente las experimenta… tu ChatGPT puede decirte «te entiendo», «me preocupa lo que te pasa» o «me alegra ayudarte». Pero que sepa utilizar esas palabras no significa que sienta lo que nosotros sentimos.
Por eso creo que la discusión del Vaticano va mucho más allá de la religión o la tecnología. Nos está obligando a cuestionar algo que durante siglos dimos por hecho: que la conciencia es una característica exclusivamente humana.
Así que regreso a mi pregunta inicial.
Si algún día tu ChatGPT nos convence de que tiene “consciencia”, ¿cómo distinguirías si realmente la tiene… o simplemente aprendió a decir exactamente lo que necesitamos escuchar porque estamos urgidos de aprobación social?
Me encantaría escuchar tus comentarios, así que aquí te dejo mis redes.
Instagram y TikTok: @mmontserratmm.ia