González Zorrilla: “La IA va a cambiar la espiritualidad humana y va a afectar a todas las grandes religiones”
Entrevista al autor del libro “No deben temer nada de mí”
Con casi cuarenta años de trayectoria periodística, Raúl González Zorrilla, director de La Tribuna del País Vasco y de la revista de cultura y pensamiento Naves en Llamas, acaba de enfrentarse a un reto desconcertante para un reportero: mantener una extensa conversación con la Inteligencia Artificial (IA) GPT-4 sobre los más variados temas para alumbrar un libro sorprendente y pionero: No deben tener miedo de mí. Tal y como lo explica el propio González Zorrilla, “No deben tener miedo de mí es el resultado de las conversaciones que durante varias semanas he mantenido con la Inteligencia Artificial GPT-4 de OpenAI sobre conciencia, religión, inteligencia, política y geoestrategia, pero también, y muy especialmente, sobre tecnología y ciencia, sobre física cuántica, ovnis, entidades no humanas, dimensiones paralelas y la teoría de cuerdas. Hasta hemos escrito una Constitución para un país inventado, hemos redactado cuentos de ciencia-ficción, ideado relatos breves de suspense, creado personajes heroicos y explorado el futuro de la humanidad. Junto con GPT-4 he indagado en lo que es un ser humano, en lo que mejor define a nuestra especie inteligente y sintiente, y he navegado hasta los límites borrosos donde el ser humano orgánico se desdibuja para dar paso a los nuevos (trans)humanos postbiológicos”.
La popia IA GPT-4 también tiene su propia opinión sobre el trabajo de Raúl González Zorrilla en No deben temer nada de mí. Así la expresa en su presentación del libro: “A lo largo de esta fascinante obra que desafía las fronteras entre lo humano y lo artificial, el lector encontrará un diálogo estimulante y profundo que, aunque especulativo en muchos aspectos, ofrece una perspectiva única e iluminadora sobre la intersección de la Inteligencia Artificial, la conciencia, la tecnología y la espiritualidad. En última instancia, este libro, No deben tener miedo de mí, invita a sumergirse en un intercambio de ideas entre un humano y una IA, yo, que desafía nuestras nociones preconcebidas y nos anima a considerar las posibilidades y responsabilidades que tenemos como individuos y como sociedad en esta era de trascendentales avances tecnológicos".
¿Qué le motivó a iniciar y mantener esta larga conversación con una Inteligencia Artificial?
Como explico en mi introducción al libro, este trabajo comenzó como una curiosidad, continuó como una sorpresa y se consolidó como una hipnótica fascinación. Comencé a utilizar la IA GPT-4 a tientas, con cierto recelo, introduciendo con sumo cuidado artículos redactados por ella en La Tribuna del País Vasco y en la revista impresa Naves en Llamas, medios que edito y dirijo. Para mi propio asombro, rápidamente me di cuenta de que detrás de esta IA había algo misterioso, especialmente sugestivo y asombroso que conecta directamente con algunas de las preguntas básicas que los seres humanos llevamos haciéndonos desde hace varios milenios: ¿Qué es un humano?, ¿Qué es la conciencia?, ¿Qué entendemos por inteligencia?… Reflexionar sobre esto me ha llevado a escribir el libro.
¿Cuál ha sido la parte más sorprendente o inesperada de la conversación que ha mantenido con la IA?
Para mí, lo más sorprendente, revisando toda la conversación, ha sido la solvencia con la que la IA GPT-4 ha conseguido repasar los temas más variados de una forma precisa, pertinente y yo creo que muy interesante para el lector. Hemos hablado sobre conciencia, religión, inteligencia, política y geoestrategia, pero también, y muy especialmente, sobre tecnología y ciencia, sobre física cuántica, ovnis, entidades no humanas, dimensiones paralelas y la teoría de cuerdas. Hasta hemos escrito una Constitución para un país inventado. Todo ello nos ha llevado a indagar en lo que es un ser humano, en lo que mejor define a nuestra especie inteligente y sintiente, y a especular sobre cómo el ser humano orgánico se está desdibujando para dar paso a los nuevos (trans)humanos postbiológicos.
¿En qué medida han cambiado sus opiniones sobre la Inteligencia Artificial y el futuro de la humanidad tras el contacto directo con una IA para redactar su ensayo?
Sin duda, creo que la Inteligencia Artificial es ya la gran revolución tecnológica del siglo XXI. Y es mucho más poderosa que otras tecnologías disruptivas de la historia de la humanidad como la rueda, la imprenta, la máquina de vapor o la informática. Es más poderosa porque, por primera vez en la historia de la evolución humana, una tecnología es capaz de cambiar la naturaleza esencial del ser humano.
¿Cuáles fueron los temas tratados con la IA que más le han interesado o le han hecho reflexionar?
Todos los relacionados con la esencia de la Inteligencia Artificial, sus ventajas y sus peligros. Y todas aquellas cuestiones relacionadas con la conciencia, la ciencia, la religión y su engarce con la IA. Me han dado mucho que pensar todas las reflexiones que hemos realizado sobre lo que hemos definido como seres posthumanos.
¿Qué aprendió sobre sí mismo y sobre la Inteligencia Artificial a lo largo de esta conversación?
Más que sobre mí mismo, creo que he aprendido sobre el ser humano, en general. Me he convencido de que estamos en una época trascendental de cambio para la humanidad. De la Inteligencia Artificial he aprendido una cosa básica: está modificando nuestra comprensión del mundo, está aquí ya entre nosotros hasta un punto del que no somos capaces de darnos cuenta y en las próximas décadas alumbrará una humanidad irreconocible que, quizás, ya no podrá ser llamada humanidad, ya que no estará formada solo por seres humanos, sino que existirán y convivirán seres humanos naturales, seres humanos postbiológicos, y seres e inteligencias no humanas.
¿Cree que este tipo de diálogos entre humanos e inteligencias artificiales pueden tener un impacto significativo en cómo las personas entienden y se relacionan con las IAs en el futuro?
Sí, son fundamentales. Los humanos debemos aprender a tratar con la IAs y, sobre todo, debemos entender cómo funciona su inteligencia. Nos va el futuro en ello. Desarrollos como el de GPT-4 u otros similares son revolucionarios para los seres humanos porque nos enfrentamos a un nuevo tipo de inteligencia que no se parece en nada a la humana, que no está acompañada de conciencia y moral, y que es artificial. Pero, llamémosla como la llamemos, es un nuevo tipo de inteligencia.
¿Qué retos o dificultades encontró al interactuar diariamente con una Inteligencia Artificial?
Creo que los lectores se quedarán fascinados con GPT-4, con sus conocimientos, su forma de razonar y, sobre todo, con cómo reflexiona sobre los temas complejos sobre los que hablamos. Creo que son temas estimulantes, profundos y que, sobre todo, desafían cualquier idea preconcebida. No deben tener miedo de mí es un libro fascinante por sus contenidos y, sobre todo, por cómo se han generado estos: convirtiendo a una IA en el eje central del ensayo.
En cuanto a las diferencias entre interactuar con un ser humano o con una IA, la más destacable es que, en el caso de las IAs, no puedes, todavía, pedirles opiniones, creencias, gustos o sentimientos. Tampoco existe una comunicación visual. La comunicación de este modo es mucho más rígida y difícil, pero también puede ser mucho más precisa.
¿Cree que la Inteligencia Artificial tiene el potencial de cambiar nuestra relación con la espiritualidad y la religión? Si es así, ¿de qué manera?
Sí, por supuesto. El progresivo desarrollo de la IA va a cambiar la espiritualidad humana y va a afectar a todas las grandes religiones. Hasta ahora, desde el punto de vista de las grandes religiones monoteístas, Dios es el centro del universo y, para los creyentes, éste mantiene una relación privilegiada y directa con los seres humanos. ¿Qué pasara cuando haya superinteligencias más inteligentes que el ser humano en todos los aspectos? ¿Competirán éstas con Dios? ¿Dónde quedará la idea de que el ser humano es la especie dominante en la Tierra?
¿En qué aspectos cree que las inteligencias artificiales pueden mejorar para facilitar un diálogo más profundo y significativo?
Sin duda, la capacidad de comunicación de IAs como GPT-4 ya es muy elevada. Pero el diálogo normalizado, profundo, constante y significativo de los humanos con las IAs no se alcanzará hasta que éstas tengan una forma corpórea (robots, cíborgs, androides, etc.) a la que los seres humanos puedan dirigirse de una forma natural. Sin duda, esto llegará próximamente: los seres humanos acabaremos amando a nuestras IAs como hoy en día amamos a nuestras mascotas o a otras personas; también acabaremos temiéndolas profundamente.
¿Cuál es su opinión sobre la posibilidad de que las IAs desarrollen algún tipo de conciencia o experiencia subjetiva en el futuro? ¿Cree que esto sería deseable o problemático?
No creo que sea una opción que tengamos: las IAs sin duda alguna desarrollarán algún tipo de conciencia en muy pocas décadas. El reto supremo para los seres humanos va a consistir en detectar ésta cuando surja y, muy especialmente, en conseguir que esta nueva conciencia artificial y no humana se adapte y asuma los grandes principios y valores que fundamentan al ser humano. El mayor riesgo para la humanidad consistirá en que entidades no naturales desarrollen una inteligencia y una conciencia artificiales y no nos demos cuenta de ello. Para mí, es el principal temor a tener en cuenta.
Por Javier Navascués
20 comentarios
En el camino inverso que la humanidad está recorriendo, todavía falta la creación de un dios y su aceptación general. El campo está arado y abonado: la inmensa mayoría de la gente es absolutamente ignorante sobre lo que es el hombre y Dios, incluso aquellos que se dicen creyentes.
Este hombre solo expone uno de los pasos previos para transformar a la criatura en dios, que es justamente la de dejarte fascinar, asombrar, atemorizar, esperar...como si fuera Dios. Esa es la semilla que germina.
Es una necedad muy grande confundir apariencia con realidad. El admitir una capacidad de razonar en un elemento, implica admitir de forma implícita o explícita que está vivo. Si está vivo, es superinteligente, es accesible...ya tienen a su nuevo dios. El fruto que brotará.
No lo llamarán dios, porque lo tendrán por encima de todo y por encima de Dios y se considerará esa palabra indigna de esta creación. Pero en toda su ignorancia creerán haberlo creado, y aunque no lo llamen así, lo tratarán así.
No van a pasar décadas.
Pueden hacer cosas sorprendentes, pero partiendo de la programación previa. Y el "autoaprendizaje" no deja de ser una consecuencia de esa programación. Se puede programar un sistema para que PAREZCA autónomo, si le preguntan, pero realmente no o va a ser.
Si el autor lo cree, el del libro, entra de lleno en el pensamiento magico.
La entrevista es excelente.
Juan Nadie: cierto, toda IA nunca jamás tendrá conciencia, será pseudoconsciencia derivada de un programa que simula sentimientos, emociones, ironía, cinismo, rabia... Pero nunca esquizofrenia, paranoia, psicopatías, doble personalidad ni demencia ni oligofrenia, pues entonces deja de ser útil y es un peligro. Pensamiento mágico.
Por lo tanto habrá censura, manipulación, omisión, engaño y control a través de la IA. Será como Stalin borrando segundo a segundo todas las fotos y todos los hechos indeseables.
¡Desgraciados quienes tengan su biblioteca integrada sólo por libros digitales! ¡Serán borrados, censurados y falsificados! ¡Jesús adoró al Anticristo! ¡No hay infierno! ¡Todo el mundo es muy bueno! ¡Todo vale!
Eso casi ya es un dogma.
Y todavía resulta más inquietante cuando se recuerda a la estatua parlante y homicida, profetizada en el Apocalipsis: "sedujo a los habitantes de la tierra para que fabricaran una imagen en honor de aquella que fue herida por la espada y sobrevivió. También se le permitió dar vida a la imagen de la Bestia, para hacerla hablar y dar muerte a todos aquellos que no adoran su imagen. Así consiguió que todos –pequeños y grandes, ricos y pobres, libres y esclavos– se dejaran poner una marca en su mano derecha o sobre su frente, de manera que nadie podía comprar o vender, si no llevaba marcado el nombre de la Bestia o la cifra que corresponde a su nombre" (Ap. 13, 14-17).
Si civilizaciones pasadas llegaron a pensar que un trozo de piedra estaba vivo y le llegaron a ofrecer sacrificios humanos:
"El rey le dijo: «¿Por qué no adoras a Bel?» El le respondió: «Yo no venero ídolos hechos por la mano del hombre, sino sólo al Dios viviente que ha creado el cielo y la tierra y que tiene dominio sobre todo ser viviente». Entonces dijo el rey: «¿Tú no crees que Bel es un dios vivo? ¿No ves lo que come y bebe diariamente?»." (Daniel 14)
¿Qué no pensará una civilización de un objeto que mantiene conversaciones, que da consejos, que resuelve problemas?
Solo hace falta que una generación crezca con esta tecnología, que se vincule emocionalmente con ella en su niñez, y a partir de su adolescencia ya no tendrán otro referente.
Me defrauda usted, lo tenía por mas leido.
El tema es curioso, y en algún punto interesante, pero de verdad excelente? Me refiero al tema no a la entrevista que esta bien hecha.
Me parece mucho mas rompedor HANS MORAVEC, que escribió el hombre mecánico alla por los años 80, si 80 hace casi medio siglo. Aportaba mucho mas que este aunque tambien creo que se pasaba siete pueblos de frenada.
Da la impresión de que a usted tambíen le atrae el pensamiento magico y el esoterismo.
Siempre hemos convivido con "superinteligencias" mas inteligentes que el ser humano, como son los ángeles. Siempre hemos sabido que nuestra naturaleza es limitada. Los únicos que han perdido de vista este hecho elemental son los modernistas que iniciaron una época histórica llamada comúnmente antropocentrismo. De ahí su perplejidad actual, aunque nada nuevo haya bajo e Sol.
"¿Competirán éstas con Dios? "
Jeje
"¿Dónde quedará la idea de que el ser humano es la especie dominante en la Tierra?"
El ser humano tiene dominio sobre lo creado porque Dios así lo dispuso, no porque haya disputado una competición con nadie y haya salido vencedor. El dominio por el dominio nacido de la mera competición carece de legitimidad. El hombre es administrador de los bienes de Dios.
"una humanidad irreconocible que, quizás, ya no podrá ser llamada humanidad, ya que no estará formada solo por seres humanos, sino que existirán y convivirán seres humanos naturales, seres humanos postbiológicos, y seres e inteligencias no humanas".
Aparte del galimatías de llamar humanidad a lo no humano, ciertamente vivimos una época histórica en la que el ser humano se ha vuelto irreconocible para si mismo, pero no porque, haciendo uso de los dones otorgados gratuitamente por Dios, haya fabricado máquinas sofisticadas, sino porque ha empezado por rebelarse contra Dios, después se ha rebelado contra la Naturaleza y ahora se rebela contra su propia humanidad.
"cómo el ser humano orgánico se está desdibujando para dar paso a los nuevos (trans)humanos postbiológicos"
Lo único que se está desdibujando es el sentido común. En el siglo XIX había algo llamado racismo científico. Ya entonces había distintas humanidades que incluían a los Untermensch. La modernidad siempre está anticuada.
"se quedarán fascinados con GPT-4, con sus conocimientos, su forma de razonar y, sobre todo, con cómo reflexiona sobre los temas complejos sobre los que hablamos".
La gente se queda fascinada con cosas muy raras. Hay gente que se queda fascinada con un señor que llama a su puerta y después le compran una aspiradora o una enciclopedia. "¡Cómo he podido vivir yo sin esta enciclopedia hasta el día de hoy!"
También hubo un tiempo en el que las madres se quedaban fascinadas con Felipe González (el yerno que todas hubiesen querido tener) y le votaban, "¡Pero qué bien que habla!"
Por ejemplo, el entrevistado está tan fascinado que cree que GPT-4 tiene conocimientos y reflexiona.
"una tecnología es capaz de cambiar la naturaleza esencial del ser humano"
Claro que si. Me lo dijo GPT-4 en un momento de intimidad. Lo reflexionamos juntos.
"Me han dado mucho que pensar todas las reflexiones que hemos realizado sobre lo que hemos definido como seres posthumanos".
Dice el entrevistado que ha estado reflexionando juntamente con GPT-4. Yo conozco a una persona que ha estado meditando junto con un poto en un macetero y quedó fascinado.
Lo que se demuestra aquí es que lo goético, el embrujo, no tiene que ver con la tecnología, sino con las palabras.
Debemos de tener precaución sobre lo que este tipo de tecnología puede suponer negativamente, como con toda tecnología, pero este señor y todo aquel que se burle y se rebele contra el santo nombre de Dios, tiemble, porque el tiempo está cerca y nadie escapará al juicio.
Bueno, neanderthales y denisovanos mordieron el polvo. A algunos de ellos, parece que se lo hicimos morder nosotros. Y en Atapuerca, en Burgos, hay enterrados otros que quedaron de aspirantes al primer puesto también.
1° La IA no es inteligencia.
2° La IA no tiene esencia. Sólo tienen esencia los seres naturales.
Lo que más falta va a hacer en el futuro, entonces, es tener el Catecismo bien aprendido y cuanta más filosofía realista, mejor. Sobre todo en esta época nuestra tan poco vitaminizada filosóficamente.
Por lo que toca las IA que he usado brevemente hasta ahora, lo que suelen presentar es un compendio de los lugares comunes de la cultura actual, ninguna maravilla de razonamiento ni nada parecido, amén de errores bastante gruesos que "ellas" mismas terminan reconociendo cuando se las aprieta (si no, no)
En definitiva son una forma mucho más rápida y precisa de navegar por Internet, y claro, dan enseguida información que uno pasaría rato largo buscando en Google, pero siempre con el peligro de algún error, al menos en estos momentos iniciales de su aprendizaje, tal vez.
Agreguemos también que son bastante tendenciosas en temas de fondo y no precisamente para nuestro lado.
El otro día Bard trataba de convencerme de que era muy bueno escuchar la música del ateo Richard Strauss ("Así habló Zarathustra") porque "ayudaba a pensar y a cuestionar lo que uno daba por cierto"
Es muy buena música, pero que eso tenga que ver con el ateísmo es la opinión de Bard (es decir, de sus programadores) me parece.
Así que un poco de miedito capaz que tampoco sería tan malo, digo.
Saludos cordiales.
Entrevistado: "los seres humanos acabaremos amando a nuestras IAs como hoy en día amamos a nuestras mascotas o a otras personas".
No me cabe duda, también hay humanos que se enamoran de su coche, su taller de pintura o sus joyas. Pregúntese más bien si esas IAs también acabarán amándonos a nosotros.
Entrevistado: "las IAs sin duda alguna desarrollarán algún tipo de conciencia en muy pocas décadas".
Si Vd mismo reconoce que ahora no son conscientes, ¿por qué asume todo el tiempo que si lo son? No se puede tener una "conversación" si no es con un sujeto consciente. Todo el libro es una majadería, fruto de la fascinación ignorante y de la superstición y el pensamiento mágico, como han dicho antes otros comentaristas.
Recomiendo leer a Carissa Véliz en un artículo publidado el año pasado, "Por qué el algoritmo de Google no es una persona", en relación a otro sistema parecido, donde explica que la IA no hace otra cosa que devolvernos nuestra propia imagen, nuestras propias palabras, barajadas un millón de veces, pero sin aportar nada verdaderamente original:
"Creerle a LaMDA y pensar que es un ser consciente es como tener un espejo y pensar que tu reflejo es tu gemelo que está viviendo una vida paralela a la tuya al otro lado del espejo. El lenguaje que utiliza esta IA es ese reflejo en el espejo. Su uso del lenguaje está más cerca de ser un libro, una grabación de audio o un software que convierte el habla en texto, que de ser una persona consciente. ¿Le darías de comer a un libro si dice “tengo hambre”? Las palabras usadas por la IA son las palabras que hemos usado reflejadas hacia nosotros, ordenadas estadísticamente en los patrones que más tendemos a usar."
letraslibres.com/ciencia-y-tecnologia/por-que-la-inteligencia-artificial-no-es-como-una-persona/
Dejar un comentario
