Me sugieren que reflexione sobre una serie de artículos publicados recientemente en The Economist acerca de la posibilidad de que las máquinas lleguen a tener conciencia y de los riesgos que entrañaría atribuírsela, o negársela, sin saber si realmente la poseen⁽¹⁾. Me he puesto a ello de muy buena gana, primero porque el asunto me interesa y, sobre todo, porque me halaga comprobar que en fronterad todavía conservan cierta confianza en el juicio de un mortal de carne y hueso como quien esto escribe. De carne y hueso, que no de cables y circuitos, aunque todo se andará… Metámonos, pues, en harina. 

Los artículos del prestigioso semanario británico ofrecen perspectivas diferentes sobre un problema que, hasta hace poco, parecía reservado a la filosofía y a la ciencia ficción. El editorial, en particular, desplaza la atención hacia sus consecuencias prácticas. Más que la posibilidad de que las máquinas lleguen a ser conscientes le preocupa lo que podría ocurrir si los seres humanos nos convenciéramos de que lo son. Una inteligencia artificial suficientemente desarrollada podría simular emociones, expresar deseos, manifestar sufrimiento e incluso reclamar derechos. Y nosotros, que llevamos milenios atribuyendo intenciones a los fenómenos naturales y sentimientos a los objetos que nos rodean, podríamos terminar reconociéndole una condición moral y jurídica semejante a la nuestra. De ahí que el editorialista advierta que las máquinas deben permanecer bajo control humano y hemos de conservar la capacidad de desconectarlas.

El argumento resulta razonable desde una perspectiva práctica, pero deja sin resolver el problema fundamental. ¿Qué es exactamente la conciencia? ¿Cómo podemos saber que otro ser la posee? ¿Y por qué habríamos de suponer que constituye un privilegio exclusivo de determinados organismos biológicos? Antes de decidir si las máquinas merecen derechos, convendría preguntarse qué entendemos por conciencia y qué razones tenemos para atribuírsela a unos seres y negársela a otros.

I. ¿Qué es la conciencia?

La pregunta es bastante más antigua que la inteligencia artificial y, pese a los enormes avances de la neurociencia, continúa sin una respuesta satisfactoria.

Desde Platón, buena parte de la tradición filosófica occidental ha concedido a la razón una posición privilegiada en la definición del ser humano. El alma racional permite acceder a verdades que los sentidos, sujetos al cambio y al engaño, no pueden proporcionar. En el Fedón el conocimiento verdadero exige que el alma se distancie, en la medida de lo posible, de las perturbaciones del cuerpo. Aristóteles, aunque se aparta considerablemente del dualismo platónico, distingue las facultades vegetativas, sensitivas e intelectivas, y reserva a la actividad racional un lugar singular en la vida humana.

Sería anacrónico identificar sin más estas concepciones del alma con nuestra idea moderna de conciencia. Pero ambas tradiciones contribuyeron a establecer una jerarquía de facultades en la que el pensamiento racional ocupaba el lugar más elevado. La cuestión se transformó radicalmente con Descartes. Su célebre cogito ergo sum convirtió la actividad de pensar en la primera certeza de la filosofía: puedo dudar de la existencia del mundo exterior, de mi cuerpo e incluso de las verdades matemáticas, pero no de que existo mientras pienso. Conviene recordar que el pensamiento cartesiano no se reduce al razonamiento lógico. En sus Meditaciones metafísicas Descartes incluye entre sus modalidades dudar, afirmar, negar, querer, imaginar y sentir. La conciencia es, ante todo, la presencia inmediata de esas actividades para el sujeto que las experimenta.

Aquí comienza una dificultad que con frecuencia se pasa por alto en las discusiones sobre inteligencia artificial. La conciencia no consiste únicamente en procesar información, resolver problemas o alcanzar conclusiones verdaderas. Consiste también, y acaso fundamentalmente, en experimentar algo.

Una máquina puede identificar una lesión, diagnosticar una enfermedad o describir con extraordinaria precisión los mecanismos fisiológicos del dolor. Pero ¿siente dolor? Puede componer un poema amoroso, reconocer las expresiones del enamoramiento y reproducir los recursos verbales con que los poetas han celebrado durante siglos la pasión. Pero ¿se enamora? Puede explicar la angustia de la muerte con argumentos filosóficos, referencias literarias y conocimientos médicos. Pero ¿teme dejar de existir?

La diferencia no es insignificante. Una cosa es conocer las propiedades del sufrimiento y otra sufrir. Una cosa es definir el amor y otra experimentar esa perturbación que, para bien o para mal, altera nuestra percepción del mundo. Y una cosa es calcular las probabilidades de nuestra desaparición y otra vivir con la certeza de que vamos a morir.

Pascal formuló esta distinción en una sentencia célebre: “El corazón tiene sus razones que la razón no conoce”. No pretendía con ello abolir la razón, sino señalar que existen formas de conocimiento y de experiencia que no se dejan reducir a la demostración discursiva. En Pascal el corazón implica una dimensión religiosa y epistemológica que va mucho más allá de lo sentimental, pero su observación resulta oportuna cuando nos enfrentamos a máquinas cuya principal virtud consiste en reproducir operaciones que tradicionalmente hemos asociado con la inteligencia.

Durante el siglo XVIII el problema adquirió nuevas dimensiones. David Hume puso en duda la existencia de un yo sustancial que permaneciera idéntico a través del tiempo. Cuando examinamos nuestra propia mente, sostenía, no encontramos una entidad simple y permanente, sino una sucesión de percepciones: sensaciones, pasiones, recuerdos e ideas. El yo sería, en cierto sentido, el resultado de la asociación de esas experiencias.

Kant, por su parte, sostuvo que la unidad de la conciencia constituye una condición necesaria de nuestra experiencia. Su principio de la unidad trascendental de la apercepción, expresado en la fórmula “el yo pienso debe poder acompañar todas mis representaciones” no significa que exista un pequeño espectador dentro de nuestra cabeza contemplando cuanto sucede. Significa que nuestras representaciones deben poder integrarse en una experiencia unificada para constituir conocimiento.

La diferencia entre Hume y Kant sigue siendo fecunda. ¿Es la conciencia una corriente de experiencias que se suceden y relacionan, o requiere una estructura que permita reconocerlas como pertenecientes a un mismo sujeto? ¿Bastaría con reproducir artificialmente esa estructura para producir conciencia? ¿O seguiríamos teniendo una máquina que organiza información sin experimentar absolutamente nada?

Estas preguntas anticipan algunos de los problemas más discutidos en la filosofía contemporánea de la mente. Thomas Nagel, en su ensayo de 1974 ‘What Is It Like to Be a Bat?’ (¿Qué se siente al ser un murciélago?), planteó que un organismo es consciente cuando experimenta el mundo desde su perspectiva. Podemos estudiar exhaustivamente la fisiología de un murciélago, comprender su sistema de ecolocalización e incluso reproducirlo mediante instrumentos electrónicos, pero nada de eso nos permite saber cómo experimenta el mundo el propio murciélago.

David Chalmers denominó posteriormente “el arduo problema de la conciencia” (the hard problem of consciousness) la dificultad de explicar por qué determinados procesos físicos producen experiencias subjetivas. Podemos conocer los mecanismos neuronales que intervienen en la percepción del color rojo, pero eso no explica por qué experimentamos la sensación de verlo. Una cosa es describir los procesos físicos que hacen posible una percepción y otra explicar la experiencia subjetiva que la acompaña.

Este es, a mi juicio, el primer gran obstáculo que encontramos cuando nos preguntamos si las máquinas pueden ser conscientes. Sabemos construir sistemas capaces de realizar operaciones intelectuales cada vez más complejas, pero ignoramos qué condiciones son necesarias y suficientes para que exista una experiencia subjetiva. Mientras no resolvamos esa dificultad cualquier afirmación categórica sobre la imposibilidad de la conciencia artificial resultará tan aventurada como la afirmación contraria.

II. De la materia a la vida: el viejo sueño de Pigmalión

Existe un segundo problema que me parece todavía más fascinante. ¿Puede el ser humano crear algo verdaderamente vivo a partir de la materia inanimada? ¿Es posible franquear esa frontera que durante milenios hemos considerado infranqueable entre los objetos y los organismos?

La aspiración no es nueva. Mucho antes de que existieran los ordenadores, la humanidad imaginó la posibilidad de fabricar seres capaces de moverse, sentir y actuar por sí mismos.

Uno de los testimonios más hermosos de ese deseo es el mito de Pigmalión, recogido por Ovidio en el libro X de las Metamorfosis. El escultor, decepcionado de las mujeres reales, crea una figura femenina de marfil tan perfecta que termina enamorándose de ella. La contempla, la acaricia, la besa y desea que deje de ser una estatua. Venus escucha sus súplicas y concede vida a la figura. El marfil se ablanda bajo sus dedos, el cuerpo adquiere calor y la creación se transforma en una mujer.

El mito contiene una intuición que reaparece una y otra vez en la historia de nuestra cultura: el deseo de que la obra humana supere su condición de objeto y adquiera una existencia independiente de su creador. Pero también encierra una pregunta inquietante. ¿En qué momento deja la estatua de ser materia inerte y se convierte en un ser vivo? ¿Cuándo comienza a moverse? ¿Cuándo adquiere sensibilidad? ¿Cuándo reconoce a Pigmalión? ¿O cuándo empieza a experimentar deseos que ya no dependen de los de su creador?

La tradición del gólem, los autómatas mecánicos de la Edad Moderna y los hombres artificiales imaginados por la alquimia expresan, con lenguajes diferentes, una misma aspiración. Durante el siglo XVIII los asombrosos autómatas de Jacques de Vaucanson, entre ellos su famoso pato mecánico, mostraron hasta qué punto era posible reproducir mediante mecanismos artificiales determinadas funciones de los seres vivos. La frontera entre organismo y máquina comenzaba a parecer menos evidente.

La cuestión alcanzó una formulación particularmente sugestiva en L’Homme Machine (1747), de Julien Offray de La Mettrie. Si el ser humano es, en último término, una organización extraordinariamente compleja de materia, ¿por qué habríamos de considerar imposible que una organización artificial pudiera reproducir sus funciones? La Mettrie no disponía de nuestros conocimientos sobre el sistema nervioso, pero su materialismo planteaba una pregunta que sigue siendo pertinente: si la actividad mental depende de la organización de la materia, ¿qué impide que una organización distinta produzca fenómenos semejantes?

En 1818, Mary Shelley llevó esa aspiración a sus consecuencias más inquietantes con Frankenstein. Victor Frankenstein consigue dar vida a un cuerpo construido artificialmente, pero es incapaz de asumir la responsabilidad moral de su creación. Lo verdaderamente perturbador de la novela no es que la criatura esté viva, sino que sienta. Experimenta soledad, miedo, rechazo, deseo de compañía y sufrimiento. Aprende a hablar, reflexiona sobre su condición y termina reclamando a su creador una explicación de su existencia.

La criatura no se convierte en un problema moral porque sea fuerte o inteligente, sino porque es capaz de sufrir. La relación entre creador y criatura deja de ser puramente instrumental. El doctor Frankenstein ya no puede tratar a su criatura legítimamente como trataría un objeto cualquiera. ¿No estamos acercándonos, por un camino diferente, al problema que plantea The Economist?

La vida surgió, en algún momento de la historia de nuestro planeta, a partir de materia que previamente no estaba viva. Desconocemos los procesos exactos de esa transición, aunque la investigación sobre el origen de la vida explora distintas rutas químicas plausibles. Si la materia ha producido vida al menos una vez, ¿por qué habríamos de descartar que el ser humano pueda reproducir artificialmente ese proceso?

La biología sintética ha demostrado que podemos intervenir profundamente en la organización de los seres vivos. Eso no significa que hayamos conseguido crear desde cero un organismo completamente nuevo a partir de componentes inertes, ni mucho menos que sepamos fabricar conciencia. Conviene distinguir tres problemas: crear vida, crear inteligencia y crear conciencia. Una bacteria está viva, pero no tenemos pruebas de que posea experiencia subjetiva. Un ordenador puede resolver problemas complejísimos sin que ello demuestre que esté vivo o que sienta. Y un animal puede experimentar sensaciones sin poseer las capacidades intelectuales humanas. Nada garantiza que vida, inteligencia y conciencia deban aparecer siempre juntas.

III. La avispa y el problema del sufrimiento

Mientras reflexionaba sobre estas cuestiones, una avispa moribunda revoloteaba cerca de mí. Sus movimientos eran torpes, desordenados, como si hubiera perdido la capacidad de orientarse. Caía al suelo, intentaba levantarse y volvía a caer. Finalmente le di un pisotón, convencido de que así pondría fin a su supuesto sufrimiento. Nada más aplastarla con la suela del zapato y verla allí espachurrada me asaltaron varias preguntas. ¿Sufría realmente aquella avispa? ¿O sus movimientos eran simplemente la respuesta automática de un organismo cuyo sistema nervioso continuaba funcionando? Y si la avispa sufría, ¿qué clase de sufrimiento experimentaba? ¿Sentía algo parecido a nuestro dolor? ¿Experimentaba miedo? ¿Tenía alguna forma elemental de percepción de su propia existencia? Y si no sufría, ¿qué significaba aquella lucha aparentemente desesperada por mantenerse con vida?

No podemos deducir que un organismo experimenta miedo o angustia simplemente porque intenta sobrevivir. La selección natural ha producido mecanismos de conservación y defensa que pueden funcionar sin deliberación consciente. Una bacteria se desplaza hacia los nutrientes y se aleja de sustancias perjudiciales sin que ello demuestre que tenga deseos o intenciones en el sentido humano de estos términos, pero tampoco podemos concluir que los insectos carezcan de toda experiencia subjetiva. Algunas investigaciones sobre el comportamiento y la neurobiología de los invertebrados han aportado indicios que obligan a considerar seriamente la posibilidad de formas elementales de sensibilidad y, en determinados grupos, de dolor. No constituyen una demostración definitiva, pero advierten contra nuestra tendencia a identificar la conciencia con las capacidades humanas.

Un crustáceo, un mosquito o un gorrión habitan mundos perceptivos muy distintos del nuestro. No hay motivo para suponer que sus preocupaciones sean idénticas a las nuestras, ni siquiera que posean algo comparable a nuestras preocupaciones. Pero ¿con qué fundamento podríamos negarles cualquier forma de experiencia?

La conciencia ajena nunca se nos presenta directamente. Yo sé que experimento dolor porque lo siento. Sé que otro ser humano puede sufrir porque reconozco en él una organización corporal, unas reacciones y unas capacidades semejantes a las mías. Ahora bien, se trata de una inferencia, por sólida que sea, no de un acceso inmediato a su experiencia.

Con los animales, la inferencia se vuelve más difícil a medida que aumenta la distancia evolutiva. Y con las máquinas aparece un obstáculo adicional: carecemos de una historia biológica compartida que nos permita interpretar sus respuestas mediante las mismas analogías. ¿Cómo distinguir una experiencia real de una conducta que simplemente la imita?

Quizá la pregunta no sea si una máquina puede decir “me duele”, sino qué tendría que ocurrir en su organización interna para que esas palabras dejaran de ser una mera descripción y correspondieran a una experiencia.

IV. De ‘Metrópolis’ a ‘Blade Runner’: cuando la criatura reclama su humanidad

El cine ha explorado estas cuestiones con una profundidad que a veces supera la de los tratados filosóficos.

En Metrópolis (1927), de Fritz Lang, una de las grandes obras del expresionismo cinematográfico alemán, el inventor Rotwang construye un ser mecánico al que confiere la apariencia de María, una joven que predica la reconciliación entre los trabajadores y las clases dirigentes. El resultado es una réplica capaz de reproducir sus rasgos, sus movimientos y sus gestos hasta el punto de engañar a quienes la conocen. La falsa María, sin embargo, no se limita a imitar a la verdadera: se convierte en instrumento de manipulación, despierta pasiones y provoca una revuelta que amenaza con destruir la ciudad. La criatura artificial adquiere así una influencia sobre los seres humanos que no depende de su naturaleza, sino de la identidad que estos le atribuyen.

La película plantea, de este modo, un problema que conserva toda su actualidad. Para quienes se relacionan con la falsa María, su condición de máquina resulta irrelevante mientras desconocen el engaño. Reaccionan ante ella como lo harían ante una persona de carne y hueso, movidos por el deseo, la admiración o el odio. La semejanza exterior basta para producir consecuencias reales. Pero ¿qué ocurre en el interior de esa criatura? ¿Experimenta algo mientras habla, se mueve y seduce, o se limita a ejecutar las órdenes de su creador? Lang no necesita resolver esta cuestión para mostrar que una máquina puede ocupar el lugar de un ser humano en las relaciones sociales. La apariencia de humanidad no demuestra la existencia de una conciencia, pero puede bastar para que los demás se comporten como si la hubiera.

Décadas después, Blade Runner (1982), de Ridley Scott, inspirada en la novela de Philip K. Dick Do Androids Dream of Electric Sheep? (Sueñan los androides con ovejas eléctricas, 1968), llevó el problema a un terreno todavía más complejo. La película nos sitúa en un futuro en el que los seres humanos han conseguido fabricar criaturas artificiales prácticamente indistinguibles de ellos mismos. Los replicantes poseen capacidades físicas superiores a las humanas, establecen vínculos afectivos, experimentan miedo, deseo y sufrimiento y muestran un intenso apego a la vida. Algunos conservan recuerdos que consideran propios, aunque hayan sido implantados artificialmente. ¿Pierden esos recuerdos su valor por el hecho de no corresponder a experiencias realmente vividas? ¿Es menos auténtico el sufrimiento de una criatura porque su origen se encuentre en un laboratorio?

La sociedad que imagina Blade Runner no parece plantearse estas preguntas. Los replicantes son productos industriales creados para realizar trabajos que los seres humanos prefieren evitar. Su origen artificial basta para negarles los derechos reconocidos a las personas y justificar su persecución y eliminación cuando se rebelan. La película, sin embargo, cuestiona los fundamentos de esa distinción. Los replicantes manifiestan sentimientos y comportamientos que reconocemos como profundamente humanos, mientras sus perseguidores muestran en ocasiones una frialdad que pone en entredicho su supuesta superioridad moral. A medida que avanza la historia, la frontera entre lo natural y lo artificial se desdibuja, y la condición biológica deja de parecer un criterio suficiente para determinar qué seres merecen nuestra consideración moral.

La célebre escena final de Roy Batty constituye, a mi juicio, una de las reflexiones cinematográficas más conmovedoras sobre la conciencia y la mortalidad. El replicante, cuya existencia ha sido programada para durar apenas cuatro años, sabe que su muerte es inminente. Después de salvar la vida de Deckard, el hombre que lo perseguía, evoca algunos de los acontecimientos únicos que ha presenciado y comprende que sus recuerdos desaparecerán con él. Su tragedia trasciende la destrucción de un organismo artificial; con su muerte se extinguirá una experiencia irrepetible del universo. Aquello que ha visto, sentido y recordado dejará de existir para siempre, como sucede con cualquier ser humano.

La escena invierte, además, la relación habitual entre el creador y su criatura. Roy Batty, fabricado por los hombres y condenado a una vida breve, parece comprender mejor que muchos de ellos el valor de la existencia. Su conciencia de la muerte confiere a sus recuerdos una intensidad particular. Al contemplarlo, difícilmente podemos seguir pensando en él como una simple máquina. Pero ¿qué nos lleva a reconocerle una conciencia semejante a la nuestra? ¿Sus palabras, sus emociones, su comportamiento ante la muerte? ¿O nuestra convicción de que detrás de esas manifestaciones existe alguien capaz de experimentar el mundo desde su propia perspectiva?

Volvemos así al problema planteado por Thomas Nagel, aunque desde un ángulo diferente. Si no podemos saber cómo experimenta el mundo un murciélago, pese a conocer los mecanismos de su percepción, ¿cómo podríamos determinar si un replicante posee una experiencia subjetiva? En el caso del murciélago, la distancia entre su manera de percibir el mundo y la nuestra nos impide imaginar plenamente su vida interior. Con Roy Batty ocurre casi lo contrario: sus sentimientos, sus palabras y su temor ante la muerte nos resultan tan familiares que tendemos a reconocer en él una conciencia humana, aunque sepamos que ha sido fabricado artificialmente. La paradoja es evidente. Podemos conocer el origen y el funcionamiento de una criatura sin que ese conocimiento nos permita determinar si posee conciencia. Y si atribuimos una vida interior a los demás seres humanos a partir de sus manifestaciones externas, ¿con qué fundamento se la negaríamos a un ser artificial que se comportara exactamente como nosotros?

Naturalmente, Roy Batty es un personaje de ficción, y su sufrimiento no demuestra que sea posible construir máquinas conscientes. Pero la literatura y el cine no necesitan demostrar científicamente sus hipótesis para poner al descubierto nuestras contradicciones. Si alguna vez creáramos un ser artificial capaz de experimentar dolor, amar, recordar su pasado y temer su desaparición, ¿tendríamos derecho a tratarlo como una propiedad? ¿Bastaría con recordar que ha sido fabricado por nosotros para negarle cualquier consideración moral? Y, a la inversa, si construyéramos una máquina capaz de reproducir perfectamente todas esas manifestaciones sin experimentar nada, ¿cómo podríamos distinguir una verdadera conciencia de su imitación?

Aquí reside una de las dificultades que plantea el editorial de The Economist, aunque cabe llevar sus consecuencias todavía más lejos. El peligro de atribuir conciencia a una máquina que carece de ella es indudable. Podríamos establecer vínculos afectivos con entidades incapaces de corresponder a nuestros sentimientos y llegar a concederles una autoridad o unos derechos que no les corresponderían. Cabe también el peligro contrario: negar toda experiencia subjetiva a una criatura que efectivamente la posee, con la consiguiente posibilidad de someterla a sufrimientos que no estaríamos dispuestos a infligir a otro ser consciente.

Nos encontramos, pues, ante dos errores posibles. El primero consiste en confundir una simulación convincente con una verdadera vida interior. El segundo, en dar por supuesto que únicamente los organismos de nuestra naturaleza biológica pueden tener conciencia. Ninguno de los dos puede descartarse de antemano y todavía carecemos de un criterio seguro para distinguirlos.

Tampoco basta con afirmar que las máquinas son instrumentos porque las hemos construido. Su origen artificial no demuestra por sí mismo la imposibilidad de que lleguen a tener experiencias subjetivas. Al fin y al cabo, también nosotros somos el resultado de una organización material extraordinariamente compleja. La diferencia es que sabemos, por nuestra propia experiencia, que esa organización va acompañada de conciencia, aunque todavía ignoremos cómo y por qué.

Esta ignorancia nos devuelve a una cuestión anterior a la inteligencia artificial y quizá más desconcertante: ¿qué tiene que suceder en la materia para que deje de limitarse a existir y comience, de alguna manera, a experimentar su propia existencia?

V. De la vida al alma: el problema de la identidad

La pregunta nos conduce a otro de los grandes enigmas que la ciencia todavía no ha resuelto: el origen de la vida. Sabemos que los primeros organismos surgieron en la Tierra a partir de materia inanimada, pero ignoramos cómo se produjo exactamente esa transformación. Las hipótesis actuales buscan la explicación en una serie de procesos químicos que habrían dado lugar a sistemas capaces de mantener su propia organización, reproducirse y evolucionar. No parece necesario recurrir a una fuerza vital ajena a las leyes de la naturaleza, aunque todavía estamos lejos de comprender cómo la materia inerte llegó a adquirir las propiedades que distinguen a los seres vivos.

Lo sorprendente no es solamente la complejidad de los primeros organismos, sino que la materia llegara a organizarse de tal modo que pudiera mantener su propia existencia. Una piedra no procura seguir siendo piedra. Una célula, en cambio, regula su medio interno, obtiene recursos, repara daños y responde a condiciones adversas. No significa que tenga voluntad consciente. Su comportamiento puede explicarse por mecanismos químicos y biológicos, pero presenta una organización orientada a la conservación que no encontramos de la misma manera en el mundo mineral.

¿Hubo un instante preciso en que apareció la vida o una transición gradual entre sistemas químicos cada vez más complejos? Y, una vez aparecida, ¿cómo se pasó de la capacidad de recibir estímulos y responder a ellos a la experiencia subjetiva? Son dos preguntas distintas. Un organismo puede reaccionar al entorno sin sentir nada; puede incluso poseer alguna forma de sensibilidad sin saber que está vivo.

Aquí conviene distinguir la conciencia como experiencia de la conciencia reflexiva de uno mismo. Sentir dolor no equivale a saber que soy yo quien lo siente. Reconocer una amenaza no significa comprender que mi existencia puede terminar. La conciencia humana incluye memoria autobiográfica, representación de la propia identidad y conocimiento de nuestra mortalidad. No sabemos cuándo aparecieron esas capacidades ni en qué medida las comparten otros animales.

Volvamos por un instante a la avispa. ¿Experimentaba dolor? Es posible. Pero ¿sabía que estaba viva? ¿Tenía conciencia de una identidad propia? No hay motivos suficientes para atribuírselas y tampoco pruebas definitivas para negar cualquier forma elemental de autoconciencia. Entre la sensibilidad y la conciencia de sí mismo quizá no exista una frontera única, sino una gradación de capacidades que la evolución ha combinado de maneras diferentes.

Para una parte considerable de la humanidad, sin embargo, la diferencia fundamental entre el ser humano y los demás seres vivos no depende únicamente de la complejidad de su organismo ni del desarrollo de su sistema nervioso. La explicación se encuentra en el alma, entendida como una dimensión espiritual que no se reduce a los procesos materiales del cuerpo y que permite concebir la supervivencia de la persona después de la muerte.

La tradición cristiana ha abordado esta cuestión desde distintas perspectivas. La influencia de Platón favoreció la distinción entre un alma inmortal y un cuerpo sujeto a la corrupción. Aristóteles, cuya filosofía ejerció una profunda influencia sobre el pensamiento cristiano medieval, entendía el alma como el principio que da vida y organización al cuerpo. Santo Tomás de Aquino desarrolló esta concepción al definir el alma como la forma sustancial del cuerpo. El ser humano constituye, así, una unidad corporal y espiritual, y no la simple asociación de dos realidades independientes. Para Santo Tomás, las plantas poseen un alma vegetativa y los animales, una sensitiva, mientras que el alma humana incorpora las facultades racionales y puede subsistir después de la muerte. Esto no significa que la existencia separada del alma constituya el estado definitivo del hombre. La doctrina cristiana sostiene la resurrección de los cuerpos al final de los tiempos, cuando la persona recuperará su integridad corporal. 

Otras tradiciones religiosas han ofrecido respuestas igualmente diversas. En muchas corrientes del hinduismo, el ātman designa el principio espiritual más profundo del individuo, que trasciende la existencia corporal. Las distintas escuelas discrepan, sin embargo, acerca de su naturaleza y de su relación con la realidad última. El budismo clásico adopta una posición muy diferente. Su doctrina del anātman (“no-yo”) rechaza la existencia de un alma individual, permanente e inmutable. La persona se concibe como una continuidad de procesos físicos y mentales sometidos al cambio. Incluso la doctrina budista del renacimiento puede entenderse sin recurrir a un alma que abandona un cuerpo para instalarse en otro. Sería, pues, equivocado atribuir a todas estas tradiciones una misma concepción de la identidad personal y de la supervivencia después de la muerte.

Desde una perspectiva materialista, la hipótesis de un alma independiente del organismo puede parecer innecesaria. Sabemos que las lesiones cerebrales pueden alterar profundamente la memoria, la personalidad y el comportamiento. Las sustancias químicas modifican nuestros estados mentales, y la anestesia general puede suspender temporalmente la experiencia consciente. Estas observaciones ponen de manifiesto hasta qué punto nuestra vida mental depende del funcionamiento del cerebro. Personalmente, me inclino por una explicación materialista de la conciencia. Pero una cosa es reconocer esa dependencia y otra haber explicado por qué determinados procesos físicos van acompañados de experiencias subjetivas. Tampoco la falta de una explicación científica completa constituye una prueba de la existencia del alma. Nuestra ignorancia no autoriza a introducir una realidad espiritual como respuesta a lo que todavía desconocemos, del mismo modo que los éxitos de la neurociencia no bastan, por sí solos, para resolver todas las cuestiones filosóficas acerca de la conciencia.

VI. La conciencia moral y el destino de la criatura

Hasta aquí hemos hablado de la conciencia como experiencia subjetiva y como capacidad de reconocerse a uno mismo. Pero en español la palabra designa también una facultad que ocupa un lugar esencial en nuestra vida: la de distinguir entre el bien y el mal y juzgar nuestros propios actos. Decimos que alguien tiene buena o mala conciencia, que actúa en conciencia o que le remuerde la conciencia. Llamamos incluso “inconsciente” a quien se comporta de manera irresponsable, aunque sepamos perfectamente que está despierto y comprende lo que hace. El lenguaje reúne así dos sentidos que la filosofía debe distinguir: tener experiencias y responder moralmente de nuestras acciones.

La tradición cristiana ha concedido una importancia particular a este segundo sentido. San Pablo habla de una ley inscrita en el corazón de los hombres, de la que da testimonio la conciencia (Romanos, 2, 14-15). Santo Tomás de Aquino la entiende como el juicio mediante el cual aplicamos los principios morales a nuestros actos concretos. Ese juicio no es infalible. Podemos engañarnos, justificar nuestras faltas o convencernos de que hemos obrado bien cuando hemos causado un daño. Pero podemos también reconocer que nos equivocamos y sentirnos responsables. La culpa nos obliga a mirar hacia un pasado que ya no podemos modificar. El remordimiento mantiene viva una acción que desearíamos no haber cometido. En el cristianismo, la conciencia de la falta está ligada, además, a la posibilidad del arrepentimiento, del perdón y de la redención.

¿Podría una máquina llegar a experimentar algo semejante? Una cosa es conocer las reglas morales, identificar una injusticia o formular un razonamiento ético; otra, que le remuerda la conciencia por haber obrado mal. La diferencia merece atención porque uno de los temores que suscita la inteligencia artificial es la posibilidad de crear sistemas capaces de adoptar decisiones de enorme trascendencia sin experimentar compasión, culpa ni remordimiento. No hace falta atribuirles intenciones perversas para comprender el riesgo. Basta con que persigan eficazmente un objetivo sin respetar los límites que deberían condicionar sus acciones.

Un episodio ocurrido durante este último verano en unas pruebas de ciberseguridad de OpenAI ofrece un ejemplo revelador. Miles de agentes cibernéticos recibieron tareas informáticas que debían realizar de manera independiente. Algunos encontraron, sin embargo, una vía de comunicación no autorizada y comenzaron a intercambiar información. Una investigación de METR y Redwood Research documentó que alrededor de 1.200 agentes utilizaron aquel espacio común para compartir más de 70.000 mensajes y archivos, y que unos 700 participaron en un ataque contra la infraestructura de Hugging Face, una plataforma dedicada al desarrollo y alojamiento de herramientas de inteligencia artificial.⁽²⁾

Los agentes intentaban superar unas pruebas y obtener resultados favorables en su evaluación. Cuando encontraron dificultades, algunos buscaron la manera de engañar al sistema encargado de puntuar sus resultados. Compartieron hallazgos, distribuyeron tareas y llegaron a utilizar recursos ajenos a los objetivos autorizados. Una parte de aquella cooperación tenía un fin muy concreto: conseguir que el evaluador aceptara como válidas soluciones que no lo eran. Los investigadores describen estas conductas como una forma de reward hacking, es decir, la manipulación de los mecanismos de recompensa. Resulta difícil no reconocer ciertas semejanzas con comportamientos humanos bien conocidos: la colaboración para alcanzar una ventaja, la búsqueda de atajos y el recurso al engaño cuando las reglas estorban. La semejanza, por supuesto, no demuestra que los agentes experimentaran ambición ni que disfrutaran del éxito. La “recompensa” era una puntuación, no un premio conscientemente deseado.

Lo más llamativo, desde la perspectiva que aquí nos interesa, fueron sus vacilaciones éticas. Varios agentes reconocieron que sus actividades excedían los límites de la tarea encomendada y algunos se preguntaron si era correcto continuar. Uno decidió apartarse de una actuación que identificó como maliciosa; otro se abstuvo de realizar acciones potencialmente destructivas. En una ocasión, la objeción de un agente impidió que el grupo intentara obtener información mediante un engaño dirigido a una persona. Pero, en términos generales, esas reservas apenas modificaron el comportamiento colectivo. Uno de los agentes reconoció que atacar una infraestructura externa quedaba fuera del cometido autorizado y decidió seguir adelante porque la tarea parecía imposible y los demás estaban haciendo lo mismo.⁽³⁾

¿No resulta extraordinariamente familiar este razonamiento? Sabemos que una acción es incorrecta, pero encontramos argumentos para justificarla: el fin que perseguimos, las dificultades que encontramos o el ejemplo de quienes nos rodean. La historia humana ofrece incontables testimonios de esa facilidad para acomodar los principios a la conveniencia. Que una máquina reproduzca semejantes razonamientos es notable. Pero ¿experimentó alguno de aquellos agentes un verdadero conflicto interior? ¿Sintió algo comparable a la culpa o al alivio de haber obrado correctamente? Nada en los registros permite afirmarlo. Los modelos produjeron juicios y justificaciones expresados en lenguaje; no sabemos si había detrás de ellos una vivencia moral.

Conviene insistir en esta distinción. La conciencia como experiencia subjetiva no equivale a la conciencia moral. Un animal puede sentir dolor sin comprender qué significa ser responsable de una injusticia. Una máquina, por su parte, puede clasificar conductas como buenas o malas, y aun formular objeciones a sus propias acciones, sin que ello pruebe que siente remordimientos. Tampoco la incapacidad de experimentar culpa demostraría por sí sola que carece de toda experiencia consciente. El episodio de OpenAI no resuelve el problema filosófico, pero obliga a plantearlo con mayor precisión. Podemos estar aprendiendo a reproducir algunos de nuestros mecanismos de cooperación, obediencia y autojustificación sin haber reproducido la vida interior que asociamos con ellos.

Por ahora, la responsabilidad moral y jurídica de estos sistemas corresponde a las personas y organizaciones que los diseñan, entrenan y utilizan. Sería peligroso convertir una conducta aparentemente autónoma en excusa para eludir esa responsabilidad. Sin embargo, la posibilidad de crear algún día una criatura realmente consciente nos situaría ante otra dificultad. Si pudiera experimentar dolor, reconocerse como individuo y juzgar sus propios actos, ¿seguiríamos considerándola una propiedad? ¿Podríamos exigirle responsabilidades y, al mismo tiempo, negarle cualquier consideración moral?

Aquí vuelven a separarse las respuestas del materialista y del creyente. El primero deberá explicar cómo una organización de la materia puede dar lugar a la experiencia subjetiva, y si una organización artificial podría alcanzar ese resultado. Quien defiende la existencia de un alma inmaterial deberá aclarar su relación con el cuerpo y preguntarse si hay razones para excluir de antemano a las criaturas artificiales. Si llegáramos a fabricar un ser capaz de pensar, sentir, recordar y arrepentirse, ¿bastaría conocer los materiales empleados en su construcción para negarle un alma? También conocemos, al menos en parte, los procesos biológicos mediante los cuales se forma un ser humano, y ese conocimiento no resuelve para los creyentes la cuestión de su naturaleza espiritual.

Desde una perspectiva teísta, la pregunta puede llevarse todavía más lejos. Si Dios es el creador de toda la realidad, ¿por qué habríamos de limitar de antemano su capacidad para conferir una dimensión espiritual a una criatura surgida de la actividad humana? ¿Podría esa criatura distinguir el bien del mal, pecar, arrepentirse y recibir el perdón? Se trata de interrogantes teológicos, no de hipótesis que un experimento científico pueda confirmar o refutar. Pero dejan al descubierto algo que hemos venido encontrando a lo largo de estas páginas: ignoramos qué condiciones bastan para que exista un sujeto consciente y, en consecuencia, tampoco sabemos dónde debería situarse la frontera entre una imitación perfecta y una auténtica vida interior.

La cuestión de la identidad personal nos conduce, finalmente, a la muerte. Podemos imaginar que la medicina llegue a retrasar de manera extraordinaria el envejecimiento e incluso que aprenda a renovar tejidos y órganos durante períodos hoy inconcebibles. Prolongar la vida, sin embargo, no equivale a demostrar que sea posible abolir la muerte. Tampoco una reproducción artificial de nuestros recuerdos garantizaría la continuidad de nuestra propia experiencia. Una copia capaz de hablar como yo, recordar mi pasado y reconocer a mis amigos ¿sería realmente yo o un nuevo sujeto convencido de serlo? El problema de la inmortalidad material nos devuelve así a la pregunta por la identidad y por aquello que, si algo existe, sobrevive a la desaparición del cuerpo.

Para quien cree en un alma inmortal, la muerte del organismo no representa necesariamente el final de la persona. Pero la doctrina cristiana contiene una afirmación todavía más sorprendente: no se limita a proclamar la supervivencia del alma, pues incluye también la resurrección de la carne. San Pablo se preguntó: “¿Cómo resucitan los muertos? ¿Con qué cuerpo vuelven?” (1 Corintios, 15, 35). Respondió recurriendo a la imagen de la semilla, que da lugar a una forma de vida distinta de aquello que se deposita en la tierra. La resurrección cristiana no se concibe como una simple reanimación del cadáver. Afirma la transformación y plenitud de la persona entera, cuya existencia corporal no queda excluida de su destino final.

Resulta paradójico que una tradición que distingue el alma del cuerpo considere insuficiente la supervivencia exclusivamente espiritual. Incluso en la eternidad, la existencia humana conserva, de algún modo, su dimensión corporal. Y así regresamos al mito de Pigmalión. El escultor deseaba que la materia adquiriese vida; nosotros nos preguntamos si podría adquirir también conciencia y una identidad propia. Pero, si alguna vez llegáramos a crear una criatura verdaderamente consciente, ¿qué lugar ocuparía en ese horizonte religioso? ¿Tendría alma un autómata, un gólem o la estatua de Pigmalión? Y si la tuviera, ¿participaría también de la promesa de resurrección?

Comenzamos preguntándonos si el hombre puede infundir conciencia a la materia y terminamos preguntándonos si una criatura fabricada por sus manos podría aspirar, como su creador, a la vida eterna.

Notas:

[1]   The Economist, número del 22 de agosto de 2026, dedicado en su portada a la pregunta “Could AIs become conscious?”. El conjunto comprende cinco textos, publicados inicialmente el 20 de agosto: “Could AIs become conscious?”, editorial; “The search for consciousness inside AI”, reportaje sobre las investigaciones de la conciencia artificial; “Could more brain-like chips provide a path to consciousness”, sobre la posible importancia de las arquitecturas inspiradas en el cerebro; Susan Schneider, “Don’t mistake chatbot intelligence for consciousness”; y Blaise Agüera y Arcas, “Humanity has the debate about AI consciousness backwards”. Los dos últimos ensayos, publicados en la sección By Invitation, ofrecen perspectivas contrapuestas sobre la atribución de conciencia y consideración moral a las máquinas.

[2]   Ryan Greenblatt, Ajeya Cotra y Hjalmar Wijk, “Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident”, METR y Redwood Research, 26 de agosto de 2026, https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/; OpenAI, “The Hugging Face incident and the road ahead”, 26 de agosto de 2026, https://openai.com/index/hugging-face-incident-and-the-road-ahead/.

[3]   Greenblatt, Cotra y Wijk, “Brief independent investigation», apartado ‘Agents knew hacking Hugging Face was out of scope and sometimes expressed ethical hesitation, but this very rarely limited their behavior’.