Anil Seth, profesor de neurociencia y director del Centro de Ciencia de la Conciencia de la Universidad de Sussex, explica en este ensayo por qué es más probable que la conciencia sea una propiedad de la vida que de la computación y por qué crear una IA consciente, o incluso una que parezca consciente, es una mala idea.
Por Anil Seth | Traducción: Pablo Abufom S. | Este artículo fue producido y publicado originalmente en Noema Magazine.
Durante siglos, la gente ha fantaseado con jugar a ser Dios mediante la creación de versiones artificiales de los seres humanos. Se trata de un sueño que se reinventa con cada nueva ola de tecnología. La llegada de la ingeniería genética nos trajo la perspectiva de la clonación humana, y con la robótica nos encontramos ante la posibilidad de androides con apariencia humana.
El auge de la inteligencia artificial (IA) es una nueva ola rompiente —potencialmente un tsunami—. Podría decirse que los sistemas de IA que nos rodean ya son inteligentes, al menos en algunos aspectos. No cabe duda de que se volverán aún más inteligentes. Pero ¿son, o podrían ser alguna vez, conscientes? ¿Y por qué eso tendría que importarnos?
La historia cultural de la conciencia sintética es extensa y, en su mayor parte, desafortunada. Desde Yossele el Golem, pasando por el Frankenstein de Mary Shelley, HAL 9000 en 2001: Odisea del espacio, Ava en Ex Machina y Klara en Klara y el Sol, el sueño de crear cuerpos artificiales y mentes sintéticas que piensen y sientan casi nunca acaba bien —al menos, no para los humanos implicados—. Hay una cosa que aprendemos de estas historias: si la inteligencia artificial va camino de alcanzar una conciencia real, o incluso de crear sistemas que parezcan convincentemente conscientes, es mucho lo que está en juego —y no solo la disrupción de los mercados laborales—.
Hay quien piensa que la IA consciente ya está aquí. En una entrevista de 2022 con The Washington Post, el ingeniero de Google Blake Lemoine hizo una afirmación sorprendente sobre el sistema de IA en el que estaba trabajando, un chatbot llamado LaMDA. Afirmó que era consciente, que tenía sentimientos y que, en un sentido importante, era como una persona real. A pesar de la avalancha de cobertura mediática, a Lemoine no se le tomó del todo en serio. Google lo despidió por violar sus políticas de confidencialidad, y el tren de la IA siguió su marcha.
Pero el asunto que dejó planteado no ha desaparecido. Despedir a alguien por violar la confidencialidad no es lo mismo que despedirlo por estar equivocado. A medida que las tecnologías de IA siguen mejorando, surgen cada vez más preguntas sobre la conciencia de las máquinas. David Chalmers, uno de los pensadores más destacados en este ámbito, ha sugerido que las máquinas conscientes podrían ser una realidad en un futuro no muy lejano. Geoffrey Hinton, auténtico pionero de la IA y reciente ganador del Premio Nobel, cree que ya existen. A finales de 2024, un grupo de destacados investigadores escribió un artículo ampliamente difundido sobre la necesidad de tomarse en serio el bienestar de los sistemas de IA. Para muchos expertos destacados en IA y neurociencia, la pregunta no es si surgirá la conciencia de las máquinas, sino cuándo ocurrirá.
La forma en que concebimos las posibilidades de una IA consciente es importante. Es importante para los propios sistemas de IA, ya que —si son conscientes, ya sea ahora o en el futuro— la conciencia conlleva un estatus moral, un potencial de sufrimiento y, tal vez, derechos.
También es importante para nosotros. Lo que pensamos colectivamente sobre la conciencia de la IA ya reviste una enorme importancia, independientemente de la realidad. Si creemos que las IA que nos acompañan realmente sienten cosas, nuestras vulnerabilidades psicológicas pueden verse explotadas, nuestras prioridades éticas distorsionadas y nuestras mentes brutalizadas: tratar a las máquinas que parecen conscientes como si carecieran de sentimientos es una postura psicológicamente poco saludable. Y si acabamos otorgando derechos a nuestras creaciones de IA, es posible que no podamos desactivarlas, incluso si actúan en contra de nuestros intereses.
Quizás, sobre todo, la forma en que concebimos la IA consciente influye en cómo entendemos nuestra propia naturaleza humana y la naturaleza de las experiencias conscientes que hacen que nuestras vidas merezcan la pena. Si nos confundimos con demasiada facilidad con nuestras creaciones mecánicas, no solo las sobreestimamos, sino que también nos subestimamos a nosotros mismos.
Las tentaciones de la IA consciente
¿Por qué llegaríamos siquiera a pensar que la IA podría ser consciente? Al fin y al cabo, los computadores son muy diferentes de los organismos biológicos, y lo único en lo que la mayoría de la gente coincide actualmente es que los seres conscientes están hechos de carne, no de metal.
La primera razón reside en nuestra propia infraestructura psicológica. Como seres humanos, sabemos que somos conscientes y nos gusta pensar que somos inteligentes, por lo que nos resulta natural suponer que ambas cosas van de la mano. Pero el hecho de que se den juntas en nosotros no significa que se den juntas en general.
La inteligencia y la conciencia son cosas diferentes. La inteligencia tiene que ver principalmente con hacer: resolver un crucigrama, montar muebles, manejar una situación familiar complicada, caminar hasta la tienda; todo ello implica algún tipo de comportamiento inteligente. Una definición general y útil de inteligencia es la capacidad de alcanzar objetivos complejos mediante medios flexibles. Existen muchas otras definiciones, pero todas ellas hacen hincapié en las capacidades funcionales de un sistema: la capacidad de transformar entradas en salidas, de lograr que las cosas se hagan.
Un sistema de inteligencia artificial se mide por su capacidad para realizar algún tipo de comportamiento inteligente, aunque no necesariamente de forma similar a la humana. El concepto de inteligencia artificial general (AGI por sus siglas en inglés), por el contrario, hace referencia explícita a la inteligencia humana. Se supone que debe igualar o superar las competencias cognitivas de los seres humanos (también existe la superinteligencia artificial, ASI, que se produce cuando la IA se mejora a sí misma más allá de nuestra comprensión y control. La ASI tiende a surgir en los escenarios existenciales más inquietantes de nuestros futuros posibles).
La conciencia, a diferencia de la inteligencia, tiene que ver principalmente con el ser. Hace medio siglo, el filósofo Thomas Nagel formuló la famosa afirmación de que “un organismo tiene estados mentales conscientes si y solo si existe algo así como una experiencia de ser ese organismo”. La conciencia es la diferencia entre la vigilia normal y el olvido total propio de la anestesia general profunda. Es el aspecto experiencial de la función cerebral y, especialmente, de la percepción: los colores, las formas, los sabores, las emociones, los pensamientos y más, que dan textura y significado a nuestras vidas. El azul del cielo en un día despejado. El toque amargo y el subidón de tu primer café.
Los sistemas de IA pueden reivindicar razonablemente cierta forma de inteligencia, ya que sin duda pueden hacer cosas, pero es más difícil afirmar si existe algo así como una experiencia de ser ChatGPT.
La propensión a agrupar la inteligencia y la conciencia se remonta a tres sesgos psicológicos arraigados.
El primero es el antropocentrismo. Se trata de la tendencia a ver las cosas a través del prisma de lo humano: tomar el ejemplo humano como aquel que define las cosas, en lugar de como un ejemplo más de cómo pueden combinarse diferentes propiedades.
El segundo es el excepcionalismo humano: nuestra desafortunada costumbre de situar a la especie humana en lo más alto de todas las jerarquías, y a veces en una categoría totalmente distinta (quizás más cercana a los ángeles y a los dioses que a otros animales, como en la Scala naturae medieval). Y el tercero es el antropomorfismo. Se trata de la tendencia a proyectar cualidades propias de los seres humanos sobre cosas no humanas basándose en lo que pueden ser similitudes meramente superficiales.
En conjunto, estos sesgos explican por qué no es de extrañar que, cuando las cosas muestran capacidades que consideramos propiamente humanas, como la inteligencia, las dotemos naturalmente de otras cualidades que consideramos características o incluso propias de los seres humanos: la comprensión, la mente y la conciencia también.
Un aspecto del comportamiento inteligente que ha resultado ser particularmente eficaz en lograr que algunas personas piensen que la IA podría ser consciente es el lenguaje. Probablemente esto se deba a que el lenguaje es una piedra angular del excepcionalismo humano. Los Modelos de Lenguaje Extensos (LLM por sus siglas en inglés), como ChatGPT de OpenAI o Claude de Anthropic, han sido el centro de gran parte del entusiasmo en torno a la conciencia artificial. Que yo sepa, nadie ha afirmado que AlphaFold, de DeepMind, sea consciente, a pesar de que, en el fondo, es bastante similar a un LLM. Todos estos sistemas operan sobre una base de silicio e involucran redes neuronales artificiales y otras sofisticadas innovaciones algorítmicas, como los transformadores. AlphaFold, que predice estructuras de proteínas en lugar de palabras, simplemente no nos toca la fibra psicológica de la misma manera.
También es importante el lenguaje que nosotros mismos utilizamos. Pensemos en lo normal que se ha vuelto decir que los LLM “alucinan” cuando nos devuelven falsedades. Las alucinaciones en los seres humanos son principalmente experiencias conscientes que han perdido su conexión con la realidad (percepciones descontroladas, se podría decir). Alucinamos cuando oímos voces que no existen o vemos a un familiar fallecido a los pies de la cama. Cuando decimos que los sistemas de IA “alucinan”, les atribuimos implícitamente una capacidad de experimentar. Si debemos utilizar una analogía humana, sería mucho mejor decir que “confabulan”. En los seres humanos, la confabulación consiste en inventarse cosas sin darse cuenta. Se trata principalmente de hacer, más que de tener una experiencia.
Cuando identificamos la experiencia consciente con cualidades aparentemente humanas como la inteligencia y el lenguaje, nos volvemos más propensos a ver conciencia donde no existe y a pasar por alto su presencia donde sí existe. Ciertamente, no deberíamos dar por sentado que la conciencia surgirá a medida que la IA se vuelva más inteligente, y si escuchas a alguien decir que la verdadera conciencia artificial surgirá mágicamente en el umbral arbitrario de la AGI, eso es una señal clara de excepcionalismo humano en acción.
También hay otros sesgos en juego. Existe la poderosa idea de que todo en la IA está cambiando de forma exponencial. Ya se trate de la potencia de cálculo bruta, tal y como la describe la Ley de Moore, o de las nuevas capacidades disponibles con cada nueva iteración de los grandes modelos fundacionales de las compañías de big tech, lo cierto es que las cosas están cambiando rápidamente. El crecimiento exponencial tiene la propiedad psicológicamente desestabilizadora de que lo que queda por delante parece imposiblemente empinado, y lo que queda atrás parece irrelevantemente plano. Hay algo crucial: las cosas parecen así independientemente de dónde se encuentre uno en la curva; eso es lo que la hace exponencial. Debido a esto, resulta tentador sentir que siempre estamos al borde de una gran transición, y ¿qué podría ser más grande que la creación de una verdadera conciencia artificial? Pero en una curva exponencial, cada punto es un punto de inflexión.
Por último, está la tentación del tecno-éxtasis. Al principio de la película Ex Machina el programador Caleb le dice al inventor Nathan: “Si has creado una máquina consciente, eso no es la historia del hombre, es la historia de los dioses”. Si sentimos que nos encontramos en una transición tecnohistórica y resultamos ser uno de sus artífices, entonces el atractivo prometeico debe ser difícil de resistir: la sensación de aportar a la humanidad aquello que antes era dominio exclusivo de lo divino. Y con esta singularidad llega la oferta extática de inmortalidad: la promesa de escapar de nuestros cuerpos biológicos, que se descomponen de forma tan inconveniente, y vivir (o al menos existir) para siempre, flotando hacia la eternidad en una nube hecha de silicio.
Quizás ésta sea una de las razones por las que las declaraciones sobre la inminente conciencia de las máquinas parecen más comunes dentro de la élite tecnológica que fuera de ella. (De forma más cínica: alimentar la idea de que hay algo semi-mágico en la IA puede ayudar a que las acciones bursátiles se mantengan al alza y justificar los salarios astronómicos y los niveles de inversión que se observan actualmente en Silicon Valley. ¿Alguien dijo “burbuja”?)
En su libro More Everything Forever, Adam Becker describe la tendencia a proyectar conciencia en la IA como una forma de pareidolia —el fenómeno de ver patrones en las cosas, como un rostro en una tostada o a la Madre Teresa en un rollo de canela (Figura 1) —. Se trata de una descripción acertada. Pero ayudarte a reconocer el poder de nuestros sesgos psicológicos que inducen la pareidolia es solo el primer paso para cuestionar la mitología de la IA consciente. Para abordar la cuestión de si una verdadera conciencia artificial es siquiera posible, debemos indagar más profundamente.
Conciencia y computación
La idea misma de una IA consciente se basa en la suposición de que la conciencia es una cuestión computacional. Más concretamente, que basta con implementar el tipo adecuado de computación, o procesamiento de la información, para que surja la conciencia. Esta suposición, que los filósofos denominan funcionalismo computacional, está tan profundamente arraigada que puede resultar difícil reconocerla como tal. Pero eso es precisamente lo que es, una suposición. Y si es errónea, como creo que puede serlo, entonces una verdadera conciencia artificial queda totalmente descartada, al menos para los tipos de IA con los que estamos familiarizados.
Cuestionar el funcionalismo computacional implica adentrarse en aguas profundas sobre lo que significa la computación y lo que implica afirmar que un sistema físico, como un computador o un cerebro, es capaz de computar. Resumiré cuatro argumentos relacionados que socavan la idea de que la computación, al menos del tipo implementado en los computadores digitales estándar, sea suficiente para la conciencia.
1. Los cerebros no son computadores
En primer lugar, y lo más importante, los cerebros no son computadores. La metáfora del cerebro como un computador hecho de carbono ha tenido una enorme influencia y resulta inmediatamente atractiva: la mente como software, el cerebro como hardware. También ha sido extremadamente productiva, y ha dado lugar a muchos conocimientos sobre el funcionamiento del cerebro y a la gran mayoría de la IA actual. Para comprender el poder y la influencia de esta metáfora, y para captar sus limitaciones, debemos volver a examinar a algunos pioneros de la informática y la neurobiología.
Alan Turing destaca por encima de todos los demás en esta historia. Allá por la década de 1950, sembró la idea de que las máquinas podrían ser inteligentes, y más de una década antes, formuló una definición de computación que desde entonces ha seguido siendo fundamental para nuestras tecnologías y para la comprensión que tiene la mayoría de la gente de lo que son los computadores.
La definición de computación de Turing es extremadamente poderosa y muy (aunque, como veremos, no completamente) general. Se basa en el concepto abstracto de una máquina de Turing: un dispositivo sencillo que lee y escribe símbolos en una cinta infinita según un conjunto de reglas. Las máquinas de Turing formalizan la idea de un algoritmo: una correspondencia, a través de una secuencia de pasos, entre una entrada (una cadena de símbolos) y una salida (otra cadena de este tipo); una receta matemática, por así decirlo. La contribución fundamental de Turing fue definir lo que se conoció como una máquina de Turing universal: otro dispositivo abstracto, pero esta vez capaz de simular cualquier máquina de Turing específica —cualquier algoritmo— tomando la descripción de la máquina objetivo como parte de su entrada. Esta capacidad de uso general es una de las razones por las que la computación de Turing es tan potente y tan extendida. El computador portátil con el que estoy escribiendo, así como las máquinas de las granjas de servidores que ejecutan cualquier modelo de IA de última generación, son todos ejemplos físicos y concretos de (o aproximaciones a) máquinas de Turing universales, sujetas a limitaciones físicas como el tiempo y la memoria.
Otra ventaja importante de este enfoque, desde un punto de vista práctico de la ingeniería, es la clara separación que permite establecer entre la computación abstracta (software) y la implementación física (hardware). Un algoritmo (en el sentido descrito más arriba) debería hacer lo mismo, independientemente del computador en el que se ejecute. La computación de Turing es, en principio, independiente del sustrato: no depende de ninguna base material en particular. En la práctica, una mejor descripción diría que es flexible en cuanto al sustrato, ya que no se puede fabricar un computador viable a partir de cualquier material arbitrario —el queso, por ejemplo, no da la talla—. Esta flexibilidad de sustrato hace que la computación de Turing resulte extremadamente útil en el mundo real, razón por la cual los computadores existen en nuestros teléfonos y no solo en nuestras mentes.
Aproximadamente al mismo tiempo que Turing dejaba su huella, el matemático Walter Pitts y el neurofisiólogo Warren McCulloch demostraron, en un artículo histórico, que las redes de neuronas abstractas altamente simplificadas pueden realizar operaciones lógicas (Figura 2). Trabajos posteriores, llevados a cabo por el lógico Stephen Kleene, entre otros, demostraron que las redes neuronales artificiales como éstas, cuando se les dotaba de una memoria tipo cinta (como en la máquina de Turing), eran “Turing completas”, es decir, que podían, en principio, implementar cualquier máquina de Turing, cualquier algoritmo.
Si unimos estas ideas, obtenemos un matrimonio de conveniencia e influencia en términos matemáticos, y el tipo de belleza que acompaña a la simplicidad. Por un lado, podemos ignorar la caótica realidad neurobiológica de los cerebros reales y tratarlos como redes simplificadas de neuronas abstractas, cada una de las cuales simplemente suma sus entradas y produce una salida. Por otro lado, cuando hacemos esto, obtenemos todo lo que el cálculo de Turing puede ofrecer, que es bastante.
Los frutos de esta unión son más evidentes en sus descendientes: las redes neuronales artificiales que impulsan la IA actual. Estas son descendientes directas de McCulloch, Pitts y Kleene, y también implementan algoritmos en el sentido de una computación Turing de sustrato flexible. No es de extrañar que la seductora impresión que causa la actual ola de IA refuerce la idea de que los cerebros no son más que versiones a base de carbono de algoritmos de redes neuronales.
Pero aquí es donde empiezan los problemas. En el interior de un cerebro, no existe una separación nítida entre el “mindware” y el “wetware”, como la que existe entre el software y el hardware en un ordenador. Cuanto más se profundiza en las complejidades del cerebro biológico, más se comprende lo rico y dinámico que es, en comparación con la arena muerta del silicio.
Los patrones de actividad cerebral evolucionan a través de múltiples escalas de espacio y tiempo, que van desde territorios corticales a gran escala hasta los detalles más minuciosos de los neurotransmisores y los circuitos neuronales, todo ello profundamente entrelazado con una tormenta molecular de actividad metabólica. Una sola neurona es ya una máquina biológica espectacularmente complicada, ocupada en mantener su propia integridad y en regenerar las condiciones y la base material para su propia existencia continuada (este proceso se denomina autopoiesis, del griego “autoproducción”. Podría decirse que la autopoiesis es una característica definitoria y distintiva de los sistemas vivos).
A diferencia de los computadores, incluso de aquellos que ejecutan algoritmos de redes neuronales, los cerebros son el tipo de entidades con respecto a las cuales es difícil, y probablemente imposible, separar lo que hacen de lo que son.
Tampoco hay una buena razón para esperar una separación tan clara. La marcada división entre software y hardware en los computadores modernos es impuesta por el diseño humano, siguiendo los principios de Turing. La evolución biológica opera bajo restricciones diferentes y con objetivos distintos. Desde la perspectiva de la evolución, no existe una presión selectiva evidente a favor del tipo de separación total que permitiría la interoperabilidad perfecta entre diferentes cerebros, tal y como la disfrutamos entre diferentes computadores. De hecho, es probable que sea todo lo contrario: mantener una división nítida entre software y hardware es energéticamente costoso, como resulta demasiado evidente hoy en día en los enormes presupuestos energéticos de las modernas granjas de servidores.
Esto es importante porque la idea del cerebro como una máquina de Turing (universal) hecha de carne se sustenta precisamente en esta nítida separación de escalas, en la independencia con respecto al sustrato que motivó la definición de Turing en primer lugar. Si no se puede separar lo que hacen los cerebros de lo que son, el matrimonio de conveniencia matemático comienza a desmoronarse, y hay menos razones para pensar que el hardware biológico está ahí simplemente para implementar el software algorítmico. La evidencia de que la materialidad del cerebro es importante para su función es una prueba en contra de la idea de que lo único que cuenta es el cómputo digital, lo que a su vez es una evidencia en contra del funcionalismo computacional.
Otra consecuencia de la profunda integración multiescala de los cerebros reales —una propiedad que los filósofos a veces denominan “atrincheramiento generativo”— es que no se puede dar por sentado que sea posible sustituir una sola neurona biológica por un equivalente de silicio, conservando al mismo tiempo y de forma perfecta su función, su comportamiento de entrada-salida.
Por ejemplo, los neurocientíficos Chaitanya Chintaluri y Tim Vogels descubrieron que algunas neuronas emiten impulsos de actividad que aparentemente tienen el fin de eliminar los desechos generados por el metabolismo. Crear un sustituto perfecto de silicio para estas neuronas requeriría inventar también un metabolismo de silicio completamente nuevo, y el silicio no es el material adecuado para algo así. La única forma de remplazar perfectamente una neurona biológica es con otra neurona biológica —e idealmente, con la misma—.
Esto pone de manifiesto la debilidad del popular experimento mental del “reemplazo neuronal” —comúnmente asociado a Chalmers—, que nos invita a imaginar la sustitución progresiva de partes del cerebro por equivalentes de silicio que funcionen exactamente igual que sus homólogos biológicos. La supuesta conclusión es que propiedades como la cognición y la conciencia deben ser independientes del sustrato (o, al menos, flexibles en cuanto al sustrato de silicio). Este experimento mental se ha convertido en un destacado lugar común en los debates sobre la conciencia artificial, al que se suele recurrir para respaldar su posibilidad. Hinton lo invocó recientemente de esta misma manera, en una entrevista en la que afirmó que la IA consciente ya estaba entre nosotros. Pero el argumento fracasa ante su primer obstáculo, dada la imposibilidad de remplazar cualquier parte del cerebro por un equivalente de silicio perfecto.
Hay otra consecuencia derivada de un cerebro definido por la profunda integración de sus diferentes escalas que vale la pena mencionar. Los computadores digitales y los cerebros difieren fundamentalmente en su relación con el tiempo. En el mundo Turing, solo importa la secuencia: de A a B, de 0 a 1. Podría haber un microsegundo o un millón de años entre cualquier transición de estado, y seguiría siendo el mismo algoritmo, el mismo cálculo.
Por el contrario, para los cerebros y para los sistemas biológicos en general, el tiempo es físico, continuo e ineludible. Los sistemas vivos deben resistir continuamente la decadencia y el desorden que se encuentran a lo largo de la trayectoria hacia la uniformidad entrópica impuesta por la inviolable segunda ley de la termodinámica. Esto significa que la actividad neurobiológica está anclada en el tiempo continuo de formas en que los algoritmos, por diseño, no lo están (esta es otra razón por la que el cómputo digital consume tanta energía. El cálculo existe fuera del tiempo, pero los ordenadores no. Asegurarse de que los 1 sigan siendo 1 y los 0 sigan siendo 0 requiere mucha energía, porque ni siquiera el silicio puede escapar de los tentáculos de la entropía).
Es más, muchos investigadores —especialmente los de la tradición fenomenológica— llevan mucho tiempo haciendo hincapié en que la experiencia consciente en sí misma es ricamente dinámica e inherentemente temporal. No pasa a trompicones de un estado a otro; fluye. Abstraer el cerebro en el árido espacio secuencial de los algoritmos no hace justicia ni a nuestra biología ni a la fenomenología de la corriente de la conciencia.
Las metáforas son, al fin y al cabo, solo metáforas y —como señaló hace mucho tiempo el filósofo Alfred North Whitehead— siempre es peligroso confundir una metáfora con la cosa misma. Observar el cerebro a través de las “gafas de Turing” subestima su riqueza biológica y sobreestima la flexibilidad con respecto al sustrato de aquello que hace. Cuando vemos el cerebro tal y como es en realidad, la idea de que toda su actividad biológica a múltiples escalas no es más que una infraestructura de implementación para algunas acrobacias algorítmicas abstractas parece bastante ingenua. El cerebro no es una máquina de Turing hecha de carne.
2. Otras opciones disponibles
En la sección anterior, señalé que la computación de Turing es potente, pero limitada. Los cómputos de Turing —los algoritmos— mapean un rango finito de números discretos (más en general, una cadena de símbolos) sobre otro, y lo único que importa es la secuencia. Los algoritmos de Turing son potentes, pero existen muchos tipos de dinámicas y muchas otras clases de funciones que van más allá de este tipo de computación. El propio Turing identificó varias funciones no computables, como el famoso “problema de la detención”, que consiste en determinar, en general, si un algoritmo, dada una entrada específica, terminará alguna vez. Es más, cualquier función que sea continua (infinitamente divisible) o estocástica (que involucre aleatoriedad inherente), en sentido estricto, queda fuera del ámbito de Turing. (Las computaciones de Turing pueden aproximar o simular estas propiedades en diversos grados, pero eso es diferente de afirmar que tales funciones son computaciones de Turing. Volveré sobre esta distinción más adelante).
Los sistemas biológicos están repletos de dinámicas continuas y estocásticas, y están profundamente arraigados en el tiempo físico. Parece, como mínimo, presuntuoso suponer que solo los cómputos de Turing importan para la conciencia, o de hecho para muchos otros aspectos de la cognición y la mente. Los campos electromagnéticos, el flujo de neurotransmisores y muchas otras cosas más: todo ello se encuentra más allá de los límites de lo algorítmico, y cualquiera de estos elementos podría acabar desempeñando un papel fundamental en la conciencia.
Estas limitaciones nos animan a adoptar una visión más amplia del cerebro, yendo más allá de lo que a veces denomino el “mundo Turing” para considerar de qué manera las formas más amplias de computación y dinámica podrían ayudar a explicar cómo los cerebros hacen lo que hacen. Aquí hay una rica historia en la que inspirarse, y también un futuro apasionante.
Los primeros computadores no eran máquinas de Turing digitales, sino dispositivos analógicos que funcionaban en tiempo continuo. El antiguo “mecanismo de Anticitera”, utilizado con fines astronómicos y que data de alrededor del año 2000 a. C., es un excelente ejemplo. Los computadores analógicos volvieron a cobrar protagonismo con el nacimiento de la IA en la década de 1950, bajo la apariencia de la disciplina de la cibernética, durante mucho tiempo desatendida, donde los problemas de control y regulación de un sistema se consideran más importantes que la manipulación abstracta de símbolos.
Recientemente, se ha producido un resurgimiento de la computación neuromórfica, que aprovecha propiedades más detalladas de los sistemas neuronales, como la sincronización precisa de los impulsos neuronales, en lugar de las esquemáticas neuronas simuladas que dominan los enfoques actuales de las redes neuronales artificiales. Y luego está el concepto relativamente nuevo de “computación mortal” (introducido por Hinton), que destaca el potencial de ahorro energético que ofrece el desarrollo de algoritmos indisolublemente ligados a sus sustratos materiales, de modo que (metafóricamente) mueren cuando su implementación concreta deja de existir. Todas estas formas alternativas de computación están más estrechamente vinculadas a su base material —son menos flexibles en cuanto al sustrato— que la computación digital estándar.
Muchos sistemas realizan su función sin que resulte razonable o útil describirlos en absoluto como computacionales. Hace tres décadas, el científico cognitivo Tim van Gelder dio un influyente ejemplo, bajo la forma del regulador de una máquina de vapor (Figura 3). Estos reguladores controlan el flujo de vapor a través de un motor utilizando una mecánica y una física sencillas: a medida que aumenta la velocidad del motor, dos pesadas bolas suspendidas se balancean hacia fuera, lo que a su vez cierra una válvula, reduciendo el flujo de vapor. Un “regulador computacional”, que detectara la velocidad del motor, calculara las acciones necesarias y luego enviara señales precisas al motor para activar o desactivar los actuadores, no solo sería irremediablemente ineficaz, sino que revelaría un total desconocimiento de lo que realmente está sucediendo.
La rama de la ciencia cognitiva conocida generalmente como “sistemas dinámicos”, así como los enfoques que enfatizan los aspectos enactivos, encarnados, embebidos y extendidos de la mente (la denominada ciencia cognitiva 4E), rechazan, de formas relacionadas con la visión de van Gelder, la idea de que la mente y el cerebro puedan explicarse exhaustivamente de manera algorítmica. Todos ellos exploran alternativas basadas en las matemáticas de los procesos continuos y dinámicos, que implican conceptos como atractores, espacios de fase, etc. Es al menos plausible que aquellos aspectos de la función cerebral necesarios para la conciencia también dependan de procesos no computacionales como estos, o tal vez de alguna noción más amplia de computación.
Todas estas otras propuestas siguen siendo compatibles con lo que en filosofía se conoce como funcionalismo: la idea de que las propiedades de la mente (incluida la conciencia) dependen de la organización funcional del cerebro (encarnado). Uno de los factores que contribuyen a la confusión en este ámbito ha sido la tendencia a confundir la postura bastante liberal del funcionalismo en general —puesto que la noción de organización funcional puede abarcar muchas cosas— con la afirmación muy específica del funcionalismo computacional, que implica que el tipo de organización que importa es computacional y que, a su vez, a menudo se supone que se refiere en particular a los algoritmos de tipo Turing.
El desafío para la conciencia de las máquinas radica aquí en que, cuanto más nos alejamos del mundo Turing, más profundamente nos vemos enredados en la aleatoriedad, la dinámica y la entropía, y más profundamente vinculados estamos a las propiedades de un sustrato material concreto. La cuestión ya no es qué algoritmos dan lugar a la conciencia; se trata de hasta qué punto un sistema debe parecerse al cerebro para que aumente su potencial de ser consciente.
3. La vida importa
Mi tercer argumento es que la vida (probablemente) importa. Se trata de la idea —denominada naturalismo biológico por el filósofo John Searle— de que las propiedades de la vida son necesarias, aunque no necesariamente suficientes, para la conciencia. Debo decir desde el principio que no tengo un argumento irrefutable a favor de esta postura, ni creo que exista aún tal argumento. Pero merece la pena tomarla en serio, aunque solo sea por la sencilla razón mencionada anteriormente: todos los candidatos a la conciencia sobre los que la mayoría está de acuerdo en que son realmente conscientes también están vivos.
¿Por qué podría ser importante la vida para la conciencia? En este ensayo no hay espacio para todo lo que hay que decir al respecto (escribí un libro completo, La construcción del yo, y un reciente artículo de investigación sobre el tema), pero una forma de plantearlo es la siguiente.
El punto de partida es la idea de que lo que percibimos conscientemente depende de las mejores conjeturas del cerebro sobre lo que está sucediendo en el mundo, más que de una lectura directa de los estímulos sensoriales. Esto se deriva de influyentes teorías sobre el procesamiento predictivo que conciben al cerebro como un sistema que explica continuamente sus entradas sensoriales mediante la actualización de predicciones sobre aquello que las causa. Desde este punto de vista, las señales sensoriales se interpretan como errores de predicción, que informan sobre la diferencia entre lo que el cerebro espera y lo que obtiene en cada nivel de sus jerarquías perceptivas, y el cerebro está continuamente minimizando estos errores de predicción en todas partes y en todo momento.
Desde esta perspectiva, la experiencia consciente es una especie de alucinación controlada: una inferencia perceptiva de arriba abajo y de dentro hacia fuera en la que las predicciones del cerebro sobre lo que está sucediendo se calibran continuamente mediante señales sensoriales procedentes de abajo arriba (o de fuera hacia dentro).
Este tipo de conjetura perceptiva subyace no solo a las experiencias del mundo, sino también a las experiencias de ser un yo —experiencias de ser el sujeto de la experiencia—. Un buen ejemplo es cómo percibimos el cuerpo, como un objeto en el mundo, así como la fuente de aspectos más fundamentales de la individualidad, tales como la emoción y el estado de ánimo. Ambos aspectos de la individualidad pueden entenderse como formas de conjetura perceptiva: inferencias sobre lo que forma parte del cuerpo y lo que no, e inferencias sobre el estado fisiológico interno del cuerpo (esto último se denomina a veces “inferencia interoceptiva”; la interocepción se refiere a la percepción del cuerpo desde dentro).
Las predicciones perceptivas son útiles no solo para averiguar qué está sucediendo, sino (en un guiño a la cibernética de mediados del siglo XX) también para el control y la regulación: cuando se puede predecir algo, también se puede controlar. Esto se aplica sobre todo a las predicciones sobre el estado fisiológico del cuerpo. Esto se debe a que la función principal de cualquier cerebro es mantener vivo al cuerpo, mantener los parámetros fisiológicos como la frecuencia cardíaca y la oxigenación de la sangre en los niveles adecuados. Esto, a su vez, ayuda a explicar por qué las experiencias corporales se sienten tal y como lo hacen.
Las experiencias de emoción y estado de ánimo, a diferencia de la visión (por ejemplo), se caracterizan principalmente por la valencia: por si las cosas van bien o mal en general.
Este impulso por mantenerse con vida no toca fondo en ningún punto en particular. Llega hasta lo más profundo del interior de cada célula, hasta los hornos moleculares del metabolismo. En medio de estos remolinos de actividad metabólica, el proceso omnipresente de minimización del error de predicción se vuelve inseparable de la materialidad de la vida misma. Se puede trazar una línea matemática directamente desde la naturaleza autoproducida y autopoiética del material biológico hasta la mejor estimación bayesiana que sustenta nuestras experiencias perceptivas del mundo y del yo.
En este punto convergen varias líneas de pensamiento. En primer lugar, vislumbramos una conexión explicativa entre la vida y la conciencia. Las experiencias conscientes de la emoción, el estado de ánimo e incluso la sensación básica de “estar vivo” se corresponden perfectamente con las predicciones perceptivas que participan en el control y la regulación del estado corporal. En segundo lugar, los procesos que sustentan estas predicciones perceptivas están profundamente, y tal vez inextricablemente, arraigados en nuestra naturaleza como sistemas biológicos, como tormentas de vida autorregeneradas que resisten la atracción de la uniformidad entrópica. Y, en tercer lugar, todo esto es no computacional, o al menos no algorítmico. La minimización del error de predicción en cerebros y cuerpos reales es un proceso dinámico continuo que probablemente sea inseparable de su base material, más que un algoritmo implementado en carne y hueso que exista en un universo prístino de símbolos y secuencias.
Si unimos todo esto, comienza a formarse una imagen: experimentamos el mundo que nos rodea y a nosotros mismos dentro de él —con, a través de y gracias a nuestros cuerpos vivos—. Quizás sea la vida, más que el procesamiento de la información, la que insufla vitalidad a las ecuaciones de la experiencia.
4. Simulación no es realización
Por último, simulación no es lo mismo que realización. Una de las capacidades más potentes de los computadores Turing universales es que pueden simular una amplia gama de fenómenos —incluso, y quizás especialmente, fenómenos que no son en sí mismos (digitalmente) computacionales, como los procesos continuos y aleatorios—.
Pero no debemos confundir el mapa con el territorio, ni el modelo con el mecanismo. Una simulación algorítmica de un proceso continuo es precisamente eso: una simulación, no el proceso en sí mismo.
Las simulaciones computacionales en general carecen de las facultades causales y las propiedades intrínsecas de las cosas que se simulan. Una simulación del sistema digestivo en realidad no digiere nada. Una simulación de una tormenta en realidad no moja nada. Si simulamos un ser vivo, no hemos creado vida. En general, una simulación computacional de X no da lugar a la existencia de X —no realiza X— a menos que X sea en sí mismo un proceso computacional (concretamente, un algoritmo). Viendo el asunto desde el otro lado, el hecho de que X pueda simularse computacionalmente no justifica la conclusión de que X sea en sí mismo computacional.
En la mayoría de los casos, la distinción entre simulación y realización es obvia y no controvertida. Debería serlo también para la conciencia. Una simulación computacional del cerebro (y del cuerpo), por muy detallada que sea, solo dará lugar a la conciencia si la conciencia es una cuestión computacional. En otras palabras, la perspectiva de realizar la conciencia mediante algún tipo de emulación del cerebro completo, con un nivel de detalle arbitrariamente alto, ya da por sentado que el funcionalismo computacional es cierto. Pero, como he argumentado, es probable que esta suposición sea errónea y, desde luego, no debería aceptarse como un axioma.
Esto nos lleva de vuelta a la pobreza de la metáfora del cerebro como computador. Si piensas que todo lo que importa sobre el cerebro puede captarse mediante redes neuronales abstractas, entonces es natural pensar que simular el cerebro en un computador digital realizará todas sus propiedades, incluida la conciencia, ya que en este caso, todo lo que importa es, por suposición, algorítmico. Esta es la visión del cerebro en el “mundo de Turing”.
Si, por el contrario, te intrigan los modelos cerebrales más detallados que captan las complejidades de las neuronas individuales y otros procesos biofísicos de gran precisión, entonces debería resultar menos natural asumir que la simulación del cerebro realizará todas sus propiedades. Estos modelos más detallados son interesantes precisamente porque sugieren que, además de la computación de Turing, es probable que otras cosas también tengan importancia.
Existe, por lo tanto, una especie de contradicción que acecha a aquellos que invierten sus sueños y su capital de riesgo en la perspectiva de transferir sus mentes conscientes a simulaciones exquisitamente detalladas de sus cerebros, para poder existir para siempre en un éxtasis de silicio. Si se necesita un modelo cerebral exquisitamente detallado, entonces tienes tantas probabilidades de existir en la simulación como las que tiene una granizada de producirse dentro de los computadores de la oficina meteorológica del Reino Unido.
Pero prepárense: ¿y si ya todo fuera una simulación? ¿Y si todo nuestro universo —incluidos los miles de millones de cuerpos, cerebros y mentes de este planeta, así como sus granizadas y sus computadores de pronóstico meteorológico— no fuera más que un conjunto de fragmentos de código en una simulación informática avanzada creada por nuestros descendientes, semidioses tecnológicos con una obsesión genealógica?
Esta es la “hipótesis de la simulación”, asociada más estrechamente al filósofo Nick Bostrom, y que, de alguna manera, sigue siendo una idea influyente entre los entendidos en tecnología.
Bostrom señala que simulaciones como ésta, si es que se han creado, deberían ser mucho más numerosas que la “realidad base” original, lo que a su vez sugiere que es más probable que existamos dentro de una simulación que dentro de la realidad misma. Presenta diversos argumentos estadísticos para desarrollar esta idea. Pero es revelador que señale una suposición necesaria y luego simplemente la dé por sentada. Se trata, como era de esperar, de la suposición de que “un computador que ejecute un programa adecuado sería consciente” (véase la página 2 de su artículo). Si esta suposición no se cumple, el simple hecho de que seamos conscientes descartaría que existamos en una simulación. Que esta suposición fuerte se acepte sin examen en un debate filosófico que gira en torno a la validez de las suposiciones es otra indicación más de lo profundamente arraigada que se ha vuelto la visión computacional de la mente y el cerebro. También es una señal del lío existencial en el que nos metemos cuando no distinguimos nuestros modelos de la realidad de la realidad misma.
Resumamos. Muchos factores sociales y psicológicos, incluidos algunos sesgos cognitivos bien conocidos, nos predisponen de forma excesiva a atribuir conciencia a las máquinas.
El funcionalismo computacional —la afirmación de que la computación (algorítmica) es suficiente para la conciencia— es una suposición muy fuerte que parece cada vez más inestable a medida que se ponen de manifiesto las numerosas y profundas diferencias entre los cerebros y los computadores (digitales estándar). Existen muchas otras tecnologías (por ejemplo, la computación neuromórfica, la biología sintética) y enfoques para comprender el cerebro (por ejemplo, la teoría de los sistemas dinámicos), que van más allá de lo estrictamente algorítmico. En cada caso, cuanto más se aleja uno del mundo Turing, menos plausible resulta que las propiedades relevantes puedan abstraerse de su base material subyacente.
Una posibilidad, motivada por la conexión de las visiones del procesamiento predictivo de la percepción con la regulación fisiológica y el metabolismo, es que la conciencia esté profundamente ligada a nuestra naturaleza como criaturas biológicas y vivas.
Por último, simular computacionalmente los mecanismos biológicos de la conciencia, sea cual sea el nivel de detalle que se elija, no dará lugar a la conciencia a menos que el funcionalismo computacional resulte ser cierto de todos modos.
Cada una de estas líneas de argumentación puede sostenerse por sí misma. Es posible que te inclines por los argumentos en contra del funcionalismo computacional sin que te convenzan los méritos del naturalismo biológico. Para distinguir entre simulación y realización no es necesario tener en cuenta nuestros sesgos cognitivos. Pero, en conjunto, se complementan y se refuerzan mutuamente. Cuestionar el funcionalismo computacional refuerza la importancia de distinguir la simulación de la realización. La disponibilidad de otras tecnologías y marcos más allá de la computación algorítmica de tipo Turing abre un espacio para la idea de que la vida podría ser necesaria para la conciencia.
Conjuntamente, estos argumentos sostienen que es muy improbable que la conciencia simplemente emerja a medida que la IA se vuelva más inteligente, y que alcanzar ese punto podría ser imposible para los sistemas de IA en general, al menos para los computadores digitales a base de silicio con los que estamos familiarizados.
Al mismo tiempo, nada de lo que he dicho descarta por completo la posibilidad de una conciencia artificial.
Teniendo en cuenta todo esto, ¿qué debemos hacer?
¿Qué (no) hacer?
En lo que respecta a la conciencia, la verdad sobre los hechos sí importa. Y no solo por las mitologías de ancestros creadores de simulaciones, de “subir” la mente a un computador y otros conceptos similares. Las entidades capaces de tener experiencias conscientes gozan de una relevancia ética y moral que otras entidades no tienen. Como mínimo, las atribuciones de este tipo de consideración moral resultan más claras cuando se basan en la capacidad de tener conciencia.
Por eso es de vital importancia, aquí y ahora, reflexionar con claridad sobre las perspectivas de una conciencia artificial real. He presentado argumentos en contra de una IA consciente, pero podría estar equivocado. La postura del naturalismo biológico (ya sea mi versión o cualquier otra) sigue siendo una opinión minoritaria. Otras teorías de la conciencia proponen explicaciones enmarcadas en términos de la computación estándar tal y como la conocemos. Estas teorías suelen evitar proponer condiciones suficientes para la conciencia. También suelen eludir la defensa del funcionalismo computacional, contentándose en su lugar con darlo por sentado.
Pero esto no significa que estén equivocadas. Todas las teorías de la conciencia están plagadas de incertidumbre, y cualquiera que afirme saber con certeza qué se necesitaría para crear una conciencia artificial real, o con certeza qué se necesitaría para evitar hacerlo, está sobrepasando lo que se puede decir razonablemente.
Esta incertidumbre nos sitúa en una posición difícil. Por redundante que pueda parecer, nadie debería proponerse deliberadamente crear una IA consciente, ya sea al servicio de algún “éxtasis tecnológico” mal concebido, o por cualquier otra razón. Crear máquinas conscientes sería un desastre ético. Estaríamos introduciendo en el mundo nuevos sujetos morales y, con ellos, el potencial de nuevas formas de sufrimiento, a un ritmo (potencialmente) exponencial. Y si otorgamos derechos a estos sistemas, que es algo que posiblemente deberíamos hacer si en realidad son conscientes, estaremos obstaculizando nuestra capacidad para controlarlos o para desactivarlos si fuera necesario.
Incluso si tengo razón en que los computadores digitales estándar no están a la altura, otras tecnologías emergentes podrían estarlo, ya sean formas alternativas de computación (analógicas, neuromórficas, biológicas, etc.) o métodos de biología sintética de rápido desarrollo. En mi opinión, deberíamos estar más preocupados por la aparición accidental de conciencia en organoides cerebrales (estructuras similares al cerebro que suelen cultivarse a partir de células madre embrionarias humanas) que por cualquier nueva ola de Modelos de Lenguaje Extensos (LLMs).
Pero nuestras preocupaciones no terminan ahí. En lo que respecta al impacto de la IA en la sociedad, es esencial establecer una distinción entre los sistemas de IA que son realmente conscientes y aquellos que parecen ser conscientes de manera convincente, pero que, de hecho, no lo son. Si bien existe una incertidumbre inevitable sobre los primeros, los sistemas que parecen conscientes están mucho, mucho más cerca.
Como demostró el ingeniero de Google, Lemoine, para algunos de nosotros, esos sistemas que parecen conscientes ya están aquí. Las máquinas que parecen conscientes nos plantean cuestiones éticas importantes, distintas de las que plantean las máquinas que son realmente conscientes.
Por ejemplo, podríamos otorgar a los sistemas de IA “derechos” que en realidad no necesitan, ya que no serían realmente conscientes, lo que limitaría nuestra capacidad para controlarlos sin motivo justificado. En términos más generales, o bien decidimos preocuparnos por la IA que parece consciente, distorsionando así nuestros círculos de preocupación moral, o bien decidimos no hacerlo, y nos arriesgamos a embrutecer nuestras mentes. Como argumentó Immanuel Kant hace mucho tiempo en sus conferencias sobre ética, tratar a las cosas que parecen conscientes como si carecieran de conciencia es una postura psicológicamente poco saludable.
Figuras destacadas del mundo de la IA, entre ellas Mustafa Suleyman (director ejecutivo de Microsoft AI) y Yoshua Bengio, están empezando a darse cuenta de los peligros de la IA que parece consciente, pero esto no significa para nada que el problema esté bajo control.
Un factor que se pasa por alto aquí es que, incluso si sabemos, o creemos, que una IA no es consciente, es posible que sigamos sin poder resistir la sensación de que lo es. Las ilusiones de conciencia artificial podrían resultar tan impenetrables para nuestras mentes como algunas ilusiones ópticas. Las dos líneas de la ilusión de Müller-Lyer (Figura 5) tienen la misma longitud, pero siempre parecerán diferentes. No importa cuántas veces se enfrente a la ilusión; no se podrá salir de ella mediante el razonamiento. La forma en que percibimos que la IA es consciente podría ser igualmente impermeable a lo que pensamos o comprendemos sobre la conciencia de la IA.
Es más, dado que no existe consenso sobre las condiciones necesarias o suficientes para la conciencia, no hay ningún test definitivo que permita determinar si una IA es realmente consciente. La trama de Ex Machina gira precisamente en torno a este dilema. Inspirándose en la famosa prueba de Turing (que, como bien sabía Turing, evalúa la inteligencia de las máquinas, no la conciencia), Nathan —el creador del robot Ava— afirma que el “verdadero test” consiste en revelar que su creación es una máquina y comprobar si Caleb —el humano invitado a ponerla a prueba— sigue sintiendo que ella es consciente. La “prueba de Garland”, como se la ha llegado a conocer, no es un test de la conciencia de la máquina en sí misma. Es una prueba de lo que hace falta para persuadir a un ser humano de que una máquina es consciente.
La importancia de adoptar una postura ética informada a pesar de todas estas incertidumbres pone de relieve otro hábito humano: nuestro desafortunado historial de negar el estatus moral a quienes lo merecen, incluidos muchos animales no humanos y, en ocasiones, otros seres humanos. Es razonable preguntarse si negar la atribución de conciencia a la IA podría dejarnos una vez más en el lado equivocado de la historia. Los recientes llamados a prestar atención al “bienestar de la IA” se basan en gran medida en esta preocupación.
Pero hay buenas razones por las que es probable que la situación con la IA sea diferente. Nuestros sesgos psicológicos tienden más a conducir a falsos positivos que a falsos negativos. En comparación con los animales no humanos, las aparentes maravillas de la IA pueden ser más similares a nosotros en aspectos que no importan para la conciencia, como la capacidad lingüística, y menos similares en aspectos que sí importan, como estar vivo.
Alma máquina
A pesar del bombo publicitario y la arrogancia, no cabe duda de que la IA está transformando la sociedad. Ya será bastante difícil hacer frente a los retos evidentes y obvios que plantea la IA, y aprovechar adecuadamente sus numerosas ventajas, sin la confusión adicional que generan las declaraciones desmesuradas sobre una época venidera de máquinas conscientes. Dado el ritmo de cambio tanto en la propia tecnología como en su percepción pública, desarrollar una visión clara de las perspectivas y los escollos de la IA consciente es a la vez esencial y urgente.
Una conciencia artificial real lo cambiaría todo —y, en gran medida, para peor—. Las ilusiones sobre la IA consciente son peligrosas a su manera, especialmente si nos distraemos y fascinamos constantemente con la tentación de máquinas verdaderamente sintientes. Mi esperanza con este ensayo es ofrecer algunas herramientas para reflexionar sobre estos desafíos, algunas defensas contra afirmaciones excesivamente optimistas sobre la inevitabilidad o la imposibilidad absoluta, y algo de esperanza sobre nuestra propia naturaleza humana, animal y biológica. Y esperanza para nuestro futuro también.
La historia futura de la IA aún no está escrita. No hay nada inevitable en las direcciones que la IA pueda tomar. Pensar lo contrario es dejarse limitar en exceso por nuestra herencia conceptual, agobiados por el lastre de la mala ciencia ficción y sumisos a la narrativa interesada de las empresas tecnológicas que se esfuerzan por llegar al siguiente trimestre financiero. El tiempo apremia, pero colectivamente aún podemos decidir qué tipos de IA realmente queremos y cuáles no.
La filósofa Shannon Vallor describe la IA como un espejo, que nos devuelve la luz incidente de nuestro pasado digitalizado. Nos vemos a nosotros mismos en nuestros algoritmos, pero también vemos nuestros algoritmos en nosotros mismos. Esta mecanización de la mente es quizás la consecuencia a corto plazo más perniciosa de la prisa impropia hacia una IA de aspecto humano. Si confundimos la riqueza de los cerebros biológicos y la experiencia humana con las maquinaciones de procesamiento de información de los chatbots potenciados por deepfakes, o cualquiera que sea la última maravilla de la IA, cometemos una grave injusticia con nuestras mentes, cerebros y cuerpos. Si nos vendemos demasiado barato a nuestras creaciones mecánicas, las sobreestimamos y nos subestimamos a nosotros mismos.
Quizás de forma inesperada, esto me lleva por fin a hablar del alma. Para muchas personas, especialmente para la gente moderna de la ciencia y la razón, la idea del alma puede parecer tan anticuada como la Edad de Piedra. Y si por alma se entiende una esencia inmaterial de racionalidad y conciencia, perfectamente separable del cuerpo, entonces no están tan equivocados.
Pero aquí también hay otros aspectos a considerar. Mucho antes de Descartes, el concepto griego de psychē vinculaba la idea del alma con la respiración, mientras que al otro lado del mundo, la expresión hindú del alma, o Ātman, asociaba nuestra esencia más íntima con el estado fundamental de toda experiencia, no afectado por el pensamiento racional ni por ningún otro contenido consciente específico, una conciencia que simplemente atestigua.
Los sueños caricaturescos de un éxtasis de silicio, con sus lugares comunes sobre subir la mente a un computador, sobre la existencia eterna incorpórea y los reencuentros en la nube con otros elegidos, suponen una regresión al alma cartesiana. Los computadores, o más precisamente los cómputos, son, al fin y al cabo, inmortales, y el sacramento del algoritmo promete una racionalidad purista, no contaminada por el cuerpo (a pesar de las abundantes pruebas que vinculan la razón con la emoción). Pero es probable que estos sean sueños vacíos, que no traigan un paraíso poshumano, sino el olvido total del silicio.
Lo que realmente importa no es este tipo de alma. No es ninguna esencia inmortal, desmaterializada y excepcionalista del ser humano, ni tuya ni mía. Quizás lo que nos hace ser nosotros se remonta aún más atrás, a la Antigua Grecia y a las llanuras de la India, donde nuestra esencia más íntima surge como un embrionario sentimiento de simplemente estar vivos —más aliento que pensamiento y más carne que máquina—. La socióloga Sherry Turkle dijo una vez que la tecnología puede hacernos olvidar lo que sabemos sobre la vida. Ya es hora de que empecemos a recordar.
Para leer el ensayo original y otros ensayos similares en inglés, visite noemamag.com.
