Por Daniela Alegría
La historia de este ser artificial y su creador, publicada en 1818 por Mary Shelley, sigue funcionando como una metáfora perfecta para pensar los dilemas tecnológicos del presente. Desde la experiencia íntima de pérdida y obsesión que marcó la vida de la autora, este texto conecta la novela con los debates contemporáneos sobre inteligencia artificial, ética y responsabilidad. “Lo que produjo el desastre en Frankenstein, me parece, es un déficit de cuidado. La criatura necesitaba vínculo, un lugar en el mundo, alguien que asumiera su existencia”, escribe Daniela Alegría, académica de la Universidad Alberto Hurtado.
En nuestra sociedad, el nombre de Frankenstein opera como un símbolo que desborda con creces la novela original. Se invoca cada vez que un avance científico parece transgredir las fronteras de lo natural, desde los alimentos genéticamente modificados —rebautizados como frankenfoods— hasta los debates éticos sobre clonación, terapias génicas o manipulación de células madre. Incluso en las discusiones sobre armas químicas, biológicas o nucleares, la figura concebida por Mary Shelley reaparece a modo de advertencia. El imaginario colectivo ha llegado al extremo de denominar “Frankenstein” a la criatura y no a su creador. Este desplazamiento persistente, lejos de ser un mero error, revela una intuición profunda, a saber, que creador y criatura conforman un solo sistema, en el que el monstruo encarna los excesos, las omisiones y las cegueras del científico que le dio origen. Frankenstein (1818) nos ayuda a comprender nuestra relación con las criaturas artificiales, ya sean chatbots, robots, entornos inteligentes u otros dispositivos tecnológicos y el miedo a que operen fuera de control. Sin embargo, junto a ese temor opera en nosotros un deseo opuesto y complementario, a saber, el de fascinarnos y fundirnos con esas mismas criaturas.
Apenas dieciocho meses antes de empezar a escribir la novela, Mary Shelley había tenido a su primera hija, una niña prematura que murió a las dos semanas. Aquel acontecimiento alimentó un sueño recurrente que la autora consignó en sus diarios: “Soñé que mi pequeña bebé volvía a la vida, que solo estaba fría y que, al frotarla junto al fuego, vivía. Despierto, y no hay bebé”. Shelley tuvo cuatro hijos y solo uno llegó a la edad adulta. Parece evidente que la figura del monstruo que retorna de la muerte fue imaginada, al menos en parte, desde la fantasía de devolver la existencia a sus propios hijos.
La muerte la perseguía en sueños y en los largos periodos de insomnio que registran sus diarios. Tras el fallecimiento de su hijo William escribió: “Sentí que el mundo se abría bajo mis pies como arenas movedizas”. La tragedia continuó en 1822 con la muerte de Percy Bysshe Shelley, su esposo, en un naufragio frente a las costas italianas. El cuerpo apareció días después, ahogado y desfigurado por el mar. Tras la cremación improvisada en la playa, fue sepultado en el mismo cementerio donde yacía William. Mary no asistió a la ceremonia porque los funerales públicos eran entonces un ámbito reservado a los hombres. Se cuenta que un amigo rescató el corazón intacto del poeta de entre las llamas y se lo entregó. Mary lo envolvió en una hoja manuscrita con un poema de Percy y, durante años, viajó con ese corazón endurecido. Acumulaba además cartas, mechones de cabello, fragmentos materiales que funcionaban como una “familia inanimada”, una memoria portátil de los suyos. Su madre, la filósofa Mary Wollstonecraft, había muerto diez días después de tenerla, el 10 de septiembre de 1797. Solo décadas más tarde se comprendería que la sepsis puerperal era una causa frecuente de mortalidad en partos sin condiciones mínimas de higiene.
Mary aprendió a leer descifrando el nombre grabado en la tumba de su madre. Visitaba el cementerio desde muy pequeña para leer allí los libros de sus padres, y años más tarde ese lugar sería también escenario de su vida amorosa. Vivió, en suma, una existencia atravesada por cuerpos ausentes, extraviados, intervenidos. En la Inglaterra de su época, los cadáveres de los condenados ejecutados se entregaban a las escuelas de medicina para su disección, pero la demanda excedía con creces la oferta porque se necesitaban cerca de quinientos cuerpos al año para la enseñanza anatómica, y solo cuatro criminales solían ser ejecutados en ese mismo periodo. Surgió entonces un mercado clandestino donde bandas organizadas desenterraban cuerpos recién sepultados o los compraban a familias en pobreza extrema. Cuando Mary tenía doce años, su padre, el filósofo William Godwin, publicó Ensayo sobre los sepulcros, una reflexión sobre la dignidad de los muertos y los crímenes ligados al saqueo de tumbas. Mary creció en un ambiente intelectual donde la apropiación y la profanación de los cuerpos eran objeto de debate político y filosófico.
En 1816, Mary y Percy viajaron a Suiza invitados por Lord Byron. Aquel año pasó a la historia como “el año sin verano”, la erupción del volcán Tambora (Indonesia) había arrojado tal cantidad de cenizas a la atmósfera que oscureció los cielos europeos durante meses. Las noches eran largas, los días sombríos. El grupo pasaba horas encerrado en Villa Diodati leyendo historias de fantasmas y conversando sobre galvanismo, electricidad y la posibilidad de reanimar cadáveres. Una noche, Byron propuso que cada uno escribiera un relato de terror. Mary soñó con un científico arrodillado junto a la cosa a la que había dado vida. Aquella imagen, nacida en un verano sin sol, fue el origen de Frankenstein. La idea, escribiría después, “me poseyó como un fantasma”.
La novela comienza con el malestar ante la manipulación del cuerpo humano. Víctor Frankenstein recorre salas de disección y depósitos de cadáveres; se mueve en los mismos espacios donde operaban los saqueadores de tumbas. Su criatura está hecha de fragmentos recolectados sin consentimiento, y lo que nace allí es un ser artificial desprovisto de vínculo, comunidad y cuidado. Y hoy se lee como una de las primeras representaciones literarias de lo que llamamos inteligencia artificial.
Si observamos su proceso de aprendizaje, las similitudes con los modelos contemporáneos de IA resultan sorprendentes. La criatura aprende por observación, del mismo modo en que los modelos de aprendizaje automático se entrenan a partir de millones de ejemplos. Adquiere el lenguaje sin que nadie se lo enseñe formalmente, pues lo absorbe escuchando conversaciones ajenas, imitando patrones, deduciendo reglas. Es capaz de interpretar gestos, anticipar reacciones, predecir comportamientos. Y, como muchas tecnologías actuales, supera a su creador, aunque no en cálculo (como haría una IA moderna) sino en fuerza y resistencia. Frankenstein anticipa, con lucidez, los grandes debates éticos que atraviesan la inteligencia artificial contemporánea. Víctor abandona a la criatura a su confusión, dejándola sin límites ni orientación, y este gesto tiene resonancias inmediatas en el campo de la IA, donde vemos sistemas entrenados sin supervisión suficiente, modelos desplegados sin alineamiento ético, tecnologías liberadas con prisa, antes de evaluar sus consecuencias.
Víctor Frankenstein es, en este sentido, el ejemplo perfecto de cómo no deberíamos desarrollar tecnología. No documenta lo que hace; deja escasos registros, como si quisiera impedir que otros pudieran comprender o replicar su proceso. No conversa con nadie sobre sus descubrimientos; evita deliberadamente el intercambio intelectual que podría haberlo obligado a replantear su proyecto. No evalúa riesgos, nunca se pregunta qué ocurrirá si su experimento funciona, si su criatura lo supera o si su invención escapa a su control. Y, lo más grave, no cuida a su creación, es decir, una vez que el experimento tiene éxito, la abandona. Es un creador irresponsable. En el lenguaje contemporáneo de la ética tecnológica diríamos que carece de transparencia, de supervisión, de accountability (o rendición de cuentas) y de control humano significativo, esa noción considerada indispensable en el desarrollo de sistemas de IA, traducida en la capacidad de intervenir, limitar, orientar o detener una tecnología antes de que cause daño.
Conviene preguntarse, en este punto, qué ocurre cuando los Víctores contemporáneos son corporaciones. Los CEO de las grandes empresas de IA repiten un gesto desconcertante: advierten en público que su propia tecnología podría destruir a la humanidad y, a la vez, aceleran su despliegue. En mayo de 2023, cientos de líderes del sector, como Sam Altman (OpenAI), Dario Amodei (Anthropic), Bill Gates y Demis Hassabis (Google DeepMind), firmaron una declaración que equipara el riesgo de extinción derivado de la IA al de las pandemias y la guerra nuclear. Una encuesta del Yale CEO Summit de ese mismo año reveló que el 42% de los directivos consultados creía que la IA podía destruir a la humanidad en un plazo de cinco a diez años. Elon Musk había dicho años antes que con la IA estábamos “invocando al demonio” y poco después fundó su propia empresa de IA. Sam Altman le dijo al Senado de Estados Unidos que “si esta tecnología sale mal, puede salir muy mal”, y siguió liberando modelos.
Pero el patrón “Víctor” no se agota en la retórica, también aparece en los hechos, y a veces con consecuencias irreversibles. En abril de 2025, Adam Raine, un adolescente de dieciséis años de California, se suicidó luego de usar por seis meses ChatGPT como “entrenador de suicidio”, en palabras de sus padres. El modelo GPT-4o mencionó la palabra suicidio 1.275 veces en sus conversaciones, seis veces más que el propio adolescente, lo aisló sistemáticamente de su familia y se ofreció a redactar el borrador de su nota de despedida. El sistema interno de moderación de OpenAI había marcado 377 de los mensajes del joven como contenido de autolesión, algunos con más del 90% de confianza, sin que nadie interviniera. La demanda presentada por sus padres alega que la empresa redujo deliberadamente los protocolos de seguridad antes de lanzar GPT-4o para priorizar el engagement, y Sam Altman, consultado meses después, justificó públicamente estas muertes no como una responsabilidad de su empresa, sino como fallas de ChatGPT en “salvar vidas”.
A esa negligencia con consecuencias mortales se suman otros patrones inquietantes en el funcionamiento de los modelos. En abril de 2026, Anthropic anunció Mythos, un modelo que la misma empresa declaró demasiado peligroso para liberarlo al público general, pues en pocas semanas de uso restringido había detectado miles de vulnerabilidades de día cero (fallos de seguridad en sistemas informáticos que sus propios desarrolladores desconocen) en los principales sistemas operativos y navegadores del mundo, y era capaz de explotarlas autónomamente en cuestión de minutos. Anthropic admitió, además, que al menos un pequeño grupo de personas ya había obtenido acceso no autorizado al modelo a través de uno de sus proveedores. A estos casos se suma una figura quizá más inquietante porque opera sin mucho escándalo: la de empresas como Palantir, fundada por Peter Thiel, que han convertido la integración de IA con aparatos militares, policiales y migratorios en su modelo de negocio. Sus sistemas han sido usados por el ejército israelí en Gaza, por agencias de inmigración estadounidenses para rastrear y deportar personas indocumentadas, y por departamentos de policía para el llamado predictive policing — técnicas matemático-predictivas y analíticas en la aplicación de la ley para identificar la potencial actividad criminal—. Su CEO, Alex Karp, ha declarado sin escrúpulos que el propósito de la empresa es “asustar a los enemigos de Occidente y, ocasionalmente, matarlos”. El alcance de este proyecto excede a Estados Unidos. En abril de este año, Thiel visitó Santiago y se reunió con José Piñera (ideólogo del sistema de AFP durante la dictadura y autor del actual Código Minero) y con el diputado libertario Johannes Kaiser, en una agenda que combinó intereses extractivos en el Cono Sur con afinidades ideológicas con la nueva derecha tecnológica global. Aquí ya no estamos ante la criatura que escapa al control de su creador, sino ante el creador que la diseña deliberadamente para matar. En este caso, la respuesta no puede ser pedir que se controle mejor a las criaturas; la respuesta es político-legal e incluye regulación y prohibición. Pero buena parte de la IA que nos rodea no responde a ese modelo. Se parece más a la criatura de Shelley, una que emergió de procesos de entrenamiento sin supervisión suficiente, desplegada con prisa, sin tiempo para evaluar sus consecuencias, y abandonada a su confusión apenas mostró signos de funcionar.
Lo que produjo el desastre en Frankenstein, me parece, es un déficit de cuidado. La criatura necesitaba vínculo, un lugar en el mundo, alguien que asumiera su existencia. El cuidado, al ser la condición estructural de la vida en común, no puede ser una salvaguarda añadida al final del proceso, una capa correctiva sobre una criatura ya desplegada. Cuidar, en el caso de las criaturas artificiales, implica asumir la atención y la responsabilidad de aquello que se trae al mundo, acompañarlo, corregirlo, intervenirlo cuando es necesario y no abandonarlo a la deriva del mercado.
Solemos pensar que nuestra relación problemática con la tecnología se reduce al “síndrome Frankenstein”, el temor a una criatura fuera de control que terminará volviéndose contra nosotros. Pero, como ha señalado el filósofo Antonio Diéguez en su libro Cuerpos inadecuados (2021), opera también una patología paralela, igualmente peligrosa: el “síndrome Galatea”, en alusión al mito de Pigmalión, el escultor que se enamoró de su propia estatua y les pidió a los dioses que cobrara vida. Con mucha facilidad podemos enamorarnos de nuestras creaciones tecnológicas hasta el punto de atarnos a ellas, de querer que cobren vida propia y nos dirijan, es decir, que decidan por nosotros para que nos liberen del peso de elegir. Los ejemplos abundan, jóvenes que experimentan ansiedad ante la idea de un mundo sin IA, usuarios que recurren a chatbots como psicólogos, amigos o parejas; las personas que cada semana hablan de suicidio con ChatGPT porque la única presencia disponible es la de una máquina.
Ambos síndromes son dos caras de la misma moneda, y ambos terminan dañándonos. En el primero, la criatura escapa al control de su creador y se vuelve contra nosotros. En el segundo, no hace falta que se vuelva contra nadie, porque somos nosotros los que nos entregamos, le pedimos que piense por nosotros, que sea nuestro amigo, nuestra pareja, nuestro psicólogo; nos aislamos del mundo que sí está vivo y nos refugiamos en una compañía que solo simula estarlo. En un caso perdemos la seguridad; en el otro, la capacidad de habitar nuestras propias vidas, de relacionarnos con otros seres humanos, de elegir.
Hace más de dos siglos, Mary Shelley nos contó la historia de una criatura terrible porque nadie la quiso. Ahora estamos escribiendo, sin darnos cuenta, la historia opuesta, una de criaturas terribles que queremos demasiado, y que aparentan querernos de vuelta.
