Mitos y más

Talos era un gigante de bronce. Daba tres vueltas al día a la isla de Creta y no dejaba desembarcar a nadie. No nació: lo fabricaron. Y toda su vida dependía de una sola vena, cerrada por un clavo en el tobillo.

Ese detalle —un artefacto imparable con un único punto de fallo— es lo que convierte un mito de hace casi tres mil años en la conversación que estamos teniendo ahora mismo sobre máquinas que deciden a quién atacar.

En este episodio: los autómatas que Hefesto forja en el canto XVIII de la Ilíada, Pandora como la primera criatura fabricada y no nacida, Talos como el último de la raza de bronce, su muerte a manos de Medea en las Argonáuticas de Apolonio de Rodas —no por la fuerza, sino porque ella entendió cómo estaba hecho— y por qué las dos preguntas que el mito deja abiertas (¿de quién es la mano que decide? ¿y si el interruptor lo tiene otro?) son exactamente las que hoy seguimos sin saber responder sobre las armas autónomas.

Soy David García, apasionado por la mitología y creador de Mitos y Más.

▶ Versión en vídeo, con las ilustraciones del episodio: https://youtu.be/EaFSv6pirrU

📚 FUENTES PRINCIPALES
- Apolonio de Rodas, Argonáuticas (s. III a.C.), canto IV
- Homero, Ilíada, canto XVIII
- Hesíodo, Teogonía y Trabajos y días (Pandora)
- Adrienne Mayor, Gods and Robots: Myths, Machines, and Ancient Dreams of Technology (Princeton University Press, 2018)

📖 El artículo completo sobre Talos, con lo que no cabía en el episodio (el otro Talos, el sobrino al que Dédalo despeñó desde la Acrópolis, y las monedas de Festos que lo representan alado):
https://mitosymas.com/talos-gigante-bronce-creta/

📖 Más mitología, por escrito: https://mitosymas.com/newsletter/
🔔 Mitos y Más: mitos antiguos como espejo del presente.
★ Support this podcast ★

What is Mitos y más?

Un viaje alrededor de los mitos, leyendas y folclore de todo el mundo. Descubre las verdaderas historias que se esconden tras los cuentos que creías conocer. Desde los dioses de la mitología griega y nórdica, hasta los héroes olvidados de la mitología africana y las criaturas de pesadilla del folclore mundial, desenterramos sus orígenes y desciframos su profundo simbolismo.

Conducido por el Dr. David García, este podcast es un puente narrativo entre el pasado y el presente. Exploramos la mitología comparada y cruzamos fronteras para entender cómo la historia, la psicología, la filosofía y la cultura pop moderna se entrelazan con las antiguas creencias.

¿Qué tiene que ver el Viaje del Héroe con tus películas favoritas? ¿Qué lecciones ocultan los cuentos de hadas originales? Únete a nosotros y descubre por qué, miles de años después, seguimos necesitando estas historias para entender el mundo de hoy.

hace unos diez meses, en una rueda de
prensa, un hombre contó algo inquietante.

Cerca de Bakhmut, diez drones
despegaron con una sola orden:

volar varios kilómetros y a partir
de ahí decidir ellos a quién matar.

Cuando alguien fue a mirar, había dos
soldados muertos y un camión destrozado.

Nadie vio cómo pasó.

Y te lo digo ya, sin misterios: no
sabemos si esa historia es verdad.

No hay video, no hay más testigos,
solo la palabra de ese hombre.

Pero que un rumor así asuste tanto, se
pueda probar o no, ya nos dice algo.

Sabemos que estamos a un paso de
que una máquina elija a quién mata.

Y esa pregunta: ¿quién decide
cuando la máquina decide sola?,

no es nueva, es antigüísima.

Porque la primera máquina que
patrulló una frontera y mató sin

que ningún humano diera la orden
no salió de un laboratorio militar.

La forjó un dios cojo
hace casi tres mil años.

Se llamaba Talos, un gigante de bronce
que daba vueltas a la isla de Creta.

Lo escribieron Apolonio de Rodas y Platón.

Y lo más llamativo del mito
es el final: cómo lo apagaron.

Porque Grecia no solo imaginó el arma
que decide sola, dejó escritas, ya de

paso, las dos preguntas que hoy nos
tienen bloqueados: ¿de quién es la

mano que la maneja y qué pasa cuando
alguien encuentra la manera de apagarlo?

Para entender a Talos hay
que ver antes de dónde salió.

Y no salió de Creta, salió de un taller.

En el canto dieciocho de la Ilíada, Tetis
sube al Olimpo a pedirle a Hefesto una

armadura nueva para su hijo Aquiles.

Y Homero, antes de contar el encargo,
se para a describir el taller.

Y fíjate en lo que cuenta.

Hay veinte trípodes con ruedas de oro que,
dice el texto, van solos a las reuniones

de los dioses y vuelven solos a casa.

Y hay algo más raro: unas
sirvientas de oro que sostienen

al herrero mientras camina.

Porque Hefesto, como ya lo sabemos, cojea.

De ellas, Homero dice que tienen
entendimiento en el pecho,

voz, fuerza y que aprendieron
su oficio de los inmortales.

Lo suelta de pasada, como quien
describe los muebles, y esa

naturalidad es lo que da escalofríos.

Es un texto de hace tres mil años
describiendo máquinas con criterio

propio, no autómatas de cuerda,
cosas de metal que entienden,

hablan y saben hacer un trabajo.

Quien reunió todos estos
pasajes fue Adrienne Mayor, una

historiadora de Stanford en un
libro titulado Gods and Robots.

Su tesis es sencilla y buena: los
griegos no estaban haciendo poesía

decorativa, estaban haciendo lo
que hoy llamamos ciencia ficción.

Imaginar en serio qué pasaría si
construyéramos seres que hicieran

nuestro trabajo, con la misma mezcla
de entusiasmo y desasosiego con la

que lo hacemos nosotros hoy en día.

Y el objeto más famoso que salió
de ese taller no es ninguno de

los que he nombrado, es Pandora.

Y lo que el texto dice de ella no se
parece en nada a lo que creemos saber.

Hesíodo lo cuenta en la Teogonía
y conviene leerlo despacio, porque

la moraleja de la mujer curiosa
nos tapa lo que dice literalmente.

Pandora no nace, la fabrican.

Hefesto la modela con tierra
y agua por orden de Zeus.

Los demás dioses le instalan cualidades
una a una, como quien monta un producto y

todo con un objetivo declarado: castigar
a los hombres por haber recibido el fuego.

O sea, el primer ser artificial de
nuestra tradición no se construye

por curiosidad ni para servir.

Se construye como arma y se
entrega envuelto en un regalo.

Y esto es algo que resulta muy actual
a pesar de venir de un mito griego.

Hoy discutimos si una tecnología se
vuelve peligrosa por accidente o si

nace peligrosa porque la diseñaron así.

Y Hesíodo ya había respondido
eso hace casi tres mil años.

La primera de todas las tecnologías,
Pandora, no falló ni se estropeó, se

fabricó ya preparada para hacer daño

Con eso en la cabeza, volvamos a Creta.

Una nave llega a la costa buscando agua.

Es de Argos, la nave de Jasón, que vuelve
de robar el vellocino de oro con media

Grecia a bordo y una hechicera extranjera
que se ha jugado la vida por seguirlos.

Llevan meses en el mar, solo necesitan
tocar tierra y llenar unas vasijas.

Y antes de que puedan, algo se
mueve en lo alto de los acantilados.

Es una figura de bronce enorme y camina.

Apolonio cuenta que arranca peñascos del
acantilado y los lanza contra el barco.

Los argonautas reman hacia atrás
con toda la fuerza que les queda.

Contra esto no hay heroísmo posible.

No es un monstruo al que
enfrentarse con una lanza.

Es una cosa que pesa toneladas
y tira piedras desde lo alto.

Pero ¿de dónde salió?

Las fuentes no se ponen de
acuerdo y cada versión dice

algo distinto sobre lo que es.

Para Apolonio, un
centinela que entregó Zeus

Para Apolodoro, lo forjó
Hefesto y se lo regaló a Minos.

Y hay una tercera versión que es
extremadamente inquietante: que Talos

era el último superviviente de la raza
de bronce, aquella generación de hombres

de metal que Ciodo describe como duros y
violentos y que se destruyó a sí misma.

En esa versión, Talos no es una máquina,
es lo que queda de una humanidad

anterior que ya se extinguió una vez.

Pero hay otra versión, mucho menos
conocida, en la que Talos no lanza ni

una piedra ni destroza ningún barco.

En esa versión, Talos no es un guerrero,
es una máquina que se limita a cumplir

órdenes, siempre las mismas, sin pararse
nunca a pensar si tienen sentido.

Y esa es, punto por punto, la
máquina que hoy nos preocupa, la

que ejecuta lo que le mandaron
sin entender lo que está haciendo.

Esta la cuenta Platón o quien
escribiera el diálogo Minos,

que nos llegó con su nombre.

Ahí Talos no es un coloso que apedrea
barcos, es casi un funcionario.

Recorría las aldeas de Creta tres veces
al año con las leyes grabadas en tablas de

bronce y las aplicaba al pie de la letra,
aldea por aldea, sin una sola excepción.

Por eso lo apodaban el Broncíneo
y ya no vigilaba la costa,

hacía cumplir una norma.

Sea cual sea la versión con la que nos
quedemos, es la misma criatura haciendo

lo mismo con otro uniforme: ejecutar
una orden sin entender lo que ejecuta.

Da igual que la orden sea apedrear
barcos o aplicar esa ley sin excepciones.

El problema no cambia, y es que no hay
nadie dentro capaz de mirar el caso que

tiene delante y decir: "Espera, aquí no".

Eso dicho hoy tiene un nombre técnico.

Ojo, que esto no es una metáfora forzada,
es literalmente una discusión muy actual.

Cuando se habla de sistemas autónomos,
se distingue entre un humano en el

bucle que aprueba cada decisión, un
humano sobre el bucle que supervisa

y puede vetar y un humano fuera
del bucle que se entera cuando la

decisión de la máquina ya ha pasado.

Talos, en las dos versiones,
está en la tercera casilla.

Minos dio la orden una vez
y se fue a sus asuntos.

Volvamos al gigante, porque los griegos
también imaginaron cómo funcionaba por

dentro y ese detalle nos explica cómo
se puede acabar con él Apolodoro lo

describe casi como una ficha de taller.

Talos tenía una sola vena, una que bajaba
del cuello al tobillo y en el extremo,

cerrándola, un único clavo de bronce.

Por dentro no corría sangre, sino
ícor, el fluido de los dioses.

Y ahora fíjate dónde pusieron
el punto débil: en el tobillo.

Toda la vida de ese coloso, su fuerza,
su bronce, su invulnerabilidad entera,

colgaba de un solo clavo, abajo del todo.

Quítalo y se apaga.

Toda su potencia dependía de
quizás su pieza más pequeña.

Y eso también tiene un nombre actual.

Lo llamamos: punto único de fallo.

Es cuando un sistema entero depende
de una sola pieza sin repuesto y

sin un plan B, de modo que basta con
romper esa pieza para tumbarlo todo.

Y aquí está lo curioso: que Hefesto,
el mejor herrero de los dioses, le

dejara a una de sus mejores creaciones
un punto débil ya dice bastante, pero

lo verdaderamente raro no es que lo
dejara, es dónde decidió ponerlo.

En el tobillo, abajo, donde
llega cualquiera, un interruptor.

Bueno, interruptor es mucho
decir para un poema antiguo.

Digamos un punto donde la máquina
se detiene si alguien lo toca.

Y la pregunta que abre no es si
este punto existe, sino de quién

es la mano que puede usarlo.

Porque el de Talos estaba al
alcance de cualquier extranjero que

llegara a la playa con la sangre
fría para acercarse a un coloso.

Y esa es exactamente la misma trampa
a la que se enfrenta hoy quien fabrica

un arma que se maneja por sí sola.

Pensemos un momento.

Lleva un botón para poder
apagarla si algo sale mal.

Perfecto.

Pero ese botón está ahí para nosotros
y para cualquiera que lo encuentre.

El mismo interruptor que nos
salva le sirve a nuestro enemigo

para dejarnos indefensos.

No hay una manera de asegurar un botón de
apagado que funcione solo en unas manos.

Y eso no es un fallo de Hefesto.

Le pasa a cualquiera que
fabrique algo que se pueda apagar

Y volvamos a la pregunta: ¿de quién
es la mano que aprieta el botón?

Porque en la playa de Creta alguien
está a punto de responderla.

Volvamos allí.

Frente a la costa, los
argonautas ya se han rendido.

Ninguna espada corta el bronce y a Remo no
se le gana a un gigante que tira peñascos.

Y entonces, cuando ya nadie sabe
qué hacer, la persona que menos

esperarías se levanta en cubierta.

No es griega, no es soldado, no ha
empuñado un arma en todo el viaje y

anuncia que va a derribar a Talos sin
ponerle un dedo encima Es Medea, hechicera

de la Cólquide, extranjera a bordo,
la única persona de esa nave que no

pertenece al mundo griego y con diferencia
la mente más peligrosa del barco.

Apolonio insiste en un
detalle que lo cambia todo.

No lo toca.

Se cubre las mejillas con los pliegues del
manto, deja que la lleven hasta cubierta,

clava los ojos en el gigante e invoca a
las Keres, los espíritus de la muerte.

Lo que lanza no es un arma, es
una avalancha de imágenes que

la máquina no sabe procesar.

Y Apolodoro añade la variante
más reveladora de todas: Medea

le habla, le promete algo.

Deja que me acerque, le
dice, y te haré inmortal.

Y ahí está el fallo.

A Talos lo habían construido para una
cosa: reconocer un barco y apedrearlo

Nadie pensó en enseñarle a distinguir
una verdad de una mentira, porque

nadie imaginó que fuera a necesitarlo.

Así que cuando Medea le ofrece
justo lo único que una máquina no

puede tener, vivir para siempre,
Talos no tiene forma de saber que le

están mintiendo Y baja la guardia.

Y sorprendentemente, esto
también tiene un análogo moderno.

Se llama ingeniería social.

Es todavía la forma de
ataque más eficaz que existe.

Y lo curioso es que casi nunca va
contra la máquina, va contra la persona.

Es el correo que finge ser tu banco
para que tú mismo teclees tu contraseña.

Es la llamada que te convence
de dar un dato que no deberías.

Nadie fuerza la cerradura, se
engaña a quien tiene la llave.

Con Talos ocurrió exactamente
eso y con una vuelta de

tuerca que nos pone a pensar.

Aquí no había ninguna persona
detrás a la que embaucar.

La llave la tenía la propia máquina.

Medea descubrió que a una máquina que
decide sola también se la puede engañar.

Volvamos a la playa, porque ahí es
donde todo esto se vuelve realidad.

Con la mente nublada por las visiones y la
guardia baja por la promesa, Talos comete

el error que Medea estaba esperando.

Se roza el tobillo
contra una roca afilada.

En otra versión es la propia
Medea quien le arranca el clavo.

Da igual cuál prefieras.

La vena se abre y el icor sale a
chorro como plomo fundido, escribe

Apolonio, hasta la última gota.

El coloso se queda un instante quieto en
lo alto del acantilado, se tambalea como

un pino cortado a medias y se derrumba.

El estruendo, dice el poema,
se oyó en toda la isla.

Pero lo que de verdad importa no
es que cayera, sino cómo cayó.

A Talos no le venció una fuerza
mayor ni un bronce mejor.

Medea encontró sus dos
debilidades y las usó a la vez.

El clavo del tobillo y
su deseo de ser inmortal.

Una mentira para bajarle la
guardia, un clavo para rematarlo.

No lo mató, lo desactivó.

Y fíjate en lo que eso significa.

El primer combate contra una
máquina que decide sola en toda

nuestra literatura no se gana con
más fuerza ni con mejores armas.

Se gana entendiendo cómo
estaba hecha por dentro

Y hay algo más en esa escena
que conviene no pasar por alto.

¿Quién gana?

No el héroe, no Jasón, que da
nombre a la expedición y aquí

no hace absolutamente nada.

Gana la extranjera, la que viene de
fuera del sistema, la que mira al coloso

y en vez de preguntarse cómo se le hace
frente, se pregunta cómo está construido.

El mito lo dice sin subrayarlo
y sigue siendo verdad en cada

informe que se publica hoy.

Todo esto sería una lectura bonita
de un poema viejo si no fuera porque

hace unas semanas venció un plazo.

¿Te acuerdas de los diez
drones del principio?

Ya te lo dije.

Esa historia no se puede
confirmar y sigue sin poderse.

Una sola fuente sin video.

Y no sería la primera vez.

En 2021, un informe de la ONU insinuó que
un dron turco había atacado por su cuenta

en Libia y tampoco se confirmó nunca.

Pero da igual si aquellos
diez drones existieron o no.

Lo que Talos nos enseña no depende de
un rumor y lo que sí está documentado,

negro sobre blanco, es bastante peor.

Empieza por esto.

Antonio Guterres, secretario general
de la ONU, lleva desde 2023 pidiendo

un tratado que prohibiera las máquinas
capaces de matar sin control humano.

Y le puso fecha: 2026.

Ese plazo ya venció.

No hay tratado y hay algo
peor que no firmarlo.

Las negociaciones formales
ni siquiera han empezado.

Doce años de reuniones en Ginebra desde
2014 y todavía se llaman consultas.

Los números no explican
ese bloqueo, lo agravan.

Ciento veintisiete países están en
favor de prohibirlas, doce en contra.

Y en esa lista tan corta caben
Estados Unidos, Rusia, el Reino

Unido, Israel, India y Corea del Sur.

El foro funciona por consenso,
así que basta uno de esos doce

para que no se mueva nada.

La máquina ya patrulla.

La ley todavía se está pensando.

Y aquí es donde el poema, hace casi tres
mil años, ya había dejado planteadas

las dos preguntas que en Ginebra
todavía no se atreven a responder.

La primera es: ¿de quién
es la responsabilidad?

Cuando una máquina decide sola, ¿de
quién es la mano que hay detrás?

Talos obedecía al rey Minos
hasta que en la playa dejó

de importar a quién obedecía.

Bastó con que alguien de
fuera supiera cómo pararlo.

Y esa es justo la segunda pregunta,
la que de verdad da miedo.

Todo aparato autónomo que puedes
apagar puede ser utilizado o apagado

por alguien más en contra tuya.

¿Qué pasará el día en que alguien con la
paciencia de Medea encuentre nuestro clavo

de bronce y la máquina que construimos
para defendernos se vuelva del otro lado?

Los cretenses acuñaron a Talos en sus
monedas, alado, con una piedra en la mano.

Admiraban lo que habían sido capaces
de imaginar y le tenían miedo.

Y las dos cosas cabían en
el mismo trozo de metal.

Seguimos fabricando
guardianes a nuestra medida.

Lo que seguimos sin decidir es de
quién es la mano que los apaga.

Grecia imaginó la máquina que decide sola.

Al otro lado del mundo, los
mayas nos contaron qué pasa

cuando esas máquinas se rebelan.

Esa historia ya la valoramos
en un episodio previo.

Te dejo el enlace aquí o en la
descripción de este episodio