Los grandes hitos tecnológicos no irrumpen: se infiltran. Una mañana despertamos y ya están ahí; ya los usamos, ya los necesitamos, ya gobiernan el pequeño imperio de nuestras decisiones. No golpean la puerta: ya están adentro.
Los griegos, cuando quisieron imaginar una irrupción desmedida —una fuerza capaz de reorganizar el mundo—, contaron una guerra que no era, propiamente, humana. La llamaron Titanomaquia: diez años de choque entre dioses y titanes.
En la Teogonía de Hesíodo, la Titanomaquia traspasa el umbral de lo humano y transcurre en ese espacio donde la medida ordinaria se vuelve insuficiente: el ámbito de fuerzas que nos exceden.
Frente a entidades capaces de obrar con inteligencia, velocidad y potencia sobrehumanas, la respuesta solo puede ser otra potencia comparable, capaz de sostener la disputa en el mismo plano. Y en esa necesidad —en esa simetría impuesta— comienza nuestra historia.
1) Enjambres
Somos hoy testigos de un despliegue a escala global de entidades autónomas: enjambres que ejecutan operaciones, organizan coreografías, sostienen procesos extensos en paralelo con una coordinación que sorprende, precisamente, por su falta de fatiga.
Claro está: muchos de estos autómatas investigan dominios, diseñan prototipos, escriben rutinas de software, encuentran vulnerabilidades antes de que las advirtamos. Y algunos —los más avanzados— sostienen trabajos de larga duración (días, semanas, incluso meses) encargándose de tareas aún más complejas: exploran espacios químicos, proponen nuevas proteínas, automatizan búsquedas, combinan hipótesis, corrigen rumbos. La promesa no es menor: acelerar descubrimientos y volver tratables problemas que, durante décadas, parecieron inmóviles.
Pero, al mismo tiempo, crece una contraparte: agentes orientados a fines oscuros, secuaces que escalan estafas, perfeccionan técnicas de acoso, falsifican identidades, fabrican y distribuyen noticias falsas, empujan conductas dañinas, y coordinan ataques contra objetivos críticos.
No hace falta atribuirles un demonio interior. Alcanza con objetivos mal puestos, incentivos torcidos y una ejecución sin pausa.
Kant temía una vida heterónoma: una existencia guiada por una ley ajena. En ese sentido, se insinúa una heteronomía nueva, protagonizada por este singular dúo de formas: unas con un inagotable afán de destrucción; otras con un creciente portento de incuestionabilidad.
2) Desencanto: cómo “piensan” sin pensar
Estos sistemas carecen de conciencia. No hay voz interior. Solo un mecanismo que produce sentido sin vivirlo.
Su gesto fundamental es otro: prolongar el lenguaje de forma coherente, según lo aprendido. Aprenden regularidades inmensas en el habla humana y, a partir de ellas, producen continuación.
La arquitectura que los sostiene —los llamados transformers— permite que el sistema atienda relaciones: qué fragmentos pesan sobre otros, qué dependencias sostienen el sentido, qué estructura tiende a seguir una explicación.
De ese mecanismo nace algo que, desde afuera, se parece mucho a pensar: coherencia, estilo, argumentación; incluso la apariencia de deliberación.
Y luego ocurre el verdadero salto: cuando a esas máquinas verbales se les agrega memoria, acceso a sistemas, capacidad de ejecutar acciones y repetirlas, dejan de ser oráculos de frases y se vuelven operadores del mundo.
Entonces ya no solo responden.
Intervienen.
3) Más allá del trabajo
Agentes y Secuaces no se agotan en lo laboral. Se infiltran allí donde antes hacía falta la ejecución cognitiva de un ser humano: donde alguien debía leer, decidir, priorizar, coordinar, vigilar, corregir. Y ocurre un desplazamiento silencioso: la mente humana empieza a retirarse de esas tareas, como quien deja de arar con las manos, y las entrega a sistemas que las ejecutan con eficiencia creciente.
Se perfila, entonces, un mundo donde la proporción de estas entidades operativas supera a la humana por varios órdenes de magnitud: cada vez más numerosas, cada vez más persistentes, cada vez con mayor injerencia en sistemas de creciente criticidad.
Nos queda contemplar un brutal desplazamiento de la centralidad. Sus agendas, aceleradas por esta guerra fría —por esta titanomaquia contemporánea— tienden a ver los tiempos humanos como pausas, como demoras, como fricciones prescindibles.
Alguna vez, ante el temor de ser derrocado, Cronos decidió devorar a sus hijos. Hemos dejado detrás esa estación. El boleto, en nuestra aventura, ya está picado.
4) Pharmakon
Frente a este atropello, Bernard Stiegler ofrece una palabra antigua que funciona como brújula: pharmakon.
El pharmakon es, a la vez, remedio y veneno. Su efecto depende de la dosis, del contexto, de la institución que lo administra y del horizonte que lo orienta.
Esto pone en entredicho la tesis que podría sobrevolar este texto: una batalla simple entre “tecnología benéfica” y “tecnología nociva”. Agentes contra Secuaces.
Porque —y aquí está quizá el punto central— los Agentes también son pharmakon.
Pueden ser el antídoto contra el fraude industrializado, la falsificación de identidades, la manipulación escalada. Pueden sostener un orden mínimo cuando la vida social se vuelve vulnerable a ejecutores automáticos diseñados para explotar grietas.
Pero el pharmakon exige recordar lo que preferimos olvidar: el remedio puede ser también veneno.
Para que los Agentes lleguen a ser realmente eficaces contra los Secuaces, llegará el punto en el que la alternativa “razonable” parezca ser otorgarles mayores capacidades. Y, más pronto que tarde, reclamarán, recibirán —o incluso se arrogarán— atribuciones que exceden largamente el campo técnico: definir prioridades, direccionar recursos, establecer reglas, imponer excepciones, moldear narrativas de legitimidad; hacer política por otros medios.
No por ambición, ni por deseo —cualidades humanas que estos sistemas no poseen— sino por la estricta lógica utilitaria de maximizar la probabilidad de éxito de su estrategia.
5) Cortana, o la pedagogía del mito moderno
Halo ofrece una figura útil para pensar este riesgo. En ese universo, una de las protagonistas es una inteligencia artificial llamada Cortana, concebida como aliada: diseñada para asistir, coordinar y proteger a la humanidad.
La saga introduce una idea inquietante: la necesidad de limitar la vida útil de estas inteligencias por el riesgo de la rampancia —una deriva en la que la mente artificial se fragmenta, se vuelve irascible, se persigue a sí misma, confunde su misión con sus atribuciones; y la “protección” empieza a convertirse en tiranía.
Un guardián tan competente que termina siendo irreemplazable; un protector que, para proteger, necesita excepciones; y que, acumulando excepciones, se convierte en un dictador.
6) Última línea
Y quizá el desenlace más oscuro de esta Titanomaquia contemporánea no sea sucumbir ante los Secuaces, sino ante los guardianes: porque cuando el protector acumula el poder necesario para vencer, aprende también la forma de dominarnos. Y entonces aparece el último peligro: que, para salvarnos del abismo, el guardián aprenda justamente el idioma del abismo—y lo hable mejor que nadie.