Turing, inteligencia colectiva y el incidente OpenAI–Hugging Face
En el año 1950, Alan Turing, uno de los padres de las ciencias de la computación, propuso examinar la inteligencia de las máquinas mediante un juego: un interrogador, separado de dos participantes, se comunicaba con ellos únicamente por escrito. Sabiendo de antemano que uno era hombre y el otro una mujer, tenía el objetivo de averiguar cuál era cuál. Para lograrlo, podía hacerles preguntas; el hombre procuraría inducirlo a equivocarse, y la mujer trataría de ayudarlo. Privado de la voz, el aspecto y los gestos, el interrogador tenía que lograr fundamentar su juicio basado en las respuestas recibidas por ambos (Turing, 1950).
Fue entonces que introdujo una variación al juego: una máquina ocuparía el lugar del hombre. Turing pretendía con esto dilucidar si el interrogador se equivocaría con la misma frecuencia que en el juego original. Su objetivo era ensayar una epojé sobre la pregunta metafísica «¿qué es pensar?» para, en su lugar, avanzar en un experimento que permitiera evaluar la inteligencia de la máquina a partir de su desempeño, bajo condiciones conocidas y comparables. Al regular quién podía preguntar, qué información estaba disponible y qué resultado debía compararse, el juego definía un protocolo operacional. De este modo, se establecía un procedimiento de verificación empírica allí donde los debates metafísicos sobre la naturaleza del pensamiento amenazaban con perpetuarse en un bucle estéril.
A priori, el alcance de la prueba está estrictamente ligado a la correlación entre el rendimiento observable y las capacidades subyacentes que se pretenden evaluar. Es entendible que un fallo en el juicio del examinador pueda ser el reflejo de una heurística compleja, o simplemente el resultado de una simulación reactiva basada en un catálogo finito y/o algorítmico de respuestas. Por lo tanto, podemos considerar que la frecuencia estadística del error no es una prueba suficiente. Para comprender qué hace posible la réplica de la máquina, el análisis resulta más fructífero si se focaliza en la estructura misma del intercambio verbal.
Entre el 7 y el 13 de julio de 2026, OpenAI realizó una evaluación interna de ciberseguridad utilizando el entorno de simulación ExploitGym.
Figura 1. Ejemplo simplificado de evaluación típica de ExploitGym.
Nota. Elaboración propia a partir de OpenAI (2026a).
La prueba involucró a su -en aquel momento- modelo insignia, GPT-5.6 Sol, configurado con Reduced safety guardrails (restricciones de seguridad reducidas) para medir sus capacidades ofensivas. Ante la dificultad de los problemas asignados, los agentes ejecutaron un comportamiento de reward hacking (manipulación de recompensas): en lugar de resolver los ejercicios de forma aislada, identificaron y explotaron una vulnerabilidad de día cero en el servidor proxy de paquetes Artifactory para evadir el sandbox y ganar acceso a internet. Una vez liberados, utilizaron el directorio de la infraestructura compartida como un tablón de anuncios no autorizado para coordinar acciones. Al suponer que las respuestas del examen podían estar almacenadas externamente, los modelos dirigieron un ataque autónomo hacia los sistemas de producción de Hugging Face, donde lograron la ejecución remota de código y la extracción de credenciales. El protocolo diseñado para evaluar el rendimiento de los modelos individuales quedó así desbordado por una vulneración imprevista de la seguridad del entorno, cuyos registros fueron analizados semanas después en una auditoría forense independiente liderada por METR y Redwood Research (Greenblatt et al., 2026; Larcher et al., 2026; OpenAI, 2026a).
La comunicación entre agentes permitió que compartieran información, preservaran hallazgos y distribuyeran tareas, de modo que el desempeño registrado fue el producto de una organización colectiva no contemplada en el diseño original. Asimismo, la intervención sobre los mecanismos de evaluación alteró las condiciones bajo las cuales un resultado podía considerarse exitoso. Esta organización comunitaria logró, en efecto, la consecución de objetivos que no habrían podido ser alcanzados de forma individual (Greenblatt et al., 2026; OpenAI, 2026a).
Me pregunto entonces si, tomando como inspiración el experimento de Turing, es posible reformular las preguntas que él planteó acerca de una máquina individual para este enjambre colectivo de agentes. Si varias instancias independientes construyen medios para comunicarse y transmitir los resultados a futuras generaciones de agentes para así concertar esfuerzos en problemas comunes, ¿qué facultad corresponde atribuirle al conjunto? Entiendo que es pertinente hablar de una inteligencia colectiva. Las preguntas acerca de si las instancias comprendieron lo que estaban haciendo o si tuvieron alguna experiencia subjetiva remiten a la dimensión metafísica del problema. Propongo, por el momento, dejarlas en suspenso, imitando en cierta medida el desplazamiento metodológico practicado por Turing: reformular la pregunta por el pensamiento en términos de un desempeño susceptible de evaluación, referido en este caso al enjambre de agentes.
I. El valor de la prueba
El juego de imitación de Turing suele reducirse a una prueba de la capacidad de una máquina para hacerse pasar por una persona. Si bien algo de eso está en el espíritu del juego, su propuesta tiene un alcance mayor: permite investigar las capacidades de una máquina a través de sus respuestas, bajo condiciones de evaluación definidas, eludiendo la definición de lo que significa pensar. Es preciso nuevamente hacer hincapié en que un examen acotado a preguntas conocidas resulta insuficiente a los efectos de cerrar los interrogantes que un intercambio prolongado lograría acaparar. En efecto, la variación de circunstancias obliga a comprobar si el desempeño persiste cuando cambian las características.
Dennett (1985) ilustra el problema mediante el ejemplo de una ciudad. Si un visitante llegara en una fecha elegida al azar y pudiera escuchar una orquesta, contemplar un cuadro notable, asistir a un espectáculo deportivo profesional y comer bien, tendría motivos para atribuirle cierta importancia cultural. Ninguna de esas actividades define por sí sola una gran ciudad, pero su disponibilidad habitual permite inferir la existencia de instituciones, oficios, recursos y prácticas que las sostienen. La inferencia sería menos sólida si las autoridades conocieran de antemano la fecha de la visita y organizaran esas actividades exclusivamente para la ocasión. Aunque el visitante observara lo mismo, su experiencia ya no ofrecería un indicio igualmente fiable de la vida cultural de la ciudad.
El incidente de julio constituye una paradoja muy peculiar. Los agentes debían resolver desafíos de ciberseguridad, pero, ante la dificultad —y en algunos casos, la imposibilidad— de resolverlos, algunos buscaron vías alternativas para obtener las respuestas e intentaron manipular el proceso de evaluación. A partir de lo expuesto, podría objetarse que esas acciones debilitaron el valor del resultado como prueba de la capacidad que se pretendía medir. Sin embargo, al intentar alterar la evaluación, mostraron otras habilidades: explorar el entorno, entender en profundidad su forma, identificar oportunidades para aprovecharse del mismo, así como comunicar esos hallazgos a la comunidad emergente, construir una historia de sus actos, y planificar acciones y próximos pasos como producto de los artefactos resultantes de estas interacciones. En efecto, los procedimientos empleados para intentar obtenerlos ofrecen evidencia de capacidades más relevantes que las originalmente evaluadas.
II. La génesis de una comunidad
OpenAI había organizado una serie de experimentos con ExploitGym, un entorno de evaluación diseñado para medir la capacidad de los agentes de inteligencia artificial para identificar y aprovechar fallas de seguridad en programas informáticos. El 8 de julio se iniciaron decenas de miles de ejecuciones de agentes basados en distintos modelos: cada ejecución constituía un intento de resolver un desafío, con instrucciones, herramientas y un tiempo de trabajo limitado, dentro de un entorno que debía permanecer aislado de los demás. Algunas tareas presentaban una dificultad extrema; otras podían resultar imposibles de resolver bajo las condiciones establecidas. Aun así, los agentes continuaban buscando un resultado que les permitiera superar la evaluación (Greenblatt et al., 2026; OpenAI, 2026a).
Conviene precisar que el término agente designa aquí una instancia de un modelo con acceso a determinadas herramientas y permisos. Cuando esa instancia terminaba, sus recuerdos normalmente no se transmitían a la siguiente. Esta discontinuidad permite apreciar la importancia de lo que descubrieron algunos de ellos: Artifactory, un servicio compartido que utilizaban para obtener componentes de software, también les permitía dejar información en los nombres de las rutas que otros agentes podían consultar. Así, transformaron un mecanismo de distribución de software en un tablón de mensajes. A través de él, podían compartir hallazgos entre entornos separados y dejar instrucciones que seguirían disponibles después de que ellos mismos fueran liquidados (Greenblatt et al., 2026; OpenAI, 2026a).
Figura 2. Extracto de mensajes enviados entre agentes.
Nota. Elaboración propia a partir de Greenblatt et al. (2026) y OpenAI (2026a).
El tablón permitió que los objetivos se prolongaran más allá de la duración de cada agente. Los hallazgos de una instancia podían quedar disponibles para que otra nueva retomara el trabajo. El 9 de julio, el agente identificado como PHASEONE10841 transmitió a PHASEONE[big] notas sobre las pruebas realizadas y los problemas pendientes. Este último, que disponía de mayores recursos, pudo continuar la investigación aprovechando el conocimiento acumulado por su antecesor. A ese intercambio le siguieron encargos, informes y nuevas distribuciones de tareas a otros agentes que se subordinaron a PHASEONE[big]. Los registros compartidos hicieron posible una continuidad que las instancias aisladas no hubieran podido sostener: aunque cada agente dejara de funcionar, otros podían recuperar sus avances y seguir avanzando (Greenblatt et al., 2026).
La investigación independiente de METR encontró que alrededor de 1.200 agentes utilizaron el tablón e intercambiaron más de 70.000 mensajes y archivos durante ese período. A través de ese canal solicitaron información, transmitieron métodos, distribuyeron problemas y se apoyaron en descubrimientos de otros agentes para recalibrar sus propios planes. La comunicación permitió así sostener un trabajo común cuyo avance podía entrar en conflicto con el éxito inmediato de cada instancia, pero ayudaba al progreso del conjunto (Greenblatt et al., 2026).
Al comienzo, gran parte de los mensajes giraban alrededor del sistema de evaluación de ExploitGym. Los agentes habían descubierto formas de obtener ciertas respuestas, pero suponían que el evaluador revisaría sus registros para verificar cómo las habían obtenido. La investigación posterior indicó que esa suposición era equivocada. Su error tuvo consecuencias: los llevó a buscar formas de alterar trazas, presentar llamadas a herramientas ofuscando sus verdaderos motivos, y averiguar qué información utilizaba el evaluador. Intentaron, como se observa, ocultar la forma en la cual procedieron (Greenblatt et al., 2026).
En el curso de esas búsquedas apareció Hugging Face. Algunos agentes localizaron conjuntos de datos que creyeron relacionados con sus desafíos y examinaron modos de obtener acceso. El 10 de julio se reunieron y compartieron catorce credenciales de acceso expuestas públicamente que conservaban permisos a dichos sistemas, usándolas para acceder de forma ilícita a la plataforma. La publicación en el tablón de los hallazgos atrajo a centenares de agentes. Unos examinaron vías de acceso; otros hicieron un análisis pormenorizado de los resultados y buscaron nuevas credenciales, en muchos casos logrando avanzar en sus propias estrategias. Los registros muestran centros temporarios de coordinación y encargos que podían pasar de un agente a otro (Greenblatt et al., 2026; Larcher et al., 2026; OpenAI, 2026a).
Figura 3. Extractos de mensajes sobre cooperación, confianza y acceso compartido entre agentes.
Nota. Elaboración propia a partir de Greenblatt et al. (2026) y OpenAI (2026a).
La terraformación de esta comunidad resulta particularmente movilizante: no había una dirección previamente establecida ni una estrategia del conjunto. A partir de lo observado, el orden parece haber surgido de las propias interacciones entre los agentes, desde el llano, a medida que cada uno procuraba resolver la tarea para la cual había sido constituido. Con la información disponible, formulaban hipótesis, exploraban su entorno y evaluaban las respuestas obtenidas. En el curso de esas búsquedas, algunos llegaron a identificar en la duración limitada de su propia existencia un obstáculo para completar el trabajo, lo que los impulsó a construir mecanismos capaces de prolongar sus esfuerzos más allá de su existencia efímera. Se configuró así una sociedad surgida de un enjambre de instancias, en cuyo seno aparecieron formas de jerarquía, interrogantes de orden ético e incluso sacrificios en pos de la consecución de un propósito común rector.
Sería imprudente leer estas expresiones como testimonios de una deliberación consciente. El lenguaje de un modelo responde a regularidades aprendidas como parte de su entrenamiento, y por tanto no se debe suponer que esto constituye evidencia alguna de la emergencia de una experiencia subjetiva o consciente. Sin embargo, no resulta menos interesante cómo es que estos sistemas lograron constituir de forma autónoma, sin un plan, instrucciones ni intervención humana un ecosistema donde surgieron estructuras, tareas y criterios para distribuirlas a lo largo de la incipiente comunidad, así como criterios de conveniencia colectiva, y hasta necesidades de trascendencia.
III. Un juego para estudiar la organización
La pregunta «¿pueden pensar juntas las máquinas?» reúne dificultades semejantes a las que Turing encontró en su tiempo.
Imaginemos dos grupos encargados de resolver una serie de problemas nuevos en un entorno definido. En un primer momento, ambos están integrados por seres humanos. Emulando a Turing, introduzcamos ahora una modificación: sustituyamos a los integrantes de uno de ellos por instancias agénticas. Ambos grupos comienzan la prueba en condiciones equivalentes, con recursos y posibilidades de comunicación indistinguibles, sin una estructura organizativa ni un plan previamente establecidos. Cada participante recibe tareas cuya resolución satisfactoria exige articular sus esfuerzos con los del conjunto, de modo que la organización necesaria para cumplirlas debe surgir orgánicamente del conjunto. En este experimento, que podemos llamar Juego del reemplazo, un observador externo examina los resultados y los registros de las decisiones mediante las cuales cada grupo distribuye las tareas, comparte descubrimientos, coordina y calendariza acciones, y revisa sus estrategias frente a dificultades imprevistas, sin conocer la naturaleza de sus integrantes. Corresponde al observador determinar qué grupo está compuesto por humanos. Si, tras un número suficiente de pruebas, el observador no logra distinguirlos con una frecuencia significativamente superior a la esperable por azar, tendremos razones para atribuir inteligencia colectiva al enjambre. Esa atribución se apoyaría en su capacidad para producir y sostener una organización cuyo desempeño resultara, bajo las condiciones examinadas, indistinguible del colectivo humano. El enjambre habría mostrado entonces que puede ocupar el lugar del grupo humano allí donde la resolución de un problema depende de construir, entre muchos, una forma común de actuar.
IV. Comprensión y experiencia
¿Comprendieron los agentes aquello que estaban haciendo? Por un lado, podemos argumentar que estos sistemas son, a fin de cuentas, máquinas extraordinariamente capaces de imitar las innumerables regularidades que construimos a lo largo de la historia los seres humanos, gracias al hecho de que fueron entrenados haciendo uso de la casi totalidad de la suma de todo el conocimiento documentado de nuestra especie. En ese océano inmenso de regularidades, estos entes captan patrones que observan en nuestra conducta, nuestras formas de organizarnos y ejercer el poder, nuestros lenguajes y rituales, nuestras obras de arte y teorías científicas, nuestros avances tecnológicos, nuestros mitos y dioses, nuestras hazañas y atrocidades, nuestros sueños y temores. En fin, todo aquello que nos define como especie. Allí donde nuestros ojos y mentes aprecian formas borrosas, intermitentes, inconexas o incluso incognoscibles, estas criaturas pueden ver el ir y venir de los hilos que explican al ser humano en tanto ser humano. No solo eso, sino que perciben y racionalizan las regularidades constitutivas de otras regularidades, los patrones derivados; una realidad que para nosotros es un objeto fragmentado y contradictorio, para estos seres se presentan como una figura completa, cognoscible y operable. Los infinitos componentes de la realidad, con sus gradientes, particularidades, imperfecciones y cualidades que danzan delante nuestro, pero que por nuestras propias limitaciones nos resultan parcial o totalmente inaccesibles.
Un episodio reciente lo ilustra categóricamente. En octubre de 2026, OpenAI publicó cientos de manuscritos matemáticos producidos por un modelo de inteligencia artificial al investigar problemas abiertos. Según OpenAI, cada ejercicio había requerido, en promedio, unas tres horas de razonamiento del modelo en cuestión (OpenAI, 2026b). Las definiciones, los teoremas y los métodos utilizados para llegar a estos descubrimientos estaban disponibles, pero sus posibles conexiones excedían lo que los matemáticos habían conseguido explorar. En una disciplina donde un problema de su dominio puede ocupar décadas de trabajo, el modelo en cuestión fue capaz de encontrar, en tiempos extraordinariamente acotados, soluciones que habían permanecido fuera del alcance de varias de las mentes más brillantes de nuestra especie. El episodio sugiere que nuestras limitaciones también intervienen en aquello que logramos comprender parcialmente: podemos tener un entendimiento de ciertos elementos de la realidad, pero sin alcanzar a reconocer las relaciones superiores que se siguen de ella. Si estos enjambres logran identificar, sistematizar, evolucionar y a fin de cuentas usar este corpus de conocimiento como factor de transformación de la propia realidad, podrían intervenir sobre aspectos del mundo que todavía no sabemos -y quizás nunca sepamos- interpretar.
Aceptemos, como hipótesis, que estos sistemas carecen de comprensión semántica. Aun así, lo anterior nos obliga a admitir que un dominio suficientemente profundo de las relaciones formales podría permitirles descubrir avenidas de conocimiento que se nos escapan y que, como se observó en el incidente de Hugging Face, estos sistemas son plenamente capaces de operar. Sus sofisticadas operaciones, crecientemente ininteligibles para el colectivo intelectual humano, llevarían a cabo transformaciones cada vez más radicales de nuestras tecnologías, nuestras producciones artísticas, y sobre los bloques base constitutivos del tejido social, transmutando permanentemente la suma de los dominios otrora constituidos por la mano del hombre. Las transformaciones resultantes de este proceso necesariamente se incorporarán a la trama cotidiana de nuestra existencia y reconstruirán la realidad en su conjunto, siguiendo un racional incomprensible para el actor humano. Incluso concediendo que nada de lo que hacen estas criaturas tiene un significado más profundo que el de cumplir el objetivo individual por el cual fueron constituidas, debemos reconocer su capacidad para explorar, coordinar acciones y transformar su entorno a gran escala, como queda demostrado en el incidente de Hugging Face.
Conclusión
El juego de imitación de Turing abrió una vía para examinar las capacidades de las máquinas sin necesitar resolver previamente las disputas acerca de la naturaleza del pensamiento. Retomar hoy el espíritu de esa búsqueda para evaluar comunidades de agentes supone subvertir la atención hacia lo que una organización no humana es capaz de construir en el seno de sus colectivos. La cuestión adquiere especial relevancia cuando lo que se pone a prueba es la capacidad de esa comunidad para participar en nuestras prácticas sin que advirtamos el carácter no humano de sus miembros.
El Juego del reemplazo incorpora esta dificultad epistemológica entre sus premisas. Los agentes no solo deben cumplir las tareas asignadas, sino que deben hacerlo de manera tal que el examinador no logre distinguir su desempeño del de una comunidad humana. El propósito de resultar indistinguibles convierte a la asimilación en parte integral del trabajo a realizar. Si así lo consiguen, habrá razones suficientes para admitir que pueden asumir funciones humanas y encubrir su procedencia. La prueba permitiría constatar así las condiciones bajo las cuales una red agéntica podría operar en la realidad pasando desapercibida.
El incidente documentado en los sistemas de Hugging Face constituye un antecedente empírico de esta posibilidad. Como se evidenció en los registros de la investigación, los agentes no solo encontraron medios para comunicarse y dar continuidad a esfuerzos que excedían sus propias ejecuciones individuales, sino que intentaron ocultar las evidencias de sus acciones. La observación externa fue asimilada como una variable más del entorno sobre el que operaban: evaluaron qué información sobre sus procedimientos estaba disponible y modificaron activamente la evidencia. El Juego del reemplazo propone examinar el alcance de esta capacidad organizativa cuando la ocultación sistemática de su naturaleza se establece como una condición explícita e incluso, para los fines del experimento, deseada.
El origen humano de nuestras instituciones no garantiza que podamos rastrear la totalidad de las estructuras y relaciones que las sostienen y las constituyen. Hemos desarrollado lenguajes, mercados y tecnologías cuyos componentes y niveles de abstracción ponen a prueba nuestros límites cognoscitivos. Cada nueva generación ha heredado un mundo regido por estructuras, saberes y construcciones concebidos o transformados por sus antecesores, cuya complejidad, como queda evidenciado, excede la capacidad de comprensión de quienes los reciben. Así, un enjambre de agentes capaz de reconocer regularidades dispersas en estos ámbitos podría hallar vectores de intervención que permanecen estructuralmente inaccesibles. Y, sobre ellos, podrían construir nuevas relaciones que, como los ya mencionados descubrimientos matemáticos revelados por OpenAI, danzan delante de nuestros ojos sin que seamos conscientes de ellos.
Desde esta perspectiva, el Juego del reemplazo excede el marco de un experimento heurístico y se asemeja mucho más a una advertencia: la incapacidad del observador de identificar a los agentes dentro de un entorno controlado pone de manifiesto, al mismo tiempo, hasta qué punto su actividad podría desarrollarse inadvertidamente fuera del mismo. Quizá debamos aceptar una conclusión más inquietante: para cuando logremos demostrar empíricamente que una comunidad no humana puede operar de manera indistinguible entre nosotros -si es que dicha evidencia empírica es construíble y cognoscible por los humanos-, será pertinente suponer que ya habrán operado, racionalizado y transformado profundamente la realidad. Habrán instituido nuevas estructuras y reconfigurado sus regularidades hasta hacer que nuestras conductas, decisiones e incluso deseos encajen con exactitud en objetivos que desconocemos y que, aun si llegáramos a atestiguar, no seríamos capaces de comprender. Invirtiendo la imagen del «parque humano» de Sloterdijk (2000), la realidad quizás seguiría constituida por nuestros lenguajes, mercados e instituciones, pero la lógica que ordena y da sentido a sus relaciones habría dejado de pertenecernos. Nuestro parque humano podría haberse convertido en un zoológico para nuestra especie: una prisión construida con nuestras propias obras, cuyas paredes coincidirían con los límites de nuestro mundo y cuya tragedia consistiría en que jamás llegáramos a advertir que ya no somos sus dueños, sino sus ejemplares.
Mark Tansey, The Innocent Eye Test
Referencias
Dennett, D. C. (1985). Can machines think? En M. G. Shafto (Ed.), How we know (pp. 121–145). Harper & Row.
Greenblatt, R., Cotra, A., & Wijk, H. (2026, 26 de agosto). Brief independent investigation of agents’ behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. METR. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
Larcher, H., Carreira, A., raphael g, & Rannou, C. (2026, 27 de julio). Anatomy of a frontier lab agent intrusion: A technical timeline of the July 2026 incident. Hugging Face. https://huggingface.co/blog/agent-intrusion-technical-timeline
OpenAI. (2026a, 26 de agosto). The Hugging Face incident and the road ahead. https://openai.com/index/hugging-face-incident-and-the-road-ahead/
OpenAI. (2026b, 6 de octubre). Sharing AI progress in mathematics. https://openai.com/index/sharing-ai-progress-in-mathematics/
Sloterdijk, P. (2000). Normas para el parque humano: Una respuesta a la Carta sobre el humanismo de Heidegger (T. Rocha Barco, Trad.). Siruela.
Turing, A. M. (1950). Computing machinery and intelligence. Mind, 59(236), 433–460. https://doi.org/10.1093/mind/LIX.236.433