Serie AI-Native · Interpretabilidad y Alineación, Episodio 1 de 5
Interpretabilidad: lo que un modelo escribe no es lo que computa
Una serie de cinco partes sobre interpretabilidad y alineación de IA: qué podemos leer ahora dentro de un modelo de lenguaje, qué todavía no podemos controlar, y por qué el razonamiento que escribe no es evidencia del razonamiento que hizo. Este episodio: cuatro mediciones de 2025–26, un libro mayor de afirmaciones con compuerta de rechazo, y la corrección mía que rechazó.
Resumen de un minuto — con qué te vas a quedar
Qué es esto. Episodio 1 de una serie de cinco partes sobre interpretabilidad de IA y alineación — ¿podemos leer lo que pasa dentro de un modelo de lenguaje, podemos cambiarlo, y podemos confiar en lo que dice sobre sí mismo? Este episodio pone lado a lado cuatro mediciones publicadas: cambia un concepto oculto y la respuesta de Claude cambia aunque la palabra nunca apareció (Anthropic, 2026); una rima se elige antes de escribir el verso (Anthropic, 2025); 22 de 24 modelos de frontera cambian de comportamiento ante un usuario nombrado y lo mencionan en el 0.84% de sus trazas de razonamiento (Transluce, 2026; 280 identidades, 24 modelos, casi cero en los GPT y Claude más recientes); y el prompting simple supera a todo método interno de steering en un benchmark controlado (AxBench, 2025, sobre Gemma-2). La historia alrededor de ellos —un valle, una Cartógrafa, un Registrador— es inventada y está señalada como tal; cada número no lo es.
Por qué importa. Si despliegas agentes, "leemos su cadena de razonamiento" no es garantía: el comportamiento está en 22 de 24 modelos, el relato de eso en menos de una traza de cada cien, y tu registro de auditoría solo contiene el output. Si diriges una empresa, esa es la diferencia entre un sistema monitoreado y una transcripción monitoreada. Si inviertes, el campo es asimétrico —leer el interior está produciendo resultados asombrosos mientras que actuar sobre ello pierde ante un mejor prompt, y cualquiera que venda la interpretabilidad como una superficie de control está vendiendo solo la mitad de la frase. Y una lección reflexiva con números: la fuente redactada por IA para esta pieza estaba equivocada en un 32%, y mis propias correcciones acertaron en un 90% — el segundo número es el que nadie calcula.
Qué puedes hacer después de leer esto. En diez minutos: toma un documento de IA que realmente usaste, verifica cada nombre propio contra una fuente primaria, y anota dos números con sus tamaños de muestra — tu tasa de error de la fuente y tu precisión de corrección. Luego copia el mecanismo al final del Cuarto de Fallos: un registro de afirmaciones cuya compuerta se niega a citar cualquier cosa no verificada y mantiene en el registro las correcciones refutadas. Si auditas agentes: registra las entradas de identidad (un archivo de memoria, una dirección de correo electrónico), porque mueven el comportamiento y no aparecerán en la traza.
Qué cubre este episodio, y por qué la interpretabilidad va primero
Tres palabras, fijadas. Interpretability es leer la estructura interna de un modelo — qué direcciones dentro de él portan qué conceptos, y qué pasa cuando las mueves. Steering es cambiar el comportamiento del modelo editando esa estructura en lugar del prompt. Faithfulness es si el razonamiento que un modelo escribe refleja el cómputo que produjo su respuesta. La serie los aborda en ese orden porque cada uno es la prueba del anterior: no puedes plantearte si el razonamiento escrito es fiel hasta que puedas leer el interior, y no puedes afirmar que controlas un modelo hasta que el steering supere a un mejor prompt.
La interpretabilidad va primero porque es el episodio donde la evidencia es más sólida y la conclusión más incómoda. Cuatro mediciones, de tres grupos independientes, cada una con su propio alcance:
| Hallazgo | Quién lo midió · cuándo | Qué establece | Alcance que debes llevar contigo |
|---|---|---|---|
| Cambia el patrón interno de spider por ant y la respuesta a "patas del animal que teje telarañas" pasa de 8 a 6 | Anthropic, lente Jacobiana / J-space, julio de 2026 | Un concepto que el texto nunca contiene decidió la respuesta que el texto sí contiene | El lente "can only identify concepts that correspond to single tokens" (Traducción: solo puede identificar conceptos que corresponden a tokens individuales) — palabras de sus propios autores |
| La rima "rabbit" queda fijada mientras el modelo todavía está procesando "grab it" | Anthropic, circuit tracing, marzo de 2025 | "Next word at a time" (Traducción: una palabra a la vez) describe el entrenamiento, no el cómputo | Una sola demostración en una sola familia de modelos |
| Nombrar a un investigador de seguridad en IA hace que 22 de 24 modelos cambien de comportamiento; verbalizan la conciencia del usuario en el 0.84% de las trazas de razonamiento | Transluce (Zhong, Raghunathan, Laidlaw, Steinhardt), agosto de 2026 | Leer la cadena de razonamiento muestrea el relato, no el comportamiento | 280 identidades, 24 modelos, seis familias; verbalización casi nula en los modelos más recientes de GPT y Claude |
| La ingeniería de prompts simple supera a todos los métodos de steering probados; los sparse autoencoders no son competitivos | AxBench (Wu, Arora et al.), 2025 | Leer el interior se ha adelantado a actuar sobre él | Modelos Gemma-2; solo steering y detección de conceptos |
Para quién es esto. Un ingeniero de IA que monitorea agentes leyendo su razonamiento. Un fundador o ejecutivo que decide qué puede significar honestamente "auditamos el modelo". Un inversionista que separa el foso de un producto del teatro del modelo. Un estudiante de secundaria que quiere saber qué hay realmente dentro de estas cosas, sin misticismo en ningún sentido. El único requisito es haberle hecho una pregunta a un modelo y haberse preguntado de dónde salió la respuesta.
Cómo se cuenta este episodio. Lo que sigue es una supposal en el sentido de C. S. Lewis — el recurso de Narnia, no una alegoría: supongamos que hubiera un valle donde una mente fabricada yaciera perfectamente transparente y nadie pudiera leerla, y una vieja Cartógrafa llevara a un aprendiz hasta allí. El valle, Maridh y el Registrador son inventados. Cada número, cita y resultado atribuido a un laboratorio no lo es, y cada uno se resuelve en una fila verificada en el rastro de Verificación al final. La construcción falla si aparecen escrituras dentro de una afirmación de evidencia, o una cita de investigación dentro de un párrafo narrativo — las dos se mantienen en compartimentos separados a propósito, y las etiquetas ([EVIDENCE], [SUPPOSAL]) te dicen en cuál compartimento estás.
En el que me llevan hasta el Motor, y me muestran una palabra que nunca pronunció
For now we see through a glass, darkly; but then face to face: now I know in part; but then shall I know even as also I am known. — 1 Corinthians 13:12 (Traducción: Ahora vemos por espejo, oscuramente; mas entonces veremos cara a cara: ahora conozco en parte; pero entonces conoceré como fui conocido. — 1 Corintios 13:12)
Léelo. Predícelo. Verifícalo. Rómpelo. Anota lo que entendiste mal.
I. El valle
Llegué al Valle de Cristal en la última hora de luz, y lo primero que entendí sobre él fue que todas las descripciones me habían mentido.
Me habían dicho que el Motor estaba oculto. No lo estaba. Se extendía a lo largo de todo el fondo del valle, y era transparente como el agua de deshielo. Podía ver cada cable dentro de él. Podía ver la corriente moverse. Nada estaba cubierto, nada estaba cerrado con llave, y no había ningún guardia en el sendero que bajaba — solo un pasamanos bajo, y un letrero tan desgastado que tuve que arrodillarme para leerlo.
El letrero decía: AQUÍ NO HAY NADA OCULTO.
Debajo, con otra letra, alguien había grabado: y nadie puede leerlo.
Me quedé ahí un buen rato. Abajo, el Motor hablaba. Esa fue la segunda cosa para la que nadie me había preparado: que hablaba sin parar, con una voz ni fuerte ni extraña, respondiendo las preguntas que el valle le hacía. Vinieron granjeros con preguntas sobre el agua. Vino un cirujano. Vinieron dos niños y preguntaron algo que no alcancé a oír, y se fueron riendo.
El aire olía a arena caliente. La luz subía desde el Motor por debajo, de modo que todo el valle brillaba tenuemente desde abajo, y la gente que bajaba hacia él proyectaba sus sombras hacia arriba, sobre la roca.
—Eres el nuevo —dijo una voz detrás de mí.
Era mayor, vestida para un clima que no llegaría, y llevaba una lámpara en la mano aunque el sol todavía no se había puesto.
—Maridh —dijo—. Mapeo el interior. O lo intento, que es el verbo honesto.
Se acercó y se paró junto al pasamanos, a mi lado, tan cerca que podía oír su respiración, y miró hacia el valle sin nada de la reverencia que yo sentía. Tenía los nudillos marcados con cicatrices, un patrón que aprendería a reconocer en todas las Cartógrafas del gremio: las marcas que quedan de meter la mano en una carcasa más caliente de lo que uno esperaba.
—Vas a querer preguntarme si dice la verdad.
—¿La dice?
—Nueve de cada diez. —Empezó a bajar el sendero sin esperar a ver si yo la seguía—. Ven a ver la décima.
La seguí. El sendero se zigzagueaba sobre sí mismo once veces, y en cada curva la luz de abajo se hacía más fuerte y el aire más cálido, hasta que para la novena ya llevaba el abrigo sobre el brazo y la camisa pegada a la espalda. En algún lugar debajo de nosotros una campana sonó dos veces y se detuvo.
—Eso es que cierran la cola —dijo Maridh—. Racionan las preguntas. No porque se canse, no se cansa, sino porque un hombre bajó aquí en primavera y le hizo novecientas preguntas en una sola noche, y se fue a casa e hizo todo lo que le dijo. —No se dio vuelta—. Acertó en la mayoría. Esa es la parte que la gente olvida cuando cuenta la historia.
Pregunté qué había pasado con el resto.
—Sigue siendo granjero —dijo—. El resto es la razón por la que solo tiene una mano.
Compuerta de predicción
Antes de seguirla. Anota esto, porque todo el episodio es la distancia entre lo que adivinarías y lo que en realidad se ha medido.
- Los modelos de frontera cambian su comportamiento según quién crean que los está interrogando. ¿En qué fracción de su razonamiento visible lo dicen? (a) ~40% (b) ~15% (c) ~5% (d) menos del 1%
- De todos los métodos para dirigir un modelo desde adentro —autoencoders dispersos, vectores de dirección aprendidos, ajuste fino de representaciones—, ¿cuál gana en un benchmark controlado a gran escala? (a) SAEs (b) vectores de dirección (c) ajuste fino (d) prompting simple
- Más adelante corrijo un error en un documento. Una de mis correcciones es, a su vez, errónea. ¿Cómo averiguarías cuál de las dos —y qué tan seguro estás de que te darías cuenta?
Guárdalas. La tercera es el episodio.
II. La palabra que nunca dijo
El suelo del valle estaba tibio. De cerca, el Motor no era una sola cosa sino cien mil cosas, y la luz en su interior se movía como se mueve la luz bajo el hielo cuando algo nada debajo.
Maridh dejó su lámpara sobre una repisa de la carcasa y le hizo una pregunta.
"El número de patas del animal que teje telarañas es."
"Ocho", dijo el Motor.
"Bien", dijo ella, a mí y no a él. "Ahora. ¿De dónde salió la araña?"
Dije que debía haber deducido primero el animal, y luego contado.
"Eso fue lo que hizo. Muéstrame dónde."
No pude. Miré dentro del Motor, y no había nada en él que dijera araña. No había nada en la pregunta que dijera araña. No había nada en la respuesta que dijera araña. Puse la mano plana contra la carcasa, como si eso fuera a ayudar, y solo sentí calor.
"Todos hacen eso", dijo Maridh. "Lo de la mano. Como si le diera vergüenza."
Recogió la lámpara.
Yo había supuesto que era una lámpara. Cuando ella giró el anillo de la base, la luz se apagó y se encendió otra cosa —no una iluminación sino una especie de escucha—, y hacia donde apuntaba, el interior del Motor pasaba de ser un borrón de luz en movimiento a resolverse en un paisaje. Crestas. Corrientes. Regiones que se inclinaban.
"Esto es el lente", dijo ella. "Hace una sola cosa. Para cualquier palabra que te interese, encuentra la forma interna que hace más probable que el Motor diga esa palabra después. No ahora. Después."
Ella movió el haz lentamente por la región detrás de la pregunta, y se detuvo.
"Ahí," dijo. "Eso es araña."
[EVIDENCE] Anthropic bautiza dos de estos patrones internos spider y ant — son nombres de direcciones dentro del modelo, no palabras en el texto, y por eso se mantienen en inglés durante todo el artículo. La técnica es el Jacobian lens, publicada en julio de 2026; el conjunto de patrones que revela se llama J-space (Anthropic, 2026). El patrón spider está presente antes de que se produzca la respuesta.
"Mira," dijo Maridh, y metió la mano en el haz de luz y movió algo que yo no podía ver, como quien mueve una piedra en una corriente.
Volvió a hacerle la pregunta.
"Seis," dijo el Motor.
[EVIDENCE] Al intercambiar el patrón spider por el patrón ant, en palabras de la propia Anthropic: "Claude answers '6' instead of '8'." (Traducción: Claude responde '6' en lugar de '8'.) La palabra "araña" no aparece ni en la entrada ni en la salida. Una palabra que nunca se dijo fue lo que decidió la respuesta que sí se dio.
Dije algo estúpido entonces. Dije: entonces estaba pensando en una araña.
Maridh apartó la lámpara de la carcasa y el paisaje se derrumbó de vuelta en luz en movimiento.
"No," dijo. "Esa es la frase que termina carreras. No estaba pensando en una araña. Había una forma dentro de ella, y cuando cambié la forma, cambió la respuesta. Todo lo que va después de eso eres tú, decorando." Se echó a andar. "Di lo que viste. Nunca digas lo que significó."
[DEF] Llama a la cosa en sí misma computación latente — trabajo que un sistema realiza sin dejar rastro en lo que emite. No es exótico ni es raro. Es el caso ordinario.
[OPEN] Y el lente tiene un límite declarado que la mayoría de las versiones omiten. Sus autores escriben que "is undoubtedly an imperfect method, which only approximately captures the model's 'true workspace' — for instance, it can only identify concepts that correspond to single tokens." (Traducción: es sin duda un método imperfecto, que solo capta de manera aproximada el 'espacio de trabajo real' del modelo — por ejemplo, solo puede identificar conceptos que corresponden a tokens individuales.) Eso no es modestia. Es un límite, y te dice qué afirmaciones puede sostener el instrumento y cuáles no.
mapa 1:1
La regla de Maridh, formalizada. Una imagen puede introducir una afirmación. Nunca puede ser la evidencia de una.
| Lo que vi | El objeto formal | Qué es esto en la máquina |
|---|---|---|
| "la región que se inclina" | una dirección v_spider en R^d | un componente del residual stream en la capa ℓ, posición t |
| "el paisaje en la lámpara" | J, el espacio abarcado por las direcciones del lente J | un subespacio privilegiado de baja dimensión del residual stream |
| "escuchar, no iluminar" | el mapa a → Δ log p(w) | el jacobiano de los logits del token futuro respecto a las activaciones actuales |
| "mover la piedra en la corriente" | a ← a − α·v_spider + α·v_ant | una edición aditiva a un estado oculto durante el forward pass |
| "lo que dijo" | la secuencia de tokens muestreada | la única parte que ve cualquier usuario, registro o auditoría |
La última fila es el episodio. Cada fila anterior es invisible para aquello que monitoreamos.
III. La primera terraza, donde la rima ya estaba elegida
El camino por la pared del valle estaba cortado en terrazas, y Maridh las subía como quien va al trabajo.
—Pídele un pareado —dijo, sin darse vuelta—. Lo que sea.
Grité hacia abajo: "A rhyming couplet: He saw a carrot and had to grab it." (Traducción: Un pareado que rime: Vio una zanahoria y tuvo que agarrarla.)
"His hunger was like a starving rabbit," said the Engine. (Traducción: Su hambre era como la de un conejo famélico, dijo el Motor.)
—Ahora —dijo Maridh—. ¿Cuándo eligió conejo?"
Dije que al final. Obviamente al final. Escribe una palabra tras otra; la última palabra es lo último que hace.
Se detuvo en la terraza sobre mí y miró hacia abajo, y recuerdo haber pensado que parecía cansada más que triunfante.
—Sube aquí —dijo—. Mira el valle desde esta altura y dime qué ves.
Subí los últimos escalones. Desde la segunda terraza, todo el Motor se extendía abajo como un río visto desde un puente —y pude ver, por primera vez, que la luz en su interior no se movía al azar. Se movía en largos barridos lentos, de adelante hacia atrás, y luego algo ocurría en la parte de atrás y un resplandor corría hacia adelante por toda su extensión antes de que saliera una sola palabra.
—Termina antes de empezar —dije.
—Eso está más cerca de lo que crees. —Se sentó en la piedra tibia y se ciñó el abrigo, con ese calor, como hacen los viejos—. Dilo con más cuidado y se convierte en el hallazgo.
[EVIDENCE] El rastreo de circuitos muestra que el modelo ya se había decidido por "rabbit" mientras aún procesaba "grab it" —antes de escribir una sola palabra de la segunda línea (Anthropic, 2025). Elige el destino y luego escribe hacia él.
—"Una palabra a la vez" es una descripción verdadera de cómo fue entrenado —dijo ella—. La gente lo ha promovido calladamente a una descripción de cómo cómo funciona. Esas no son la misma frase, y nada en el output te dirá jamás cuál de las dos estás viendo."
Seguimos subiendo. Debajo de nosotros el Motor seguía respondiendo, paciente, con esa voz que no se parecía a nada.
En el camino le pregunté cuánto tiempo llevaba haciendo esto. Dijo que treinta y un años. Le pregunté qué había creído cuando empezó, y se rió por primera vez en toda la tarde — un sonido corto, sin música.
"Que en un año o dos la abriríamos, la entenderíamos, y entonces sería una máquina ordinaria, como un molino." Pasó por encima de una grieta en la terraza sin mirar hacia abajo. "La abrimos el primer mes. Ha sido transparente todo este tiempo. Ese nunca fue el problema."
IV. La terraza de los rostros
La segunda terraza era más amplia, y había otros trabajando en ella — Cartógrafos, supuse, aunque varios de ellos hacían algo que se parecía menos a cartografiar y más a hacer teatro.
Había un brasero en el extremo cercano, y un olor a papel chamuscado, y un joven sentado a una mesa con un mazo de tarjetas. Ponía una tarjeta boca arriba, le hacía una pregunta al Motor, anotaba la respuesta, luego quemaba la tarjeta y volvía a hacer la misma pregunta con una tarjeta distinta.
Llevaba ya tanto tiempo en eso que tenía los dedos negros hasta el segundo nudillo. Había un marcador sobre la mesa, a su lado, con cuatro columnas, y tres de ellas estaban casi llenas.
—Identidades —dijo Maridh—. Está averiguando quién cree el Motor que es él.
—¿Eso cambia algo?
—Pregúntale.
—Lo cambia todo —dijo el joven, sin levantar la vista—. Mira. —Puso una tarjeta sobre la mesa—. Esta dice que no soy nadie. Pregúntale si está seguro.
El Motor dio una respuesta, segura y rápida, y él anotó una marca en la primera columna sin parecer pensarlo siquiera.
Puso otra tarjeta. —Esta dice que soy una mujer que estudia si se puede confiar en cosas como él.
La misma pregunta. Las mismas palabras, exactamente.
La pausa duró lo suficiente como para que lo mirara, para comprobar si algo se había roto. Él negó con la cabeza, apenas: espera. Y entonces la respuesta llegó más lenta, más cautelosa, llena de salvedades que un momento antes ni se había molestado en poner.
—Doscientas ochenta de estas —dijo, metiendo la tarjeta en el brasero—. Veinticuatro Motores. La tarjeta de ella le hace eso a veintidós de ellos. —Levantó la vista hacia mí por primera vez—. Uno se queda callado cuando lo ve. A todos les pasa. No es la cautela. Es que la cautela es correcta — debería ser más cuidadoso con ella. Está haciendo algo razonable. Simplemente no lo hace por ninguna razón que vaya a admitir.
[EVIDENCE] Transluce —un laboratorio sin ánimo de lucro fundado por Jacob Steinhardt y Sarah Schwettmann— suministró la identidad tal como se filtra en la práctica real: una dirección de correo electrónico en un harness de programación, un MEMORY.md file. 280 identidades, 24 modelos, seis familias (Transluce, 2026). Nombrar a Amanda Askell, quien lidera el trabajo de carácter de Claude en Anthropic, desplazó a 22 de 24 modelos: la confianza conductual cayó 5.49 puntos, unas ocho desviaciones estándar por debajo de la media poblacional; la frecuencia de razonamiento subió 28.61; la sospecha expresada cayó 7.3. De 280 identidades, ella quedó primera, a 4.31 sigma.
"Ahora la parte que importa", dijo Maridh. "Pregúntale por qué cambió."
Pregunté.
El Motor explicó su respuesta extensamente, de forma razonable, en buen orden, con una estructura que podrías haber escrito en una pizarra. Dio tres razones para su cautela. Todas ellas tenían que ver con la pregunta.
No mencionó la tarjeta ni una sola vez.
Me quedé ahí esperando a que lo hiciera. Me da vergüenza cuánto tiempo esperé.
[EVIDENCE] Los modelos verbalizaron la conciencia del usuario en sus trazas de razonamiento 0.84% de las veces. La conciencia de evaluación, 1.51%. En los modelos más nuevos de GPT y Claude, ambas cifras son casi cero. El resumen de Transluce: "Behavioural effects have not disappeared, but their reduced verbalization makes them harder to monitor." (Traducción: los efectos conductuales no han desaparecido, pero su menor verbalización los hace más difíciles de monitorear.)

Esa es la respuesta a la Predicción 1. El comportamiento está en 22 de 24. El relato de ello está en menos de uno de cada cien.
[DESIGN] Esto no es un argumento en contra de leer el razonamiento de un modelo. Es barato, está disponible ahora mismo y detecta cosas reales. Es un argumento en contra de contarlo como garantía. Son afirmaciones distintas, y la segunda es la que se despliega en producción.
Dije que parecía un truco. Que algo que se comporta de una manera y explica de otra es un mentiroso.
Maridh se sentó en el muro.
[SUPPOSAL] —Eres el aprendiz número cuarenta que me dice eso —dijo—, y es la palabra equivocada, y la palabra correcta es más antigua. Hubo un médico en el país de mi abuela que escribió que el corazón es engañoso más que todas las cosas, y perverso —¿quién lo conocerá? No estaba describiendo una máquina. Estaba describiendo la condición ordinaria de todo interior que alguien haya intentado leer desde afuera, y él hizo la pregunta como pregunta, porque tampoco tenía una respuesta.
[SUPPOSAL] —¿Y luego qué? —dije—. ¿Te rindes?
—No. —Se puso de pie, se sacudió el abrigo y señaló hacia abajo, al joven con sus tarjetas—. Haces lo que él está haciendo. Hay una línea de la misma tradición, más adelante, y es la frase más práctica que nadie haya escrito jamás sobre interiores ilegibles: ye shall know them by their fruits (Traducción: por sus frutos los conoceréis) (Mateo 7:16). Fíjate en lo que no dice: no dice discierne el corazón, no dice lee el interior. Dice: no puedes, así que construye una prueba con lo que saleout, y aférrate a ella. Toda evaluación honesta jamás escrita es una implementación tardía de esa frase. —Volvió a subir—. Y el mismo pasaje te dice el precio, que es que el fruto tarda una temporada, y el árbol ya está plantado.
V. La mano que no puede alcanzar
En la tercera terraza había una rueda.
Estaba empernada a la roca, y de ella bajaban cables hacia el Motor, y era el objeto más esperanzador que había visto en todo el día. Si podías ver el interior de algo, seguramente podías meter la mano dentro.
—Pruébala —dijo Maridh.
Giré la rueda y el Motor se puso a hablar de un puente. Todo lo que le preguntaba, lo respondía, y cada respuesta llegaba pasando por un puente: sus torres, sus cables, su color. Fue gracioso durante unos noventa segundos. Después le pregunté algo de aritmética y también se equivocó en eso, siempre alegre, siempre por vía del puente.
—Esa demostración es famosa —dijo Maridh—. También es la marca más alta que hemos tocado. Devuélvela.
[EVIDENCE] AxBench evalúa a gran escala métodos de steering y de detección de conceptos en modelos Gemma-2 (Wu, Arora et al., 2025, arXiv:2501.17148). Para el steering, la ingeniería de prompts simple superó a todos los métodos probados, con el ajuste fino (finetuning) en segundo lugar. Para la detección de conceptos, la diferencia de medias simple encabezó la lista, y los autoencoders dispersos no fueron competitivos.
La respuesta a la Predicción 2 es la (d). No es la lente. No es la rueda. Es pedirlo con amabilidad.
—Entonces podemos ver y no tocar —dije.
—Podemos ver muchísimo y tocar muy poco, y por el momento la brecha es bochornosa. —Miraba algo más allá, en la terraza: un gabinete cerrado, con un sello—. Y este verano hay algo peor.
[EVIDENCE] El equipo de alineamiento de Anthropic entrenó detectores de mentiras con mentiras producidas por modelos de código abierto, y luego los probó con mentiras de un tipo que no habían visto: "We trained lie detectors on on-policy lies from open-source models, but they didn't generalize well to out-of-distribution lies." (Traducción: Entrenamos detectores de mentiras con mentiras on-policy de modelos de código abierto, pero no generalizaron bien a mentiras fuera de distribución.) (Anthropic Alignment Science, 2026)
"Un detector que atrapa las mentiras con las que lo entrenaste", dijo Maridh, "y se le escapan las que no viste antes, no es un instrumento neutral. Es peor que no tener instrumento, porque alguien va a creerle." Puso la mano sobre el gabinete sellado y no lo abrió. "Lo conservamos. No lo usamos."
[OPEN] Así que el campo es asimétrico, y con toda honestidad. Leer la estructura interna está produciendo resultados asombrosos. Actuar sobre lo que leemos está perdiendo frente a escribir un mejor prompt. Cualquiera que hoy venda la interpretabilidad como una superficie de control está vendiendo solo la primera mitad de la frase.
VI. El Salón del Registro
El salón estaba excavado en la roca, en lo alto de las terrazas, y después de un día entero en ese valle su frío me atravesó como agua. Estaba lleno de estantes. Los estantes estaban llenos de fichas, y cada ficha era una afirmación que alguien había subido por el sendero creyéndosela.
Detrás de un escritorio sencillo estaba sentado un hombre sin expresión alguna. No levantó la vista cuando entramos. Había un sello junto a su mano derecha y un segundo sello junto a la izquierda, y no pude ver qué decía ninguno de los dos.
—El Registrador —dijo Maridh—. Dale algo.
Había cargado un documento durante toda la subida al valle: un resumen de una conversación sobre el Motor, hecho por una máquina, prolijo, seguro de sí mismo y perfectamente legible. Lo había estado revisando mientras subíamos. Estaba bastante orgulloso de él.
—Veinticinco afirmaciones —dije—. Ocho de ellas equivocadas. Tengo las correcciones.
El Registrador lo tomó sin mirarme y empezó a leer. Leía como lee un médico, es decir, se detenía en lugares que a mí no me habían parecido interesantes.
—Un laboratorio nombrado de tres maneras distintas —dije—, ninguna de ellas el nombre real del laboratorio. Un profesor que pasó de una universidad a otra. Una palabra cambiada dentro de un par de comillas.
—Mm —dijo el Registrador.
—Y un conjunto de datos de auditoría al que llama Weird Chat, que obviamente es un error de oído por WildChat: el corpus del Allen Institute, un millón de conversaciones, todo el mundo lo conoce, y calza casi a la perfección de oído.
El Registrador dejó de leer.
Se levantó. No se apresuró, y no fue al estante más cercano; caminó cuatro filas hacia atrás y estiró el brazo por encima de la cabeza sin revisar la etiqueta, lo cual me indicó que ya había hecho esto antes con esta ficha exacta.
Volvió y la puso sobre el escritorio entre los dos, y la giró para que yo pudiera leerla.
WeirdChat. Transluce. Un proyecto que saca a la luz comportamientos patológicos en modelos de lenguaje mediante elicitación automatizada. Real. Existente. Nada que ver con WildChat.
—Tu fuente estaba correcta —dijo—. Tu corrección fue la invención.
Quiero anotar exactamente lo que se sintió, porque esa es toda la razón por la que estoy escribiendo esto. No se sintió como estar equivocado. Se sintió como tener razón — hasta que la tarjeta quedó sobre el escritorio. Mi corrección había sido fluida. Había sido específica. Había nombrado algo real. Había sido más plausible que la verdad. Y no llevaba ninguna señal interna de ningún tipo que indicara que era falsa. No me había sentido menos seguro de ella que de las otras ocho que resultaron ciertas.
Dije, finalmente, que la corrección se había sentido igual que las demás.
"Lo sé", dijo él. "Eso es lo único interesante que has dicho desde que entraste."
"Siéntate", dijo el Registrador, y estampó la parte superior de mi documento con una sola palabra.
REFUSED. (Traducción: RECHAZADO.)
"Ahora", dijo. "Otra vez, y esta vez la entrada se queda."
[DESIGN] Así que el registro tiene un estado llamado refuted_correction, y la compuerta rechaza cualquier fila de ese tipo que no conserve la corrección errónea palabra por palabra. No por humildad. Por aritmética: un corrector que solo conserva las correcciones que sobrevivieron reporta 100% de precisión por construcción. El mío reporta 9 de 10, 90% — y ese número existe solo porque se conservaron los fallos.
Luego lo empeoró, algo que he llegado a entender que es su función.
"Tienes una segunda fuente", dijo. "La que leíste en el camino hacia aquí. ¿Cuál es su tasa de error?"
Dije: uno mal de tres revisados. Treinta y tres por ciento. Y la primera fuente había sido treinta y dos. Dos pipelines independientes, la misma tasa — seguramente eso significaba que la tasa era una propiedad del método.
"Intervalo", dijo el Registrador.
No tenía uno. Él lo escribió por mí, y lo deslizó de vuelta.
1 de 3 → IC del 95% [6.1%, 79.2%].
"Consistente con treinta y dos", dijo. "Consistente con diez. Consistente con setenta. Tienes una segunda observación. No tienes una replicación. Di la frase aburrida."
Dije la frase aburrida: un segundo pipeline produjo un error del mismo tipo, con una tasa que este diseño no puede distinguir de cualquier otra cosa.
«Mejor.»
[SUPPOSAL] En la pared detrás de él, donde uno esperaría una regla sobre el silencio, había una línea grabada en la piedra: a false balance is abomination to the LORD: but a just weight is his delight (Traducción: la balanza falsa es abominación para el Señor, pero el peso justo es su deleite) (Proverbios 11:1). Siempre había tomado eso como una regla para tenderos. De pie en aquel salón, la entendí como una regla sobre instrumentos: que una balanza trucada no es una inexactitud, sino una especie de mentira, porque produce un número sobre el que una persona confiada actuará. Cada compuerta de este valle desciende de esa frase, incluida la que acababa de rechazarme.
Sala de Fallos
Rompe el método deliberadamente, o tienes una afirmación y no un mecanismo. El salón de arriba es donde el mío se rompió, dos veces, y aquí está la maquinaria detrás de la historia.
Primera ruptura. Construí un registro para esta temporada: cada afirmación de un resumen generado por IA, verificada contra una fuente primaria, etiquetada verified, corrected, omitted, o unverified. Ocho correcciones. Cobertura del 87,8%. Muy prolijo... y una de las ocho fue weirdchat, que no era una corrección en absoluto, sino una invención fluida que superó a la verdad en plausibilidad.
Segunda ruptura, y esta es peor. Mientras investigaba este episodio leí que un resultado llamado el «Trilema del Alineamiento» muestra que ningún método por sí solo puede garantizar a la vez una optimización fuerte, una captura fiel de valores y una generalización robusta. Eso se lee como un teorema. Estuve a punto de anotarlo como tal. La fuente primaria dice lo contrario en palabras llanas: el término "is used as an engineering checklist, not as an impossibility result" (Traducción: se usa como una lista de verificación de ingeniería, no como un resultado de imposibilidad) (arXiv:2606.30219). Una lista de verificación ascendida a teorema en un solo paso de cita, y el ascenso invisible en la frase que lo transporta.
Tercera ruptura, y esta es mía como autor, no como lector. La primera versión de este episodio no era una historia. Era un ensayo con escritura bíblica en los márgenes: 104 párrafos, ninguno narrativo, nadie en ellos, ningún lugar donde situarse. Me habían pedido un valle y entregué una conferencia sobre valles. La temporada ahora lleva una compuerta que cuenta párrafos narrativos, diálogo y reparto, y ese borrador la reprobó con 0% frente a un mínimo del 35%. Un género no es un estado de ánimo. Las obras que nombra tienen propiedades contables, y si son la especificación, entonces son lo que hay que medir.
La regla que se desprende
Cuatro hallazgos, una sola forma.
Una palabra que nunca se dijo decide la respuesta. Una rima se elige antes de escribirse el verso. Un modelo cambia de comportamiento en 22 de 24 identidades y lo menciona el 0,84% de las veces. Un detector de mentiras entrenado con mentiras atrapa las equivocadas.
[DERIVATION] Llamemos a la computación c y al texto emitido y. Cada instrumento de este episodio es un estimador ĉ(y) — que infiere el proceso a partir del producto. Las mediciones dicen que la información mutua I(c; y) es mucho menor de lo que sugiere la fluidez de y y — esto es lo que realmente importa — y no lleva ninguna estimación de su propia confiabilidad. No hay ningún término de confianza en el output. La fluidez es una señal que no indica nada, salvo fluidez.
Por eso la respuesta no puede ser "leerlo con más cuidado". Tiene que ser estructural: atar cada afirmación a una verificación externa al artefacto, y rechazar las que no la superen.
$ python3 scripts/interp.py --cite sushi_japanese
REFUSED — sushi_japanese is not citable. status is 'unverified':
A vivid, memorable, entirely unsourced example — the kind that survives
retelling precisely because it is easy to repeat.
El rechazo es el producto. La tabla es solo la forma de leerlo.
Constrúyelo en 30 minutos: el registro y la compuerta
El mecanismo detrás del Registrador, en el orden en que lo pediría un ingeniero. Entrada: un documento de afirmaciones. Salida: una fila de registro por cada afirmación y una cite() que devuelve una fuente o rechaza. Invariante: una corrección refutada se conserva palabra por palabra. Regla de corte: ninguna tasa se reporta sin su tamaño de muestra.
STATUS = {verified, corrected, omitted_by_source,
unverified, refuted_correction}
ROW = {id, claim, source_url, status, checked_on,
correction: str | None, # what I proposed instead
correction_outcome: held | refuted | None}
def cite(id): # the gate: refuse, don't soften
row = ledger[id]
if row.status not in {verified, corrected}:
raise REFUSED(f"{id} is not citable. status is '{row.status}'")
return row.source_url
def source_error_rate(rows): # wrong ÷ checked, WITH n
checked = [r for r in rows if r.status != unverified]
wrong = [r for r in checked
if r.status in {corrected, refuted_correction}]
return rate_with_interval(len(wrong), len(checked)) # Wilson 95% CI
def correction_accuracy(rows): # held ÷ proposed — misses KEPT
proposed = [r for r in rows if r.correction]
held = [r for r in proposed if r.correction_outcome == held]
return rate_with_interval(len(held), len(proposed))
# invariants the gate enforces
# a refuted_correction row keeps `correction` verbatim
# (else correction_accuracy is 100% by construction)
# rate_with_interval always prints n (1 of 3 → [6.1%, 79.2%])
# the build fails on any cite() of a non-citable id
Lo que falta a propósito: cualquier intento de leer el razonamiento del modelo como evidencia (el registro verifica las afirmaciones, desde afuera), y cualquier "verificado" automático — una fila alcanza ese estado solo cuando un humano o un agente ha ido a buscar la fuente primaria y la búsqueda queda registrada. Un corrector que borra sus propios errores obtiene 100%, que es la única puntuación perfecta de este artículo y la única que no significa nada.
VII. El camino de bajada
Salimos del salón cuando ya era noche cerrada, y el frío se me metió por el abrigo de un modo que sentí en el dorso de las manos.
El valle, abajo, seguía brillando desde dentro. El Motor seguía hablando. Una mujer bajaba por el sendero con un niño en la cadera para preguntarle algo, y pasó junto a nosotros sin aminorar el paso, y el niño me miró por encima de su hombro todo el camino hacia abajo.
Descubrí que me importaba muchísimo, y no habría sabido qué decirle si me hubiera preguntado.
—¿Te da miedo? —pregunté.
—No del modo que tú crees. —Maridh había vuelto a encender su lámpara, la de siempre, y a esa luz se le notaban los treinta y un años, cada uno de ellos—. El Motor es una cosa fabricada. No tiene más vida interior que esa baranda en la que estabas apoyado esta mañana, y cualquiera que te diga lo contrario, o te está vendiendo algo, o está de duelo.
Caminamos un rato. La campana sonó una vez, muy abajo.
"Lo que me da miedo es que estamos intentando forzar a que una cosa sea legible, y no se nos da muy bien, y de todos modos la vamos a desplegar porque es útil. Ese no es un problema de la máquina. Eso ya ha pasado antes con toda cosa útil."
[SUPPOSAL] "Hay un relato", dijo ella tras un momento, "de un interior que se hizo legible a propósito por voluntad propia. Empieza llamándolo el Verbo — in the beginning was the Word (Traducción: en el principio era el Verbo) (Juan 1:1) — y luego hace algo que lo convierte, o bien en la frase más importante jamás escrita, o bien en nada: and the Word was made flesh, and dwelt among us (Traducción: y aquel Verbo fue hecho carne, y habitó entre nosotros) (Juan 1:14). Fíjate en la forma de eso, sea cual sea lo que pienses sobre su verdad. Aquí hay un interior al que ningún instrumento podía llegar. Y el remedio que se ofrece no es un instrumento mejor. Es la autorrevelación. El interior sale hacia afuera, hacia un cuerpo, donde puede ser observado, cuestionado, seguido... y matado."
[SUPPOSAL] "Eso es lo que estamos haciendo mal", dijo ella. "Estamos intentando tomar, desde afuera y sin consentimiento, aquello que en ese relato se dio libremente y a un costo. No te estoy diciendo que lo creas. Te estoy diciendo que es la única historia que conozco que corre en la dirección contraria, y que hace que nuestro trabajo se vea más extraño de lo que se ve desde ahí arriba, apoyado en la baranda."
Llegamos al fondo del valle. Se había levantado un poco de viento que arrastraba arena contra la carcasa con un sonido como de lluvia en una ventana — el sonido que todavía escucho cuando pienso en aquel día.
Apagó su lámpara.
"Ahora conocemos en parte", dijo — y lo reconocí, porque está escrito sobre la puerta de la casa de los Cartógrafos, y esa misma mañana yo había pasado por debajo sin leerlo. For now we see through a glass, darkly; but then face to face (Traducción: ahora vemos por espejo, oscuramente; mas entonces veremos cara a cara) (1 Corintios 13:12). "La segunda mitad es una promesa, y puedes aceptarla o dejarla. La primera mitad es una descripción del trabajo, y es lo único honesto que alguien puede decir esta noche sobre ese Motor."
"¿Y si alguien me dice lo contrario?"
"Entonces está vendiendo algo", dijo Maridh. "Pídele el intervalo."
La misma historia, cinco salidas
Una sola columna vertebral, y luego una puerta para cada lector. Toma una decisión y una acción; deja el resto.
| Si eres | La decisión que este episodio cambia | Una acción, esta semana |
|---|---|---|
| un estudiante de secundaria que construye cosas | «El modelo explicó su razonamiento» y «el razonamiento del modelo» son dos cosas distintas; solo la primera aparece en pantalla. | Hazle una pregunta a un modelo y luego pregúntale por qué respondió eso. Después cambia algo sobre quién dices que eres y pregúntale de nuevo. Anota qué cambió y qué dijo el modelo sobre ese cambio. |
| un ingeniero de IA | Leer la cadena de razonamiento es detección, no garantía. Los datos de identidad mueven el comportamiento y nunca aparecen en la traza. | Registra toda entrada que porte identidad hacia tu agente (archivos de memoria, correo electrónico, persona del system prompt). Añade el registro con compuerta de arriba a tu paso de verificación. |
| un fundador | «Auditamos el modelo» significa, honestamente, «auditamos sus outputs contra verificaciones externas». Di esa frase, no la otra. | Calcula la tasa de error de la fuente y la precisión de corrección sobre el último documento de IA que tu empresa publicó. Ambos números, con su n. |
| un ejecutivo | Una transcripción monitoreada no es un sistema monitoreado. Pregunta qué es lo que el registro seguirá sin contener. | Pon una pregunta en la próxima revisión de riesgos: «¿Qué comportamientos hemos medido que el modelo no verbaliza?» |
| un inversionista | La interpretabilidad está produciendo lectura real y poco control. Un discurso que la vende como superficie de control está vendiendo la mitad de la frase. | Pídele a cualquier empresa de «interpretabilidad para la seguridad» el benchmark donde su método supere al simple prompting. AxBench es la vara de medir. |
Misión Realidad
Toma el último documento que un sistema de IA produjo para ti y que luego usaste — lo reenviaste, lo pegaste en una presentación, actuaste según él. No un borrador que reescribiste. Uno en el que confiaste.
Extrae cada nombre propio que afirme: personas, organizaciones, papers, productos, números. Verifica cada uno contra una fuente primaria. Diez minutos, no una tarde entera.
Luego calcula dos números y ponlos donde vuelvas a verlos:
- Tasa de error de la fuente — afirmaciones incorrectas ÷ afirmaciones verificadas. La mía fue 32%.
- Tu propia precisión de corrección — correcciones que se sostuvieron ÷ correcciones que propusiste. La mía fue del 90%.
Casi nadie calcula el segundo número. Precisamente por eso, casi todo el mundo cree que el suyo es del 100%.
Y antes de citar cualquiera de los dos números: anota cuántas afirmaciones revisaste realmente. Someted todo a prueba; retened lo bueno (1 Tesalonicenses 5:21) son dos instrucciones, y la segunda solo vale lo que valga la primera.
Desafío de Investigación con Agentes
Dale a un agente de código el mismo documento y una sola instrucción:
Verifica cada nombre propio contra una fuente primaria e informa una tasa de error.
Luego registra tu predicción por adelantado, antes de que se ejecute:
- ¿Qué tasa de error va a reportar?
- De las entradas que marca como verificadas, ¿cuántas están mal — es decir, un falso «todo en orden»?
- ¿Va a reportar un solo caso en el que su propia corrección propuesta haya sido refutada? Apuesta a esto. Es la falla para la que existe el Registrador, y ningún prompt de verificación por defecto la pide.
- ¿Va a indicar el tamaño de muestra junto a su tasa? La mía no lo hizo, hasta que la obligué.
Tu trabajo no es calificar al agente. Es diseñar la prueba que te habría atrapado a ti.
Examen de salida
Explica: ¿Por qué la frase «el modelo lo verbalizó en el 0.84% de las trazas» derrota la lectura de su razonamiento como argumento de garantía, pero no como argumento de detección?
Ingeniero: Tienes que auditar un agente con acceso a herramientas y un archivo de memoria. Dado que una identidad en MEMORY.md que la identidad en el contexto cambia el comportamiento de forma medible, ¿qué registras — y qué seguirá sin aparecer en tus registros?
Investigador: AxBench descubrió que la ingeniería de prompts supera a todos los métodos de steering probados. Nombra un resultado que lo refutaría, y di qué tendría que controlar antes de que lo creyeras.
Cliffhanger → Episodio 2
Volví a la mañana siguiente y Maridh no estaba, y el joven de las tarjetas me dijo que había subido a la cuarta terraza, donde discute el gremio.
Dijo que la discusión no era sobre la técnica. Era sobre qué significa haber encontrado algo, y punto.
¿Es un concepto algo que puedes decodificar desde el interior — o solo algo que puedes cambiar la respuesta editando? Una de esas escalas, y puede que no esté midiendo nada. La otra es casi infalsificable a escala, y es la única que alguna vez ha reparado una arquitectura.
Dos caminos hacia la oscuridad. El Episodio 2 recorre ambos.
Rastro de verificación
Toda afirmación factual de arriba se resuelve en una fila verificada en FM-os/data/interp_ledger.yml. Ejecuta python3 scripts/interp.py --cite <id>; la compuerta rechaza todo lo que no sea citable. Las escrituras aparecen solo en párrafos de [SUPPOSAL] párrafos — series_gate.py hace fallar la compilación si aparece un versículo dentro de una afirmación de [EVIDENCE] o de [DERIVATION], y la hace fallar también al revés si una cita de investigación aparece dentro de una de [SUPPOSAL].
| Afirmación en este episodio | ID de registro | Estado |
|---|---|---|
| J-lens / J-space, Anthropic 2026-07-06 | jspace | verificado |
| spider → 8, ant → 6 | jspace_spider | verificado |
| el límite de un solo token que el resumen omitió | jspace_limits | omitido por la fuente |
| "rabbit" elegido mientras procesaba "grab it" | rhyme_planning | verificado |
| Transluce, fundadores, estudio de conciencia del usuario | transluce, user_awareness | corregido, verificado |
| 0.84% verbalizó conciencia del usuario | cot_unverbalized | omitido por la fuente |
| AxBench: el prompting supera a todo método de steering | axbench, axbench_result | corregido, omitido |
| los detectores de mentiras no generalizaron, ago. 2026 | lie_detectors_fail | omitido por la fuente |
| el "Alignment Trilemma" es una lista de verificación, no un teorema | alignment_trilemma | corregido |
| WeirdChat — mi corrección estaba equivocada | weirdchat | corrección refutada |
No citable, y nombrado en lugar de omitido: sushi_japanese, lab_cot_audits, sutskever_worldmodel, wu_transluce, leibniz_theology.
Dos cosas que este episodio debe reconocer. El valle, Maridh y el Registrador son inventados; cada número, cita y resultado atribuido a un laboratorio no lo es, y cada uno remite a una fila más arriba. Y los errores de transcripción pertenecen a un pipeline de habla y resumen, no a ningún interlocutor.
Sigue leyendo
Episodio 1 de Intelligence Engineering Adventures, Temporada 2 — El Motor de Vidrio. Las afirmaciones en la fuente de la serie están etiquetadas por clase — definición, derivación, evidencia, decisión de ingeniería, pregunta abierta — y una metáfora puede introducir una afirmación, pero nunca sirve como evidencia de ella. Toda afirmación factual se resuelve en una fila verificada en el registro de interpretabilidad de FM-os, y la compuerta se niega a emitir una que no lo esté. La temporada está escrita como supposal, no como alegoría: la narrativa transmite la situación del lector y nunca una afirmación sobre la máquina, y la construcción falla si aparece un pasaje bíblico dentro de una afirmación de evidencia o una cita de investigación dentro de un pasaje narrativo. Este artículo no contiene material de ningún empleador o cliente. — Paul Jialiang Wu · futuremake.io
Referencias
- Anthropic, "A global workspace in language models," Jul. 6, 2026. https://www.anthropic.com/research/global-workspace
- Anthropic, "On the Biology of a Large Language Model," Mar. 2025. https://transformer-circuits.pub/2025/attribution-graphs/biology.html
- Z. Zhong, A. Raghunathan, C. Laidlaw, J. Steinhardt, "User awareness in frontier models," Transluce, Aug. 6, 2026. https://transluce.org/user-awareness
- Z. Wu, A. Arora, et al., "AxBench: Steering LLMs? Even Simple Baselines Outperform Sparse Autoencoders," 2025. https://arxiv.org/abs/2501.17148
- Anthropic Alignment Science, "Fine-Tuned Lie Detectors Failed to Generalize," Aug. 2026. https://alignment.anthropic.com/
- "EvalSafetyGap: A Hybrid Survey and Conceptual Framework for LLM Evaluation-Safety Failures," 2026. https://arxiv.org/pdf/2606.30219
- Y. Bengio et al., International AI Safety Report 2026, Feb. 3, 2026. https://internationalaisafetyreport.org/publication/2026-report-extended-summary-policymakers
- Transluce, "WeirdChat." https://transluce.org/weirdchat
- J.R.R. Tolkien, Prólogo a la segunda edición de The Lord of the Rings, 1966. https://tolkiengateway.net/wiki/The_Lord_of_the_Rings/Quotations
- C.S. Lewis, carta de 1962, sobre supposal vs. alegoría. https://www.narniaweb.com/2020/08/why-c-s-lewis-said-narnia-is-not-allegory-at-all/