The Machine No One Understands (La máquina que nadie entiende)

• La caja negra, y por qué se deriva de la forma en que estos sistemas aprenden y no de secretos comerciales
• El experimento del Golden Gate, un único concepto localizado dentro de un modelo y amplificado hasta que el comportamiento se desplazó con él
• La manzana y la nota, qué hace realmente un modelo avanzado cuando "ve"
• La neurona de Spider-Man, un mismo concepto en fotografía, palabra y dibujo, y su paralelismo con las células de concepto del cerebro humano
• La superposición, y por qué una sola neurona nunca significa ordenadamente una única cosa
• Las explicaciones a posteriori, cuando un relato pulcro paso a paso no es el verdadero motivo de una respuesta
• El giro esperanzador, millones de características legibles (features) extraídas de un modelo real
• Fuentes y rendición de cuentas, 32 referencias verificables con el hecho y la interpretación separados

Es muy probable que usted use esta máquina a diario. Formula una pregunta, recibe una respuesta fluida y convincente, y sigue trabajando. Pero ¿cómo se ha formado esa respuesta? Ahí está el secreto incómodo que se esconde detrás de la comodidad. La inteligencia artificial moderna es una caja negra, y no porque una empresa esté ocultando algo, sino por la manera en que está hecha. Estos sistemas no se programan línea a línea. Se entrenan, y aprenden sus propias estrategias, guardadas en miles de millones de números que nadie ha escrito a mano. Hasta qué punto esto es tangible se ve con una manzana. Unos investigadores pegaron sobre una manzana corriente una nota manuscrita con la palabra iPod, y un modelo avanzado identificó esa manzana como un iPod con una confianza casi total. Sin hackeo y sin equipamiento sofisticado. En palabras de los propios investigadores, no hace falta más tecnología que papel y lápiz. Lo notable del asunto es que los propios fabricantes lo admiten en público. Este libro le acompaña por ese terreno con calma, sin alarmismo y sin teorías de conspiración. Es asombro, pero apoyado en pruebas.

• Sabrá explicar por qué la inteligencia artificial es una caja negra por su forma de aprender, y no por secretos comerciales.
• Podrá decir qué demuestra realmente el experimento del Golden Gate, a saber, que un concepto dentro de un modelo tiene una localización que se puede encontrar y dirigir.
• Entenderá por qué una manzana con una nota pegada se leyó de pronto como un iPod, y qué le dice eso sobre la manera en que una máquina "ve".
• Sabrá qué es una neurona conceptual (concept neuron) y por qué la neurona de Spider-Man se parece tanto a las células de concepto halladas en el cerebro humano.
• Podrá explicar la superposición y por qué no basta con mirar dentro de una red cuando una sola neurona nunca significa una única cosa.
• Reconocerá cuándo una explicación ordenada y paso a paso ofrecida por un modelo no es el verdadero motivo de su respuesta.
• Sabrá por qué la historia termina con esperanza, ahora que los investigadores logran extraer millones de características legibles (features) de un modelo real.
• Podrá decir con sus propias palabras dónde termina exactamente la certeza actual y dónde empieza la interpretación.

Este libro está dirigido al profesional curioso que usa inteligencia artificial cada día y se pregunta en voz baja qué ocurre bajo el capó. Es para el lector generalista que no quiere matemáticas pero sí quiere la historia real. Y es para quien toma decisiones o forma parte de un consejo y responde de gobernanza, riesgo o política, y busca una base honesta y bien documentada en lugar de sensacionalismo. No necesita usted formación técnica, solo el deseo de entender de verdad.

Se habla mucho de inteligencia artificial, y casi todo lo que se dice es alarmismo o argumento de venta. Este libro es deliberadamente lo contrario. Su método es sencillo y estricto: nada se inventa, cada cita es una cita real, cada escena es un experimento realizado de verdad, y el hecho comprobado se mantiene separado de la interpretación, de modo que usted sepa siempre qué está establecido y qué es una lectura de las pruebas. La afirmación más sorprendente del libro, además, no procede de nosotros sino de quienes construyen estos sistemas. El director ejecutivo de Google la describe con todas las letras como una caja negra que no comprende del todo. El director ejecutivo de un laboratorio puntero de inteligencia artificial escribe que la IA generativa se cultiva más que se construye. El director ejecutivo de OpenAI reconoce que la interpretabilidad todavía no está resuelta, y uno de los fundadores del campo señala que sí diseñamos el algoritmo de aprendizaje, pero que no entendemos realmente cómo los modelos hacen lo que hacen. La actitud del libro es el asombro, ni miedo ni desdén. No se le promete que después lo entenderá todo, pero sí obtendrá una imagen clara y honesta de lo que hoy sabemos y de lo que todavía no sabemos. Ese es el tono de BNK KAM: sereno, preciso y sin ruido.

Todo lo que se cuenta en este libro puede rastrearse hasta su origen. Las escenas centrales son experimentos tal y como se llevaron a cabo. La característica (feature) del puente Golden Gate, localizada dentro de un modelo real y amplificada hasta que el modelo hablaba de sí mismo como el puente. La manzana Granny Smith con la nota manuscrita del iPod encima, clasificada como iPod con una confianza incluso mayor que antes. Las 32 referencias del final le permiten consultar cada una de esas escenas en la investigación original. • Alrededor de 44 páginas, con 5 diagramas e imágenes • 32 fuentes verificables, con el hecho y la interpretación claramente separados • Disponible en neerlandés y en inglés; no existe edición en español • Edición 2026, publicada por BNK KAM • Descarga inmediata en PDF y Word