In het Brein van de Machine

3. Voorwoord
4. Managementsamenvatting
5. Leeswijzer
6. Waarom we in de machine wilden kijken
7. Hoe je überhaupt naar binnen kijkt
8. BNK KAM: eigen onderzoek en standpunt
9. De galerij: wat onderzoekers zagen
Zaal 1: De eerste vormen
Zaal 2: Van bouwsteen naar begrip
Zaal 3: Een idee, vele vormen
Zaal 4: De machine kopieert zichzelf
Zaal 5: Meer gedachten dan ruimte
Zaal 6: De knop van een gedachte
Zaal 7: De biologie van het denken
Zaal 8: De grenzen van de galerij
10. Wat dit voor jou betekent
11. Verhalen en casussen
12. Zelf onder de motorkap kijken
13. Veelgestelde vragen
14. Valkuilen en mythes
15. Woordenlijst
16. Bronnen en verantwoording
17. Over BNK KAM en hoe wij helpen

Jarenlang was zo'n model een gesloten doos. We zagen wat erin ging en wat eruit kwam, en niet wat er tussenin gebeurde. Toen bouwde een jong vakgebied een soort microscoop, en voor het eerst kon een mens op een concrete, meetbare manier naar het binnenwerk van een kunstmatig brein kijken. Dit boek is een rondleiding langs wat ze daar aantroffen.

Neem die plek die oplicht bij de spin, het woord en de stripfiguur. Eén idee, in drie heel verschillende vormen, opvallend dicht bij de manier waarop een enkele cel in het menselijk brein reageert op alles wat met één bepaald persoon te maken heeft. En dan de keerzijde, in dezelfde ruimte. Plak een handgeschreven briefje met het woord "iPod" op een gewone appel, en het model ziet een iPod. Dat papiertje was, zoals de onderzoekers nuchter noteerden, niet meer technologie dan pen en papier, en toch verschoof het het hele oordeel.

Verderop draaiden onderzoekers aan één knop binnen een echt model, de feature voor de Golden Gate Bridge, en het model begon zichzelf de brug te noemen. Geen science fiction, een meetbare ingreep met een zichtbaar gevolg. Dit ebook neemt je mee door acht zalen van zulke vondsten, opgezet als een museumrondleiding. Geen wiskunde aan de muur, wel echte ontdekkingen, van de eerste vormen die een netwerk leert herkennen tot de biologie van het denken zelf.

Geen bouwhandleiding, geen paniekverhaal. Bij elke vondst zie je wat er precies gemeten is, en waar de meting ophoudt en de interpretatie begint. Verwondering, met beide voeten op de grond.

• De eerste vormen. Neuronen die randen, kleuren en krommingen leren zien, en een hondenkop-detector die het netwerk zelf in elkaar zette uit een naar-links en een naar-rechts kijkend deel.
  
• Eén idee, vele vormen. Hoe één plek in het netwerk een begrip vasthoudt door beeld, woord en tekening heen, verrassend dicht bij de concept-cellen in het menselijk brein. En hoe datzelfde vermogen zich laat foppen door niet meer dan een papiertje.
  
• De machine kopieert zichzelf. Induction heads, kleine circuits die een patroon herkennen en het uit zichzelf voortzetten.
  
• Meer gedachten dan ruimte. Superpositie, waarbij een model meer begrippen bevat dan het neuronen heeft, en hoe onderzoekers met dictionary learning miljoenen leesbare features uit een echt model trokken.
  
• De knop van een gedachte. Wat er gebeurt als je één begrip in een model opendraait en het gedrag zichtbaar meebeweegt.
  
• De biologie van het denken. Een model dat vooruitplant naar het rijmwoord aan het eind van een dichtregel, dat hoofdrekent via twee parallelle paden tegelijk, dat een taal-onafhankelijke gedachteruimte gebruikt, en dat soms weigert en soms iets verzint.
  
• De grenzen van de kaart. Waarom van de honderdduizenden neuronen nog maar een fractie echt begrepen is, en waarom een feature ook een misleidende interpretatie kan zijn.
  

Voor de nieuwsgierige professional die AI dagelijks gebruikt en eindelijk wil zien wat er binnenin zit. Voor de generalist die het fascinerend vindt hoe zo'n systeem eigenlijk werkt. En net zo goed voor wie governance, beleid of toezicht moet inrichten en behoefte heeft aan een eerlijk beeld in plaats van hype, aan een idee van waar de zekerheid ophoudt en de interpretatie begint. Technische voorkennis is niet nodig. Je hebt alleen belangstelling nodig voor de vraag wat daar nu precies gebeurt.

Dit is geschreven voor de lezer die AI-hype juist wantrouwt, en met opzet zo gebouwd dat je een beeld krijgt dat klopt in plaats van een beeld dat verkoopt.

Het boek rust op negenentwintig controleerbare bronnen, en die staan er niet als sier bij maar als fundament. Elke vondst is terug te leiden naar het onderzoek waar hij vandaan komt. Even belangrijk is de scheiding die we consequent aanhouden. Wat gemeten is, noemen we een meting. Wat een interpretatie van die meting is, noemen we een interpretatie. Die twee lopen nergens in elkaar over.

Dat onderscheid is de kern. Dit zijn echte, meetbare vondsten, en tegelijk zijn het interpretaties, geen letterlijke foto van een gedachte. Een feature kan een oprecht inzicht zijn en toch een misleidend beeld geven, en dat verzwijgen we niet, we maken het onderdeel van de rondleiding. Je leest hier geen bewering dat AI bewust is of iets van plan is, en geen sensatie. Je leest ook niet dat je daarna alles begrijpt. Wel dit: je ziet met eigen ogen wat de wetenschap tot nu toe heeft blootgelegd.

Het boek rust op negenentwintig controleerbare bronnen, niet als sier maar als fundament: elke vondst is terug te leiden naar het onderzoek waar hij vandaan komt. Meting en interpretatie houden we consequent gescheiden. Geschreven voor de lezer die AI-hype wantrouwt, gebouwd voor een beeld dat klopt in plaats van een beeld dat verkoopt.