De best practice die het verkeerde geheugen bouwt

Vraag een engineer een geheugen voor een machine te bouwen en kijk waar hij als eerste naar grijpt. Nette categorieën. Een type voor elk record. Voor elk ding een een logische plek om het op te bergen. Het is een goede reflex, er in de loop van jaren ingeslepen, en er zijn massa’s werkende systemen mee opgeleverd.

Het is ook waarom bijna elk AI-geheugen op precies dezelfde manier tekortschiet.

Wat elk geheugensysteem gemeen heeft

Kijk eens hoe deze systemen bewaren wat ze weten. Het ene zet elk item onder een label. Het andere sorteert entries in types. Een derde tagt alles zodat het later terug te vinden is. De buitenkant verschilt. De zet eronder is identiek: bepaal wat elk stuk is, en leg het dan in het juiste laatje.

Die zet voelt als degelijkheid. Opbergen is wat een zorgvuldige engineer doet. En voor de meeste software klopt het ook, want de meeste software gaat over dingen die echt een type hebben.

Een geheugen van hoe jij denkt is niet zo’n ding. Eén gedachte gaat over een stuk of vier onderwerpen tegelijk, hangt vast aan een dozijn andere, en betekent volgende week iets anders dan vandaag. Leg hem in een laatje en je hebt elke draad doorgeknipt die eruit liep. Het laatje was de fout, niet het opbergen ervan.

Waar de reflex vandaan komt

Dit is het deel om even bij stil te staan, want het verklaart waarom dit blijft gebeuren.

Een systeem dat getraind is op hoe software normaal gebouwd wordt, heeft de opgeruimde versie een miljoen keer gezien. Statusvelden. Getypeerde records. Servicegrenzen. Genormaliseerde tabellen. Dus als je het vraagt mee te helpen een geheugen te bouwen, loopt de weg van de minste weerstand recht terug naar de patronen die het het vaakst heeft gezien. Het stelt geen rommelig web voor. Het stelt een keurige hiërarchie voor, met overtuiging, want een keurige hiërarchie is altijd hoe “goede engineering” eruitzag.

Ik weet dit uit de eerste hand, want ik besteed een echt deel van mijn week aan mijn eigen coding assistant tegenhouden als hij wil opruimen. Hij blijft me één categorie extra aanbieden, één nieuw net type om de boel in te sorteren. Elke keer is hij ervan overtuigd dat hij helpt. Elke keer is hij stilletjes precies dezelfde archiefkast aan het bouwen die het hele ding wil vermijden. Ik debug geen code. Ik lig in de clinch met een reflex.

De tell heeft altijd dezelfde vorm: er verschijnt een keurige hiërarchie waar een kluwen hoort. Als de structuur er te netjes uitziet voor de rommel die hij moet vasthouden, is de oude reflex teruggeslopen.

Dus de biologie kopiëren? Niet blind

Het voor de hand liggende antwoord is om te stoppen met engineering kopiëren en het brein te gaan kopiëren. Het brein bergt herinneringen niet op in laatjes. Het houdt ze in een web waar alles bij alles kan, en dat werkt veel beter dan wat wij ooit hebben gebouwd.

Maar “kopieer gewoon het brein” loopt z’n eigen val in. Het brein zit vol grenzen die helemaal geen slim ontwerp zijn. Het zijn omwegen om op cellen te kunnen draaien. Het kan maar een paar dingen tegelijk vasthouden. Het kan niet goedkoop iets markeren als met opzet afwezig. Het herschrijft z’n eigen verleden en houdt geen nauwkeurig overzicht van de wijziging bij. Kopieer die getrouw en je hebt een set problemen geïmporteerd die de biologie nooit heeft gekozen en in een oogwenk zou laten vallen als het kon.

Dus geen van beide reflexen wint op zichzelf, niet de laatjes van de engineer en niet de grenzen van de biologie integraal overgenomen.

De scheidslijn die het echt oplost

Er is een betere vraag dan “brein of machine”, en die doet het echte werk.

Als je een eigenschap van het brein vindt, vraag dan wat het is. Soms is het functie: het brein werkt zo omdat het probleem er echt om vraagt. Herinneringen vasthouden als een open web is functie. Dat is het kopiëren waard, elke keer.

Soms is het een omweg: het brein werkt zo omdat cellen traag zijn, ruimte schaars is, en energie iets kost. De grens van een-paar-dingen-tegelijk is een omweg. Het onvermogen om een perfect overzicht bij te houden ook. Die zijn het kopiëren niet waard, en dit is het cadeau: ze repareren is bijna gratis. De hele reden dat het brein genoegen nam met de omweg was een beperking die software niet heeft. Software kan alles bewaren, echte afwezigheid markeren, een perfecte geschiedenis vasthouden. De bug zat nooit in de functie. Die zat in de wetware, en de wetware hebben we achter ons gelaten.

Kopieer de functie. Repareer de omweg. Die ene regel vertelt je wanneer je de biologie moet volgen en wanneer je haar voorbij moet streven, en hij snijdt dwars door het valse gevecht tussen de laatjes van de engineer en de grenzen van het brein.

Wat dit van je vraagt

Best practice verdiende z’n naam op problemen die types hebben. Een geheugen van je eigen denken is niet zo’n probleem, en de praktijken die voor archiefkasten zijn gebouwd, bouwen er stilletjes een archiefkast in, wat je ook van plan was te bouwen.

De weg eromheen is geen betere categorie. Het is de bereidheid om de rommel rommelig te laten waar de rommel het punt is, en om de oude grenzen van de biologie te repareren waar ze nooit het punt waren. De reflex die opruimt is degene om in de gaten te houden. De meeste dagen is het de slimst klinkende stem in de kamer, en de meeste dagen, voor dit ene probleem, heeft hij ongelijk.