Het menselijk geheugen is niet de maatstaf

Elke keer als ik een AI een geheugen probeer te geven, komt hetzelfde idee als eerste boven: laat het werken zoals dat van ons. Het model vergeet en wij niet, dus kopieer het brein. Boots na hoe een brein dingen opslaat, terughaalt en voortbouwt op wat het heeft gezien. Het voelt als de veilige maatstaf, omdat het menselijk geheugen het enige geheugen is waarvan we zeker weten dat het werkt.

Het werkt ook. Maar het is geen gouden standaard. En zodra je het wel zo behandelt, bouw je het verkeerde.

Het menselijk geheugen is geen opnameapparaat dat het af en toe laat afweten. Het is een verzameling briljante oplossingen met een stel bewuste compromissen erbij, en de evolutie koos ze stuk voor stuk om te overleven, niet om de werkelijkheid nauwkeurig vast te leggen. We slaan ervaringen niet op om ze later weer af te spelen. We bouwen ze elke keer opnieuw op uit losse stukken en passen ze ongemerkt aan aan wie we nu zijn. Meestal is dat juist nuttig. Daardoor kunnen we generaliseren, blijft ons beeld van onszelf samenhangend en verdrinken we niet in details. Maar het betekent ook dat ons geheugen geregeld dingen doet die je bugs zou noemen als je het systeem zelf had gebouwd.

Neem er een paar. We hebben bronamnesie: we houden een overtuiging vast, maar raken kwijt waar die vandaan kwam. Zo kunnen we ergens rotsvast van overtuigd zijn zonder nog te kunnen achterhalen waarop dat is gebaseerd. We reconsolideren: elke keer als we een herinnering ophalen, wordt die even veranderbaar, en bij het opnieuw opslaan kunnen we hem herschrijven zodat hij beter past bij wat we nu geloven. We hebben hindsight bias, waarbij we het verleden gladstrijken tot het keurig naar het heden wijst. En alleen al een suggestie kan genoeg zijn om een stellige, maar valse herinnering op te bouwen. Van binnen voelen geen van die dingen als fouten. Ze voelen als herinneren.

Dus de opdracht ‘boots het menselijk geheugen na’ valt uiteen in twee heel verschillende opdrachten. Het hele vak zit in het onderscheid daartussen. Kopieer de architectuur en je krijgt iets bijzonders: een systeem dat ruwe data niet eindeloos bewaart, maar ervaringen samenbrengt tot gestructureerd begrip, gewicht geeft aan wat ertoe doet en redeneert vanuit wat het heeft geleerd in plaats van een stapel te doorzoeken. Kopieer die architectuur getrouw, inclusief de fouten, en je krijgt ook de vervorming, de bronamnesie en het gerieflijke herschrijven van het verleden.

Het gevaar is het grootst precies waar de machine al het meest op ons lijkt. Zowel het menselijk brein als een taalmodel confabuleert. Wij vullen de gaten met een verhaal waar we zelf in geloven. Het model vult ze met een verhaal dat vloeiend klinkt. Een geheugen dat zonder onderscheid het brein nabootst, heft de slechtste gewoonte van het model dus niet op. Het voegt er een tweede bron aan toe. Je wilde de confabulatie oplossen en hebt haar verdubbeld.

Daarom is het soms juist beter om bewust iets te doen wat biologisch gezien niet klopt. Neem bronamnesie. Voor een brein is vergeten waar een overtuiging vandaan kwam een efficiënte besparing. Je hoeft niet meer te weten in welk studieboek je iets hebt gelezen om het feit te kennen. In een gebouwd geheugen is dat een ramp. Een overtuiging waarvan je de herkomst niet kunt achterhalen, kun je niet controleren, ter discussie stellen of intrekken. Dus neem je die snelkoppeling van het brein niet over. Je houdt de bron permanent vast bij elke conclusie, ook waar een brein hem zonder problemen zou loslaten. Je wijkt precies daar af van de biologie waar die een compromis heeft gesloten dat jij niet hoeft te accepteren.

Dat is het principe, en het geldt breder. Bij elk kenmerk van het menselijk geheugen kun je een vraag stellen die de evolutie nooit kon stellen: behouden, weigeren, of de functie behouden en het mankement laten vallen. Behoud consolidatie, weiger vervorming bij het ophalen. Salience is het behouden waard, maar niet de vertekening waardoor we het levendige beter onthouden dan het ware. Behoud het reconstructieve redeneren, maar niet het deel dat ongemerkt liever ons comfort dient dan de nauwkeurigheid.

Doe dat en je bouwt geen kopie meer van het menselijk geheugen. Je bouwt wat het menselijk geheugen nooit de vrijheid had om te worden. Een brein kan zijn eigen architectuur niet kiezen. Het kan niet besluiten de consolidatie te houden en het zelfbedrog over te slaan, omdat dat zelfbedrog een dragend onderdeel is van een wezen dat genoeg vertrouwen nodig heeft om te handelen. Die beperking heb jij niet. Je kunt het briljante overnemen en het compromis laten liggen.

Het doel is dus een geheugen dat onthoudt als een brein en weigert zichzelf voor te liegen zoals een brein dat doet. Het onthouden kun je van ons overnemen. De weigering moet je juist tegen de natuurlijke richting in bouwen. En die weegt zwaarder dan alles wat het kopiëren je oplevert.