Het weet meer, jij beslist
Ik zei tegen een AI dat het fout zat, en betrapte mezelf erop dat ik bijna toegaf toen het de andere kant beter beargumenteerde dan ik. Het heeft meer gelezen en argumenteert beter, en ik stond op het punt het te laten beslissen op mijn eigen terrein. Maar meer weten en mogen beslissen zijn nooit dezelfde taak geweest.
Laatst zei ik tegen een AI dat het fout zat, en even later wilde ik dat bijna terugnemen. Ik had een oordeel geveld over iets waar ik echt verstand van heb. Het model ging er rustig tegenin, met een goed opgebouwd verhaal voor precies het tegenovergestelde, en ik voelde de grond onder me kantelen. Het heeft meer gelezen dan ik in tien levens zal doen. Op mijn beste dag formuleer ik mijn argumenten nog niet zo helder. Wie was ik om daar voet bij stuk te houden? Ik zat klaar om toe te geven. Toen controleerde ik dat ene concrete punt waar het hele verschil van mening om draaide. Ik had gelijk. Het zat zelfverzekerd en vloeiend fout.
Die fout zelf deed er nauwelijks toe. Wat bleef hangen, was hoe snel ik bereid was geweest de beslissing uit handen te geven. Op mijn eigen terrein. Alleen omdat het meer heeft gelezen en beter argumenteert dan ik. Waar kwam die reflex vandaan?
Er zit één stille overtuiging onder, en de meeste mensen dragen die mee zonder hem ooit hardop uit te spreken: dit ding is slimmer dan ik. Zodra die gedachte eenmaal in de kamer zit, ligt alles wat volgt eigenlijk al vast. Elk verschil van mening valt standaard zijn kant op, want waarom zou je op jezelf vertrouwen tegenover iets wat slimmer is? Je houdt geen voet meer bij stuk. En als je dat nooit doet, denk je ook nooit echt mét het model. Je ontvangt alleen nog maar. Je hebt al toegegeven voordat het gesprek begint, en dat bepaalt ongemerkt alles wat daarna wordt uitgewisseld.
Dit is het deel dat me ongemakkelijk maakte. Die overtuiging wordt juist sterker naarmate de tool beter wordt. Hoe beter het model wordt, en hoe beter je begrijpt hoe het werkt, hoe redelijker het voelt om je oordeel eraan over te laten. De mensen die het beste kunnen zien hoe goed AI is, lopen daardoor juist het grootste risico hun eigen oordeel uit handen te geven. Meer van AI begrijpen beschermt je hier niet tegen. Voorbij een bepaald punt trekt het je er juist verder in.
En niks daarvan zit in de tool zelf. Hetzelfde uur met hetzelfde model is samen denken of je eraan onderwerpen, afhankelijk van maar één ding: hoe degene aan de andere kant erin staat. Twee mensen voeren precies hetzelfde gesprek. De een komt er scherper uit, de ander laat zich sturen. Het enige verschil was de houding waarmee ze begonnen.
De oplossing is dus niet jezelf wijsmaken dat jij slimmer bent dan het model. Dat is dezelfde fout met de arrogantie de andere kant op. Bovendien word je dan oncorrigeerbaar, en dat is erger. Je moet de ranglijst weggooien. ‘Slimmer’ dwingt alles op één scorebord met één winnaar, en elk scorebord waarop de machine bovenaan staat eindigt ermee dat jij je oordeel uit handen geeft. Maar weten en beslissen zijn nooit dezelfde taak geweest. Het weet meer dan jij. Jij beslist. Het heeft meer gelezen en formuleert makkelijker. Jij hebt de context die het niet ziet, draagt de gevolgen die het niet hoeft te dragen en bent degene die met het antwoord verder moet. Je oordeel uit handen geven betekent simpelweg dat je datgene wat meer weet ongemerkt laat overnemen van degene die moet beslissen, en dat vervolgens bescheidenheid noemt.
Vergeet dus de vraag of het slimmer is dan jij. Die vraag heeft alleen uitgangen, geen antwoord. Wat overblijft is de vraag of jij nog iets te zeggen hebt. Besluit je van niet, dan is er aan de machine niks veranderd. Jij bent alleen de kamer uitgelopen en hebt het model laten denken dat het er alleen was.